25 de febrero de 2017

La singularidad tecnológica, las tecnologías BANG y el transhumanismo

Los científicos, tras descubrir la existencia del Big Bang y de los agujeros negros acuñaron el término “singularidad”. Con este término designaban puntos del universo de los que era imposible saber que pasaba en ellos. Esos puntos singulares estaban rodeados de lo que llamaron un “horizonte de sucesos” que era como su frontera de influencia, de cuyo interior no podía obtenerse ningún tipo de información. El principio del universo, el Big Bang era uno de esos puntos singulares. Los agujeros negros eran otro.

Por mimetismo, las personas que están en la punta de lanza del desarrollo tecnológico afirman que el desarrollo actual de la tecnología sigue una curva exponencial. En cambio, la capacidad humana de anticipar el futuro es lineal. La curva exponencial tiene, al principio, un crecimiento más lento que una línea recta con una cierta pendiente. Pero el crecimiento exponencial se acelera continuamente, de forma que, en un momento dado, supera al crecimiento lineal de la percepción humana del futuro. Llegado ese punto de disrupción, (palabra también puesta de moda por los tecnólogos) dicen, cambiará de tal forma el devenir de la humanidad que es imposible saber hoy que pasará más allá de ese horizonte, cómo será la singularidad que esconda. Ese supuesto desarrollo exponencial de las tecnologías se produce por una realimentación positiva de relación activa entre ellas. Es decir, esa disrupción no se producirá en un ámbito determinado, sino que afectará a todas las tecnologías. A este conjunto de tecnologías mutuamente retroalimentadas que pueden llevarnos a la singularidad se le llama también tecnología BANG[1]. Y ésta dejará sentir su efecto en todos los campos de la vida humana. Esto ha dado lugar a las más estrambóticas elucubraciones de la más disparatada ciencia ficción. Pero también ha puesto a muchas personas a pensar, en la medida en que se pueda y con la máxima racionalidad y conocimiento tecnológico, dónde pueda estar ese horizonte de sucesos, si llegaremos a él algún día, cuándo, e intentar barruntar qué podrá haber más allá. Algunos de estos expertos, creadores de tecnología de frontera, han fundado en el Silicon Valley la llamada Singularity University[2]. No es tanto una universidad sino una especie de think tank que intenta analizar las cuestiones anteriores con el mayor conocimiento y racionalidad posible y compartir sus análisis y opiniones con las personas que puedan ser los dirigentes del futuro. La Singularity University no se plantea cuestiones éticas. Parte de la premisa, probablemente cierta, aunque no aceptable, de que todo lo que se pueda hacer, se hará. Por eso creo, y lo intentaré en estas líneas, que es sumamente importante una reflexión serena sobre los límites éticos de estas tecnologías, con independencia de que haya gente que las aplique, sean o no éticas. Es evidente que, a pesar de la objetividad y racionalidad con la que quieren plantearse el asunto en esa institución, la gente que está en la punta de lanza tecnológica o que tiene relación con este mundo tiende a creer, con motivo o sin él, que esa disrupción llegará y que lo hará pronto. Esto crea un mainstream que dificulta la objetividad de quienes están en este mundo. En cualquier caso, parece evidente que en los próximos decenios, la tecnología evolucionará de una manera tan prodigiosa que puede ser posible y hasta probable que la singularidad se produzca. De cualquier forma, haya o no disrupción, merece mucho la pena intentar alumbrar el futuro con los medios disponibles para intentar anticipar las consecuencias, no sólo materiales, sino también éticas, de esta revolución tecnológica. Hay que decir, sin embargo, que, no sólo ahora, sino desde hace varios siglos, la capacidad de predicción humana se ha mostrado siempre bastante pobre y que casi sin excepción no ha sabido ver qué traerían las que eran nuevas tecnologías en su momento.

No todos los tecnólogos están de acuerdo. Los hay, aunque minoritarios, que piensan que la curva del desarrollo tecnológico no es exponencial, sino que se parece más bien una curva llamada sigmoidea. Esta curva tiene la forma de una S estirada horizontalmente. Puede parecer exponencial en sus principios, pero en un momento dado, su crecimiento deja de acelerarse para ralentizarse y acabar estabilizándose. A mí me parece que esto es mucho más razonable porque, a fin de cuentas, el agente del desarrollo tecnológico es el ser humano y, nos guste o no, y aunque esa realimentación positiva entre las diferentes ramas de la tecnología sea un poderoso motor, los seres humanos no somos infinitos. Pero, cabe la duda razonable de que, efectivamente, el desarrollo tecnológico sea exponencial. ¿Superará ese desarrollo tecnológico la capacidad de anticipación humana? Porque, aunque la curva de desarrollo tecnológico se pareciese a una sigmoidea, no cabe dudar de que en este momento nos encontramos en su zona de alta aceleración y que, por tanto, puede ser que antes de que se llegue al punto de inflexión de esta curva, quedemos superados y atrapados en la singularidad.

Con singularidad o sin ella, hay aspectos de ese desarrollo tecnológico que, a mi entender, no ofrecen ningún motivo de temor. El desarrollo de fuentes alternativas de energías limpias, inagotables y baratas, la posibilidad de producir con superabundancia alimentos de bajo coste, la capacidad de transportarnos a nosotros mismos, a nuestras mercancías o a nuestro conocimiento de manera cada vez más rápida, masiva y eficiente a lugares cada vez más remotos o de curar enfermedades que hoy en día atenazan a la humanidad, etc., no producen en mí ningún tipo de aprensión. Son cosas que pasan, por decirlo de alguna manera, “fuera” del ser humano y que están a su servicio. Es más, son para mí fuente de esperanza. Pueden ahuyentar al fantasma del cambio climático, del hambre y de la miseria humana. Por tanto, cuanto más, mejor.

Pero hay otras tecnologías que sí afectarán a lo que ocurra “dentro” del ser humano y pueden condicionar su comportamiento o libertad, desde “dentro” o desde “fuera”. En este sentido se ha acuñado el término de “humanidad extendida”. Y esta “humanidad extendida” se puede interpretar como la extensión del cuerpo o inteligencia individuales o de la humanidad como un todo. Y ahí sí que puede haber líneas rojas éticas. Lo que voy a tratar de ver a continuación es dónde podría estar la frontera entre lo que debe ser aplaudido en esta extensión humana y lo que debería disparar nuestras alertas. Mi criterio será que todos los avances que no estén más allá de esas líneas rojas éticas, son deseables y no hay que tener ninguna prevención contra ellos. Quiero dejar claro que me voy a mover en un terreno extremadamente proceloso en el que no me siento ni mucho menos seguro. Por tanto, que nadie tome lo que diga a partir de ahora como algo de lo que tengo un profundo convencimiento. Cada afirmación que haga debería ir precedida de la palabra “creo” en su acepción, no de expresión de una fe, sino de una opinión acompañada de dudas. Pero me parece totalmente necesaria una reflexión sobre estas fronteras éticas. No sé si conociéndolas las respetaremos pero, desde luego, si no las conocemos o no hemos reflexionado sobre ellas, a buen seguro que las traspasaremos

El primer paso en la humanidad extendida es la aparición de todo tipo de prótesis que hagan las funciones de nuestros órganos actuales de manera mucho más efectiva. En este campo se me hace difícil ver posibles líneas rojas éticas. Incluso si esas prótesis no son meramente sustitutivas, sino extensivas, no creo que puedan existir fronteras éticas. Por ejemplo, hoy en día los cirujanos usan brazos robotizados manejados como si fuesen sus propias manos y ayudados por una visión microscópica que les permite llevar a cabo operaciones de microcirugía con una precisión inaudita. Es más que probable que dentro de menos tiempo del que podamos pensar existan este tipo de prótesis que podamos colocarnos todas las mañanas como si fuesen unos guantes y unas gafas y que podamos con ellas hacer cosas que hoy nos parecen inimaginables. Cabe incluso pensar que se puedan idear prótesis para órganos inexistentes con funcionalidades también inexistentes. Por ejemplo, una antena que nos permita medir el grado de radiación ultravioleta y secretar algún tipo de protector o una especie de filtro que elimine de la sangre toxinas o exceso de sustancias que pueden tener un efecto negativo como el colesterol, el ácido úrico o la glucosa, etc. ¿Habría algún límite ético para ello? No se me ocurre.

Por supuesto, los avances tecnológicos traerán aparejadas nuevas terapias y capacidades diagnósticas que mejorarán de forma asombrosa nuestra calidad de vida, nuestra salud y, con toda seguridad, nos harán bastante más longevos. ¿Cuánto más longevos? Actualmente hay un límite de edad, no el mismo para todos los individuos y no exactamente determinado. Depende de lo que técnicamente se conoce como acortamiento de los telómeros. Los telómeros son los extremos de los cromosomas. Son como una especie de nudo al final de un hilo trenzado que impide que éste se deshilache. Pero cada vez que una célula se divide, los telómeros se van acortando, es decir, el nudo es menos eficaz para mantener el trenzado del ADN. Hasta que después de un determinado número de divisiones celulares, los telómeros acaban por no poder cumplir su función y la célula muere. Sin evitar este deterioro de los telómeros, incluso una persona que haya gozado de una salud excelente toda su vida, morirá. Pero la mayoría de los seres humanos morimos antes de esa fecha de caducidad por enfermedades o accidentes. Sin duda, la tecnología hará que tengamos menos enfermedades y que los accidentes sean menos probables, alargando por tanto la vida de la inmensa mayoría de los seres humanos hasta casi la fecha de caducidad. Por supuesto, el aumento de la longevidad de la mayoría de los seres humanos traerá problemas. Bueno, tendremos que ver la forma de resolverlos. Pero no creo que nadie se atreva a decir que este alargamiento de la vida tenga nada que vaya contra la ética. Más bien, lo inmoral sería no desarrollar estas tecnologías pudiendo hacerlo. Creo, sin embargo, que la tecnología permitirá en el futuro que se pueda evitar el acortamiento de los telómeros, lo que, sin duda alargaría todavía más la esperanza de vida. Pero de este tema prefiero hablar más adelante, cuando trate de la ingeniería génica.

Esto que se aplica a determinados órganos puede también aplicarse a los sentidos. Es perfectamente posible que se pueda aumentar el ámbito de percepción de nuestros actuales sentidos, tanto en precisión como en su capacidad para percibir algo que antes no percibían, como el infrarrojo o el ultravioleta en la visión o sonidos de más 20.000 o menos de 20 Hz en la audición. Pero también es posible que la información los sentidos naturales se incorpore información de otro tipo como ubicación de puntos de interés en el entorno, mapas para poder llegar a nuestro destino, etc. Todo esto daría lugar a lo que ha dado en llamarse “realidad ampliada”. Me cuesta ver que pueda haber algún tipo de objeción ética a todo esto. Por otro lado, nada de esto es realmente nuevo. El ser humano siempre se ha valido de instrumentos artificiales o naturales como caballos, bicicletas, coches, ropa, etc., para hacer cosas o protegerse de otras que sin esos instrumentos serían imposibles. Y, naturalmente, podemos desarrollar sentidos artificiales completamente nuevos que ni se nos ocurran hoy.

Pero los avances tecnológicos pueden llegar todavía más al interior de lo que somos nosotros. Por ejemplo, a través de la modificación genética[3]. ¿Hasta qué punto mis genes me identifican como YO? Es difícil de decir. Dos gemelos univitelinos tienen exactamente la misma carga genética y, sin embargo, cada uno tiene su propio YO. Pero en sentido contrario, es posible que haya determinados cambios en mis genes que pudieran hacer que YO dejase de ser YO. Posible, pero ni mucho menos seguro, porque el YO es algo que está en la autoconsciencia y no está ni mucho menos claro que ésta esté determinada por los genes. Pero me voy a adentrar un poco más, paso a paso en esta casuística, por otro lado ilimitada. Es indudable que si se pudiera detectar en un embrión humano un trastorno genético que crease una enfermedad, la capacidad de reparar ese trastorno y evitar esa enfermedad no vulneraría ninguna línea roja. Por ejemplo, si se pudiese corregir la trisomía 21 (Síndrome de Down) en los primeros pasos del desarrollo embrionario, justo cuando se detecta, ¿no sería bueno hacerlo? Ahorraría las vidas del 90% de los fetos a los que se mata cuando se descubre que tienen esa disfunción genética. Creo que el más feliz de que esto fuese posible sería el Prof. Jérôme Lejeune, que dedicó una parte de su vida a intentar curar la trisomía 21. Pero, ¿y si lo que quiero es cambiar genéticamente fuese el color de mis ojos o de algún rasgo físico como la nariz, o mi estatura, o mi esbeltez, es decir, cosas que podrían considerarse como “caprichosas”. Bueno, esto ya lo hace el ser humanos por otros medios. Todos los años hay muchos miles de personas que pasan por el quirófano para hacerse la estética o una liposucción o una operación de achicamiento del estómago. Incluso se hacen operaciones para alargar los huesos y ganar estatura. De ninguna manera me atrevería a decir que su comportamiento va contra la ética. ¿Por qué sí va a ir contra ella si en vez de medios quirúrgicos se usan medios genéticos? ¿Por qué va a ir contra la ética el que con esos medios cambie cosas, como el color de los ojos, que no podría cambiar con cirugía? No encuentro ese por qué, lo mire como lo mire. Sí me atrevo a decir que hay una frontera ética si ese cambio sólo se puede hacer en los primeros momentos del desarrollo embrionario, siendo irreversible más adelante. En ese caso, si unos padres, tal vez con la mejor voluntad, deciden eso por su hijo, ¿quién se cree con derecho para tomar por otro, aunque sea su hijo, ese tipo de decisiones? Eso vulneraría la esencia de la libertad humana y sería, por lo tanto inaceptable. No obstante, y sin que lo que digo a continuación lo haga aceptable, siempre sería mejor que lo que hacen ahora algunas parejas: generar muchos embriones condenados a la destrucción hasta que se encuentra el que tiene los genes que les gustan. Pero si un adulto, libre y conscientemente, decidiese seguir un tratamiento genético accesible para cambiar el color de sus ojos o quitarse unos cuantos kilos de encima o aumentar su talla en unos cuantos centímetros, ¿por qué no va a poder hacerlo con la misma razón que quien se opera la nariz? Por supuesto, siempre hay excesos. El otro día leí sobre una persona que se había operado tantas veces la nariz que se la había destrozado de tal manera que no podía ni oler ni respirar. Pero el mal no está en la operación de nariz, sino en la enfermedad mental de semejante sujeto. Quiero volver, ahora que hablamos de ingeniería genética, sobre el tema que traté antes de la capacidad de regenerar los telómeros de las células de forma que éstas no envejezcan. Creo bastante probable que esto se pueda lograr y no me cabe duda de que, de ser así, esto nos haría todavía más longevos. Sin embargo, no creo, como sueñan algunos sin la menor base, que podamos llegar a ser inmortales. La inmortalidad no forma parte de la naturaleza humana. Hay que morirse. La muerte, en última instancia, es sana y desterrarla sería una tragedia para la humanidad. Sólo, para los creyentes, la inmortalidad cobra sentido en un mundo nuevo y una tierra nueva que está fuera del alcance de cualquier logro humano, por inmenso y loable que sea, y sólo es posible como un don de Dios. Estoy casi convencido de que aunque se consiguiese evitar el deterioro de los telómeros –y creo que se conseguirá–, la inmortalidad no sería factible. Hay cientos de procesos, además de éste, que llevan al envejecimiento de las células. Pero si eso no fuera suficiente, el pensar que algún día el hombre podrá controlar TODAS las enfermedades y evitar TODAS las muertes accidentales, es sencillamente disparatado, por mucho que algunos visionarios sin demasiado sentido lo pretendan. Pero si este “sueño” fuese posible, creo que su realización caería más allá de cualquier línea roja ética.

Me parece que lo que todos consideramos como más parte de lo que nos hace ser YO, son nuestra inteligencia, nuestra memoria, nuestra voluntad y nuestra libertad. Merece, por tanto, la pena, adentrarse en esas cuestiones. El hombre siempre ha usado algún tipo de instrumento para aumentar su inteligencia y su memoria. Desde que los chinos inventaron el ábaco, no han parado de desarrollarse elementos cada vez más sofisticados para mejorar algunas capacidades intelectuales. Y, ¡qué decir de la memoria! Desde que el hombre supo medir el paso del tiempo, grabó en distintos modos su trascurso, calculó su recurrencia y desarrolló calendarios. Y qué decir de la escritura y de los libros. Sin embargo, aunque cualitativamente sea lo mismo hoy que hace 30.000 años, cuantitativamente, con un pequeño ordenador puedo tener a mi alcance los más sofisticados medios de cálculo de funciones de todo tipo que potencian mi inteligencia y, a través de él, tengo acceso a una ingente cantidad de información que está almacenada para que yo la pueda consultar. No creo que nada de esto sea malo. ¿Dejaría esto de ser bueno si esto se pudiese almacenar en un chip y ese chip estuviese implantado en mi cerebro y pudiese usar su contenido con mi simple pensamiento en vez de con un teclado? Creo que nunca se llegará a eso, pero aunque se llegase, no veo la razón por lo que esto pudiese ser malo. Sin embargo, sí creo que hay varios límites éticos en estas cuestiones. El primero está en la memoria de mis experiencias que es exclusivamente mía y que, sin la menor duda, forma parte de mi YO. Creo que sería buena la capacidad de borrar determinados recuerdos de experiencias traumáticas que generan inmensos sufrimientos. Pero si alguien pudiera crear nuevas experiencias ficticias que no he vivido en el pasado o quitarme otras sin mi consentimiento, estaría manipulando mi YO y eso es totalmente inadmisible. Me atrevo a decir que hay determinados recuerdos de experiencias que ni siquiera a mí mismo me sería lícito modificar, porque, al final, mi YO no es sólo mío, pertenece también a las personas con las que comparto mi vida. Por tanto, para que no se traspase una frontera ética en esto de la memoria y la inteligencia, es condición necesaria, aunque no suficiente, que el control sobre las modificaciones de la memoria sea personal e intransferible, así como el control de su privacidad. Pero, además, sería necesario definir una frontera ética, sutil y sinuosa, pero no por ello menos real, sobre aquellos aspectos que ni siquiera el propio sujeto debería poder alterar.

Es necesario ahora meterse en el complejísimo asunto de la inteligencia artificial (IA). Para hablar de ésta, me parece interesante distinguir dos aspectos distintos que se mezclan en el concepto de IA. Una se refiere a la capacidad de una máquina de manejar una enorme cantidad de datos (Big Data, BD) relacionarlos entre sí (las relaciones entre datos crecen exponencialmente con el número de datos) y sacar inferencias de esas relaciones. A mi modo de ver, este concepto de IA no es realmente inteligencia. Creo que se adaptaría mejor al concepto de “sistema experto”. Indudablemente, la inmensa capaz de almacenamiento de datos de una máquina y su brutal rapidez de cómputo y su capacidad de detectar relaciones, hacen que esta herramienta sea inmensamente más capaz que la mente humana. Pero no deja de ser una herramienta y como tal, puede estar bajo la supervisión humana y sometida a su decisión. Por supuesto, existe el peligro de confiar de tal forma en la herramienta que le demos una excesiva autonomía. Pero esa autonomía sería siempre reversible. El día que nosotros, los seres humanos, decidiésemos suspenderla, la suspenderíamos. Existe, no obstante el peligro de que perdiésemos la voluntad de hacerlo y que, en la práctica, esa autonomía, teóricamente reversible, dejase de serlo. Pero, en todo caso, este tipo de IA estaría confinada a una determinada tarea.

El otro aspecto que se incluye dentro del concepto de IA es el desarrollo de inteligencia en un sentido similar a como somos inteligentes los seres humanos. Podríamos llamarla IA fuerte. Se han escrito ríos de tinta sobre si esto es o no posible. Alan Turing propuso a mediados del siglo pasado el test que lleva su propio nombre para poder decir si un ingenio desarrollado por el hombre era o no inteligente en ese sentido. Pero hay muchísima gente, científicos y filósofos que dicen que el test de Turing no sirve para determinar la presencia de inteligencia como la poseemos los seres humanos. Recientemente ha habido un programa que parece haber superado el citado test, aunque también hay gente que piensa que no lo ha hecho. No tiene ningún interés mi opinión sobre si será o no posible desarrollar esa IA fuerte ni sobre si el test de Turing es o no un método válido para detectarla ni si algún ingenio humano ha pasado ese test. Pero, me voy a poner en la posición, puramente hipotética –esta creo que casi de ciencia ficción– de que sí fuese posible crear la IA fuerte, tal y como muchos gurús creen. Es, creo, el mainstream el que lleva a muchos de estos gurús a pensar que sí lo es. Si lo fuese, esa IA, basada en soportes enormemente más rápidos y con capacidad de utilizar en una ingente cantidad de información, crecería desmesuradamente usando la interconetividad generalizada. La mayoría de los que creen que la IA fuerte es posible, están también convencidos de que si la desarrollásemos, un día perderemos el control sobre ella y ese día la agenda del devenir del mundo dejará de estar marcada por el ser humano. Y en esa agenda es muy posible que los seres humanos no tengamos ningún rol y podamos, por tanto, ser eliminados. Stephen Hawking, entre otros muchos, sostiene esa postura. Uno puede creer que la IA fuerte sea ciencia ficción, pero si no lo es, la consecuencia de su toma de control es, creo, ineludible. Mucha gente que quiere negar esa consecuencia afirma que en ese momento, solo habría que apagar el superodenador que la soportase. Razonamiento simplista, porque esa IA se hubiese vuelto tan necesaria que no se podría prescindir de ella, amén de que estaría tan distribuida que sería imposible de desconectar, como ya lo es internet. Además, su proceso de apagado, si existiese, debería estar suficientemente protegido para evitar un apagado terrorista, lo que haría que el acceso a dicho proceso fuese fácilmente bloqueado por la propia IA.

Como conclusión de todo lo anterior, creo que el miedo al transhumanismo es, en gran medida, exagerado. La mayoría de las líneas rojas éticas estarían en campos que se me antojan imposibles, como la inmortalidad, la super IA rectora o la implantación de recuerdos falsos. Por supuesto, a muchos posibles desarrollos futuros que no tengan nada que vaya contra la ética, se le pueden dar usos perversos. Pero eso ya pasa con una infinidad de ingenios humanos actuales. Un martillo puede ser usado para matar en vez de para clavar clavos. Pero eso no hace malo al instrumento, sino a quién lo usa. Por otro lado, estas tecnologías BANG, pueden hacer un bien inmenso a la humanidad en infinidad de campos. Evidentemente, lo mismo ocurrirá, a buen seguro, con muchas de los avances tecnológicos de ese cajón de sastre llamado transhumanismo.



[1] A los americanos les encanta crear acrónimos que tengan un sentido en sí mismos. El término BANG aplicado a las tecnologías es el acrónimo de Bits, Atoms, Neurons, Genes, que, al mismo tiempo se refieren a la singularidad cósmica del Big Bang.
[2] En la declaración misional de esta universidad se dice: “Potenciamos una comunidad global con la mentalidad, habilidades y network para crear un futuro abundante. Únete a nosotros en un viaje transformador, desde la inspiración hasta el impacto, y descubre lo que supone para ti ser exponencial”. “Creemos que nuestro mundo tiene la gente, la tecnología y los recursos para resolver cualquier problema, incluso los más urgentes y persistentes desafíos de la humanidad. Como catalizador del cambio global, ayudamos a otros a impulsar las tecnologías en rápido cambio –incluidas la inteligencia artificial, la nanotecnología, la robótica y la biología digital– por medios innovadores, para desbloquear soluciones que puedan afectar positivamente a miles de millones de vidas”. Debo decir que esta declaración de intenciones me “pone”.
[3] Actualmente ya se están usando técnicas de edición genética, llamadas CRISPR en especies vegetales cultivables para hacerlos inmunes a plagas, o resistentes a la sequía o a la salinidad o para que su conservación sea más fácil, etc. Con esta técnica se puede llegar a la precisión de cambiar un solo gen para conseguir el efecto deseado. El impacto que esto puede tener para la alimentación humana será impresionante.

No hay comentarios: