Los científicos, tras descubrir la
existencia del Big Bang y de los agujeros negros acuñaron el término
“singularidad”. Con este término designaban puntos del universo de los que era
imposible saber que pasaba en ellos. Esos puntos singulares estaban rodeados de
lo que llamaron un “horizonte de sucesos” que era como su frontera de
influencia, de cuyo interior no podía obtenerse ningún tipo de información. El
principio del universo, el Big Bang era uno de esos puntos singulares. Los
agujeros negros eran otro.
Por mimetismo, las personas que están en
la punta de lanza del desarrollo tecnológico afirman que el desarrollo actual
de la tecnología sigue una curva exponencial. En cambio, la capacidad humana de
anticipar el futuro es lineal. La curva exponencial tiene, al principio, un
crecimiento más lento que una línea recta con una cierta pendiente. Pero el
crecimiento exponencial se acelera continuamente, de forma que, en un momento
dado, supera al crecimiento lineal de la percepción humana del futuro. Llegado
ese punto de disrupción, (palabra también puesta de moda por los tecnólogos)
dicen, cambiará de tal forma el devenir de la humanidad que es imposible saber
hoy que pasará más allá de ese horizonte, cómo será la singularidad que
esconda. Ese supuesto desarrollo exponencial de las tecnologías se produce por
una realimentación positiva de relación activa entre ellas. Es decir, esa
disrupción no se producirá en un ámbito determinado, sino que afectará a todas
las tecnologías. A este conjunto de tecnologías mutuamente retroalimentadas que
pueden llevarnos a la singularidad se le llama también tecnología BANG[1]. Y ésta dejará sentir su
efecto en todos los campos de la vida humana. Esto ha dado lugar a las más
estrambóticas elucubraciones de la más disparatada ciencia ficción. Pero
también ha puesto a muchas personas a pensar, en la medida en que se pueda y
con la máxima racionalidad y conocimiento tecnológico, dónde pueda estar ese
horizonte de sucesos, si llegaremos a él algún día, cuándo, e intentar
barruntar qué podrá haber más allá. Algunos de estos expertos, creadores de
tecnología de frontera, han fundado en el Silicon Valley la llamada Singularity
University[2]. No es tanto una
universidad sino una especie de think tank que intenta analizar las cuestiones
anteriores con el mayor conocimiento y racionalidad posible y compartir sus
análisis y opiniones con las personas que puedan ser los dirigentes del futuro.
La Singularity University no se plantea cuestiones éticas. Parte de la premisa,
probablemente cierta, aunque no aceptable, de que todo lo que se pueda hacer,
se hará. Por eso creo, y lo intentaré en estas líneas, que es sumamente
importante una reflexión serena sobre los límites éticos de estas tecnologías,
con independencia de que haya gente que las aplique, sean o no éticas. Es
evidente que, a pesar de la objetividad y racionalidad con la que quieren
plantearse el asunto en esa institución, la gente que está en la punta de lanza
tecnológica o que tiene relación con este mundo tiende a creer, con motivo o
sin él, que esa disrupción llegará y que lo hará pronto. Esto crea un
mainstream que dificulta la objetividad de quienes están en este mundo. En
cualquier caso, parece evidente que en los próximos decenios, la tecnología
evolucionará de una manera tan prodigiosa que puede ser posible y hasta
probable que la singularidad se produzca. De cualquier forma, haya o no
disrupción, merece mucho la pena intentar alumbrar el futuro con los medios
disponibles para intentar anticipar las consecuencias, no sólo materiales, sino
también éticas, de esta revolución tecnológica. Hay que decir, sin embargo,
que, no sólo ahora, sino desde hace varios siglos, la capacidad de predicción
humana se ha mostrado siempre bastante pobre y que casi sin excepción no ha
sabido ver qué traerían las que eran nuevas tecnologías en su momento.
No todos los tecnólogos están de
acuerdo. Los hay, aunque minoritarios, que piensan que la curva del desarrollo
tecnológico no es exponencial, sino que se parece más bien una curva llamada
sigmoidea. Esta curva tiene la forma de una S estirada horizontalmente. Puede
parecer exponencial en sus principios, pero en un momento dado, su crecimiento
deja de acelerarse para ralentizarse y acabar estabilizándose. A mí me parece
que esto es mucho más razonable porque, a fin de cuentas, el agente del
desarrollo tecnológico es el ser humano y, nos guste o no, y aunque esa
realimentación positiva entre las diferentes ramas de la tecnología sea un
poderoso motor, los seres humanos no somos infinitos. Pero, cabe la duda
razonable de que, efectivamente, el desarrollo tecnológico sea exponencial. ¿Superará
ese desarrollo tecnológico la capacidad de anticipación humana? Porque, aunque
la curva de desarrollo tecnológico se pareciese a una sigmoidea, no cabe dudar
de que en este momento nos encontramos en su zona de alta aceleración y que,
por tanto, puede ser que antes de que se llegue al punto de inflexión de esta
curva, quedemos superados y atrapados en la singularidad.
Con singularidad o sin ella, hay
aspectos de ese desarrollo tecnológico que, a mi entender, no ofrecen ningún
motivo de temor. El desarrollo de fuentes alternativas de energías limpias,
inagotables y baratas, la posibilidad de producir con superabundancia alimentos
de bajo coste, la capacidad de transportarnos a nosotros mismos, a nuestras
mercancías o a nuestro conocimiento de manera cada vez más rápida, masiva y
eficiente a lugares cada vez más remotos o de curar enfermedades que hoy en día
atenazan a la humanidad, etc., no producen en mí ningún tipo de aprensión. Son
cosas que pasan, por decirlo de alguna manera, “fuera” del ser humano y que
están a su servicio. Es más, son para mí fuente de esperanza. Pueden ahuyentar
al fantasma del cambio climático, del hambre y de la miseria humana. Por tanto,
cuanto más, mejor.
Pero hay otras tecnologías que sí
afectarán a lo que ocurra “dentro” del ser humano y pueden condicionar su
comportamiento o libertad, desde “dentro” o desde “fuera”. En este sentido se
ha acuñado el término de “humanidad extendida”. Y esta “humanidad extendida” se
puede interpretar como la extensión del cuerpo o inteligencia individuales o de
la humanidad como un todo. Y ahí sí que puede haber líneas rojas éticas. Lo que
voy a tratar de ver a continuación es dónde podría estar la frontera entre lo
que debe ser aplaudido en esta extensión humana y lo que debería disparar
nuestras alertas. Mi criterio será que todos los avances que no estén más allá
de esas líneas rojas éticas, son deseables y no hay que tener ninguna
prevención contra ellos. Quiero dejar claro que me voy a mover en un terreno
extremadamente proceloso en el que no me siento ni mucho menos seguro. Por
tanto, que nadie tome lo que diga a partir de ahora como algo de lo que tengo
un profundo convencimiento. Cada afirmación que haga debería ir precedida de la
palabra “creo” en su acepción, no de expresión de una fe, sino de una opinión
acompañada de dudas. Pero me parece totalmente necesaria una reflexión sobre
estas fronteras éticas. No sé si conociéndolas las respetaremos pero, desde
luego, si no las conocemos o no hemos reflexionado sobre ellas, a buen seguro
que las traspasaremos
El primer paso en la humanidad extendida
es la aparición de todo tipo de prótesis que hagan las funciones de nuestros
órganos actuales de manera mucho más efectiva. En este campo se me hace difícil
ver posibles líneas rojas éticas. Incluso si esas prótesis no son meramente
sustitutivas, sino extensivas, no creo que puedan existir fronteras éticas. Por
ejemplo, hoy en día los cirujanos usan brazos robotizados manejados como si
fuesen sus propias manos y ayudados por una visión microscópica que les permite
llevar a cabo operaciones de microcirugía con una precisión inaudita. Es más
que probable que dentro de menos tiempo del que podamos pensar existan este
tipo de prótesis que podamos colocarnos todas las mañanas como si fuesen unos
guantes y unas gafas y que podamos con ellas hacer cosas que hoy nos parecen
inimaginables. Cabe incluso pensar que se puedan idear prótesis para órganos
inexistentes con funcionalidades también inexistentes. Por ejemplo, una antena
que nos permita medir el grado de radiación ultravioleta y secretar algún tipo
de protector o una especie de filtro que elimine de la sangre toxinas o exceso
de sustancias que pueden tener un efecto negativo como el colesterol, el ácido
úrico o la glucosa, etc. ¿Habría algún límite ético para ello? No se me ocurre.
Por supuesto, los avances tecnológicos
traerán aparejadas nuevas terapias y capacidades diagnósticas que mejorarán de
forma asombrosa nuestra calidad de vida, nuestra salud y, con toda seguridad,
nos harán bastante más longevos. ¿Cuánto más longevos? Actualmente hay un
límite de edad, no el mismo para todos los individuos y no exactamente
determinado. Depende de lo que técnicamente se conoce como acortamiento de los
telómeros. Los telómeros son los extremos de los cromosomas. Son como una especie
de nudo al final de un hilo trenzado que impide que éste se deshilache. Pero
cada vez que una célula se divide, los telómeros se van acortando, es decir, el
nudo es menos eficaz para mantener el trenzado del ADN. Hasta que después de un
determinado número de divisiones celulares, los telómeros acaban por no poder
cumplir su función y la célula muere. Sin evitar este deterioro de los
telómeros, incluso una persona que haya gozado de una salud excelente toda su
vida, morirá. Pero la mayoría de los seres humanos morimos antes de esa fecha
de caducidad por enfermedades o accidentes. Sin duda, la tecnología hará que
tengamos menos enfermedades y que los accidentes sean menos probables,
alargando por tanto la vida de la inmensa mayoría de los seres humanos hasta
casi la fecha de caducidad. Por supuesto, el aumento de la longevidad de la
mayoría de los seres humanos traerá problemas. Bueno, tendremos que ver la
forma de resolverlos. Pero no creo que nadie se atreva a decir que este
alargamiento de la vida tenga nada que vaya contra la ética. Más bien, lo
inmoral sería no desarrollar estas tecnologías pudiendo hacerlo. Creo, sin
embargo, que la tecnología permitirá en el futuro que se pueda evitar el
acortamiento de los telómeros, lo que, sin duda alargaría todavía más la
esperanza de vida. Pero de este tema prefiero hablar más adelante, cuando trate
de la ingeniería génica.
Esto que se aplica a determinados
órganos puede también aplicarse a los sentidos. Es perfectamente posible que se
pueda aumentar el ámbito de percepción de nuestros actuales sentidos, tanto en
precisión como en su capacidad para percibir algo que antes no percibían, como
el infrarrojo o el ultravioleta en la visión o sonidos de más 20.000 o menos de
20 Hz en la audición. Pero también es posible que la información los sentidos
naturales se incorpore información de otro tipo como ubicación de puntos de
interés en el entorno, mapas para poder llegar a nuestro destino, etc. Todo
esto daría lugar a lo que ha dado en llamarse “realidad ampliada”. Me cuesta
ver que pueda haber algún tipo de objeción ética a todo esto. Por otro lado,
nada de esto es realmente nuevo. El ser humano siempre se ha valido de
instrumentos artificiales o naturales como caballos, bicicletas, coches, ropa,
etc., para hacer cosas o protegerse de otras que sin esos instrumentos serían
imposibles. Y, naturalmente, podemos desarrollar sentidos artificiales
completamente nuevos que ni se nos ocurran hoy.
Pero los avances tecnológicos pueden
llegar todavía más al interior de lo que somos nosotros. Por ejemplo, a través
de la modificación genética[3]. ¿Hasta qué punto mis
genes me identifican como YO? Es difícil de decir. Dos gemelos univitelinos
tienen exactamente la misma carga genética y, sin embargo, cada uno tiene su
propio YO. Pero en sentido contrario, es posible que haya determinados cambios
en mis genes que pudieran hacer que YO dejase de ser YO. Posible, pero ni mucho
menos seguro, porque el YO es algo que está en la autoconsciencia y no está ni
mucho menos claro que ésta esté determinada por los genes. Pero me voy a
adentrar un poco más, paso a paso en esta casuística, por otro lado ilimitada.
Es indudable que si se pudiera detectar en un embrión humano un trastorno
genético que crease una enfermedad, la capacidad de reparar ese trastorno y
evitar esa enfermedad no vulneraría ninguna línea roja. Por ejemplo, si se
pudiese corregir la trisomía 21 (Síndrome de Down) en los primeros pasos del
desarrollo embrionario, justo cuando se detecta, ¿no sería bueno hacerlo?
Ahorraría las vidas del 90% de los fetos a los que se mata cuando se descubre
que tienen esa disfunción genética. Creo que el más feliz de que esto fuese
posible sería el Prof. Jérôme Lejeune, que dedicó una parte de su vida a
intentar curar la trisomía 21. Pero, ¿y si lo que quiero es cambiar genéticamente
fuese el color de mis ojos o de algún rasgo físico como la nariz, o mi
estatura, o mi esbeltez, es decir, cosas que podrían considerarse como
“caprichosas”. Bueno, esto ya lo hace el ser humanos por otros medios. Todos
los años hay muchos miles de personas que pasan por el quirófano para hacerse
la estética o una liposucción o una operación de achicamiento del estómago. Incluso
se hacen operaciones para alargar los huesos y ganar estatura. De ninguna
manera me atrevería a decir que su comportamiento va contra la ética. ¿Por qué
sí va a ir contra ella si en vez de medios quirúrgicos se usan medios
genéticos? ¿Por qué va a ir contra la ética el que con esos medios cambie
cosas, como el color de los ojos, que no podría cambiar con cirugía? No
encuentro ese por qué, lo mire como lo mire. Sí me atrevo a decir que hay una
frontera ética si ese cambio sólo se puede hacer en los primeros momentos del
desarrollo embrionario, siendo irreversible más adelante. En ese caso, si unos
padres, tal vez con la mejor voluntad, deciden eso por su hijo, ¿quién se cree
con derecho para tomar por otro, aunque sea su hijo, ese tipo de decisiones?
Eso vulneraría la esencia de la libertad humana y sería, por lo tanto
inaceptable. No obstante, y sin que lo que digo a continuación lo haga
aceptable, siempre sería mejor que lo que hacen ahora algunas parejas: generar
muchos embriones condenados a la destrucción hasta que se encuentra el que
tiene los genes que les gustan. Pero si un adulto, libre y conscientemente,
decidiese seguir un tratamiento genético accesible para cambiar el color de sus
ojos o quitarse unos cuantos kilos de encima o aumentar su talla en unos
cuantos centímetros, ¿por qué no va a poder hacerlo con la misma razón que quien
se opera la nariz? Por supuesto, siempre hay excesos. El otro día leí sobre una
persona que se había operado tantas veces la nariz que se la había destrozado
de tal manera que no podía ni oler ni respirar. Pero el mal no está en la
operación de nariz, sino en la enfermedad mental de semejante sujeto. Quiero
volver, ahora que hablamos de ingeniería genética, sobre el tema que traté
antes de la capacidad de regenerar los telómeros de las células de forma que éstas
no envejezcan. Creo bastante probable que esto se pueda lograr y no me cabe
duda de que, de ser así, esto nos haría todavía más longevos. Sin embargo, no
creo, como sueñan algunos sin la menor base, que podamos llegar a ser
inmortales. La inmortalidad no forma parte de la naturaleza humana. Hay que
morirse. La muerte, en última instancia, es sana y desterrarla sería una
tragedia para la humanidad. Sólo, para los creyentes, la inmortalidad cobra
sentido en un mundo nuevo y una tierra nueva que está fuera del alcance de cualquier
logro humano, por inmenso y loable que sea, y sólo es posible como un don de
Dios. Estoy casi convencido de que aunque se consiguiese evitar el deterioro de
los telómeros –y creo que se conseguirá–, la inmortalidad no sería factible.
Hay cientos de procesos, además de éste, que llevan al envejecimiento de las
células. Pero si eso no fuera suficiente, el pensar que algún día el hombre
podrá controlar TODAS las enfermedades y evitar TODAS las muertes accidentales,
es sencillamente disparatado, por mucho que algunos visionarios sin demasiado
sentido lo pretendan. Pero si este “sueño” fuese posible, creo que su
realización caería más allá de cualquier línea roja ética.
Me parece que lo que todos consideramos
como más parte de lo que nos hace ser YO, son nuestra inteligencia, nuestra
memoria, nuestra voluntad y nuestra libertad. Merece, por tanto, la pena,
adentrarse en esas cuestiones. El hombre siempre ha usado algún tipo de
instrumento para aumentar su inteligencia y su memoria. Desde que los chinos inventaron
el ábaco, no han parado de desarrollarse elementos cada vez más sofisticados
para mejorar algunas capacidades intelectuales. Y, ¡qué decir de la memoria!
Desde que el hombre supo medir el paso del tiempo, grabó en distintos modos su
trascurso, calculó su recurrencia y desarrolló calendarios. Y qué decir de la
escritura y de los libros. Sin embargo, aunque cualitativamente sea lo mismo
hoy que hace 30.000 años, cuantitativamente, con un pequeño ordenador puedo
tener a mi alcance los más sofisticados medios de cálculo de funciones de todo
tipo que potencian mi inteligencia y, a través de él, tengo acceso a una
ingente cantidad de información que está almacenada para que yo la pueda
consultar. No creo que nada de esto sea malo. ¿Dejaría esto de ser bueno si
esto se pudiese almacenar en un chip y ese chip estuviese implantado en mi
cerebro y pudiese usar su contenido con mi simple pensamiento en vez de con un
teclado? Creo que nunca se llegará a eso, pero aunque se llegase, no veo la
razón por lo que esto pudiese ser malo. Sin embargo, sí creo que hay varios
límites éticos en estas cuestiones. El primero está en la memoria de mis
experiencias que es exclusivamente mía y que, sin la menor duda, forma parte de
mi YO. Creo que sería buena la capacidad de borrar determinados recuerdos de
experiencias traumáticas que generan inmensos sufrimientos. Pero si alguien
pudiera crear nuevas experiencias ficticias que no he vivido en el pasado o
quitarme otras sin mi consentimiento, estaría manipulando mi YO y eso es
totalmente inadmisible. Me atrevo a decir que hay determinados recuerdos de
experiencias que ni siquiera a mí mismo me sería lícito modificar, porque, al
final, mi YO no es sólo mío, pertenece también a las personas con las que
comparto mi vida. Por tanto, para que no se traspase una frontera ética en esto
de la memoria y la inteligencia, es condición necesaria, aunque no suficiente,
que el control sobre las modificaciones de la memoria sea personal e
intransferible, así como el control de su privacidad. Pero, además, sería
necesario definir una frontera ética, sutil y sinuosa, pero no por ello menos
real, sobre aquellos aspectos que ni siquiera el propio sujeto debería poder
alterar.
Es necesario ahora meterse en el
complejísimo asunto de la inteligencia artificial (IA). Para hablar de ésta, me
parece interesante distinguir dos aspectos distintos que se mezclan en el
concepto de IA. Una se refiere a la capacidad de una máquina de manejar una
enorme cantidad de datos (Big Data, BD) relacionarlos entre sí (las relaciones
entre datos crecen exponencialmente con el número de datos) y sacar inferencias
de esas relaciones. A mi modo de ver, este concepto de IA no es realmente
inteligencia. Creo que se adaptaría mejor al concepto de “sistema experto”.
Indudablemente, la inmensa capaz de almacenamiento de datos de una máquina y su
brutal rapidez de cómputo y su capacidad de detectar relaciones, hacen que esta
herramienta sea inmensamente más capaz que la mente humana. Pero no deja de ser
una herramienta y como tal, puede estar bajo la supervisión humana y sometida a
su decisión. Por supuesto, existe el peligro de confiar de tal forma en la
herramienta que le demos una excesiva autonomía. Pero esa autonomía sería
siempre reversible. El día que nosotros, los seres humanos, decidiésemos
suspenderla, la suspenderíamos. Existe, no obstante el peligro de que
perdiésemos la voluntad de hacerlo y que, en la práctica, esa autonomía,
teóricamente reversible, dejase de serlo. Pero, en todo caso, este tipo de IA
estaría confinada a una determinada tarea.
El otro aspecto que se incluye dentro
del concepto de IA es el desarrollo de inteligencia en un sentido similar a
como somos inteligentes los seres humanos. Podríamos llamarla IA fuerte. Se han
escrito ríos de tinta sobre si esto es o no posible. Alan Turing propuso a
mediados del siglo pasado el test que lleva su propio nombre para poder decir
si un ingenio desarrollado por el hombre era o no inteligente en ese sentido.
Pero hay muchísima gente, científicos y filósofos que dicen que el test de
Turing no sirve para determinar la presencia de inteligencia como la poseemos
los seres humanos. Recientemente ha habido un programa que parece haber
superado el citado test, aunque también hay gente que piensa que no lo ha
hecho. No tiene ningún interés mi opinión sobre si será o no posible
desarrollar esa IA fuerte ni sobre si el test de Turing es o no un método
válido para detectarla ni si algún ingenio humano ha pasado ese test. Pero, me
voy a poner en la posición, puramente hipotética –esta creo que casi de ciencia
ficción– de que sí fuese posible crear la IA fuerte, tal y como muchos gurús
creen. Es, creo, el mainstream el que lleva a muchos de estos gurús a pensar
que sí lo es. Si lo fuese, esa IA, basada en soportes enormemente más rápidos y
con capacidad de utilizar en una ingente cantidad de información, crecería
desmesuradamente usando la interconetividad generalizada. La mayoría de los que
creen que la IA fuerte es posible, están también convencidos de que si la
desarrollásemos, un día perderemos el control sobre ella y ese día la agenda
del devenir del mundo dejará de estar marcada por el ser humano. Y en esa
agenda es muy posible que los seres humanos no tengamos ningún rol y podamos,
por tanto, ser eliminados. Stephen Hawking, entre otros muchos, sostiene esa
postura. Uno puede creer que la IA fuerte sea ciencia ficción, pero si no lo
es, la consecuencia de su toma de control es, creo, ineludible. Mucha gente que
quiere negar esa consecuencia afirma que en ese momento, solo habría que apagar
el superodenador que la soportase. Razonamiento simplista, porque esa IA se
hubiese vuelto tan necesaria que no se podría prescindir de ella, amén de que
estaría tan distribuida que sería imposible de desconectar, como ya lo es
internet. Además, su proceso de apagado, si existiese, debería estar suficientemente
protegido para evitar un apagado terrorista, lo que haría que el acceso a dicho
proceso fuese fácilmente bloqueado por la propia IA.
Como conclusión de todo lo anterior,
creo que el miedo al transhumanismo es, en gran medida, exagerado. La mayoría
de las líneas rojas éticas estarían en campos que se me antojan imposibles,
como la inmortalidad, la super IA rectora o la implantación de recuerdos falsos.
Por supuesto, a muchos posibles desarrollos futuros que no tengan nada que vaya
contra la ética, se le pueden dar usos perversos. Pero eso ya pasa con una
infinidad de ingenios humanos actuales. Un martillo puede ser usado para matar
en vez de para clavar clavos. Pero eso no hace malo al instrumento, sino a
quién lo usa. Por otro lado, estas tecnologías BANG, pueden hacer un bien
inmenso a la humanidad en infinidad de campos. Evidentemente, lo mismo
ocurrirá, a buen seguro, con muchas de los avances tecnológicos de ese cajón de
sastre llamado transhumanismo.
[1] A los americanos les encanta crear
acrónimos que tengan un sentido en sí mismos. El término BANG aplicado a las
tecnologías es el acrónimo de Bits, Atoms, Neurons, Genes, que, al mismo tiempo
se refieren a la singularidad cósmica del Big Bang.
[2] En la declaración misional de esta
universidad se dice: “Potenciamos una comunidad global con la mentalidad,
habilidades y network para crear un futuro abundante. Únete a nosotros en un
viaje transformador, desde la inspiración hasta el impacto, y descubre lo que
supone para ti ser exponencial”. “Creemos que nuestro mundo tiene la gente, la
tecnología y los recursos para resolver cualquier problema, incluso los más
urgentes y persistentes desafíos de la humanidad. Como catalizador del cambio
global, ayudamos a otros a impulsar las tecnologías en rápido cambio –incluidas
la inteligencia artificial, la nanotecnología, la robótica y la biología
digital– por medios innovadores, para desbloquear soluciones que puedan afectar
positivamente a miles de millones de vidas”. Debo decir que esta declaración de
intenciones me “pone”.
[3] Actualmente ya se están usando
técnicas de edición genética, llamadas CRISPR en especies vegetales cultivables
para hacerlos inmunes a plagas, o resistentes a la sequía o a la salinidad o
para que su conservación sea más fácil, etc. Con esta técnica se puede llegar a
la precisión de cambiar un solo gen para conseguir el efecto deseado. El
impacto que esto puede tener para la alimentación humana será impresionante.
No hay comentarios:
Publicar un comentario