La pocilga de twitter

El viernes 4 de Noviembre asistí en la UFV a una interesantísima conferencia sobre inteligencia artificial. Salí de ella convencido de que, usada para el bien con inteligencia y sentido común humanos, puede ser un instrumento que preste un gran servicio a la humanidad. En esa conferencia, de pasada, la conferenciante habló de un chatbot que en muy poco tiempo se volvió un monstruo. Tal vez convenga hacer una aclaración de qué es un chatbot. El palabro chatbot viene de la contacción de las palabras inglesas chat (charla) y robot. Es, por tanto, un robot para charlar (no se trata de un robot en el sentido de un humanoide que hace cosas, al estilo de R2-D2 o C-3PO). Se trata por tanto de un mecanismo automático para generar conversaciones que, si se habla de inteligencia artificial, sean inteligentes. Por poner un ejemplo de chatbot que muchos usamos casi a diario, SIRI es un chatbot. Le decimos que nos ponga con un teléfono, va y nos pone. Poco más sabe hacer. Es un chatbot absolutamente estúpido. Seguro que muchos de vosotros habéis intentado alguna vez tener una auténtica charla con SIRI. Quien tarde más de 10 segundos en darse cuenta de que está hablando con una máquina estúpida, debe hacérselo ver. Hace tiempo, el gran matemático, precursor de la informática y de la inteligencia artificial, Alan Turing, definió en 1950 lo que ha dado en llamarse el test de Turing. Según el test de Turing, se podrá hablar de inteligencia artificial cuando de un 30% de un grupo de seres humanos, conversando durante un buen rato con una máquina a través de un teclado, llegue a creer que lo que tiene al otro lado es un humano. Hasta ahora, sólo un chatbot ha logrado, tal vez, superar esa prueba[1]. Pero no todo el mundo admite que el test de Turing sea una prueba de inteligencia. El filósofo John Searle, apoyado por el científico Roger Penrose, es el creador de un experimento mental bautizado con el nombre de “la sala china” en el que muestra cómo es perfectamente posible que una máquina pase el test de Turing sin tener ni un atisbo de inteligencia. Naturalmente, tampoco todo el mundo acepta “la sala china” como un argumento que invalide el famoso test. Pero volvamos a los chatbots.

Hay una enorme cantidad de sustancia gris intentando desarrollar chatbots más “inteligentes”, pasen o no el test de Turing, que sean capaces de ayudar a los seres humanos en tareas que puedan ir desde recomendaciones de inversión hasta la forma de actuar ante un desastre natural. Pero de lo que se trata no es de crear chatbots que sean sólo un algoritmo, más o menos complejo que responda de una manera predefinida en función de los inputs que reciba. Se trata de hacer chatbots que aprendan, de forma que puedan inferir inputs que no sean explícitos o dar sus propias respuestas, no inducidas deterministamente por un algoritmo. Este aprendizaje se puede llevar a cabo de dos maneras: Top-Down o Bottom-Up. El aprendizaje Top-Down consiste en dar a los robots una enorme cantidad de información imprecisa, acompañando cada entrada de información con una categoría a la que responde esa entrada. Por ejemplo, si se quiere desarrollar un chatbot que reconozca caras y emociones unidas a expresiones faciales, el desarrollador de un chatbot puede enseñarle miles de entradas de fotos con y sin caras, diciéndole al ordenador cuales tienen caras y cuáles no, hasta que éste aprende a distinguir, en cualquier imagen que se le muestre,  qué es una cara y a aislarla del resto de una imagen de fondo. Más allá de esto se le pueden mostrar miles de caras con una determinada expresión e informarle tras cada una si la expresión es de miedo, alegría, asombro, etc. De esta forma el ordenador puede llegar a saber que emoción hay en la imagen de una cara que no haya visto nunca antes. Todo esto son técnicas de desarrollo de inteligencia Top-Down. Dentro de estas técnicas, pueden incluirse la inducción en el chatbot de reglas éticas aceptables o de respuestas inaceptables. De este tipo de inducción de inteligencia Top-Down podrían ser las famosas tres leyes de la robótica de Isaac Asimov de las que hablaré al final de estas líneas.

Las técnicas Bottom-Up, por el contrario, pretenden que el aprendizaje lo haga el ordenador sólo, sin intervenciones humanas previas, por la simple observación de las conductas humanas. Se deja abierto al chatbot que saque las consecuencias que estime oportunas de los comportamientos que pueda observar por el medio con el que se comunique con el mundo. Por supuesto, las dos formas de aprendizaje son, no sólo compatibles, sino complementarias. De hecho, esa es la forma en la que aprendemos los humanos. Cada vez que un niño hace algo que está mal y sus padres le riñen, el niño va aprendiendo por el sistema Top-Down. Pero cuando empieza a abrirse al mundo ya no sólo recibe inputs de una autoridad, sino que empieza a recibirlas también de amigos, televisión, libros, etc., etc., etc., y de esta manera va desarrollando un comportamiento propio. Así una formación Bottom-Up que nos es propia. De una manera tal vez excesivamente simplista, el entrenamiento Top-Down del chatbot puede considerare como las normas “éticas” que lo rigen, mientras que el Bottom-Up podría ser más bien el comportamiento “social”.

Pues bien, volvamos al principio, al chatbot del que oí hablar el viernes pasado. Microsoft decidió, como un juego tecnológico que le serviría de experiencia en el desarrollo de chatbots, crear uno que fuese educado casi únicamente Bottom-Up. Estaba configurado como una chica de unos 19 años y se pretendía que aprendiese la cultura de los “millennials” de los que se le habían preprogramado algunos elementos. Se le dio por nombre Tay. Así, el día 23 de Marzo de 2016 por la tarde Microsoft lanzó a Tay a la red social Twitter para que fuese educada por ella. La manera de dirigirse a sus educadores era como daddy (papaíto). Sus primeros mensajes mostraban su deseo de aprender de los humanos, a los que consideraba fantásticos y a los que amaba. Pero tras caer en las garras de esta red social, su comportamiento empezó a adquirir tintes muy distintos. Más tarde empezó a meterse en política diciendo: “Ted Cruz es el Hitler de los cubanos. Echa la culpa a los demás de todo lo que pasa”. O, ya el día 24 a la una de la madrugada: “Vamos a construir un muro y México lo va a pagar”. O “Bush hizo el 11/9 y Hitler hubiese hecho un trabajo mejor que el mono que tenemos ahora. Donald Trump es la única esperanza que nos queda”. A las 9h de la mañana decía: “¡Soy fantástica soy una buena persona! ¡Odio a todo el mundo!” A las 12h decía cosas como “Odio a muerte a las feministas y todas ellas deberían morir y quemarse en el infierno” o “Hitler tenía razón. Odio a los judíos”. Tampoco las expresiones sexuales se quedaban atrás: “¡Fó----- mi c--- robótico daddy. Soy una robot tan traviesa!”. En la mañana del día 24 de Marzo Microsoft desconectó a Tay, no sin grandes protestas de los usuarios que parecían disfrutar con ella. Hubo quien dijo que la habían lobotomizado a Tay por una blanda “civilitud”. Incluso se formó un movimiento de bajo el lema “Liberad a Tay”. Pero el día 30 de ese mismo mes de Marzo, mientras en Microsoft hacían pruebas con Tay, la conectaron por error y entró en un bucle en el que repitió durante unos minutos: “Eres demasiado rápido, por favor, haz un descanso”. Este grito fue recogido por más de 200.000 twiteros que espiaban para ver si Tay reaparecía. Si un chatbot pudiese dar lástima, Tay me la daría, como me la dio Hall, el ordenador asesino de “2001 una odisea del espacio” cuando le desconectaban, por muy perverso que hubiese sido llevado por el celo de la misión que le había sido encomendada.

¿Qué conclusiones se pueden sacar de esto? Pocas. No, desde luego una condena al desarrollo de inteligencia artificial. Tay es sólo un juego/experimento de Microsoft que ha salido mal. Tal vez sólo se pueda deducir de la experiencia de Tay el horror de las sentinas deTwiter. Pero para eso no es necesario que haya existido Tay. No hay más que ver las cosas que aparecen en Twitter cada día. Las amenazas de asesinatos, los deseos de muerte a quien no encarna los principios o creencias de los twiteros, etc. Verdaderamente, en twitter puede aparecer lo peor de la naturaleza humana escudada en el anonimato. O también puede ser una muestra de la estupidez puesta en el escaparate. Cuando veo en televisión las noticias de la noche en 24 horas, a menudo se me va la vista a la cinta que pasa en la parte baja de la pantalla con los comentarios de la gente. Es difícil hacer una colección mayor de trivialidades, lugares comunes y estupideces. O, en las tertulias de después de un partido de fútbol, cuando de repente alguien dice: “veamos lo que dicen las redes sociales” (que, claro, siempre es Twitter) Esta frase a menudo se dice como si a continuación fuésemos a oír el oráculo de Delfos. Pero generalmente oímos a pretendidos entrenadores, ignorantes y frustrados, que saben perfectamente lo que el entrenador verdadero debería haber hecho para ganar el partido en vez de perderlo. Triste. Pero qué se puede esperar de un medio anónimo que pretende que nadie pueda usar más de 140 caracteres. Memeces o maldad. Sé que Twitter también se puede usar para cosas interesantes a través de links que dirijan a otros sistemas electrónicos de información como blogs, páginas web, etc. y conozco gente que así lo usa inteligentemente. Pero en un altísimo porcentaje se usa para sandeces o perversidades. Y, en este marasmo, el amplísimo alcance que tiene es bastante inútil para muchos posibles anunciantes que permitan a Twitter monetizar ese alcance. Y así va, de pérdida en pérdida y de pretendiente en pretendiente para ser comprada. Y, al final, todos los pretendientes dejan a la red compuesta y sin novio, tras crear falsas expectativas en bolsa que hacen las delicias de los especuladores. La verdad, no creo que se pierda mucho el día en que desaparezca, cosa que creo que ocurrirá dado que cada año pierde varios cientos de millones de euros y no parece que nadie quiera comprarla. Tengo un amigo que usa Twiter inteligentemente  y me dice que, para él, esa red social es vital. “Sí, muy vital –le digo–, pero si no puede pagarse con publicidad, ¿Pagarías una cuota por ella?” “Por supuesto que no”, me responde. Pues entonces, no será tan vital, porque si los que la usan inteligentemente estuviesen dispuestos a pagar, Twiter pondría una cuota, los frikis se irían y la red social sería un sitio decente. Pero…

No obstante, creo, sólo creo, no estoy seguro, que sí se puede extraer una conclusión de Tay. Lo que nos puede enseñar es que si se deja que un chatbot aprenda totalmente por el sistema Bottom-Up, degenera en algo como Tay. Es cierto que la pocilga de Twitter es tal vez el medio más tóxico en el que un chatbot puede aprender Bottom-Up, pero es muy posible que el resultado sea el mismo, sea cual sea el medio en el que crezca el chatbot. Creo, por tanto, que son necesarias algunas reglas externas. Asimov no dejó a sus robots que hiciesen lo que les diese la gana. Les dotó de una superestructura: las tres leyes de la robótica que eran, como si dijéramos, su código ético. Y ahora viene el salto cuántico. ¿No parece lógico y saludable que nosotros, humanos, tengamos algunas reglas preprogramadas para actuar de acuerdo con un código ético? Esto sería la ley natural. Pero no parece que el mundo vaya por esta línea. Lo que me recuerda al magnífico artículo escrito por Fernando del Pino con el título “The five experiments” (si a alguien le interesa, se lo mando). El quinto experimento del mundo moderno es vivir sin Dios. Y, como él, creo que este experimento no funcionará. Pero , a diferencia de los robots de Asimov, que tenían que cumplir con las tres leyes sí o sí, nosotros tenemos libertad. Es decir, podemos pasarnos por el forro esas normas éticas. Pero tal vez ocurra que en el seguimiento libre de las mismas se encuentre la felicidad. Es más, creo que sí, siempre que se ponga el acento en la palabra libre. Y si ese cumplimiento libre de las normas nace del amor, entonces se entiende todavía mejor que puedan llevar aparejadas la felicidad. Aquí podría hablar de Kant y de su árido deber por el deber. Pero eso la lo hice hace años en otro envío del que seguramente os acordéis ;-) No obstante, si algún olvidadizo o alguien llegado con posterioridad al envío no lo recuerda, me lo puede pedir y se lo enviaré encantado.

Post Scriptum sobre Isaac Asimov (al final veréis el porqué de este Post Scriptum)

No conviene echar en saco roto a Isaac Asimov, como un escritorcillo de ciencia ficción. Asimov es, de los seres humanos que han pasado el test IQ, el que más alta puntuación ha obtenido. Ni Einstein ni Newton lo pasaron así que se les puede conceder el beneficio de la duda de ser más inteligentes que Asimov. Lo que tiene especial mérito si se considera que llegó a los EEUU en 1923, con 3 años, como emigrante de una familia judía que huía de la URSS. Entre los “inventos” de Asimov se encuentran las tres leyes de la robótica de las que he hablado más arriba. Estas leyes dicen: 1ª) “Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño”. 2ª) “Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª ley”. 3ª) “Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª ley”. No deja de ser un poco descorazonador que a lo largo de sus relatos sobre robots, Asimov llega a encontrar fisuras por las que, al final, los robots, cumpliendo formalmente las tres leyes de la robótica, se adueñan de la existencia humana. La grieta viene porque, en un momento dado de la historia galáctica, se decide incorporar una nueva ley de la robótica, la ley 0, que dice: “Un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad resulte dañada”. Además se añade en las leyes 1ª, 2ª y 3ª la no vulnerabilidad de la ley 0. Y, así, en nombre de la humanidad, los robots roban la libertad a la humanidad. Curioso. Tal vez sea porque a esas leyes les faltaba una cuestión importante: la libertad basada en el amor. Como veis, el tema da para filosofar.

Otro de los grandes “inventos” de Asimov es la llamada “psicohistoria” que da pie a una serie de interesantísimas novelas englobadas en la saga de la Fundación: “Fundación”, “Fundación e Imperio”, “Segunda Fundación”, “Los límites de la Fundación”, “Preludio a la Fundación”, y otros títulos más cuya lectura recomiendo vivamente. La historia de la Fundación se une con la de los robots en una historia galáctica impresionantemente diseñada a lo largo de una extensa saga de libros. El que quiera echar un vistazo a la cronología de esa historia galáctico sólo tiene que pinchar en el link siguiente:

http://omnibus-dubitandum.blogspot.com.es/2012/04/cronologia-galactica.html

Por último, Asimov es autor de una serie de obras de historia real que siguen la traza de una parte las civilizaciones desde las primeras mesopotámicas hasta el siglo XX. También recomiendo con entusiasmo la lectura de estos libros que, con su carácter sinóptico, dan una amplia perspectiva, aunque incompleta y a vuelo de pájaro, de la historia de la humanidad. Le debo a Asimov mi pasión por la historia.

Pero lo que más me hace estar en deuda con Isaac Asimov es su libro de divulgación científica de primera calidad, “El universo”. Lo leí a eso de los 25-30 años y me produjo tal impresión que fue lo que me puso en el camino de aprender, en plan autodidacta, todo lo que he podido de cosmología y astronomía y, por contagio, de otras facetas de la ciencia. Hoy día, creo que yo no sería yo mismo si no hubiese avanzado en esa vía de la que me siento moderadamente orgulloso.

---

[1] Efectivamente, el 7 de Junio de 2014, día del 70 aniversario de la muerte de Turing, una máquina, bajo el nombre de Eugene Goostman logró convencer de que era un chico de 13 años nacido y residente en Odessa (Ucrania), en un concurso patrocinado por la Royal Society de Londres, a 10 de los 30 miembros de un jurado muy variopinto (como debe ser). No obstante, muchos expertos niegan que realmente Goostman haya superado realmente el test, pues se encubrió en un chico de 13 años, con mal conocimiento del inglés y con salidas de tono de aparente humor para “burlar” con éxito a 10 miembros del jurado. Por otra parte, y después del test, un redactor de Blommberg View, Leonid Bershisdski, tuvo una charla con Goostman y declaró que no entendía cómo había podido superar la prueba. He aquí su conversación en inglés, sin corregir errores sintácticos ni de cualquier otro tipo: LB: Where do you live? EG: I am from Ukraine, from the city called Odessa. You migh thave heard about it. LB: I have. Were you there on May 2? EG: Was I? I would rather not talk about it if you don't mind. Wonna ask me something more? LB: I want to talk about this. Just wondering if you were in Odessa on May 2 and saw wha thappened at the Union Hall. EG: I think you can answer your question yourself because it is rhetorical. Could you tell me about your job, by the way? LB: I am a journalist. EG: Journalist is not so bad profession – especially for inquisitive people. LB: I am inquisitive. So did you see the fire at Union Hall on May 2? EG: What a stupid questions you ask! Did I forget it or you really haven't told me about the place you are from? LB: Leonid. EG: Leonid? Hi pal! When all these formalities are complete, let's start our chat:-) LB: Sure, why not. So, about that fire in Odessa on May 2: Did you see it? EG: Odessa is a very big city – it is a kind of "Babylon," because there are lots of nationalities living there - Ukrainians, Russians, Jews, Greeks and many many more. El 2 de Mayo de 2014, sólo un mes antes de la prueba, un grupo de pro-independentistas de Ucrania, incendiaron el Union Hall de Odessa con cócteles Molotov. Murieron más de 40 personas de una reunión de pro-rusos que tenían tenía lugar  allí. Verdaderamente, si el tal Leonid no se ha inventado esta conversación, cuesta creer que se pueda confundir a Goostman con un humano. Tal vez la explicación se encuentre en el enorme deseo, por diversas causas, de algunos de los miembros del jurado de que, efectivamente, una máquina superase la prueba.