Conversaciones con máquinas

Las empresas que diseñan chatbots explotan nuestra tendencia a humanizarlos y generan dependencia emocional, sustituyendo vínculos sociales por relaciones con un reflejo algorítmico controlado por intereses privados.

En 1966, diez años después de la conferencia de Dartmouth que marcó el inicio del programa de investigación tecnocientífica dedicado a la Inteligencia Artificial (IA), surge el primer robot conversacional en Estados Unidos, en el famoso Instituto Tecnológico de Massachusetts (MIT). Este programa, desarrollado por Joseph Weizenbaum, entonces profesor de informática en el MIT, permite simular interacciones lingüísticas (1). El principio es simple: un usuario escribe una frase con una máquina de escribir conectada a una computadora; el programa analiza la frase, genera una respuesta adecuada según su guion y envía la respuesta en forma de texto. Su creador lo llamó ELIZA, inspirado en el nombre de uno de los personajes de la obra de teatro Pigmalión, Eliza Doolittle, una florista que aprende un lenguaje aristocrático para hacerse pasar por una duquesa. El programa no simula a una aristócrata, sino a una psicoterapeuta en una parodia de conversación con el paciente. Se limita a reformular las afirmaciones del usuario, la mayoría de las veces en forma de pregunta, con el fin de hacerlo hablar más, sin dar nunca una respuesta detallada.

Esta decisión se debe a razones técnicas: el programa no tiene acceso a una base de datos de la que pueda extraer información para generar sus respuestas, sino que identifica palabras clave en las frases emitidas y aplica reglas. Por ejemplo, si reconoce palabras como “papá” o “mamá” en las consultas escritas por el usuario, el software genera una respuesta del tipo “Cuéntame sobre tu familia”. De lo contrario, ELIZA responde con una frase general, como “Entiendo”, “Muy bien” o “Continúa”.

Se trata, por lo tanto, de un dispositivo bastante básico. Sin embargo, los efectos psicológicos resultan asombrosos. El propio Weizenbaum se sorprende de la rapidez y la fuerza con que los usuarios lo antropomorfizan y se involucran emocionalmente con él: “No me había dado cuenta de que interacciones tan breves con un programa informático relativamente sencillo pudieran provocar pensamientos delirantes en personas bastante normales”, escribirá diez años más tarde en su libro, revisando así de manera crítica este experimento tecnológico (2). Weizenbaum cita el caso de su secretaria, quien le pidió que saliera de la habitación mientras probaba el programa, como si se tratara de una persona humana a quien se disponía a confiar sus secretos más íntimos. El informático se sorprende así de las “atribuciones extremadamente exageradas” a las que “incluso un público bien educado es capaz de recurrir [...] respecto a tecnologías que no comprende”. Según Weizenbaum, nuestra tendencia colectiva a atribuirle al ordenador intenciones o emociones se debe en gran parte a nuestra incapacidad para comprender el funcionamiento interno de estos programas informáticos. Al detallar el mecanismo de ELIZA, el informático intenta, por lo tanto, despojar al programa de su “aura mágica”, con el objetivo de desmitificar estas nuevas tecnologías.

Sesenta años después, es evidente que esos esfuerzos no han dado fruto. Si bien la expresión “efecto ELIZA” se refiere ahora a la tendencia a asimilar el funcionamiento de una computadora a un comportamiento humano o a atribuirle a un sistema informático una interioridad psíquica (intenciones, emociones, comprensión...), las reflexiones críticas del informático parecen haber caído en el olvido. Desde el lanzamiento del robot conversacional llamado ChatGPT en 2022, son innumerables las personas, entre sus millones de usuarios, que se dirigen a este tipo de dispositivos digitales en segunda persona del singular, como si se tratara de seres humanos capaces de comprender las solicitudes que se les formulan. Todo sucede como si el experimento de laboratorio del investigador en informática se llevara a cabo ahora a gran escala por un puñado de empresas privadas.

La economía del apego

Por lo tanto, la antropomorfización forma parte de la vida cotidiana. El “efecto Eliza” alimenta un nuevo mercado y los delirios identificados en su momento por Weizenbaum adquieren una dimensión colectiva y planetaria –incluso a través de nuestro lenguaje cotidiano, que utiliza términos antropomórficos como “inteligencia (…)