En noviembre de 2023, el proyecto OpenAI, famoso por su producto estrella ChatGPT, fue el escenario de un curioso conflicto de gobernanza. El comité de dirección, encabezado por Ilya Sutskever, informático y cofundador de la empresa, destituyó al director general, Sam Altman, también informático y cofundador. Altman terminaría recuperando su puesto, pero el episodio reveló una fisura interna entre dos ideologías en apariencia opuestas, pero no tan disímiles: el altruismo eficaz (Effective Altruism) y el aceleracionismo eficaz (Effective Accelerationism). Los partidarios del primero intentaron –sin éxito– apartar a los gurúes del segundo, por temor a que condujeran a la humanidad a su pérdida. Desarrollado en Estados Unidos en los años 2000, el altruismo eficaz pretende responder a la cuestión de la utilización óptima de los recursos para el bien común. Los defensores de esta corriente de pensamiento se sienten bien diseñados por sus capacidades intelectuales, financieras y técnicas superiores para jerarquizar y resolver los principales problemas humanos, entre los que se destacan el riesgo de pandemias, de una guerra nuclear y la aparición de una “inteligencia artificial general”, a veces llamada “singularidad”. Con una definición lo suficientemente imprecisa como para que unos consideren que ya ocurrió, mientras que otros imaginan que emergerá de acá a medio siglo, ese sistema de inteligencia artificial consciente engendrado en nuestro océano de datos podría conducir a la humanidad a una era de prosperidad universal o hacerla desaparecer.
Más radical que el altruismo eficaz, el aceleracionismo eficaz propone el desarrollo tecnológico desenfrenado para llegar lo más rápido posible a esa entidad suprahumana y hacer que la humanidad pase a un estadio de evolución superior, escapando así de los peligros que enfrenta. Mientras tanto, sería conveniente levantar todos los frenos reglamentarios y éticos, ignorar las cuestiones de propiedad intelectual o de respeto de los datos personales y, sin perder un instante, acelerar. Este tecno-liberalismo desinhibido justifica la comercialización de sistemas cuyo funcionamiento e implicancias aún cuesta comprender –como el ChatGPT, que Altman hizo público sin esperar–. Percibimos allí cómo aparece el modelo de sociedad presentado por la industria digital y sus aliados en el poder, el del imperativo funcional, que el filósofo Marcello Vitali-Rosati describe como “la declinación capitalista del imperativo racional, una racionalidad sometida a la necesidad de producir riqueza y de acumular mercancías” (1). Suficiente para instalar en el imaginario colectivo el reemplazo del humano por la máquina como horizonte de las transformaciones socioeconómicas y tecnológicas actuales.
Horizonte probable, pero no inevitable. En los últimos años, la planificación industrial se ha vuelto a imponer a ambos lados del Atlántico. Las élites occidentales la consideran indispensable para competir con el desarrollo asiático. La planificación ecológica también abre su camino. Desde los demócratas estadounidenses partidarios de un “Green New Deal” hasta la presidenta de la Comisión Europea, Ursula von der Leyen, todos pretenden mover los recursos del poder público y de las nuevas tecnologías para organizar la transición hacia una economía más verde, pero liberal. La izquierda propone alinear la producción con las necesidades sociales y las obligaciones medioambientales (2). En su seno, algunas voces apoyan la posibilidad de una coordinación industrial basada en sistemas de toma de decisión colectiva, que sacan partido de las recientes tecnologías de la información (3). “¿Podemos imaginar tecnologías de la información y de la comunicación que no nos exploten, no nos engañen y no nos suplanten? –preguntaba el escritor británico James Bridle–. Sí, podemos, una vez que salgamos de las redes de poder comercial que han definido a la ola actual de la IA” (4).
Máquinas sesgadas
Así, ambos lados del espectro partidario depositan sus esperanzas en progresos técnicos que bastaría con adaptar a sus preferencias ideológicas. Ahora bien, desde su concepción hasta su realización, la inteligencia artificial (IA) no es neutra. Para desenmarañar el enredo entre técnica y política que habita en el seno de la construcción de una IA, hay que abrir la caja negra: comprender aquello de lo que se trata y cómo funcionan sus mecanismos de aprendizaje. A menudo el debate público deja a un lado esta etapa esencial, que sin embargo permitiría disipar las fantasías gemelas de la magia solucionista y de la ansiedad antropomórfica.
En la intersección de las (…)
Texto completo en la edición impresa del mes de noviembre 2024
en venta en quioscos y en versión digital
E-mail: edicion.chile@lemondediplomatique.cl
Adquiera los periódicos y libros digitales en:
www.editorialauncreemos.cl