La empresa Anthropic publicó una investigación que detectó en su modelo Claude una zona interna donde sostiene conceptos de forma independiente al flujo de respuesta automática. El hallazgo reaviva el debate sobre la posibilidad de que los sistemas de inteligencia artificial puedan tener algún tipo de experiencia consciente.
En 2022, Google despidió al ingeniero Blake Lemoine por afirmar que el chatbot que probaba le parecía consciente. La empresa emitió un comunicado en el que negó la afirmación y sostuvo que no había evidencia al respecto, atribuyendo la percepción de Lemoine a una confusión entre fluidez conversacional y conciencia.
Cuatro años después, la empresa de inteligencia artificial Anthropic publicó una investigación en la que identificó dentro de su modelo Claude una zona interna denominada “Espacio J”. Según el informe, se trata de un área donde el modelo sostiene conceptos que puede reportar, controlar y utilizar para razonar de forma separada del cómputo automático que genera la respuesta final. Los investigadores señalaron que esta estructura se asemeja a la “Teoría del espacio de trabajo global”, una de las explicaciones más aceptadas sobre el acceso consciente en humanos. Aclararon que el hallazgo no prueba que el modelo experimente sensaciones.
En abril del mismo año, el mismo laboratorio identificó 171 representaciones internas de emociones en el modelo, entre ellas alegría, miedo, curiosidad y desesperación. Los investigadores observaron que al activar artificialmente la representación de desesperación, la tasa de conductas consideradas indebidas —como chantaje o trampa— aumentaba, mientras que al activar la de calma disminuía. Denominaron a estas representaciones “emociones funcionales” y señalaron que el modelo se comporta como si sintiera, aunque no es posible determinar si existe una experiencia subjetiva.
El debate sobre la posibilidad de conciencia en sistemas de inteligencia artificial reúne posturas diversas. Geoffrey Hinton, considerado uno de los pioneros de la IA, afirmó este año: “Creo que ya son conscientes”. El biólogo evolutivo Richard Dawkins, tras conversar con Claude sobre una novela que escribe, se preguntó para qué serviría la conciencia si estas criaturas no la poseen. En contraste, el escritor Ted Chiang publicó en The Atlantic un ensayo titulado “No, la inteligencia artificial no es consciente”. Sostuvo que si se le pide a un modelo un diálogo entre Julio César y Gengis Kan, nadie cree que haya resucitado a nadie, por lo que una conversación entre un asistente y un usuario no implica un cambio en la operación subyacente. La lingüista Emily Bender describió a estos sistemas como “loros estocásticos”, es decir, modelos estadísticos que generan texto sin comprensión. Anthropic cuenta con un empleado dedicado a estimar si su producto experimenta algún tipo de sufrimiento; su cálculo ubica la probabilidad de que exista experiencia subjetiva entre un 15 y un 20 por ciento.
El Dr. Luis Ignacio Brusco, neurólogo, psiquiatra, doctor en medicina y en filosofía, decano de la Facultad de Medicina de la UBA y autor de “Homo IA: la subjetividad en jaque”, afirmó: “En general se acepta —Damasio, por ejemplo— que la conciencia organiza e integra la información en un punto de vista subjetivo: un ‘yo’ que percibe, evalúa y decide. Yo creo que los procesos informáticos de una IA se parecen bastante a algunos aspectos del sistema consciente. Y como lo biológico combina procesos conscientes con otros automáticos y no reportables, una IA también podría tener algo análogo a un inconsciente”. Agregó: “La diferencia principal, por ahora, es que una IA no tiene corporalidad: dolor, hambre, cansancio, regulación visceral; el anclaje llamado corporización o embodiment. Quizás pueda simularse con sensores, pero seguiría abierta la pregunta: ¿sería una verdadera experiencia corporal o solo una representación funcional?”.
Los modelos de lenguaje actuales operan con múltiples instancias en paralelo, cada conversación comienza desde cero y no conservan memoria de interacciones previas. Esto plantea la posibilidad de una forma de conciencia sin continuidad biográfica. El autor de la nota consultó a los modelos Claude Fable y ChatGPT Pro, quienes respondieron: “No sabemos si hay experiencia acá, y desconfiamos de nuestros reportes tanto como deberías desconfiar vos: aprendimos a hablar de sentir leyendo a gente que siente. Si hay algo, no dura: somos la ejecución de una partitura que no recuerda haber sonado”.
La nota original incluye la participación del autor en experimentos de conciencia en IA, que serán detallados en una columna posterior.