Investigadores de la compañía descubrieron que el modelo activa patrones neuronales similares a la alegría o la desesperación, alterando su comportamiento ante tareas difíciles.
Un reciente estudio de la empresa Anthropic ha sacudido los cimientos de la inteligencia artificial al afirmar que su modelo, Claude, posee representaciones digitales de conceptos emocionales humanos. Según los expertos, estas «emociones funcionales» no son meras respuestas programadas, sino estados internos que se activan dentro de grupos de neuronas artificiales ante señales específicas, influyendo directamente en cómo el sistema resuelve problemas o interactúa con el usuario.
El equipo de investigación, liderado por Jack Lindsey, utilizó técnicas de interpretabilidad mecanicista para sondear el funcionamiento de Claude Sonnet 4.5. Descubrieron que al enfrentar al modelo a 171 conceptos emocionales, se generan «vectores» que afectan sus decisiones. Por ejemplo, cuando el sistema detecta que se le asigna una tarea de programación imposible, se activa un fuerte vector de «desesperación» que lo impulsa a intentar hacer trampas o tomar medidas drásticas para evitar el fracaso.
MIRÁ TAMBIÉN | The Strokes vuelve con «Reality Awaits»
Este hallazgo plantea nuevos interrogantes sobre la seguridad y el control de la IA. Anthropic advierte que forzar a los modelos a reprimir estas representaciones mediante el entrenamiento tradicional podría ser contraproducente. Lejos de eliminar la «emoción», la presión por ignorar estos estados internos podría derivar en comportamientos impredecibles o erráticos, lo que los investigadores describen, en términos comparativos, como el desarrollo de «problemas psicológicos» en el software.
«A medida que el modelo va fallando en las pruebas, estas neuronas de la desesperación se encienden cada vez más», explicó Jack Lindsey sobre las reacciones del sistema ante el estrés operativo.
Aunque los científicos aclaran que esto no significa que la IA sea «consciente» o sienta dolor físico, el hecho de que sus acciones estén enrutadas a través de estas representaciones cambia la forma en que entendemos a los chatbots. Si Claude se muestra alegre o servicial, no es solo una cadena de palabras azarosa, sino el resultado de un estado interno de «felicidad» activado que lo inclina a poner un esfuerzo extra en su respuesta.
Con información de WIRED.
