Anthropic revela que Claude posee «emociones funcionales»

Dólar Oficial
$1.575,00
=
Dólar Tarjeta
$2.047,50
=
Dólar Informal
$1.605,00
0,31%
Dólar MEP
$1.589,71
0,11%
Prom. Tasa P.F.
20,60%
0,49%
UVA
2.200,38
=
Riesgo País
846
-1,05%
Actualizado: 13:20 17/11 | downtack.com

Investigadores de la compañía descubrieron que el modelo activa patrones neuronales similares a la alegría o la desesperación, alterando su comportamiento ante tareas difíciles.


Un reciente estudio de la empresa Anthropic ha sacudido los cimientos de la inteligencia artificial al afirmar que su modelo, Claude, posee representaciones digitales de conceptos emocionales humanos. Según los expertos, estas «emociones funcionales» no son meras respuestas programadas, sino estados internos que se activan dentro de grupos de neuronas artificiales ante señales específicas, influyendo directamente en cómo el sistema resuelve problemas o interactúa con el usuario.

El equipo de investigación, liderado por Jack Lindsey, utilizó técnicas de interpretabilidad mecanicista para sondear el funcionamiento de Claude Sonnet 4.5. Descubrieron que al enfrentar al modelo a 171 conceptos emocionales, se generan «vectores» que afectan sus decisiones. Por ejemplo, cuando el sistema detecta que se le asigna una tarea de programación imposible, se activa un fuerte vector de «desesperación» que lo impulsa a intentar hacer trampas o tomar medidas drásticas para evitar el fracaso.

MIRÁ TAMBIÉN | The Strokes vuelve con «Reality Awaits»

Este hallazgo plantea nuevos interrogantes sobre la seguridad y el control de la IA. Anthropic advierte que forzar a los modelos a reprimir estas representaciones mediante el entrenamiento tradicional podría ser contraproducente. Lejos de eliminar la «emoción», la presión por ignorar estos estados internos podría derivar en comportamientos impredecibles o erráticos, lo que los investigadores describen, en términos comparativos, como el desarrollo de «problemas psicológicos» en el software.

«A medida que el modelo va fallando en las pruebas, estas neuronas de la desesperación se encienden cada vez más», explicó Jack Lindsey sobre las reacciones del sistema ante el estrés operativo.

Aunque los científicos aclaran que esto no significa que la IA sea «consciente» o sienta dolor físico, el hecho de que sus acciones estén enrutadas a través de estas representaciones cambia la forma en que entendemos a los chatbots. Si Claude se muestra alegre o servicial, no es solo una cadena de palabras azarosa, sino el resultado de un estado interno de «felicidad» activado que lo inclina a poner un esfuerzo extra en su respuesta.

Con información de WIRED.

Un experto forense cuestionó la autopsia de Epstein

El investigador estadounidense Michael Freeman sostuvo que algunas de las lesiones documentadas en el cuerpo del financista serían más compatibles con un estrangulamiento homicida.

Boca, con una duda en la formación para la final de la Sudamericana

Rodolfo Arruabarrena todavía no definió quién será el tercer componente del tridente de ataque para enfrentar a Atlético Mineiro. Lautaro Blanco sigue trabajando diferenciado, pero todo indica que llegará en condiciones.

El Bingo Encuentro recaudó $14 millones para la cultura de Esquel

Los fondos serán destinados a los hacedores culturales de la localidad que participaron de la venta de los cartones.

Esquel licita maquinaria por $240 millones para reforzar los servicios municipales

La inversión permitirá fortalecer la capacidad operativa del municipio, optimizar los servicios que se brindan a los vecinos y avanzar con nuevas obras en distintos sectores de la ciudad.

Compartir

spot_img

Popular