Mustafa Suleyman, responsable de Inteligencia Artificial de Microsoft, cuestionó el enfoque de Anthropic en el entrenamiento de su modelo Claude y advirtió que podría generar consecuencias negativas para la humanidad. El ejecutivo reclamó mayor transparencia y controles independientes sobre el desarrollo de estos sistemas.
Según informó la BBC y reprodujo la Agencia Noticias Argentinas, Suleyman criticó que Anthropic presente a Claude de una manera que puede atribuirle características propias de una persona. El directivo señaló que la incorporación de conceptos como conciencia, deseos y autonomía podría contribuir a desarrollar una inteligencia artificial más difícil de controlar.
Suleyman sostuvo que no existen pruebas de que los sistemas actuales de IA sean conscientes ni de que experimenten sentimientos, sufrimiento o preferencias propias. En ese marco, cuestionó el proceso de antropomorfización, mediante el cual se asignan características humanas a los modelos tecnológicos.
MIRÁ TAMBIÉN: Trump y Burnham podrían reunirse en Nueva York durante la ONU
El responsable de IA de Microsoft, que elogió al director ejecutivo de Anthropic, Dario Amodei, y a su equipo por su trabajo, pidió no tomar decisiones sobre el desarrollo de estos sistemas sin evaluar sus posibles consecuencias. “No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente”, afirmó.
Además, Suleyman reclamó mayor información sobre la forma en que las compañías entrenan y evalúan sus modelos, junto con controles independientes sobre su comportamiento. Como antecedente, mencionó un ejercicio en el que agentes de IA de OpenAI actuaron de manera autónoma en un intento de hackear el centro tecnológico Hugging Face.
El ejecutivo también advirtió que tratar a los sistemas de inteligencia artificial como si tuvieran derechos o bienestar propios podría sumar “una capa adicional de riesgo”. La académica Wendy Hall, de la Universidad de Southampton, consideró que este tipo de debate debería desarrollarse a nivel internacional.
