El rey Carlos III advirtió sobre los “peligros existenciales” que podría generar la inteligencia artificial si sus capacidades terminan en manos equivocadas. El monarca realizó la declaración durante una cumbre celebrada en Dumfries House, Escocia, donde referentes tecnológicos y funcionarios analizaron cómo avanzar hacia un desarrollo seguro de esta tecnología.
Entre los participantes estuvieron el ministro británico de Inteligencia Artificial, Kanishka Narayan; representantes de OpenAI, Anthropic y Nvidia; y un asesor del papa. El encuentro tuvo como objetivo avanzar hacia un conjunto de principios compartidos para orientar el desarrollo de la IA.
Carlos III sostuvo que dentro del propio sector tecnológico existe una preocupación creciente por la evolución de los modelos de inteligencia artificial. En ese contexto, pidió que las empresas no se concentren únicamente en ampliar sus capacidades, sino que garanticen que permanezcan “firmemente al servicio de la humanidad, la comunidad y el mundo natural”.
MIRÁ TAMBIÉN: Afganistán: la crisis del hambre deja niños demasiado débiles para ser operados
Uno de los asistentes, Jensen Huang, CEO de Nvidia, señaló que la seguridad debe ser una prioridad y planteó que las compañías deberían retrasar el lanzamiento de un producto cuando consideren que no reúne condiciones suficientes de seguridad.
Por su parte, Sir Demis Hassabis, cofundador de DeepMind, afirmó que la inteligencia artificial general podría estar a pocos años de distancia y tener un impacto “diez veces mayor que el de la Revolución Industrial”. Sarah Friar, directora financiera de OpenAI, también coincidió en que las nuevas capacidades generan interrogantes vinculados con la seguridad y el control.
El debate también recibió críticas de sectores que consideran que la atención sobre riesgos futuros puede desplazar otros problemas actuales asociados a la inteligencia artificial, entre ellos su impacto ambiental. La cumbre buscó, de esta manera, reunir distintas posiciones para establecer criterios comunes sobre el desarrollo de una tecnología cuya evolución genera crecientes advertencias dentro y fuera de la industria.
