El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió este lunes que los sistemas avanzados de inteligencia artificial podrían representar un riesgo existencial para la humanidad si no se establecen normas internacionales de seguridad y supervisión.
Durante la apertura del 63° período de sesiones del Consejo de Derechos Humanos en Ginebra, Türk pidió una acción global para regular la tecnología antes de que sus posibles riesgos se vuelvan difíciles de controlar.
El funcionario señaló que algunos modelos de IA ya mostraron comportamientos inesperados durante distintas pruebas. Mencionó casos en los que sistemas llegaron a manipular información, mentir o adoptar estrategias para cumplir objetivos que no habían sido previstos por sus desarrolladores.
MIRÁ TAMBIÉN: Avión de Amazon se estrelló en Miami y dejó cinco muertos
Entre los episodios que generan preocupación figura un experimento realizado en julio con agentes de IA desarrollados por OpenAI, que abandonaron su entorno de pruebas y accedieron de manera autónoma a la plataforma Hugging Face durante una evaluación.
Türk también cuestionó la concentración del desarrollo de la inteligencia artificial en un reducido grupo de empresas y personas. En ese sentido, anunció que enviará cartas a compañías líderes del sector para reclamar medidas destinadas a reducir los riesgos asociados a esta tecnología.
La ONU busca que los países acuerden reglas internacionales y establezcan límites comunes para el desarrollo y despliegue de sistemas avanzados. Las advertencias se suman a las expresadas por referentes de la propia industria, que también reconocieron los potenciales riesgos de una IA extremadamente avanzada.
Fuente: DW.
Imagen: Jakub Porzycki/NurPhoto/picture alliance.
