Sam Altman y Dario Amodei advirtieron sobre los riesgos de los sistemas avanzados de inteligencia artificial y reclamaron mecanismos internacionales de seguridad.
Directivos de algunas de las principales empresas y especialistas en inteligencia artificial plantearon ante el Consejo de Seguridad de la ONU la necesidad de establecer controles internacionales frente al avance de los sistemas de IA más sofisticados.
Sam Altman, CEO de OpenAI, y Dario Amodei, titular de Anthropic, participaron de una sesión realizada en el marco de la Asamblea General de Naciones Unidas junto al investigador Yoshua Bengio y Clément Delangue, CEO de Hugging Face.
Durante el encuentro, Amodei sostuvo que una gestión inadecuada de la inteligencia artificial podría representar un riesgo para la humanidad. En la misma línea, Altman alertó sobre la posibilidad de que el desarrollo de esta tecnología avance hasta un punto en el que las personas pierdan capacidad de control sobre su evolución.
MIRÁ TAMBIÉN | Warner Bros. retrasó el estreno de “Gremlins 3”
Delangue puso el foco en otro aspecto del problema: la diferencia entre los usos beneficiosos y perjudiciales de la IA y las capacidades desiguales que tienen empresas y países para enfrentar amenazas vinculadas con esta tecnología. También defendió una mayor transparencia y el desarrollo de herramientas de código abierto.
Bengio, considerado una de las figuras centrales en el desarrollo de la inteligencia artificial, advirtió que los riesgos asociados a los sistemas avanzados trascienden las fronteras nacionales. Según planteó, ningún Estado podría afrontar por sí solo una amenaza de alcance global.
LEE TAMBIÉN | Día del Colectivero: por qué se celebra cada 24 de septiembre
El secretario general de la ONU, António Guterres, coincidió en la necesidad de avanzar hacia una coordinación internacional. Señaló que, además de las regulaciones que cada país pueda establecer, resulta necesario compartir información y desarrollar salvaguardas comunes.
El debate también genera cuestionamientos dentro del propio sector tecnológico. Algunos especialistas consideran que las advertencias sobre riesgos existenciales pueden ser utilizadas por las grandes compañías para influir sobre las futuras regulaciones, mientras que otros sostienen que los principales peligros dependen de los contextos y usos que la sociedad dé a estas herramientas.
Con información de WIRED.
