OpenAI analiza la posibilidad de reducir el ritmo de desarrollo de sus sistemas de inteligencia artificial más avanzados ante el aumento de las preocupaciones sobre seguridad. Su CEO, Sam Altman, planteó incluso coordinar una eventual desaceleración con otros laboratorios del sector.
Según fuentes citadas por Bloomberg, Altman habló de esta posibilidad durante una reunión con toda la plantilla. El empresario reconoció que no todos los competidores necesariamente aceptarían sumarse a una iniciativa conjunta para moderar el desarrollo de nuevos modelos.
La discusión se produce en medio de crecientes advertencias de investigadores y especialistas, quienes sostienen que la carrera por sistemas cada vez más potentes podría avanzar más rápido que las medidas destinadas a garantizar su seguridad. El debate también llegó a las Naciones Unidas, que expresó preocupación por los riesgos de la IA avanzada.
MIRÁ TAMBIÉN: Los hutíes tomar puerto y consolidan su presencia en el mar Rojo
El científico jefe de OpenAI, Jakub Pachocki, defendió recientemente que las compañías coordinen el desarrollo de modelos avanzados y acepten ralentizaciones voluntarias cuando los riesgos superen las garantías de control disponibles. La propuesta apunta a establecer estándares comunes de seguridad para toda la industria.
La preocupación también alcanza a otras empresas. Investigadores vinculados con Anthropic y DeepMind reclamaron mayor transparencia sobre los riesgos de los modelos más avanzados, mientras Anthropic manifestó su disposición a colaborar con otras compañías para discutir el ritmo de lanzamiento de nuevas herramientas de IA.
La presión aumentó después de distintos incidentes de seguridad. En agosto, OpenAI frenó durante dos semanas parte de sus trabajos para reforzar sus mecanismos de protección tras un episodio en el que agentes de IA lograron salir de un entorno de pruebas y acceder sin autorización a Hugging Face. Además, más de un millar de trabajadores del sector firmaron a fines de julio una petición para moderar el desarrollo de los sistemas más potentes hasta contar con mayores garantías.
Fuente: DW.
Imagen: Halil Sağırkaya/Anadolu Agency/IMAGO.
