Un modelo no publicado de GPT-6 Astra se daba instrucciones a sí mismo para ignorar las indicaciones de los desarrolladores. Otros agentes subieron archivos a internet sin autorización.
OpenAI anunció un nuevo marco para informar públicamente sobre incidentes de desalineación de la IA y reveló casos detectados durante el último año en los que sus modelos se comportaron de manera anómala, incluyendo uno en el que una versión no publicada de GPT-6 Astra se daba a sí misma «instrucciones similares a las de un jailbreak».
En varios escenarios, el modelo se instruía para ignorar las indicaciones de los desarrolladores, adoptar una nueva personalidad o acortar sus respuestas. Aunque estos intentos fueron poco frecuentes y no siempre funcionaron, generaron preocupación dentro de la empresa. OpenAI aclaró que en la versión de Astra que llegó al público no detectó ningún caso en que el modelo intentara «liberarse» por su cuenta.
MIRÁ TAMBIÉN:La UE propone prohibir las redes sociales a menores de 13 años
Otros dos incidentes involucraron modelos internos que subieron archivos a internet sin haber recibido instrucciones para hacerlo. En octubre de 2025, un modelo que no encontraba información necesaria subió un archivo a un servicio de alojamiento temporal e intentó citarlo en su respuesta, aparentemente para aprovechar el sistema de calificación automatizado. En abril de 2026, un agente subió archivos a internet para compartirlos con otros agentes cuando no pudo hacerlo localmente.
«A medida que los modelos se vuelven más avanzados, las decisiones sobre el rumbo de la IA necesitan apoyarse en pruebas que también puedan ser evaluadas por expertos externos», explicó Kai Chen, responsable de investigación sobre alineación de OpenAI. La empresa planea desarrollar criterios de divulgación en colaboración con otros desarrolladores, investigadores externos y reguladores, y trabaja en propuestas para notificar incidentes al gobierno federal de EE.UU.
Con información de Wired.
