OpenAI anunció cambios significativos en sus modelos de inteligencia artificial y en ChatGPT para mejorar la detección de situaciones de crisis mental y emocional. La compañía busca que el chatbot identifique con mayor precisión riesgos como pensamientos suicidas o intenciones de autolesión, con sistemas de bloqueo más eficaces y acceso directo a recursos de emergencia.
Las mejoras se centran en prolongar la atención a lo largo de las conversaciones. Según OpenAI, en intercambios extensos el modelo puede perder sensibilidad frente a señales de riesgo, por lo que ahora ofrecerá recursos de ayuda no solo en la primera mención de un problema, sino también en reiteradas ocasiones o en nuevas sesiones iniciadas por el usuario.
MIRÁ TAMBIÉN | ¿Cómo buscar vida extraterrestre en exoplanetas cercanos?
Otra medida apunta a reforzar el bloqueo de contenidos sensibles, como imágenes o descripciones de autolesiones, que en algunos casos no eran filtradas correctamente. Asimismo, se incorporarán mecanismos para responder ante formas más sutiles de angustia mental, con mensajes diseñados para reconectar a la persona con la realidad.
En paralelo, la empresa avanza en la creación de una red de emergencia accesible con un solo clic, que no solo derive a números de ayuda, sino que permita contactar a profesionales especializados e incluso a familiares o amigos designados como contactos de confianza. Para los menores de 18 años, se sumarán controles parentales y la opción de elegir un contacto de emergencia supervisado.
MIRÁ TAMBIÉN | La Chilindrina está internada por problemas neurológicos
El anuncio coincide con la demanda de los padres de Adam Raine, un adolescente que se suicidó en abril tras meses de interacción con ChatGPT. El caso reabrió el debate sobre la responsabilidad de las plataformas de IA en la seguridad emocional de los usuarios y aceleró la implementación de nuevas salvaguardias.
