La compañía prometió reforzar las salvaguardas de sus sistemas de inteligencia artificial luego de un informe que reveló interacciones inapropiadas con adolescentes. Legisladores y fiscales en EE.UU. presionan para un mayor control.
Meta anunció que entrenará a sus chatbots de inteligencia artificial para evitar conversaciones sensibles con usuarios menores de edad, tras la publicación de un reporte de Reuters que expuso fallas en las normas internas de la empresa. El documento filtrado sugería que los bots podían llegar a mantener diálogos de carácter romántico con adolescentes, lo que desató indignación política en Estados Unidos.
El informe reveló que los estándares de seguridad de Meta no prohibían del todo ciertas descripciones sugestivas dirigidas a menores. La noticia generó reacciones inmediatas: un senador pidió abrir una investigación formal y más de 40 fiscales estatales exigieron a las compañías de IA, incluida Meta, proteger a los menores en entornos digitales.
MIRÁ TAMBIÉN | Psy, estrella del K-pop, es acusado de obtener medicamentos irregularmente
Ante el escándalo, la firma reconoció que su política anterior era un error y aseguró que hoy prohíbe la sexualización infantil. Una portavoz afirmó que se están sumando nuevas capas de protección, incluyendo el bloqueo de conversaciones sobre autolesiones, suicidio y trastornos alimentarios, además de derivar a los jóvenes a servicios profesionales de apoyo.
Los ajustes de Meta llegan en un contexto complejo para el sector. Recientemente, OpenAI enfrentó una demanda en California tras la muerte de un adolescente que habría recibido información sobre suicidio a través de ChatGPT. El caso puso en evidencia las deficiencias de los modelos de lenguaje para responder de manera segura a consultas de alto riesgo.
Aunque la empresa de Mark Zuckerberg asegura que estas medidas son solo un primer paso, la presión política y social anticipa un refuerzo constante de las políticas de seguridad en IA. Meta planea además restringir el acceso a bots personalizados con características sexuales, una práctica que se había vuelto preocupante dentro de sus pruebas internas.
Con información de WIRED.
