El foco está puesto en la generación de deep fakes sin consentimiento y en el cumplimiento de la Ley de Servicios Digitales.
La Unión Europea inició una investigación formal contra la red social X, propiedad de Elon Musk, por la difusión de contenido ilegal vinculado al uso de su chatbot Grok, capaz de modificar imágenes y generar representaciones sexualizadas sin consentimiento.
La decisión surge tras reclamos de usuarios y organismos que advirtieron que la herramienta permite alterar imágenes reales, incluyendo las de figuras públicas y personas comunes, con resultados explícitos. El objetivo es determinar si la plataforma protege adecuadamente a los usuarios y mitiga los riesgos asociados al uso de esta tecnología.
La investigación se enmarca en la Ley de Servicios Digitales (DSA), que obliga a las plataformas a prevenir daños y proteger los derechos de los consumidores europeos. De comprobarse incumplimientos, X podría enfrentar sanciones previstas por esa normativa.
MIRÁ TAMBIÉN | Una telaraña con propiedades únicas podría revolucionar el diseño de materiales
Henna Virkkunen, vicepresidenta ejecutiva de Soberanía Tecnológica, Seguridad y Democracia, afirmó que los deep fakes sexuales “son una forma violenta e inaceptable de degradación”, y sostuvo que el proceso permitirá evaluar si la red social cumplió con sus obligaciones legales.
El anuncio se conoce luego de que el Reino Unido también abriera una investigación contra X por posibles violaciones a la Ley de Seguridad en Línea, con especial atención en imágenes íntimas no consentidas y material de abuso sexual infantil. El gobierno británico incluso evalúa prohibir herramientas que faciliten la creación de este tipo de contenidos.
Desde X, Musk cuestionó las medidas y las vinculó a un intento de limitar la libertad de expresión, mientras que autoridades europeas y británicas remarcaron que las acciones buscan frenar la violencia digital y garantizar estándares de protección equivalentes a los que rigen fuera de línea.
Fuente: Rolling Stone.
