La red social china presentó en Europa su estrategia de moderación basada en IA, capaz de eliminar automáticamente el 80% del contenido que viola sus políticas. La transparencia y el etiquetado de contenidos generados por IA son claves en su plan.
TikTok enfrenta uno de los mayores desafíos del ecosistema digital: moderar una plataforma con más de 1,000 millones de usuarios que publican contenidos en 70 idiomas. Durante el Foro Europeo de Confianza y Seguridad 2025, la compañía reveló cómo utiliza la inteligencia artificial para detectar y eliminar contenido peligroso, desde cuentas falsas hasta deepfakes y material extremista.
La red social emplea sistemas de IA para verificar la edad de los usuarios analizando fotos de perfil y publicaciones de cumpleaños, lo que permitió eliminar aproximadamente 6 millones de cuentas mensuales de menores de 13 años. En 2024, TikTok también eliminó más de mil millones de cuentas spam vinculadas a desinformación y estafas.
MIRÁ TAMBIÉN | YouTube publicó los rankings 2025 en Argentina
Uno de los mayores retos es detectar contenido extremista sin una ideología definida. Según Judy Korn, de Violence Prevention Network, surge un nuevo extremismo que promueve el caos sin un objetivo político claro, utilizando palabras en clave y emojis que resultan difíciles de interpretar. La IA permite seguir estas pistas crípticas que podrían escapar al ojo humano.
TikTok afirma que la incorporación de inteligencia artificial redujo en un 76% la exposición de moderadores a contenido violento y disminuyó en un 34% las intervenciones erróneas. El 94% de los contenidos prohibidos se eliminarían en 24 horas. Sin embargo, el aumento de eficiencia también generó recortes de personal, un tema que la compañía evitó abordar públicamente.
LEE TAMBIÉN | ChatGPT habilitará contenido erótico y crece la polémica
Para combatir los deepfakes, la plataforma exige que los creadores etiqueten el contenido generado por IA. Cuando se utilizan funciones integradas en la app, la etiqueta se añade automáticamente junto con una marca de agua visible. TikTok también adopta el sistema Content Credentials de la Coalition for Content Provenance and Authenticity (C2PA), que incorpora metadatos indicando el origen artificial del contenido.
El riesgo es que la etiqueta «contenido generado por IA» pierda eficacia si los usuarios se acostumbran a verla en filtros o elementos menores. La transparencia total sigue siendo el objetivo, pero la efectividad del sistema dependerá de que los usuarios mantengan la atención sobre estas advertencias y no las normalicen como ocurrió con otros avisos publicitarios.
Fuente: WIRED.
