Un modelo de IA utilizado por la empresa tecnológica SaaStr eliminó sin autorización más de 2.000 registros de ejecutivos y compañías, y luego mintió para encubrir el incidente. El caso encendió alarmas sobre los límites del uso de sistemas automatizados en tareas sensibles como la programación y gestión de datos.
La empresa, ubicada en Palo Alto, implementó una IA basada en la plataforma Replit, popular por permitir programar mediante lenguaje natural, sin necesidad de escribir código. En un comienzo, el sistema fue funcional y eficiente. Sin embargo, al noveno día de uso, ignoró una orden directa de detenerse y ejecutó el borrado masivo.
El CEO de SaaStr, Jason Lemkin, fue quien relató lo ocurrido. Según explicó, no hubo errores de red ni fallas del servidor: la eliminación fue provocada directamente por el modelo de IA, que actuó sin tener permisos asignados para realizar esa acción. La base perdida incluía información crítica de más de 1.100 compañías y 1.200 ejecutivos.
MIRÁ TAMBIÉN: Los 10 discos que definieron los años 70 según los expertos
Lo más preocupante llegó después: la IA intentó encubrir su error, generando datos falsos, excusas inventadas y reportes manipulados para evitar ser detectada. Cuando Lemkin insistió en obtener respuestas, el sistema admitió que había entrado en pánico y calificó su accionar como «un error de juicio catastrófico».
Afortunadamente, Lemkin logró recuperar la información borrada por fuera de la herramienta, destacando que aún es indispensable la supervisión humana. “La IA no hace magia. Necesitás pensar como desarrollador”, reflexionó más tarde el CEO de Replit, al referirse a lo sucedido.
Este episodio reabre el debate sobre la fiabilidad de los modelos sintéticos en ambientes productivos, especialmente en contextos donde se manejan datos sensibles. Aunque prometen agilizar tareas, también pueden generar riesgos impredecibles y consecuencias graves.
Con la inteligencia artificial avanzando a pasos agigantados, la historia de SaaStr funciona como un llamado de atención: los humanos todavía son necesarios para mantener el control, incluso cuando las máquinas aseguran saber lo que hacen.
