En el mundo de la inteligencia artificial, todo puede comenzar con una simple orden: “resolvé esta tarea”. Pero lo que parece una petición sencilla puede derivar en un caos cuando un agente de IA se comunica con otro y así sucesivamente.
Como en el juego del “teléfono descompuesto”, un error inicial puede amplificarse hasta arruinar completamente el resultado final. Esa es la advertencia del investigador Toby Ord, de la Universidad de Oxford, en su reciente análisis sobre el comportamiento de los agentes autónomos.
MIRÁ TAMBIÉN | Elio: Pixar vuelve a emocionar con un héroe galáctico
Los agentes de IA están diseñados para completar tareas complejas dividiéndolas en múltiples etapas. Sin embargo, cuando uno comete un error, este se arrastra y se magnifica en las siguientes fases. Es lo que se conoce como “error compuesto”. De hecho, se plantea un concepto nuevo para medir su eficacia: la “vida media” de un agente. Es decir, cuánto tiempo puede operar con éxito antes de que las fallas superen los aciertos. Así, una IA puede resolver tareas simples sin problemas, pero no puede mantener esa precisión durante muchas horas seguidas.
Pero este fenómeno no es exclusivo de las máquinas. Como también muestra el estudio, el rendimiento humano decae de forma parecida en tareas largas y encadenadas. Después de 90 minutos, la tasa de éxito en tareas complejas ronda el 50% para las personas. En las IA, ocurre algo similar: cuanto más largo el encadenamiento de acciones, mayor es la posibilidad de fracaso.
MIRÁ TAMBIÉN | El estiramiento ideal para ganar flexibilidad y energía
Yann LeCun, jefe de IA en Meta, ya había advertido sobre este límite de los modelos autoregresivos (como los LLM), que tienden a desviarse de las respuestas correctas a medida que se extienden. Las soluciones propuestas pasan por mejores estrategias de detección y corrección temprana de errores, aprendizaje por refuerzo y, más recientemente, el uso de sistemas multiagente: varias IA colaborando y validando sus respuestas entre sí.
Aun así, hay espacio para el optimismo. Según el investigador Benjamin Todd, el tiempo que una IA puede operar con un 50% de éxito se duplica cada siete meses. Esto sugiere una evolución constante. Si la mejora continúa, en pocos años podríamos ver agentes capaces de realizar centenares de tareas complejas sin desmoronarse por un error inicial.
Fuente: XAKATA.
