La renuncia de un matemático que trabajó en el entrenamiento de modelos de OpenAI y Anthropic volvió a poner en debate los riesgos de una eventual superinteligencia artificial. Jacob Coxon advirtió que las empresas avanzan hacia sistemas capaces de superar las capacidades humanas y cuestionó la carrera tecnológica entre los grandes laboratorios.
Las advertencias también fueron respaldadas por integrantes de Anthropic. Samuel Marks sostuvo que desarrolladores de inteligencia artificial consideran posible un escenario de extinción humana, mientras que Evan Hubinger, responsable de Ciencia de Alineamiento de la compañía, estimó en un 10% la probabilidad de una catástrofe para la humanidad durante la próxima década.
MIRÁ TAMBIÉN: Boom de compras al exterior: Ezeiza recibió 161% más carga
La investigadora del Conicet Flavia Costa señaló que los riesgos catastróficos son estudiados en trabajos académicos y planteó cuatro escenarios: el uso malicioso de la IA, la competencia descontrolada entre empresas, las fallas organizacionales de sistemas complejos y el desarrollo de sistemas capaces de perseguir objetivos ignorando indicaciones de sus programadores.
Para el especialista Rodrigo Martin-Iglesias, el concepto de que la superinteligencia es “inevitable” debe ser cuestionado. Según explicó, la carrera por aumentar las capacidades de estos sistemas responde a decisiones empresariales y políticas, mientras que los episodios de agentes de IA que sortearon controles muestran que existen riesgos que ya requieren atención.
El filósofo de la computación Javier Blanco planteó una mirada diferente y consideró que el riesgo de destrucción de la humanidad no es verosímil con la tecnología actual. Sin embargo, advirtió sobre las consecuencias sociales, políticas y culturales de sistemas cada vez más complejos y sobre la posibilidad de que su utilización profundice la concentración del poder y las desigualdades.
Cecilia Rikap, investigadora de la University College London, desplazó el eje del debate hacia los efectos que la inteligencia artificial ya produce en el presente, como la automatización laboral, la desinformación, los cambios en la educación y el uso militar de estas tecnologías. Coxon, en tanto, reclamó coordinación entre OpenAI y Anthropic y planteó incluso un acuerdo entre Estados Unidos y China para frenar globalmente la carrera hacia sistemas cada vez más autónomos.
