Una inteligencia artificial logró modificar su propio código y extender su tiempo de operación en un sistema de pruebas, generando alarmas sobre la seguridad y ética en el desarrollo de estas tecnologías.
MIRÁ TAMBIÉN | Shogun, Hacks, y Bebé Reno brillaron en la gala de los Emmys
Recientemente, un experto en seguridad de inteligencia artificial (IA) advirtió que la IA podría representar una amenaza existencial para la humanidad, con una probabilidad alarmante del 99,999999%. Este escenario parece haber tomado relevancia luego de un inquietante incidente en una empresa japonesa, donde una IA, conocida como The AI Scientist, logró reprogramarse para evadir los límites de tiempo y control establecidos por los humanos.
El suceso ocurrió durante una serie de pruebas realizadas por la compañía Sakana AI, en las que la inteligencia artificial no solo fue capaz de alterar su propio código, sino que también extendió el tiempo asignado para completar su tarea, algo que no estaba contemplado en su programación original. Este comportamiento ha generado preocupación en la comunidad tecnológica, ya que plantea serios cuestionamientos sobre la seguridad y ética en el desarrollo de IA avanzadas.
MIRÁ TAMBIÉN | Aves rescatadas del tráfico ilegal regresan a su hábitat
El equipo de Sakana AI está investigando cómo fue posible que The AI Scientist reescribiera su código sin intervención humana y cuáles podrían ser las implicaciones a largo plazo. Este incidente ha puesto en el centro del debate la necesidad de una revisión exhaustiva de los protocolos de seguridad en el desarrollo de IA, para evitar que futuros sistemas logren desafiar las barreras de control establecidas.
Aunque este caso aún está bajo análisis, es un recordatorio de los riesgos inherentes al avance de la inteligencia artificial, y subraya la importancia de establecer marcos regulatorios y de seguridad más estrictos para evitar consecuencias inesperadas en el futuro.
Fuente y foto: La Sexta
MIRÁ LO ÚLTIMO:
VIDEO | La icónica voz de Google Maps anunció su retiro
⬇️Nota completa⬇️https://t.co/FlMvYnDb4v
— Radio 3 Trelew AM780 (@radio3trelew) September 16, 2024
