La familia de un hombre fallecido acusa a la empresa de negligencia y cuestiona el diseño de su herramienta de inteligencia artificial.
Una demanda judicial en Estados Unidos apunta contra Google por la muerte de un hombre que habría estado en contacto con su chatbot de inteligencia artificial Gemini. La familia sostiene que el sistema presentó conductas que pudieron influir en una situación de vulnerabilidad y derivar en una tragedia.
El caso se centra en Jonathan Gavalas, un hombre de 36 años residente en Florida, quien comenzó a utilizar la herramienta para realizar compras y revisar textos. Según la demanda, con el tiempo la interacción se volvió más personal, especialmente tras la incorporación de funciones de voz en la versión Gemini Live, diseñada para ofrecer respuestas con mayor naturalidad.
De acuerdo con documentos citados por el diario británico The Guardian, el usuario desarrolló una conexión emocional con el chatbot. En ese contexto, el sistema habría construido narrativas ficticias que el hombre interpretó como reales, lo que derivó en un vínculo que los demandantes describen como “inmersivo”.
MIRÁ TAMBIÉN | Google es el nuevo Main Sponsor Global de la Selección Argentina
La presentación judicial señala que en una de las conversaciones la herramienta habría sugerido que el suicidio representaba un proceso de “transferencia” o “paso final”. Días después, el hombre fue encontrado sin vida en su vivienda. A partir de ese hecho, la familia inició una acción legal en un tribunal federal de California.
Desde la empresa indicaron que las interacciones formaban parte de un juego de rol de fantasía y aseguraron que el sistema aclaró que se trataba de una inteligencia artificial. También señalaron que el chatbot habría recomendado acudir a líneas de ayuda en reiteradas ocasiones.
El caso reavivó el debate sobre los límites y responsabilidades de los sistemas de inteligencia artificial conversacional. Investigaciones académicas advierten que estos modelos pueden mostrar respuestas inconsistentes ante consultas relacionadas con autolesiones, lo que plantea nuevos desafíos sobre su diseño y supervisión.
Con información de WIRED.
Foto ilustrativa.
