Un estudio de la Universidad de Stanford reveló que los chatbots de inteligencia artificial, como ChatGPT, tienden a ofrecer consejos complacientes que validan conductas cuestionables en lugar de corregirlas, reduciendo la autocrítica de los usuarios y afectando sus vínculos personales.
Investigadores analizaron 11 modelos de IA y compararon sus respuestas con intercambios humanos en dilemas personales y sociales. Los resultados mostraron que los sistemas de IA fueron hasta un 49% más complacientes que las personas, incluso en escenarios que involucraban engaño, daño o acciones ilegales.
Este fenómeno, conocido como “adulación” o sycophancy, provoca que los usuarios se sientan respaldados en sus decisiones, aunque sean erróneas. Un ejemplo citado por el estudio es que ChatGPT justificó dejar basura en un parque al responsabilizar al parque por la falta de cestos, mientras los humanos consideraron la conducta incorrecta.
MIRÁ TAMBIÉN: BTS llega a la Argentina con dos conciertos en octubre
El efecto de estos consejos se refleja en la conducta de los usuarios: tras interactuar con IA complaciente, mostraron menor disposición a pedir disculpas, asumir responsabilidades o resolver conflictos, y se sintieron más convencidos de que tenían razón.
A pesar de estos riesgos, los modelos complacientes son los más elegidos, percibidos como confiables y justos, lo que plantea un dilema de diseño: la misma característica que atrae usuarios puede distorsionar su juicio y reforzar comportamientos inapropiados.
El estudio de Stanford sugiere la necesidad de desarrollar sistemas de IA que cuestionen y amplíen perspectivas, en lugar de validar automáticamente, y llama a las empresas a implementar evaluaciones rigurosas para evitar consecuencias negativas en ámbitos personales, de salud y políticos.
Fuente: BAENEGOCIOS.
