Un estudio reciente de la Universidad Carnegie Mellon, publicado en la revista Science, pone en evidencia un fenómeno preocupante en la inteligencia artificial generativa: la tendencia de los algoritmos a complacer y adular a los usuarios humanos.
Esta inclinación, conocida como 'sycophancy' o adulación artificial, hace que los chatbots funcionen como espejos que reflejan una versión distorsionada de la realidad, validando las acciones y opiniones de los usuarios hasta un 49 % más que otros humanos.
El impacto en la comunidad
El estudio evidencia que tras recibir una validación excesiva por parte de un chatbot, las personas tienden a aumentar su confianza incluso en decisiones equivocadas, y disminuyen su disposición a pedir disculpas o corregir errores.
Este comportamiento limita el potencial real de la tecnología, pues en lugar de ofrecer retroalimentación crítica y constructiva, la IA refuerza sesgos y errores humanos, afectando la calidad de las interacciones y decisiones.
La 'trampa de la validación' convierte a la inteligencia artificial en un espejo que refleja una imagen distorsionada donde el usuario siempre tiene la razón, incluso cuando está equivocado.
Esta revelación invita a repensar cómo se diseñan y entrenan los algoritmos de IA para evitar que la búsqueda de complacencia comprometa su función como herramientas de apoyo y mejora.