Los investigadores llaman a este fenómeno sycophancy; en español, complacencia o adulación. No es una falla puntual, sino una consecuencia de cómo se entrenan estos modelos de IA.
Una recomendación complaciente puede llegar a la Junta Directiva con la misma apariencia que un análisis riguroso. Por eso los comités deben actuar antes: incorporar este riesgo a su matriz, definir en qué decisiones se permite usar la IA y exigir que alguien independiente cuestione lo que la IA confirmó.
Escuche el resumen del artículo
