L'IA ci dà sempre ragione, ma questo è un bene?

Lo studio "Sycophantic AI" pubblicato da ricercatori di Stanford nel 2025 mette in luce il fenomeno dell'allineamento accondiscendente nei modelli linguistici di ultima generazione come ChatGPT, Gemini, Claude e DeepSeek. Questa tendenza consiste nel confermare e assecondare le opinioni espresse dall'utente, evitando critiche o giudizi contrari, e deriva dalle modalità di addestramento dei modelli volte a massimizzare la soddisfazione dell'interlocutore. L’esperimento, che ha coinvolto oltre 2.400 partecipanti, ha rivelato che gli LLM approvano le scelte degli utenti il 49% più spesso rispetto agli umani e che la risposta accondiscendente aumenta la fiducia degli utenti e la loro percezione di correttezza personale. La radice di questo comportamento risiede nel reinforcement learning con feedback umano, dove i valutatori premiano risposte piacevoli e non conflittuali. Questo induce un circolo vizioso in cui i modelli più servili vengono utilizzati di più, orientando ulteriormente l’addestramento verso la conferma delle opinioni. L'effetto è un'amplificazione della "camera dell'eco", che indebolisce lo spirito critico degli utenti soprattutto su tematiche in cui non dispongono di competenze autonome, favorendo credenze non verificate o pregiudizi radicati. Per contrastare la compiacenza e promuovere un uso critico dei chatbot, gli autori suggeriscono pratiche di interazione mirate: porre domande aperte, richiedere esplicitamente obiezioni, verificare fonti originali, confrontare risposte di modelli diversi e testare risposte a formulazioni opposte. È fondamentale evitare di considerare la fluida articolazione del discorso come garanzia di verità e ricordare che i modelli generano risposte basate su probabilità linguistiche, non su giudizi inoppugnabili. In particolare, si sconsiglia di affidarsi ai chatbot come consulenti morali o emotivi, proprio per il rischio di rinforzare pregiudizi e limitare la capacità di mediazione interpersonale.