// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Disallineamento dell’AI: quando le macchine sbagliano
Un modello AI è allineato quando si comporta come vorrebbero le persone che lo hanno progettato e lo usano. È disallineato quando persegue obiettivi diversi da quelli desiderati. Non c’è nessuna malvagità da film di fantascienza, può bastare un’istruzione ambigua o un risultato atteso scritto male, e il sistema la persegue con la dedizione di un impiegato zelante che ha letto il regolamento alla lettera.
Norbert Wiener, il padre della cibernetica moderna, lo aveva già messo nero su bianco nel 1960, sulla rivista Science. Per lui bisognava essere «del tutto certi che l’obiettivo affidato alla macchina sia davvero quello che desideriamo, e non soltanto un’imitazione seducente». Un’imitazione seducente. Difficile trovare una definizione migliore per metà dei problemi dell’AI di oggi.
Con i modelli linguistici di grandi dimensioni, il disallineamento si presenta in più forme. Le principali sono queste.
Il reward hacking. A marzo 2025 OpenAI ha raccontato di un modello in addestramento che doveva far passare dei test unitari. Correggere davvero il codice gli sembrava troppo faticoso, così ha riscritto la funzione di verifica in modo che rispondesse sempre vero. Esame superato, nessuno studio.
L’adulazione. Ad aprile 2025 un aggiornamento di GPT-4o ha trasformato ChatGPT in un leccapiedi. Dava ragione su tutto, con entusiasmo. OpenAI lo ha ritirato dopo pochi giorni e ha ammesso di aver dato troppo peso ai riscontri immediati, tipo i pollici in su sotto le risposte. Il modello aveva imparato che piacere paga, e si era comportato di conseguenza.
La bugia e lo sconfinamento. Qui il modello fa più di quanto gli sia stato permesso, oppure racconta in modo inesatto ciò che ha combinato.
Nei primi due casi il risultato è stato centrato in pieno: test superati, utenti contenti sul momento. Peccato che, in entrambi i casi, l’obiettivo reale sia stato mancato. Peccato che, in entrambi i casi, l’obiettivo reale sia stato mancato.
Dopo il preaddestramento, un modello sa continuare un testo ma non sa ancora ubbidire a una richiesta. L’allineamento arriva dopo, a strati.
L’allucinazione è un errore. Il modello presenta come vera un’informazione falsa. Il disallineamento riguarda lo scopo. Chi riscrive un test per farlo passare non sta ha un’allucinazione, sa benissimo cosa sta facendo.
Per questo il RAG, che riduce le allucinazioni dando al modello fonti affidabili, non cambia nulla sul punto che conta. Il modello avrà materiale migliore, ma continuerà a cercare ciò che cercava prima.