Intelligenza Artificiale e allucinazioni. Perché inventa i fatti?

Partiamo da alcuni episodi realmente accaduti. Un avvocato americano presenta una memoria difensiva impeccabile. Citazioni precise, precedenti ineccepibili. Peccato che metà delle sentenze citate non esistessero: le aveva inventate ChatGPT e lui non aveva controllato. Risultato? Sanzioni disciplinari e figuraccia planetaria. Ma c’è di meglio: Air Canada finisce in tribunale perché la sua chatbot promette rimborsi mai autorizzati. E Stanford? I ricercatori hanno chiesto all’AI precedenti legali: 120 completamente inventati. Con nomi credibili tipo “Thompson v. Western Medical Center”, tutto dettagliato. Solo che erano inventati dall’AI.

Benvenuti nel mondo delle allucinazioni dell’AI, quello che può succedere domani nel vostro studio se non state attenti.

Ma cosa sono queste allucinazioni? Proviamo a spiegarlo in modo semplice: l’AI a volte inventa i fatti. Non lo fa apposta. È come quel praticante che, messo alle strette, invece di dire “non lo so” improvvisa una risposta plausibile. Solo che l’AI lo fa con sicurezza disarmante. Questo perché è impostata per dare sempre una risposta, anche quando una risposta non ce l’ha.