Allucinazione

Definizione

Nell'intelligenza artificiale, il termine "allucinazione" si riferisce a casi in cui un modello genera output fluenti ma fattualmente errati o privi di senso. È particolarmente comune nei modelli linguistici di grandi dimensioni e nell'intelligenza artificiale generativa.

Missione

Lo studio delle allucinazioni contribuisce a migliorare l'affidabilità e la sicurezza dei modelli. Consente agli sviluppatori di progettare misure di sicurezza per rilevare e ridurre risultati imprecisi.

Importanza

• Se non affrontato, riduce la fiducia nell'intelligenza artificiale.
• Può causare danni in applicazioni sensibili come quelle sanitarie o legali.
• Evidenzia i limiti degli attuali modelli generativi.
• Promuove la ricerca sui metodi di fondamento e recupero dei fatti.

Come funziona

1. Il modello riceve un prompt o una query.
2. Genera output basati su modelli appresi, non sulla verifica dei fatti.
3. Potrebbe produrre risultati apparentemente plausibili ma errati.
4. Vengono applicate tecniche di rilevamento e correzione (ad esempio, RAG).

Esempi (mondo reale)

• Talvolta ChatGPT produce dati errati quando richiesto.
• La demo iniziale di Google Bard mostrava errori fattuali.
• A volte i consigli medici generati dall'intelligenza artificiale contengono inesattezze.

Riferimenti / Ulteriori letture

• “Riduzione delle allucinazioni nei modelli linguistici di grandi dimensioni” — preprint su arXiv.
• Quadro di gestione del rischio dell'intelligenza artificiale del NIST.
• Mitchell et al. “Schede modello per la segnalazione di modelli”. ACM FAccT.
• Cause delle allucinazioni dell'intelligenza artificiale