Human-in-the-loop

Definizione

Human-in-the-loop (HITL) si riferisce a sistemi in cui il giudizio umano è integrato nei flussi di lavoro dell'intelligenza artificiale per attività quali formazione, valutazione o processo decisionale.

Missione

L'obiettivo è combinare le competenze umane con l'efficienza dell'intelligenza artificiale, garantendo qualità, controllo etico e sicurezza nelle applicazioni sensibili.

Importanza

• Riduce gli errori nei settori ad alto rischio (ad esempio, sanità, difesa).
• Migliora la formazione attraverso il feedback umano.
• Fornisce responsabilità nei sistemi automatizzati.
• Più lento e costoso rispetto all'automazione completa.

Come funziona

1. Definire le aree in cui è richiesta la supervisione umana.
2. Raccogli output o suggerimenti dell'IA.
3. Gli esseri umani convalidano, correggono o forniscono feedback.
4. Il feedback viene integrato per riaddestrare o perfezionare i modelli.
5. Monitorare le prestazioni del sistema con una revisione umana continua.

Esempi (mondo reale)

• Moderazione dei contenuti: gli esseri umani esaminano i post segnalati dall'intelligenza artificiale.
• Intelligenza artificiale in ambito medico: i medici convalidano le diagnosi generate dall'intelligenza artificiale.
• Apprendimento per rinforzo dal feedback umano (RLHF): addestra modelli linguistici come ChatGPT.

Riferimenti / Ulteriori letture

• Amershi et al. "Potere al popolo: il ruolo degli esseri umani nell'apprendimento automatico interattivo". AI Magazine.
• Quadro di gestione del rischio dell'intelligenza artificiale del NIST.
• Standard IEEE per sistemi Human-in-the-Loop.
• Comprendere l'uomo nel ciclo