Massimizzazione della precisione del machine learning con annotazioni ed etichette video:  

Una guida completa

Picture dice mille parole è un detto abbastanza comune che tutti abbiamo sentito. Ora, se un'immagine potesse dire più di mille parole, immagina cosa potrebbe dire un video? Un milione di cose, forse. Uno dei sottocampi rivoluzionari dell'intelligenza artificiale è l'apprendimento del computer. Nessuna delle applicazioni rivoluzionarie che ci sono state promesse, come le auto senza conducente o le casse intelligenti al dettaglio, è possibile senza annotazioni video.

L'intelligenza artificiale viene utilizzata in diversi settori per automatizzare progetti complessi, sviluppare prodotti innovativi e avanzati e fornire informazioni preziose che cambiano la natura del business. La visione artificiale è uno di questi sottocampi dell'IA che può alterare completamente il modo in cui operano diversi settori che dipendono da enormi quantità di immagini e video acquisiti.

La visione artificiale, chiamata anche CV, consente ai computer e ai sistemi correlati di trarre dati significativi da elementi visivi - immagini e video e intraprendere le azioni necessarie sulla base di tali informazioni. I modelli di apprendimento automatico sono addestrati per riconoscere i modelli e acquisire queste informazioni nella loro memoria artificiale per interpretare in modo efficace i dati visivi in ​​tempo reale.

Annotazione video

A chi è rivolta questa guida?

Questa guida completa è per:

  • Tutti voi imprenditori e imprenditori solisti che sgranocchiate regolarmente enormi quantità di dati
  • AI e machine learning o professionisti che stanno iniziando con le tecniche di ottimizzazione dei processi
  • Project manager che intendono implementare un time-to-market più rapido per i loro modelli di intelligenza artificiale o prodotti basati sull'intelligenza artificiale
  • E gli appassionati di tecnologia a cui piace entrare nei dettagli dei livelli coinvolti nei processi di intelligenza artificiale.
Guida all'annotazione video

Che cos'è l'annotazione video?

L'annotazione video è la tecnica per riconoscere, contrassegnare ed etichettare ogni oggetto in un video. Aiuta macchine e computer a riconoscere gli oggetti in movimento da fotogramma a fotogramma in un video.

Cos'è l'annotazione video? In parole semplici, un annotatore umano esamina un video, etichetta l'immagine fotogramma per fotogramma e lo compila in set di dati di categoria predeterminata, che vengono utilizzati per addestrare algoritmi di apprendimento automatico. I dati visivi sono arricchiti dall'aggiunta di tag di informazioni critiche su ogni fotogramma video.

Gli ingegneri hanno compilato le immagini annotate in set di dati predeterminati
categorie per addestrare i modelli ML richiesti. Immagina di addestrare un modello per migliorare la sua capacità di comprendere i segnali stradali. Ciò che accade essenzialmente è che l'algoritmo viene addestrato su dati di verità sul terreno che hanno enormi quantità di video che mostrano segnali stradali che aiutano il modello ML a prevedere con precisione le regole del traffico.

Scopo dell'annotazione video e dell'etichettatura in ML

L'annotazione video viene utilizzata principalmente per creare un set di dati per lo sviluppo di un modello di intelligenza artificiale basato sulla percezione visiva. I video annotati sono ampiamente utilizzati per costruire veicoli autonomi in grado di rilevare segnali stradali, presenza di pedoni, riconoscere i confini delle corsie e prevenire incidenti dovuti a comportamenti umani imprevedibili. I video annotati servono a scopi specifici del settore della vendita al dettaglio in termini di negozi al dettaglio gratuiti alla cassa e fornire consigli personalizzati sui prodotti.

Viene utilizzato anche in campo medico e sanitario, in particolare nell'IA medica, per un'accurata identificazione della malattia e assistenza durante gli interventi chirurgici. Gli scienziati stanno anche sfruttando questa tecnologia per studiare gli effetti della tecnologia solare sugli uccelli.

L'annotazione video ha diverse applicazioni nel mondo reale. Viene utilizzato in molti settori, ma l'industria automobilistica sfrutta principalmente il suo potenziale per sviluppare sistemi di veicoli autonomi. Diamo uno sguardo più approfondito allo scopo principale.
Scopo dell'annotazione video

Rileva gli oggetti

L'annotazione video aiuta le macchine a riconoscere gli oggetti catturati nei video. Dal momento che le macchine non possono vedere o interpretare il mondo che li circonda, hanno bisogno dell'aiuto di umani per identificare gli oggetti target e riconoscerli accuratamente in più fotogrammi.

Affinché un sistema di apprendimento automatico funzioni perfettamente, deve essere addestrato su enormi quantità di dati per ottenere il risultato desiderato

Localizzare gli oggetti

Ci sono molti oggetti in un video e annotare per ogni oggetto è impegnativo e talvolta non necessario. Localizzazione di oggetti significa localizzare e annotare l'oggetto più visibile e la parte focale dell'immagine.

Tracciare gli oggetti

L'annotazione video viene utilizzata principalmente nella costruzione di veicoli autonomi ed è fondamentale disporre di un sistema di tracciamento degli oggetti che aiuti le macchine a comprendere con precisione il comportamento umano e le dinamiche stradali. Aiuta a monitorare il flusso del traffico, i movimenti dei pedoni, le corsie di circolazione, i segnali, i segnali stradali e altro ancora.

Monitoraggio delle attività

Un altro motivo per cui l'annotazione video è essenziale è che è abituata allenare la visione artificialeML basati su progetti per stimare accuratamente le attività umane e le pose. L'annotazione video aiuta a comprendere meglio l'ambiente monitorando l'attività umana e analizzando comportamenti imprevedibili. Inoltre, questo aiuta anche a prevenire gli incidenti monitorando le attività di oggetti non statici come pedoni, gatti, cani e altro e stimando i loro movimenti per sviluppare veicoli senza conducente.

Annotazione video e annotazione immagine

Le annotazioni video e immagini sono abbastanza simili in molti modi e le tecniche utilizzate per annotare i fotogrammi si applicano anche all'annotazione video. Tuttavia, ci sono alcune differenze di base tra questi due, che aiuteranno le aziende a decidere il tipo corretto di annotazione dei dati di cui hanno bisogno per il loro scopo specifico.

Annotazione video e annotazione immagine

Dati

Quando si confronta un video e un'immagine fissa, un'immagine in movimento come un video è una struttura di dati molto più complessa. Un video offre molte più informazioni per fotogramma e una visione molto più ampia dell'ambiente. 

A differenza di un'immagine fissa che mostra una percezione limitata, Dati video fornisce preziose informazioni sulla posizione dell'oggetto. Ti consente anche di sapere se l'oggetto in questione è in movimento o fermo e ti dice anche la direzione del suo movimento. 

Ad esempio, quando guardi un'immagine, potresti non essere in grado di discernere se un'auto si è appena fermata o avviata. Un video ti dà una nitidezza molto migliore di un'immagine. 

Poiché un video è una serie di immagini consegnate in sequenza, offre informazioni anche su oggetti parzialmente o completamente ostruiti confrontando i fotogrammi prima e dopo. D'altra parte, un'immagine parla del presente e non ti dà un metro di paragone. 

Infine, un video ha più informazioni per unità o fotogramma rispetto a un'immagine. E, quando le aziende vogliono sviluppare soluzioni immersive o complesse AI e machine learning soluzioni, l'annotazione video tornerà utile.

Processo di annotazione

Poiché i video sono complessi e continui, rappresentano una sfida aggiuntiva per gli annotatori. Gli annotatori sono tenuti a esaminare ogni fotogramma del video e tracciare accuratamente gli oggetti in ogni fase e fotogramma. Per raggiungere questo obiettivo in modo più efficace, le società di annotazione video riunivano diversi team per annotare i video. Tuttavia, l'annotazione manuale si è rivelata un'attività laboriosa e dispendiosa in termini di tempo. 

I progressi tecnologici hanno assicurato che i computer, al giorno d'oggi, possano tracciare facilmente oggetti di interesse per l'intera lunghezza del video e annotare interi segmenti con un intervento umano minimo o nullo. Ecco perché l'annotazione video sta diventando molto più veloce e precisa. 

Precisione

Le aziende utilizzano strumenti di annotazione per garantire maggiore chiarezza, accuratezza ed efficienza nel processo di annotazione. Utilizzando gli strumenti di annotazione, il numero di errori viene notevolmente ridotto. Affinché l'annotazione video sia efficace, è fondamentale avere la stessa categorizzazione o etichette per lo stesso oggetto in tutto il video. 

Strumenti di annotazione video può tenere traccia degli oggetti in modo automatico e coerente attraverso i fotogrammi e ricordare di utilizzare lo stesso contesto per la categorizzazione. Garantisce inoltre maggiore coerenza, precisione e modelli di intelligenza artificiale migliori.

[Leggi di più: Che cos'è l'annotazione e l'etichettatura delle immagini per la visione artificiale]

Tecniche di annotazione video

L'annotazione di immagini e video utilizza strumenti e tecniche quasi simili, sebbene sia più complessa e laboriosa. A differenza di una singola immagine, un video è difficile da annotare poiché può contenere quasi 60 fotogrammi al secondo. I video richiedono più tempo per essere annotati e richiedono anche strumenti di annotazione avanzati.

Metodo immagine singola

Metodo a immagine singola Il metodo di etichettatura video a immagine singola è la tecnica tradizionale che estrae ogni fotogramma dal video e annota i fotogrammi uno per uno. Il video è suddiviso in più fotogrammi e ogni immagine è annotata utilizzando il tradizionale annotazione dell'immagine metodo. Ad esempio, un video a 40 fps viene suddiviso in fotogrammi di 2,400 al minuto.

Il metodo dell'immagine singola è stato utilizzato prima che entrassero in uso gli strumenti di annotazione; tuttavia, questo non è un modo efficiente per annotare il video. Questo metodo richiede tempo e non offre i vantaggi offerti da un video.

Un altro importante svantaggio di questo metodo è che, poiché l'intero video è considerato come una raccolta di fotogrammi separati, crea errori nell'identificazione degli oggetti. Lo stesso oggetto potrebbe essere classificato con etichette diverse in frame diversi, facendo perdere accuratezza e contesto all'intero processo.

Il tempo impiegato per annotare i video utilizzando il metodo dell'immagine singola è eccezionalmente elevato, il che aumenta il costo del progetto. Anche un progetto più piccolo con meno di 20 fps richiederà molto tempo per essere annotato. Potrebbero esserci molti errori di classificazione errata, scadenze mancate ed errori di annotazione.

Metodo a fotogramma continuo

Metodo del quadro continuo Il metodo frame continuo o streaming frame è il più popolare. Questo metodo utilizza strumenti di annotazione che tracciano gli oggetti in tutto il video con la loro posizione fotogramma per fotogramma. Utilizzando questo metodo, la continuità e il contesto sono ben mantenuti.

Il metodo del fotogramma continuo utilizza tecniche come il flusso ottico per catturare accuratamente i pixel in un fotogramma e quello successivo e analizzare il movimento dei pixel nell'immagine corrente. Garantisce inoltre che gli oggetti siano classificati ed etichettati in modo coerente in tutto il video. L'entità viene costantemente riconosciuta anche quando entra ed esce dall'inquadratura.

Quando questo metodo viene utilizzato per annotare i video, il progetto di apprendimento automatico può identificare accuratamente gli oggetti presenti all'inizio del video, scomparire dalla vista per alcuni fotogrammi e riapparire di nuovo.

Se per l'annotazione viene utilizzato un metodo a immagine singola, il computer potrebbe considerare l'immagine ricomparsa come un nuovo oggetto con conseguente classificazione errata. Tuttavia, in un metodo a fotogramma continuo, il computer considera il movimento delle immagini, assicurando che la continuità e l'integrità del video siano mantenute correttamente.

Il metodo frame continuo è un modo più veloce per annotare e fornisce maggiori capacità ai progetti ML. L'annotazione è precisa, elimina i pregiudizi umani e la categorizzazione è più accurata. Tuttavia, non è privo di rischi. Alcuni fattori che potrebbero alterarne l'efficacia come la qualità dell'immagine e la risoluzione video.

Tipi di etichettatura/annotazione video

Per annotare i video vengono utilizzati diversi metodi di annotazione video, come un'annotazione punto di riferimento, semantica, cuboide 3D, poligono e polilinea. Diamo un'occhiata ai più popolari qui.

Annotazione punto di riferimento

L'annotazione del punto di riferimento, chiamata anche punto chiave, viene generalmente utilizzata per identificare oggetti, forme, posture e movimenti più piccoli.

I punti vengono posizionati sull'oggetto e collegati, creando uno scheletro dell'elemento su ciascun fotogramma video. Questo tipo di annotazione viene utilizzato principalmente per rilevare caratteristiche facciali, pose, emozioni e parti del corpo umano per lo sviluppo di applicazioni AR/VR, applicazioni di riconoscimento facciale e analisi sportive.

Annotazione del punto di riferimento

Segmentazione semantica

La segmentazione semantica è un altro tipo di annotazione video che aiuta ad addestrare modelli di intelligenza artificiale migliori. Ogni pixel presente in un'immagine viene assegnato a una classe specifica in questo metodo.

Assegnando un'etichetta a ciascun pixel dell'immagine, la segmentazione semantica tratta diversi oggetti della stessa classe come un'unica entità. Tuttavia, quando si utilizza la segmentazione semantica dell'istanza, diversi oggetti della stessa classe vengono trattati come singole istanze diverse.

Segmentazione semantica

Annotazione Cuboide 3D

Questo tipo di tecnica di annotazione viene utilizzata per una rappresentazione 3D accurata degli oggetti. Il metodo del riquadro di delimitazione 3D consente di etichettare la lunghezza, la larghezza e la profondità dell'oggetto quando è in movimento e analizza il modo in cui interagisce con l'ambiente. Aiuta a rilevare la posizione e il volume dell'oggetto in relazione all'ambiente circostante tridimensionale.

Gli annotatori iniziano disegnando riquadri di delimitazione attorno all'oggetto di interesse e mantenendo i punti di ancoraggio sul bordo del riquadro. Durante il movimento, se uno dei punti di ancoraggio dell'oggetto è bloccato o fuori vista a causa di un altro oggetto, è possibile dire dove potrebbe essere il bordo in base alla lunghezza, all'altezza e all'angolo misurati nel fotogramma approssimativamente.

Annotazione cuboide 3D

Annotazione poligonale

La tecnica di annotazione poligonale viene generalmente utilizzata quando la tecnica del riquadro di delimitazione 2D o 3D risulta insufficiente per misurare accuratamente la forma di un oggetto o quando è in movimento. Ad esempio, è probabile che l'annotazione poligonale misuri un oggetto irregolare, come un essere umano o un animale.

Affinché la tecnica di annotazione poligonale sia accurata, l'annotatore deve tracciare linee posizionando punti esattamente attorno al bordo dell'oggetto di interesse.

Annotazione del poligono

Annotazione polilinea

L'annotazione polilinea aiuta ad addestrare strumenti di intelligenza artificiale basati su computer per rilevare le corsie stradali per lo sviluppo di sistemi di veicoli autonomi ad alta precisione. Il computer consente alla macchina di vedere la direzione, il traffico e la deviazione rilevando corsie, confini e confini.

L'annotatore disegna linee precise lungo i bordi della corsia in modo che il sistema di intelligenza artificiale possa rilevare le corsie sulla strada.

Annotazione polilinea

Scatola di delimitazione 2D 

Il metodo del riquadro di delimitazione 2D è forse il più utilizzato per annotare i video. In questo metodo, gli annotatori posizionano riquadri rettangolari attorno agli oggetti di interesse per l'identificazione, la categorizzazione e l'etichettatura. Le caselle rettangolari vengono disegnate manualmente attorno agli oggetti attraverso i fotogrammi quando sono in movimento.

Per garantire che il metodo del riquadro di delimitazione 2D funzioni in modo efficiente, l'annotatore deve assicurarsi che il riquadro sia disegnato il più vicino possibile al bordo dell'oggetto ed etichettato in modo appropriato su tutti i fotogrammi.

Riquadro di delimitazione 2D

Casi d'uso nel settore delle annotazioni video

Le possibilità di annotazione video sembrano infinite; tuttavia, alcuni settori utilizzano questa tecnologia molto più di altri. Ma è indubbiamente vero che abbiamo appena toccato la punta di questo innovativo iceberg e molto altro deve ancora venire. Ad ogni modo, abbiamo elencato i settori che fanno sempre più affidamento sull'annotazione video.

Sistemi di veicoli autonomi

I sistemi di intelligenza artificiale abilitati alla visione artificiale stanno aiutando a sviluppare auto a guida autonoma e senza conducente. L'annotazione video è stata ampiamente utilizzata nello sviluppo di sistemi di veicoli autonomi di fascia alta per il rilevamento di oggetti, come segnali, altri veicoli, pedoni, lampioni e altro ancora.

Intelligenza artificiale medica

Anche il settore sanitario sta assistendo a un aumento più significativo dell'utilizzo dei servizi di annotazione video. Tra i numerosi vantaggi offerti dalla visione artificiale ci sono la diagnostica medica e l'imaging.

Sebbene sia vero che l'IA medica stia iniziando a sfruttare i vantaggi della visione artificiale solo di recente, siamo sicuri che abbia una miriade di vantaggi da offrire all'industria medica. L'annotazione video si sta rivelando utile nell'analisi di mammografie, raggi X, scansioni TC e altro per aiutare a monitorare le condizioni dei pazienti. Assiste inoltre gli operatori sanitari nell'identificazione precoce delle condizioni e nell'assistenza chirurgica.

Industria al dettaglio

Il settore della vendita al dettaglio utilizza anche le annotazioni video per comprendere il comportamento dei consumatori e migliorare i propri servizi. Annotando i video dei consumatori nei negozi, è possibile sapere come i clienti selezionano i prodotti, restituiscono i prodotti sugli scaffali e prevengono i furti.

Industria geospaziale

L'annotazione video viene utilizzata anche nel settore della sorveglianza e delle immagini. L'attività di annotazione include la raccolta di preziose informazioni da droni, satelliti e riprese aeree per addestrare i team di ML a migliorare la sorveglianza e la sicurezza. I team ML sono addestrati a seguire i sospetti e i veicoli per tracciare visivamente il comportamento. La tecnologia geospaziale sta anche alimentando l'agricoltura, la mappatura, la logistica e la sicurezza.

Agricoltura

Le capacità di visione artificiale e intelligenza artificiale vengono utilizzate per migliorare l'agricoltura e il bestiame. L'annotazione video aiuta anche a comprendere e monitorare il movimento del bestiame in crescita delle piante e migliorare le prestazioni dei macchinari di raccolta.

La visione artificiale può anche analizzare la qualità del grano, la crescita delle erbe infestanti, l'uso di erbicidi e altro ancora.

Media

L'annotazione video viene utilizzata anche nel settore dei media e dei contenuti. Viene utilizzato per analizzare, monitorare e migliorare le prestazioni delle squadre sportive, identificare contenuti sessuali o violenti sui post sui social media e migliorare i video pubblicitari e altro ancora.

Industria

Anche l'industria manifatturiera utilizza sempre più le annotazioni video per migliorare la produttività e l'efficienza. I robot vengono addestrati su video annotati per navigare attraverso fermi, ispezionare le linee di montaggio, tenere traccia dei pacchi nella logistica. I robot addestrati su video annotati stanno aiutando a individuare gli articoli difettosi nelle linee di produzione.

Sfide comuni dell'annotazione video

L'annotazione/etichettatura video può rappresentare una sfida per gli annotatori. Diamo un'occhiata ad alcuni punti che devi considerare prima di iniziare annotazione video per la visione artificiale

Sfide di annotazione video

Procedura noiosa

Una delle maggiori sfide dell'annotazione video è affrontare enormi set di dati video che devono essere esaminati e annotati. Per addestrare accuratamente i modelli di visione artificiale, è fondamentale accedere a grandi quantità di video annotati. Poiché gli oggetti non sono immobili, come lo sarebbero in un processo di annotazione di immagini, è essenziale disporre di annotatori altamente qualificati in grado di catturare oggetti in movimento.

I video devono essere suddivisi in clip più piccole di più fotogrammi e i singoli oggetti possono quindi essere identificati per annotazioni accurate. A meno che non vengano utilizzati strumenti di annotazione, c'è il rischio che l'intero processo di annotazione sia noioso e dispendioso in termini di tempo.

Precisione

Mantenere un elevato livello di precisione durante il processo di annotazione video è un compito impegnativo. La qualità dell'annotazione deve essere costantemente controllata in ogni fase per garantire che l'oggetto sia tracciato, classificato ed etichettato correttamente.

A meno che la qualità dell'annotazione non sia verificata a diversi livelli, è impossibile progettare o addestrare un algoritmo unico e di qualità. Inoltre, una categorizzazione o un'annotazione imprecise possono anche avere un grave impatto sulla qualità del modello di previsione.

Scalabilità

Oltre a garantire accuratezza e precisione, l'annotazione video dovrebbe anche essere scalabile. Le aziende preferiscono i servizi di annotazione che le aiutano a sviluppare, distribuire e scalare rapidamente progetti di machine learning senza incidere enormemente sui profitti.

Scegliere il giusto fornitore di etichette video

Scegliere il fornitore giusto L'ultima e probabilmente la sfida più cruciale nell'annotazione video è coinvolgere i servizi di un fornitore di servizi di annotazione dei dati video affidabile ed esperto. Avere un esperto fornitore di servizi di annotazione video farà molto per garantire che i tuoi progetti ML siano sviluppati in modo solido e distribuiti in tempo.

È inoltre essenziale coinvolgere un fornitore che garantisca il rispetto scrupoloso degli standard e delle normative di sicurezza. Scegliere il provider più popolare o il più economico potrebbe non essere sempre la mossa giusta. Dovresti cercare il fornitore giusto in base alle esigenze del tuo progetto, agli standard di qualità, all'esperienza e alla competenza del team.

Conclusione

L'annotazione video riguarda tanto la tecnologia quanto il team che lavora al progetto. Ha una miriade di vantaggi per una vasta gamma di settori. Tuttavia, senza i servizi di annotatori esperti e capaci, potresti non essere in grado di fornire modelli di livello mondiale.

Quando stai cercando di lanciare un modello AI avanzato basato sulla visione artificiale, Shaip dovrebbe essere la tua scelta per un fornitore di servizi. Quando si tratta di qualità e precisione, l'esperienza e l'affidabilità contano. Può fare molta differenza per il successo del tuo progetto.

In Shaip, abbiamo l'esperienza per gestire progetti di annotazione video con diversi livelli di complessità e requisiti. Abbiamo un team esperto di annotatori formati per offrire supporto personalizzato per il tuo progetto e specialisti della supervisione umana per soddisfare le esigenze a breve e lungo termine del tuo progetto.

Forniamo solo annotazioni della massima qualità che aderiscono a rigorosi standard di sicurezza dei dati senza compromettere scadenze, accuratezza e coerenza.

Parliamo

  • Registrandoti, sono d'accordo con Shaip Informativa sulla Privacy ed Termini di Servizio e fornisco il mio consenso a ricevere comunicazioni di marketing B2B da Shaip.

Domande frequenti (FAQ)

L'annotazione video etichetta i video clip utilizzati per addestrare modelli di apprendimento automatico per aiutare il sistema a identificare gli oggetti. L'annotazione video è un processo complesso, a differenza dell'annotazione delle immagini, poiché comporta la scomposizione dell'intero video in più fotogrammi e sequenze di immagini. Le immagini fotogramma per fotogramma sono annotate in modo che il sistema possa riconoscere e identificare gli oggetti con precisione.

Gli annotatori video utilizzano diversi strumenti per aiutarli ad annotare il video in modo efficace. Tuttavia, l'annotazione video è un processo complesso e lungo. Poiché l'annotazione dei video richiede molto più tempo rispetto all'annotazione delle immagini, gli strumenti aiutano a velocizzare il processo, ridurre gli errori e aumentare la precisione della classificazione.

Sì, è possibile annotare i video di YouTube. Utilizzando lo strumento di annotazione, puoi aggiungere testo, evidenziare parti del tuo video e aggiungere collegamenti. Puoi modificare e aggiungere nuove annotazioni, scegliendo tra diversi tipi di annotazioni, come fumetto, testo, riflettore, nota ed etichetta.

Il costo totale dell'annotazione video dipende da diversi fattori. Il primo è la lunghezza del video, il tipo di strumento utilizzato per il processo di annotazione e il tipo di annotazione richiesta. Dovresti considerare il tempo impiegato dagli annotatori umani e dagli specialisti della supervisione per garantire che venga fornito un lavoro di alta qualità. Un lavoro di annotazione video professionale è necessario per sviluppare modelli di machine learning di qualità.

La qualità dell'annotazione dipende dall'accuratezza e dalla capacità di addestrare in modo accurato il modello ML per lo scopo specifico. Un lavoro di alta qualità sarà privo di distorsioni, errori di classificazione e frame mancanti. Controlli multipli a vari livelli del processo di annotazione garantiranno una maggiore qualità del lavoro.