AI, Etsi lancia un framework per la valutazione della qualità dei dati negli ecosistemi digitali

Etsi lancia un framework standardizzato per la valutazione quantitativa della qualità dei dati utilizzati negli ecosistemi digitali e di intelligenza artificiale. Il framework, contenuto nel nuovo Rapporto Tecnico “Etsi TR 104 180: Soluzioni per i dati; Sviluppo e identificazione di metriche di qualità dei dati”, aiuterà le organizzazioni a determinare se i dati sono adatti allo scopo previsto, ponendo al contempo le basi per approcci coerenti, riproducibili e standardizzati al test della qualità dei dati.

Più nello specifico, il Rapporto Tecnico delinea 18 “Metriche di Qualità dei Dati”, con definizioni formali e metodi di misurazione matematica, progettati per aiutare le organizzazioni a valutare se i set di dati sono sufficientemente affidabili, completi, accurati, rappresentativi e attendibili per lo scopo previsto.

L’obiettivo del nuovo framework: i quattro parametri fondamentali

Con la sempre più diffusa adozione di soluzioni basate sull’AI, le organizzazioni si stanno cominciando a concentrare sulla qualità dei dati alla base degli ecosistemi di intelligenza artificiale. Le 18 Metriche di Qualità dei Dati di Etsi, identificate e descritte nel documento, consentono alle organizzazioni di individuare potenziali problemi di qualità, affidabilità e bias, focalizzandosi su quattro parametri:

• Qualità fondamentale dei dati, con particolare riferimento a completezza, accuratezza, affidabilità, coerenza, precisione, integrità, ridondanza e unicità.

• Usabilità, che è sinonimo di disponibilità, copertura, provenienza, tracciabilità e tempestività.

• Equità, che include la qualità delle etichette, i bias di misurazione e i bias di rappresentazione.

• Privacy e uso responsabile dei dati.

Le metriche consentono ai proprietari dei dataset di auto-verificare e auto-segnalare la qualità dei dati, aiutandoli a comunicare in modo trasparente l’affidabilità e a costruire fiducia all’interno degli ecosistemi digitali e di intelligenza artificiale.

La convalidazione del framework: il test su dati industriali e dati demografici

Per convalidare il framework e dimostrarne l’applicabilità, Etsi ha utilizzato le metriche su due dataset differenti: dati di sensori IoT industriali e dati demografici. L’esperimento ha dimostrato come le metriche possano essere utilizzate in diversi contesti di dati e ha evidenziato come diversi casi d’uso richiedano diverse combinazioni e ponderazioni delle metriche di qualità dei dati.

Nell’ambito dell’IoT industriale, infatti, caratteristiche come affidabilità, tempestività, accuratezza, completezza, tracciabilità e integrità sono particolarmente importanti. Rispetto ai dati demografici, la priorità riguarda completezza, anonimato, bias di rappresentazione, qualità delle etichette, riservatezza e copertura.

La prova di concetto è stata realizzata da un team composto da Sejong University, Egm, Tta, Daejeon University e Cnit, che ha sviluppato un sistema di validazione della qualità dei dati open source e funzionale. Lo strumento può assegnare un punteggio a qualsiasi dataset in base alle diciotto metriche di qualità dei dati definite nel Rapporto Tecnico.

“È fondamentale che la qualità dei dati sia misurabile, soprattutto per le organizzazioni che devono stabilire se i propri dati sono adatti agli scopi essenziali, come nel caso di un’IA affidabile”, spiega Diego Lopez, presidente del Comitato Tecnico Data dell’Etsi. “Le metriche standardizzate dell’Etsi forniscono un linguaggio comune per valutare la qualità dei dati, offrendo prove quantitative sull’idoneità di un dataset allo scopo previsto. Ciò pone le basi per approcci più coerenti e ripetibili alla valutazione della qualità dei dati, man mano che l’AI e le tecnologie basate sui dati continuano a evolversi”.

Chi è e cosa fa Etsi

Etsi è uno dei soli tre organismi ufficialmente riconosciuti dall’Ue come Organizzazione Europea di Standardizzazione (Eso). Si tratta di un ente indipendente e senza scopo di lucro dedicato alla standardizzazione dell’Ict.

Con oltre 900 organizzazioni membri provenienti da più di 60 paesi in cinque continenti, Etsi offre un ambiente aperto e inclusivo per i membri che rappresentano l’industria, gli istituti di ricerca, il mondo accademico, i governi e gli enti pubblici. Il gruppo supporta lo sviluppo, la ratifica e la verifica tempestivi di standard applicabili a livello globale per sistemi, applicazioni e servizi basati sull’Ict in tutti i settori.