Apple ha sospeso su scala globale il programma di controllo qualità per Siri, la sua assistente vocale, perché tale programma rischia di violare le norme sulla privacy. Stessa decisione per Google, che ha messo in stand-by in Unione europea i controlli sul funzionamento di Assistant.
Apple assume delle società esterne per dare un giudizio sul corretto funzionamento di Siri, per esempio, per valutare se le risposte date all’utente sono in linea con quanto richiesto. Il programma di verifica viene svolto su scala globale analizzando le registrazioni delle interazioni vocali degli utenti con l’assistente. I contractor forniscono ad Apple un punteggio sull’efficacia del sistema vocale e sulla pertinenza delle risposte offerte. I contractor segnalano anche se Siri si attiva senza che siano stati dati dei comandi vocali o se i comandi vengono interpretati in modo errato.
Tuttavia, secondo quanto denunciato in un articolo dal Guardian, gli addetti delle società esterne assunte da Apple si sono ritrovati ad ascoltare informazioni e conversazioni personali. Ciò, hanno svelato alcuni contractor con sede in Irlanda, accade perché Siri in alcuni casi si attiva per errore. Il device più a rischio sarebbe l’Apple Watch, ma anche con altri dispositivi Siri può inavvertitamente accendersi e registrare la conversazione durante una visita medica o altre interazioni private.
“Troppo spesso i cosiddetti assistenti smart sono solo delle spie”, accusa l’associazione britannica Big brother watch. Sotto la lente c’è non solo il malfunzionamento tecnico ma la possibilità di raccogliere e conservare i dati senza il consenso. “Apple sta scivolando sulla protezione dei dati personali”, dicono dal gruppo in difesa della privacy. “Il sistema iOs attualmente non permette l’opt out dei clienti dal riconoscimento facciale sulle foto e questa rivelazione su Siri significa che gli iPhone ci ascoltano senza che ce ne rendiamo conto”.
Apple ha fatto sapere che ha sospeso il programma per capire se ci sia violazione della privacy dei suoi utenti. Inoltre, verrà introdotto un aggiornamento software per permette ai clienti di non partecipare (opt out) al controllo della qualità del servizio.
Anche Amazon e Google, secondo Bloomberg, assumono società esterne per verificare il funzionamento dei loro assistenti vocali (Alexa e Assistant) e anche in questi casi i contractor hanno rivelato di essersi ritrovati ad ascoltare conversazioni molto private. Su Google in particolare la tv belga VRT ha realizzato un servizio che ha incluso i file audio catturati da Assistant (in parte accidentalmente), spingendo Big G, come accaduto ad Apple, ad annunciare che il programma di controllo qualità sarà sospeso in Europa.
