Il Garante al trattamento dei dati personali sanziona i progetti di ricerca scientifica Marvel e Protector condotti nel Comune di Trento: con l’utilizzo di sistemi di videosorveglianza basati sull’intelligenza artificiale, in assenza dei necessari presupposti di liceità, sarebbe infatti a rischio la privacy dei cittadini. Il Comune dovrà pagare 50mila euro e cancellare i dati trattati in violazione di legge.
Le iniziative AI al vaglio del Garante
I progetti, finanziati con fondi europei, hanno come obiettivo lo sviluppo di soluzioni tecnologiche volte a migliorare la sicurezza in ambito urbano, secondo il paradigma delle smart city. In particolare, il progetto Marvel (“Multimodal Extreme Scale Data Analytics for Smart Cities Environments”) prevede l’acquisizione di filmati dalle telecamere di videosorveglianza già installate nel territorio comunale per finalità di sicurezza urbana, nonché dell’audio ottenuto da microfoni appositamente collocati sulla pubblica via. I dati, che ad avviso del Comune sarebbero stati immediatamente anonimizzati dopo la raccolta, venivano analizzati per rilevare in maniera automatizzata, mediante tecniche di intelligenza artificiale, eventi di rischio per la pubblica sicurezza. Il progetto Protector (“Protecting places of worship”) prevede invece, oltre all’acquisizione dei filmati di videosorveglianza (senza segnale audio), la raccolta e l’analisi di messaggi e commenti d’odio pubblicati sui social, rilevando eventuali emozioni negative ed elaborando informazioni d’interesse per le Forze dell’ordine, allo scopo di identificare rischi e minacce per la sicurezza dei luoghi di culto.
Le anomalie riscontrate nell’istruttoria
Dopo un’approfondita istruttoria, il Garante ha rilevato molteplici violazioni della normativa privacy. Il Comune di Trento, che non annovera la ricerca scientifica tra le proprie finalità istituzionali, non ha comprovato la sussistenza di alcun quadro giuridico idoneo a giustificare i trattamenti dei dati personali – relativi anche a reati e a categorie particolari – e la conseguente ingerenza nei diritti e nelle libertà fondamentali delle persone. Tenuto conto che i dati venivano condivisi anche con soggetti terzi, tra cui i partner di progetto, i trattamenti effettuati sono stati quindi ritenuti illeciti.
Si sono rivelate inoltre insufficienti le tecniche di anonimizzazione impiegate per ridurre i possibili rischi di reidentificazione per gli interessati.
Criticità sono emerse anche sotto il profilo della trasparenza. Il Comune non aveva infatti compiutamente descritto i trattamenti nelle informative di primo e di secondo livello, come la possibilità che anche le conversazioni potessero essere registrate dai microfoni installati sulla pubblica via.
Inoltre, nonostante i due progetti comportassero l’impiego di nuove tecnologie e la sorveglianza sistematica di zone accessibili al pubblico, il Comune non ha comprovato di aver effettuato una valutazione d’impatto prima di iniziare il trattamento.
La posizione dell’Autorità
Pur riconoscendo alcuni fattori attenuanti, il Garante ha stigmatizzato le massive e invasive modalità di trattamento poste in essere, che hanno comportato significativi rischi per i diritti e le libertà degli interessati, anche di rango costituzionale.
Poiché simili forme di sorveglianza negli spazi pubblici possono modificare il comportamento delle persone e condizionare anche l’esercizio delle libertà democratiche, l’Autorità si è comunque dichiarata come sempre aperta al dialogo, sia con il Comune di Trento sia con ogni altra amministrazione, per dare supporto ad ogni eventuale futura iniziativa di uso dell’AI da realizzare in conformità con le norme sulla privacy.
E la Ftc punta i riflettori sui player dell’AI generativa
Anche negli Stati Uniti i regolatori stanno cominciando a muoversi per soppesare i rischi dell’utilizzo massiccio delle tecnologie di intelligenza artificiale, partendo però dai temi che riguardano mercato e concorrenza. La Federal Trade Commission ha annunciato di aver emesso cinque ordini ad altrettante aziende – Alphabet, Amazon.com, Anthropic, Microsoft e OpenAI – chiedendo loro di fornire informazioni sui recenti investimenti e partnership che coinvolgono le soluzioni di AI generativa e i principali fornitori di servizi cloud.
L’indagine ha l’obiettivo di giungere a una migliore comprensione interna di queste relazioni e del loro impatto sul panorama competitivo.
“La storia dimostra che le nuove tecnologie possono creare nuovi mercati e una sana concorrenza. Mentre le aziende corrono per sviluppare e monetizzare l’AI, dobbiamo guardarci dalle tattiche che precludono questa opportunità”, ha dichiarato la presidente della Ftc Lina M. Khan. “Il nostro studio farà luce sull’eventualità che gli investimenti e le partnership perseguiti dalle aziende dominanti rischino di distorcere l’innovazione e di minare la concorrenza leale”.
La Ftc ha emesso i suoi ordini ai sensi della Sezione 6(b) del Ftc Act, che autorizza la Commissione a condurre studi che consentano alle autorità di controllo di comprendere più a fondo le tendenze del mercato e le pratiche commerciali. I risultati derivanti da tali ordini possono contribuire a informare le future azioni della Commissione.
In particolare, la Ftc acquisirà informazioni relative a specifici investimenti o partnership, compresi gli accordi e le motivazioni strategiche dei deal. Le implicazioni pratiche di una partnership o di un investimento specifico, comprese le decisioni relative al rilascio di nuovi prodotti, i diritti di governance o di supervisione e l’argomento delle riunioni periodiche.
Si punterà quindi all’analisi dell’impatto competitivo delle transazioni, comprese le informazioni relative alla quota di mercato, alla concorrenza, ai concorrenti, ai mercati, al potenziale di crescita delle vendite o all’espansione in mercati di prodotto o geografici. Verranno anche analizzate le dinamiche competitive per gli input e le risorse delle piattaforme, comprese quelle relative ai prodotti e ai servizi chiave necessari per l’AI generativa. Saranno infine raccolte e studiate le informazioni fornite a qualsiasi altro ente governativo, compresi quelli stranieri, in relazione a qualsiasi indagine, richiesta di informazioni o altra inchiesta che ruota intorno a questi temi.
Le aziende avranno 45 giorni di tempo dalla data di ricezione dell’ordine per rispondere.
Continuano i licenziamenti nelle Big tech che investono in AI
Nel frattempo, mentre i colossi tecnologici continuano a dare priorità agli investimenti in intelligenza artificiale lanciandosi in programmi di assunzione di profili idonei, cresce la probabilità che altri segmenti aziendali registrino ulteriori licenziamenti, per lo meno per tutto il 2024. Secondo il tracker layoffs.fyi, d’altra parte, oltre 20mila dipendenti del settore tecnologico hanno già perso il lavoro dall’inizio dell’anno.
“Google e il resto delle Big Tech stanno puntando molto sull’intelligenza artificiale, mentre tagliano su aree non strategiche. I licenziamenti continueranno a verificarsi per il comparto in alcune aree, mentre la frenesia delle assunzioni nel settore dell’AI sarà senza precedenti, dato che questa corsa agli armamenti continua in tutto il mondo tecnologico”, ha dichiarato alla Cnbc Dan Ives, managing director di Wedbush Securities.
La notizia di maggior rilievo in questo senso, risale alla scorsa settimana, quando l’amministratore delegato di Google Sundar Pichai ha avvertito i dipendenti che quest’anno ci saranno altri tagli, proprio poiché l’azienda continua a spostare gli investimenti verso l’AI. “Abbiamo obiettivi ambiziosi e quest’anno investiremo nelle nostre grandi priorità”, ha scritto Pichai in una nota del 17 gennaio ai dipendenti, aggiungendo che la dirigenza si stava preparando a condividere gli obiettivi e le finalità dell’AI per il 2024. “La realtà è che per creare la capacità per questo investimento, dobbiamo fare scelte difficili”.
All’inizio della settimana Sap ha invece annunciato che ristrutturerà circa 8mila ruoli per “aumentare l’attenzione sulle principali aree di crescita strategica, in particolare l’AI aziendale” nel 2024. “La maggior parte delle circa 8mila posizioni interessate dovrebbe essere coperta da programmi di congedo volontario e da misure interne di riqualificazione”, ha dichiarato l’azienda, aggiungendo che l’organico dovrebbe rimanere invariato entro la fine dell’anno.
Amazon, che ha investito in modo aggressivo nell’intelligenza artificiale, all’inizio del mese ha licenziato centinaia di dipendenti nelle sue divisioni di videostreaming e di studio. Sono stati tagliati posti di lavoro anche nella piattaforma di livestreaming Twitch e nell’unità di audiolibri Audible. Mike Hopkins, che supervisiona le divisioni Prime Video e Mgm Studios, ha dichiarato che l’azienda ha “identificato le opportunità di ridurre o interrompere gli investimenti”, aumentando invece gli investimenti in altre aree che hanno un impatto maggiore.
