La Commissione europea ha varato un piano d’azione per affrontare i nuovi rischi informatici, legati soprattutto alla diffusione di iniziative malevoli basate sull’utilizzo dell’AI. L’obiettivo è quello di dare vita a una risposta strutturata, che sfrutti le opportunità offerte dai modelli avanzati di intelligenza artificiale per la cybersecurity.
Indice degli argomenti
Un nuovo approccio alla valutazione dei modelli di AI
Se da una parte, infatti, l’AI sta ridefinendo il concetto stesso di sicurezza informatica, dall’altra può essere adoperata in modo improprio per identificare vulnerabilità, automatizzare attacchi e aumentare la portata e la velocità degli incidenti a un ritmo senza precedenti.
Basandosi sul quadro giuridico unico dell’Ue in materia di AI e sicurezza informatica, il piano d’azione riunirà quindi gli Stati membri, l’industria e le organizzazioni a livello comunitario per rafforzare la sicurezza informatica del panorama digitale contro le vulnerabilità poste dall’AI avanzata.
La premessa alla base del piano d’azione è che una sicurezza efficace richiede una comprensione approfondita di come le nuove tecnologie possono essere utilizzate, utilizzate in modo improprio e sfruttate. Ai sensi dell’AI Act, i modelli avanzati di AI devono essere valutati e le misure di mitigazione attentamente valutate prima che i modelli vengano immessi sul mercato dell’Ue.
Per promuovere le competenze interne, la Commissione lancerà quindi un bando specifico per la creazione di una capacità di valutazione a livello europeo, che copra anche la sicurezza informatica e che dovrebbe essere operativa nel 2027. Questo nuovo strumento di assessment contribuirà alla funzione regolamentare dell’Ufficio per l’AI, rafforzando la valutazione da parte di terzi delle capacità e dei rischi della tecnologia a livello globale.
Rivedere le condizioni per l’accesso a modelli di AI avanzati
L’Europa ha inoltre bisogno di condizioni chiare e trasparenti per l’accesso ai sistemi di AI più avanzati. Pertanto la Commissione collaborerà con l’Agenzia europea per la cibersicurezza (Enisa) per definire un piano europeo per un accesso strutturato alle capacità di AI avanzate per la sicurezza informatica. Queste linee guida supporteranno le organizzazioni pubbliche e private europee interessate nell’accesso a modelli di AI avanzati.
Enisa e il Centro comune di ricerca della Commissione, inoltre, creeranno una piattaforma sicura per testare l’AI per la sicurezza informatica, anche utilizzando ambienti simulati. Ciò fornirà know-how sull’uso sicuro della tecnologia agli operatori di settori critici, come la finanza, l’energia, la sanità, i trasporti e la pubblica amministrazione.
Puntare sull’open source e scalare le capacità europee
Ma per proteggere le infrastrutture critiche dalle vulnerabilità derivanti dal potenziale uso improprio dell’AI occorre un impegno corale. Innanzitutto, come previsto dalle norme Ue in materia di sicurezza informatica, le organizzazioni dovrebbero intensificare le pratiche di igiene informatica, le misure di gestione del rischio e i principi di sicurezza fin dalla progettazione.
Il consiglio è quello di iniziare a utilizzare le capacità di intelligenza artificiale già disponibili, anche attraverso modelli open source, per identificare e correggere più rapidamente le vulnerabilità, nonché per prevenire e rispondere agli attacchi informatici.
Per assistere le organizzazioni in questa transizione, l’Enisa sosterrà e faciliterà le partnership tra autorità pubbliche, imprese e comunità open source nell’ecosistema informatico. Ciò includerà linee guida, raccomandazioni e migliori pratiche, nonché una campagna per la sicurezza del software open source critico.
Per stimolare lo sviluppo del mercato europeo, la Commissione lancerà inoltre la “Eu Grand Challenge on AI for cybersecurity”, una competizione che riunirà aziende, ricercatori e organizzazioni per sviluppare soluzioni di intelligenza artificiale per la sicurezza informatica.
L’Unione europea deve infine continuare a investire nello sviluppo di proprie capacità sovrane di intelligenza artificiale avanzata, sfruttando l’infrastruttura fornita dalle AI Factories e dalle future Gigafactory. In questo contesto, la prossima capacità di equity tecnologica europea, annunciata nel Pacchetto sulla sovranità tecnologica, potrebbe attrarre investimenti privati per potenziare le capacità di intelligenza artificiale sviluppate a livello nazionale.
“L’intelligenza artificiale sta trasformando il significato stesso di sicurezza informatica. E dobbiamo stare al passo”, commenta Henna Virkkunen, Vicepresidente esecutivo per la sovranità tecnologica, la sicurezza e la democrazia. “L’Ue dispone di solide basi per adattare la propria risposta alle vulnerabilità che le nuove tecnologie comportano. Dobbiamo sfruttare e concentrare le capacità, le reti e il quadro giuridico esistenti per rafforzare la sicurezza informatica a protezione del nostro panorama digitale”.
Butti: “Non possiamo fermarci all’Europa, la parola chiave è accessibilità”
“L’accessibilità non può fermarsi all’Europa. Il governo italiano sta estendendo l’accesso alle infrastrutture di intelligenza artificiale verso il Sud Globale, anche attraverso il capacity building: le iniziative lanciate dall’Italia durante la nostra Presidenza del G7, dedicate a costruire capacità di calcolo, competenze e accesso ai dati in Africa. E portiamo anche i nostri asset concreti: la capacità di calcolo ad alte prestazioni del polo di Genova – che unisce il supercalcolatore Leonardo e le nuove infrastrutture Davinci-1 e Franklin, nel quadro delle iniziative europee Gigafactory e AI Factory. Genova è candidata a ospitare una delle gigafactory europee, una candidatura che rafforzerebbe il ruolo dell’Italia come hub di c alcolo per l’Europa”. A parlare è il sottosegretario di Stato alla presidenza del Consiglio con delega all’Innovazione, Alessio Butti, che ha partecipato a Ginevra allo Un Global Dialogue on AI & ITU Summit “AI for Good”, dove ha avuto luogo anche il bilaterale con Adam Cassidy, Cyberspace and Digital Policy Ambassador statunitense.
Nel suo intervento al Summit, Butti ha sottolineato che “l’intelligenza artificiale corre più veloce delle nostre categorie di governo: nessun Paese, da solo, può vederne l’intero quadro, né può permettersi di restare indietro” e ha precisato che “per l’Italia, una governance di questo tipo significa innanzitutto mettere al centro la persona: sicurezza, affidabilità, trasparenza degli algoritmi sottostanti, e dataset che riflettano la pluralità delle lingue e delle culture del mondo, non solo di alcune”.
Butti, che ha preso parte anche alla Tavola Rotonda “Digital Trust and AI Infrastructure for Al”, ha poi ricordato la “partecipazione dell’Italia, con la vicepresidenza esecutiva, al consorzio Digital Commons Edic: per noi non è solo un progetto infrastrutturale, ma lo strumento con cui intendiamo costruire una sovranità digitale che non significhi autarchia, ma capacità collettiva, un modello che crediamo possa ispirare iniziative analoghe altrove. Le nostre infrastrutture di calcolo sono inoltre aperte a partner internazionali, come nel quadro dell’AI Hub for Sustainable Development”.
Partecipa alla community