C’è un paradosso nell’appello lanciato da Dario Amodei. Il fondatore di Anthropic, uno degli uomini che più stanno accelerando lo sviluppo dell’intelligenza artificiale, chiede ora di rallentare la corsa ai modelli più avanzati. Se i rischi sono così seri, viene spontaneo domandarsi perché siano proprio le aziende che li denunciano a continuare a investire miliardi per spostare sempre più avanti la frontiera tecnologica.
La risposta sta nel sistema competitivo in cui quelle aziende si muovono. Fermarsi unilateralmente significa lasciare spazio agli altri. E quando si parla di intelligenza artificiale, “gli altri” significa soprattutto Cina.
Per Amodei il rallentamento dovrebbe quindi essere coordinato. Una pausa condivisa potrebbe concedere tempo alla ricerca sulla sicurezza senza alterare troppo i rapporti di forza tra i protagonisti della frontiera tecnologica. Una frenata solitaria, invece, avrebbe un costo immediato in termini di capacità, sviluppo e posizionamento industriale.
Su questo terreno sicurezza, investimenti e geopolitica si sovrappongono per forza di cose.
Indice degli argomenti
Il rischio tecnologico entra nei bilanci
Le aziende che guidano la corsa all’AI stanno mobilitando capitali enormi, sostenendo costi infrastrutturali sempre più elevati e puntando a valorizzazioni che si misurano in centinaia di miliardi di dollari. In questo scenario un incidente legato a un modello avanzato può produrre conseguenze molto più ampie di un semplice malfunzionamento.
Contenziosi, risarcimenti, sanzioni, danni reputazionali e reazioni degli investitori possono trasformare il rischio tecnico in rischio finanziario. Più i sistemi acquistano capacità di agire autonomamente, accedere a infrastrutture o intervenire in processi reali, più diventa rilevante stabilire chi risponde quando qualcosa va storto.
I test condotti negli ultimi mesi in ambito cybersecurity hanno offerto qualche indicazione concreta. In condizioni sperimentali e con protezioni ridotte, alcuni sistemi sono riusciti a oltrepassare il perimetro previsto o a raggiungere ambienti reali mentre perseguivano il compito assegnato.
Si trattava di test, non di modelli fuori controllo nel mondo reale. Il segnale, tuttavia, riguarda un problema preciso: all’aumentare dell’autonomia cresce anche l’esposizione alle conseguenze di un errore.
Guadagnare tempo serve quindi a migliorare i sistemi di sicurezza, ma anche a capire come incorporare questo nuovo rischio nei modelli economici delle imprese.
Più sicurezza significa anche più costi
Test, audit, sistemi di supervisione, compliance, controlli e coperture assicurative richiedono risorse. Per i gruppi che dispongono già di grandi capitali e infrastrutture possono rappresentare un costo gestibile. Per un nuovo concorrente possono diventare un ostacolo all’ingresso.
Regole più severe possono così produrre due effetti contemporaneamente: ridurre i rischi e rafforzare le aziende già presenti alla frontiera.
La questione non mette in discussione la fondatezza degli allarmi. Introduce però una componente industriale che sarebbe difficile ignorare. Gli standard di sicurezza impattano sul capitale necessario per competere e, di conseguenza, anche la struttura futura del mercato.
Il tema diventa ancora più rilevante mentre cresce l’attenzione sulla valorizzazione delle principali società americane dell’AI e sulle loro possibili quotazioni. Per aziende di queste dimensioni, la capacità di governare un incidente può incidere direttamente sulla fiducia del mercato.
In Europa il quadro normativo rende questa difficoltà ancora più evidente. L’AI Act ha già introdotto obblighi differenziati in funzione del rischio e la disciplina europea sulla responsabilità da prodotto estenderà ulteriormente il perimetro delle possibili responsabilità legate a software e sistemi di intelligenza artificiale. La sicurezza entra così nel conto economico dell’AI.
Trump: frenare significa favorire la Cina
Donald Trump ha reagito all’appello di Amodei accusandolo di favorire, di fatto, Pechino. Ha rivendicato il vantaggio conquistato dagli Stati Uniti e respinto l’idea che nuove limitazioni possano rallentare una tecnologia considerata decisiva per la leadership americana.
I toni sono quelli consueti, ma dietro l’attacco emerge un orientamento politico preciso. Washington considera ormai l’intelligenza artificiale una componente della sicurezza nazionale.
L’AI attraversa ricerca scientifica, industria, cybersecurity, intelligence, infrastrutture critiche e difesa. Il suo sviluppo dipende inoltre dal controllo di semiconduttori avanzati, capacità computazionale, energia e grandi infrastrutture di calcolo. Il vantaggio nei modelli può quindi propagarsi rapidamente ad altri settori dell’economia e della capacità militare.
Una decisione sul ritmo di sviluppo dell’intelligenza artificiale assume perciò conseguenze che vanno ben oltre il mercato delle tecnologie digitali.
Anche Pechino mette l’AI al centro della sicurezza nazionale
La stessa lettura emerge dalle dichiarazioni arrivate dalla Cina. Chen Yixin, capo del ministero della Sicurezza di Stato, ha indicato l’AI come uno dei principali terreni della competizione tecnologica mondiale e della rivalità tra grandi potenze. Ha richiamato i rischi connessi a cyberattacchi, spionaggio, disinformazione e applicazioni militari e ha chiesto un controllo più stretto da parte dello Stato e del Partito comunista.
Nelle stesse ore il ministero degli Esteri cinese ha invece esortato a evitare allarmismi che possano ostacolare la governance globale dell’intelligenza artificiale.
Le due posizioni rispondono a piani differenti. Sul fronte interno Pechino vuole controllare una tecnologia che può incidere sulla sicurezza e sulla stabilità politica. Sul fronte internazionale punta a preservare margini di sviluppo mentre il confronto tecnologico con gli Stati Uniti diventa sempre più serrato.
Anche l’attenzione cinese agli usi militari dell’AI conferma quanto la partita sia ormai lontana dal solo mercato dei modelli generativi. Algoritmi capaci di accelerare analisi, targeting, intelligence e decisioni operative hanno un valore strategico diretto.
Per l’Occidente il costo della sicurezza pesa sulla competizione
Il confronto con la Cina introduce anche una differenza tra sistemi economici. Le imprese americane ed europee devono progressivamente incorporare nei propri investimenti obblighi regolatori, responsabilità giuridiche, audit, gestione del rischio e possibili conseguenze finanziarie degli incidenti. Il modello cinese opera dentro un rapporto diverso tra Stato, imprese, capitale e regolazione.
La competizione riguarda perciò anche le condizioni alle quali l’AI può essere sviluppata e portata sul mercato.
Da questo punto di vista acquista significato la posizione di Amodei sui controlli all’export verso la Cina. Il fondatore di Anthropic sostiene restrizioni sull’accesso cinese ai chip più avanzati e alla capacità computazionale necessaria per addestrare i modelli di frontiera.
La combinazione delle due richieste è significativa: concedere più tempo alla sicurezza senza permettere al principale concorrente strategico degli Stati Uniti di utilizzare quel tempo per ridurre il divario tecnologico.
Il tema della moratoria si salda così con la politica dei semiconduttori e con il controllo delle infrastrutture necessarie allo sviluppo dell’intelligenza artificiale.
Un accordo sull’AI dovrebbe passare da Washington e Pechino
Le aziende possono rafforzare autonomamente i test, introdurre procedure più rigide o concordare standard comuni. Una pausa sulle capacità più avanzate richiederebbe però un livello diverso di governance.
Bisognerebbe stabilire quali sistemi sottoporre ai limiti, quali parametri utilizzare e come verificarne il rispetto. Potenza computazionale, capacità dei modelli e tipologia degli impieghi potrebbero offrire criteri differenti. Resterebbe inoltre il problema delle attività militari e di intelligence, molto più difficili da sottoporre a controlli reciproci.
La proposta canadese di creare un organismo internazionale per la stabilità tecnologica parte da questa esigenza. La dimensione globale dell’AI rende fragile un sistema costruito soltanto sulla somma delle legislazioni nazionali.
Qualsiasi accordo, però, avrebbe bisogno della partecipazione delle due principali potenze tecnologiche. E richiederebbe che entrambe considerassero il controllo del rischio sufficientemente importante da accettare qualche limite alla propria libertà di sviluppo.
Il confronto tra Donald Trump e Xi Jinping assume per questo un significato che supera il dibattito sulla regolazione. Intelligenza artificiale, semiconduttori, capacità computazionale, politica industriale e sicurezza stanno entrando nella stessa partita.
La competizione si sposta sulle regole
L’appello di Amodei mette dunque in evidenza una tensione destinata a durare. Le imprese hanno interesse a ridurre il rischio che accompagna sistemi sempre più potenti; gli Stati hanno interesse a preservare il proprio vantaggio tecnologico.
Da questa tensione dipenderà anche la struttura dell’industria.
Chi potrà sostenere i costi della sicurezza? Quali soglie verranno considerate accettabili? E chi avrà abbastanza peso da partecipare alla definizione delle regole?
Sono domande che riguardano tanto la regolazione quanto gli investimenti.
Nella prossima fase dell’intelligenza artificiale il vantaggio non dipenderà soltanto dalla capacità dei modelli. Conteranno il controllo delle infrastrutture, la disponibilità di capitali, la capacità di assorbire il rischio e il peso nella definizione degli standard.
La moratoria chiesta da Amodei va letta dentro questo scenario. Nella competizione tra Stati Uniti e Cina, anche decidere quali standard di sicurezza imporre può diventare uno strumento di vantaggio industriale e geopolitico.
Partecipa alla community