Rendere pubblici soltanto i pesi (weights) di un modello di intelligenza artificiale non basta per definirlo open source. Se l’obiettivo è favorire il progresso scientifico, la trasparenza e l’innovazione, è necessario condividere anche tutti gli altri elementi che hanno permesso di costruire il modello. Lo sostiene un’analisi pubblicata dallo Stanford HAI (Stanford University Human-Centered Artificial Intelligence), sottolineando che solo una vera Ai open source permetterà un’innovazione trasparente e equa nel settore dell’intelligenza artificiale, che non dipenda dai pesi delle aziende private guidate dal profitto e nemmeno da quelli di singole nazioni che vogliono diffondere valori di uno specifico sistema politico. I dati dell’AI devono essere globali e rappresentare la diversità di culture globali.
“Negli ultimi anni molti modelli sono stati presentati come open, ma nella maggior parte dei casi sono più correttamente definiti open-weight“, chiarisce l’analisi dello Stanford HAI. “Ciò significa che gli sviluppatori rendono disponibili i pesi del modello, ossia i parametri appresi durante l’addestramento, permettendo ad altri di scaricarlo, eseguirlo localmente e adattarlo a nuovi compiti. Tuttavia, rimangono spesso riservati il codice utilizzato per l’addestramento, i dataset impiegati, le procedure di pulizia dei dati, le configurazioni sperimentali e le varie fasi di ottimizzazione. Di conseguenza, il modello può essere utilizzato, ma non può essere realmente ricostruito o verificato nella sua interezza”.
Indice degli argomenti
Modelli AI open-weight, la sfida Usa-Cina
I modelli Ai open weight sono sistemi di intelligenza artificiale in cui i parametri numerici appresi durante l’addestramento (“pesi”) vengon resi pubblici e scaricabili, a differenza dei modelli chiusi. La differenza principale rispetto all’open source tradizionale risiede nel fatto che vengono rilasciati i file dei pesi, ma non sempre i dati o il codice completo di addestramento.
I modelli open-weight cinesi hanno fatto progressi straordinari negli ultimi mesi, con offerte di aziende come DeepSeek e Alibaba che hanno ridotto il divario di prestazioni con le controparti americane, sottolinea l’analisi. Lo stesso AI index dello Stanford HAI ha rilevato che tale gap tra Usa e Cina si è ridotto a pochi punti percentuali lo scorso anno. Due nuovi modelli cinesi riducono ulteriormente questo divario: Kimi K3 di Moonshot AI, un modello da 2,8 trilioni di parametri con una finestra di contesto da un milione di token e 2,4 trilioni di parametri, e Qwen3.8-Max di Alibaba, anch’esso con 2,4 trilioni di parametri.
Si tratta dei modelli Ai open-weight più potenti finora, che si avvicinano nelle classifiche ai modelli americani con le prestazioni migliori. Questi nuovi modelli dimostrano grandi miglioramenti nelle prestazioni dell’Ai open-weight, e offrono un costo inferiore rispetto ai modelli di Ai americani di fascia alta.
Intanto i responsabili politici statunitensi si stanno concentrando sempre più sui rischi per la sicurezza informatica e nazionale posti dall’intelligenza artificiale.
Le politiche dell’amministrazione Trump
“L’attuale amministrazione statunitense è passata da una posizione che privilegiava l’innovazione a una più reattiva, richiedendo un preavviso per il rilascio di nuovi modelli e, in un caso, costringendo Anthropic a disattivare completamente Mythos 5 e Fable 5 in seguito a un ordine di controllo delle esportazioni del Dipartimento del Commercio”, si legge nell’analisi dell’Università di Stanford. “Ora che i laboratori cinesi stanno colmando il divario di competenze, l’amministrazione sta valutando se estendere questo tipo di controllo anche ai modelli open source cinesi”.
Il dibattito ha portato a una risposta da parte delle aziende americane: Nvidia, Microsoft, Meta e oltre 20 altre società hanno pubblicato una lettera aperta in cui mettono in guardia Washington contro “restrizioni premature” sui modelli di intelligenza artificiale open weight, sottolineando la necessità di competitività in un mercato globale agguerrito. Ma James Landay, direttore del Denning Institute for Human-Centered AI di Stanford, pur concordando con l’intento della lettera, ritiene che non colga appieno il punto.
“Gli open weight rappresentano un progresso”, afferma “Puoi scaricare il modello, eseguirlo sulla tua macchina e tenerlo fuori dalla pipeline di dati di qualcun altro. Ma non puoi comunque vedere come è stato costruito, su cosa è stato addestrato o perché si comporta in un certo modo. Questo non è un modello aperto. Questa è una distribuzione aperta“.
Ai open-weight non è Ai open source
Secondo Landay della Stanford University, questa limitazione crea un problema soprattutto per la ricerca scientifica. Uno dei principi fondamentali della scienza è infatti la riproducibilità: un esperimento deve poter essere ripetuto da altri ricercatori per verificarne i risultati.
Se manca l’accesso ai dati di addestramento, al codice e alla documentazione completa, nessuno è in grado di ricostruire il processo che ha portato alla realizzazione del modello. In pratica, si può osservare il risultato finale, ma non il percorso che lo ha generato. Questo limita la possibilità di controllare la qualità del lavoro svolto, individuare eventuali errori o proporre miglioramenti.
Inoltre, la semplice disponibilità dei pesi non garantisce nemmeno una reale trasparenza. Analizzare milioni o miliardi di parametri numerici non permette infatti di capire quali dati siano stati utilizzati, quali decisioni progettuali siano state adottate o quali bias possano essere stati introdotti durante l’addestramento. Per comprendere davvero il funzionamento di un modello servono informazioni molto più ampie, come la provenienza dei dati, i criteri di selezione, le tecniche di addestramento e la documentazione dell’intero processo.
I veri rischi dei modelli chiusi
Lo Stanford HAI propone una visione più equa che porti davvero l’open source nell’intelligenza artificiale. Un modello dovrebbe essere accompagnato da tutti gli elementi necessari per permettere a chiunque di studiarlo, modificarlo e ricrearlo: codice sorgente, dataset (quando legalmente condivisibili), pipeline di addestramento, configurazioni sperimentali, documentazione tecnica e criteri di valutazione. Solo così la comunità scientifica può verificare i risultati, confrontare approcci diversi e costruire nuove ricerche su basi solide.
“I modelli chiusi – siano essi americani o di altra provenienza – non sono necessariamente meno sicuri nell’immediato, ma comportano rischi di concentrazione“, secondo l’analisi di Landay. “Un numero ristretto di aziende che controllano le funzionalità di frontiera dietro un’Api significa che un numero ristretto di aziende decide chi ha accesso, a quale prezzo e quali valori vengono incorporati in uno strumento che media sempre più il modo in cui le persone lavorano e pensano”.
Gli esperti della Stanford riconducono questo fenomeno a uno schema ricorrente: piattaforme che inizialmente creano valore per gli utenti e che gradualmente si orientano verso la sua estrazione esclusiva a vantaggio del proprio profitto.
“Concentrare le capacità di frontiera in una manciata di sistemi chiusi significa semplicemente concentrare gli angoli ciechi”, prosegue l’esperto.
L’AI sta diventando un’arma globale
I modelli chiusi rischiano, inoltre, di codificare una porzione più ristretta dei valori mondiali rispetto al mondo a cui sono destinati. Una manciata di laboratori – che siano negli Stati Uniti o in Cina – che addestrano sistemi di frontiera principalmente con i propri dati, nel proprio linguaggio e secondo le proprie ipotesi, producono strumenti che di fatto diffondono la visione del mondo di una cultura nella vita quotidiana di tutti gli altri.
“E poiché le capacità di frontiera sono concentrate in poche aziende e in pochi paesi, diventano anche un punto di strozzatura strategico”, afferma Landay. Già oggi l’accesso a tecnologie di intelligenza artificiale si sta trasformando in una merce di scambio in una controversia commerciale o in una disputa sul controllo delle esportazioni, e le persone e le aziende che ne dipendono rimangono intrappolate nel mezzo.
Unire apertura e innovazione: le università al centro
Landay dello Stanford HAI ricorda che, al contrario, molti dei progressi dell’intelligenza artificiale sono stati possibili proprio grazie alla tradizione della scienza aperta: algoritmi, librerie software, benchmark e dataset condivisi hanno consentito a ricercatori di tutto il mondo di migliorare continuamente le tecnologie esistenti. Se oggi vengono condivisi soltanto i modelli finali, ma non il processo con cui sono stati costruiti, questo meccanismo virtuoso rischia di rallentare e di concentrare il potere scientifico e tecnologico nelle mani di poche grandi aziende.
La soluzione potrebbe essere un modello che offre tre caratteristiche chiave: Ai decentralizzata (si può eseguire localmente o sui propri server anziché noleggiarla), portabilità dei dati (il contesto e i dati dell’utente viaggiano tra le piattaforme senza vincolarlo a una sola), agenti verificabili (i creatori, e le loro azioni, sono effettivamente verificabili).
Tuttavia, nulla di tutto ciò funziona se i modelli sottostanti vengono ancora sviluppati a porte chiuse da una manciata di aziende. Lo Stanford HAI ritiene che colmare questo divario sia compito di un tipo di istituzione completamente diverso: le università – proprio quei centri di ricerca cui l’amministrazione Trump taglia i fondi.
“Le istituzioni accademiche possono impegnarsi in tempi più lunghi del ciclo di vita di un prodotto, pubblicare lavori destinati a essere verificati piuttosto che semplicemente utilizzati e approfondire questioni senza un chiaro percorso verso il profitto, costruendo e studiando direttamente sistemi all’avanguardia, non modelli proxy o accesso Api alle scatole nere di terzi“, conclude Landay.
Partecipa alla community