LLM o SLM? Quando si tratta di modelli linguistici di intelligenza artificiale, per le imprese la risposta potrebbe essere SLM (Small Language Models), ovvero i modelli linguistici piccoli, in grado di offrire competenze precise e specifiche per il settore. Anche per gli operatori Tlc questi modelli possono generare importanti vantaggi, sia nella gestione intelligente delle reti che nella generazione di risparmi. Come ce lo ha spiegato Benjamin Lorenz, Industry Solutions Head for Telco, Media & Content di MongoDB, che ha definito l’Ai generativa e gli SLM “un’opportunità di business trasformativa” per le telco. Nel lungo termine, le aziende delle Tlc potranno anche generare ricavi dall’AI, diventando dei potenziali fornitori di piattaforme, offrendo servizi di AI-as-a-service a PMI o partner all’interno del proprio ecosistema.
Il corretto dimensionamento è molto importante nell’adozione pratica dell’AI in azienda, sia in termini di prestazioni che di costi. Gli LLM (Large language model) generici possono rivelarsi imprecisi negli usi circoscritti. Sono anche non necessari, se si tratta di svolgere attività di complessità non alta, come riassumere verbali o documenti, aiutare nella scrittura di email o svolgere analisi di dati.
I modelli linguistici di piccole e medie dimensioni (SLM) offrono numerosi vantaggi: richiedono molta meno potenza computazionale, riducendo anche il consumo energetico, e sono più semplici da addestrare e ottimizzare, permettendo aggiornamenti più frequenti ed evitando i lunghi cicli di training tipici dei modelli di grandi dimensioni. Questo li mantiene più contestualizzati. Gli SLM rafforzano anche la governance e la sovranità dei dati, visto che riducono la dipendenza da modelli grandi e centralizzati: gli sviluppatori possono creare applicazioni che garantiscono che i dati restino all’interno dei confini prestabiliti e siano conformi ai requisiti di residenza.
D. Benjamin Lorenz, quale ruolo possono avere gli operatori Tlc in Italia e in Europa nell’ecosistema dei modelli linguistici, e in particolare di quelli più piccoli o specializzati SLM?
R. Gli operatori Tlc hanno una posizione unica nell’ecosistema degli SLM. Dispongono di enormi quantità di dati utente e dati storici ricchi di interazioni con i clienti, e hanno infrastrutture complesse. A differenza dei modelli linguistici generici di grandi dimensioni o LLM, gli SLM possono essere ottimizzati per rispondere a esigenze specifiche del settore telecom, come la diagnostica di rete, le richieste di fatturazione o la previsione dell’abbandono dei clienti, rendendo le applicazioni più accurate, veloci ed economiche.
D. Portare un SLM in house e on premises è più facile che con gli LLM. C’è spazio per una nuova fonte di ricavi per le aziende Tlc?
R. Non si tratta tanto di nuova fonte di ricavi, quanto piuttosto di risparmio e efficienza. L’hosting degli SLM in-house consente agli operatori telecom di mantenere il controllo sui dati, sulla latenza e sulla compliance – aspetti critici in mercati regolamentati come l’Italia e l’Unione Europea. Ma al di là del controllo dell’infrastruttura, il valore immediato risiede nell’efficienza operativa. Gli SLM, ad esempio, possono migliorare in modo significativo i sistemi di assistenza clienti, risolvendo in modo preventivo problemi che altrimenti potrebbero portare all’abbandono da parte dell’utente.
Abbiamo grandi operatori telecom come clienti che danno ai propri utenti finali router Wi-Fi e modem via cavo, in grado di inviare al server informazioni in tempo reale sulla qualità della rete e sui problemi di connessione, in modo che gli addetti dell’assistenza clienti o gli agenti automatizzati possano reagire, grazie all’AI, idealmente anche prima della chiamata dell’utente. Con gli SLM on-premise o on-device, il servizio clienti può essere ulteriormente ottimizzato, offrendo consigli in linguaggio naturale senza passaggi dal server – cosa importante per risolvere un problema di connessione, superando il dilemma dell’uovo e della gallina che altrimenti si verificherebbe, cioè recuperare consigli da un server irraggiungibile. MongoDB, in collaborazione con Aws, ha già realizzato con successo prototipi di questo tipo di soluzione.
Anche la generazione di ricavi attraverso la rivendita o il white-label di soluzioni AI rappresenta un’opportunità a lungo termine, ma l’impatto iniziale si traduce in risparmio sui costi e fedeltà dei clienti. È in gioco anche la reputazione: le telco possono rispondere in modo più rapido e intelligente, rafforzando la fiducia degli utenti e riducendo il numero di chiamate ai call center.
D. In generale, l’AI Generativa e gli SLM possono rappresentare un’opportunità di generare business di valore per le TLC? Come?
R. Sì, l’AI generativa e gli SLM sono catalizzatori per il business di alto valore. Il valore si articola su due fronti: riduzione dei costi grazie all’automazione e maggiore insight grazie all’analisi dei dati. Questa combinazione migliora il processo decisionale e riduce gli attriti operativi.
Si tratta, in sostanza, di trasformare risorse già esistenti, come interazioni con i clienti, log tecnici, ticket di supporto, in asset strategici. Funzionalità come il riassunto automatico, il riconoscimento dell’intento e l’analisi predittiva basate sull’AI possono alimentare campagne più mirate, strategie di upselling più intelligenti e una riduzione del tasso di abbandono. In questo senso, l’opportunità di business non è solo di alto valore: è trasformativa.
D. Quali strategie suggerisce oggi alle aziende TLC nell’era dell’AI Generativa?
R. Le aziende TLC dovrebbero agire su tre fronti:
1. Dare priorità ai casi d’uso interni. Partire dal miglioramento dell’efficienza operativa: ottimizzare il supporto clienti, automatizzare i flussi di lavoro interni e integrare AI nelle operazioni di rete.
2. Investire in SLM specializzati. Attraverso partnership o attività di ricerca e sviluppo (R&D) in-house, sviluppare modelli su misura per le esigenze del settore telecom, anziché affidarsi esclusivamente a LLM generici. Valutare la possibilità di implementare gli SLM sia sul lato dei server, sia come parte del CPE (Customer Premises Equipment).
3. Adottare un’architettura AI modulare. Progettare sistemi in cui i modelli possano essere sostituiti, aggiornati o riaddestrati rapidamente per garantire scalabilità e compliance.
Inoltre, le telco dovrebbero iniziare a vedersi non solo come adopters di AI, ma anche come potenziali fornitori di piattaforme, offrendo servizi di AI-as-a-service a Poi o partner all’interno del proprio ecosistema. È proprio qui che emergeranno le opportunità di ricavo a lungo termine.
