L’intelligenza artificiale generativa si è rapidamente evoluta da singoli progetti pilota a un’infrastruttura ampiamente utilizzata nei settori dello sviluppo, delle vendite, del marketing e dell’assistenza. Con l’aumento del numero di casi d’uso, cresce anche il consumo di accessi ai modelli e, di conseguenza, il peso dei costi. In molte aziende, la gestione di queste spese è in ritardo rispetto al ritmo di adozione. Ciò è dovuto meno a una mancanza di disciplina di bilancio che al modo in cui è organizzato l’accesso ai modelli linguistici. I team accedono spesso ai modelli dei provider tramite una chiave API condivisa, con una fatturazione aggregata a livello di account e calcolata in token. Da questa prospettiva, è impossibile determinare quale utente, team o processo automatizzato stia generando i costi. Un controllo efficace dei costi richiede quindi innanzitutto una mappatura affidabile dei consumi alla loro origine.
l'intervento
AI generativa, la governance dei costi diventa un asset strategico
Con la diffusione dell’intelligenza artificiale generativa cresce la necessità di monitorare i consumi, attribuire la spesa ai diversi centri di costo e instradare automaticamente le richieste verso il modello più efficiente. L’AI Gateway emerge come elemento chiave per trasformare il budget in uno strumento di governo operativo
Vice President EMEA di Cloudflare

Continua a leggere questo articolo
Argomenti
Canali





