// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
ChatGPT e Claude costano troppo? Gartner suggerisce i modelli aperti
Gli ultimi modelli di ChatGPT e Claude sono strumenti potenti, ma non sempre servono prestazioni così elevate. Gartner lo sottolinea analizzando il caso delle aziende che li utilizzano per smistare le richieste dei clienti, un’attività spesso semplice e ripetitiva. Il risultato è un impiego sproporzionato delle risorse, con costi che possono diventare molto elevati quando l’operazione viene ripetuta migliaia o milioni di volte.
La nota, ripresa da The Register, trasmette un messaggio chiaro: le aziende dovrebbero smettere di affidare ogni attività ai modelli AI più avanzati e assegnare il lavoro in modo più efficiente, in base alle capacità necessarie.
Gran parte della giornata di un agente software è fatta di mansioni da impiegato di concetto. Classificare un’informazione, chiamare un programma, controllare che un risultato torni, far combaciare due elenchi di dati. Per tutto questo, secondo Gartner, i modelli a pesi aperti arrivano a risultati paragonabili a quelli dei modelli proprietari. I loro parametri sono accessibili, quindi un’azienda può scaricarli e farli girare dove preferisce, sui propri server o su quelli di qualcun altro.
Qui i numeri fanno gola, ma vanno letti con criterio. A parità di punteggio, il costo scenderebbe a un quarto rispetto al modello chiuso più economico. Se invece il paragone è con un modello di punta usato sempre e comunque, il vantaggio può arrivare a venti volte.
Sono però le condizioni migliori possibili, quelle da brochure. I modelli aperti tendono a scrivere di più e a ritentare più volte prima di centrare il bersaglio, e ogni tentativo in più consuma risorse. Fatti i conti con queste chiacchiere extra, il costo per singola operazione scende di cinque o sei volte rispetto al modello di frontiera. Meno spettacolare, certo. Ma se la stessa operazione gira senza sosta, giorno e notte, la differenza resta enorme.
C’è poi un argomento meno ovvio, e forse il più interessante: la memoria. Ogni decisione presa da un agente, ogni strumento che ha toccato, ogni risultato che ha ottenuto va a comporre una specie di diario di bordo. Per Gartner è un patrimonio aziendale a tutti gli effetti.
Il motivo è molto concreto. Quando qualcuno compra una software house, quel registro permette di capire come viene usato il servizio e come ragionano i suoi agenti. Chi lo custodisce gelosamente conserva un sapere che, al momento della vendita, può pesare sul prezzo. Chi lo lascia in giro, invece, regala il tesoro insieme al biglietto da visita.
Attenzione al trabocchetto. Avere accesso ai pesi di un modello non garantisce affatto che i dati restino dentro i confini dell’azienda. Molti modelli aperti vengono offerti da un fornitore tramite API, e a quel punto il diario di bordo viaggia fuori porta. Per controllare davvero l’esecuzione e lo storico delle operazioni bisogna scegliere con cura dove il modello viene ospitato e con quali regole di conservazione dei dati.
Il quadro che Gartner disegna per i prossimi anni è chiaro: entro il 2030 i modelli aperti specializzati avranno un posto dominante. Si occuperanno dei passaggi stabili e ripetitivi, quelli che a volte vengono eseguiti milioni di volte al mese. Ai modelli più costosi, e più brillanti, resterebbe il compito di farsi chiamare quando serve davvero.