// CLUBIC — INTELLIGENZA ARTIFICIALE
Arrêtez d’utiliser ChatGPT et Claude pour tout ! Le rappel à l’ordre de Gartner
D’ici à 2030, les modèles à poids ouverts pourraient exécuter 90% des étapes confiées aux agents d’IA en entreprise, selon Gartner. Le cabinet recommande de leur déléguer la routine pour réduire les coûts, tout en gardant la main sur les données et les opérations.
Mobiliser la dernière version de ChatGPT ou de Claude pour classer des demandes clients peut vite alourdir la facture, surtout quand l’opération se répète des millions de fois. Dans une note présentée par The Register, Gartner invite les entreprises à mieux répartir le travail entre leurs modèles d’IA.
Classer une information, appeler un logiciel, valider un résultat ou rapprocher des données constitue une grande partie du travail des agents. Pour ces opérations, Gartner estime que les modèles à poids ouverts peuvent atteindre des résultats comparables à ceux des modèles propriétaires. Leurs paramètres étant accessibles, les entreprises peuvent les télécharger et les exécuter sur l’infrastructure de leur choix.
Les écarts de prix dépendent ensuite de la comparaison. À score égal, le cabinet évoque un coût divisé par quatre face au modèle fermé le moins cher. Si l’on compare avec un modèle de pointe utilisé systématiquement, l’avantage peut atteindre un facteur vingt.
Ces chiffres correspondent toutefois aux conditions les plus favorables. Les modèles ouverts peuvent produire davantage de texte et multiplier les tentatives avant d’aboutir, ce qui consomme des ressources supplémentaires. Une fois ces dépenses prises en compte, le coût d’une tâche serait plutôt divisé par cinq ou six par rapport à celui d’un modèle de pointe. La différence reste considérable lorsque les mêmes opérations tournent en permanence.
Gartner insiste aussi sur la valeur de l’historique des opérations. Les décisions prises, les outils utilisés et les résultats obtenus constituent un patrimoine pour l’entreprise. Lors du rachat d’un éditeur de logiciels, cet historique peut aider l’acquéreur à comprendre comment le service est utilisé et comment ses agents fonctionnent. Pour les analystes de la société de conseil et de recherche, conserver la maîtrise de ces informations permet donc de préserver un savoir-faire qui pourra peser dans le prix de vente de l’entreprise.
L’accès aux poids ne garantit toutefois pas que les données restent dans l’entreprise : ces modèles peuvent aussi être proposés par un prestataire via une API. Pour garder la maîtrise de l’exécution et de l’historique des opérations, il faut donc également choisir où le modèle sera hébergé et quelles règles de conservation s’appliqueront.
C’est dans cette logique que Gartner prévoit, à l’horizon 2030, une place dominante pour les modèles ouverts spécialisés. Ils prendraient en charge les étapes stables et répétitives, parfois exécutées plusieurs millions de fois par mois.
Encore faut-il organiser cette répartition. Gartner situe une part croissante de la valeur dans les logiciels d’orchestration, aussi appelés harness (harnais en français), qui pilotent les agents. Ils choisissent le modèle adapté, encadrent l’accès aux outils et coordonnent les opérations. Leur qualité détermine aussi le travail que l’utilisateur devra reprendre lui-même.
Les modèles de pointe conserveraient ainsi un rôle dans la recherche et la mise au point de nouveaux usages, avant de passer le relais aux modèles ouverts pour l’exécution quotidienne. Pour les fournisseurs qui investissent des milliards dans l’IA, cette répartition pourrait changer la donne. Leurs modèles resteraient utiles pour résoudre les problèmes difficiles, mais une grande partie du travail courant pourrait s’effectuer sur une infrastructure maîtrisée par l’entreprise (ou le matériel du particulier).