Qu'est-ce qu'un LLM, ou grand modèle de langage ?
Modèle d'IA entraîné sur d'immenses quantités de textes, qui comprend une demande et rédige une réponse mot après mot. C'est le moteur des assistants conversationnels et de la plupart des agents IA.
- IA et automatisation
Mis à jour le
Le LLM en clair
LLM veut dire Large Language Model, « grand modèle de langage ». C'est un programme d'intelligence artificielle entraîné sur d'immenses quantités de textes, qui a appris comment les mots s'enchaînent. Quand on lui pose une question, il rédige sa réponse morceau par morceau, en choisissant à chaque fois la suite la plus probable compte tenu de la demande et de ce qu'il a déjà écrit.
C'est le moteur des assistants conversationnels grand public, et de la plupart des outils d'IA générative pour le texte : résumer, traduire, rédiger, classer, extraire une information d'un document. Un agent IA en est une utilisation plus poussée, où le modèle enchaîne des étapes et agit dans des outils.
Ce qu'un LLM fait bien, et ses limites
Ce qu'il fait bien
- comprendre une demande écrite librement, avec ses fautes et ses sous-entendus ;
- lire un long document et en tirer l'essentiel, ou une information précise ;
- rédiger un brouillon dans le ton voulu : réponse à un client, compte rendu, fiche produit ;
- trier et classer des messages, des avis, des demandes.
Ses limites
- Les hallucinations : il peut affirmer avec aplomb un chiffre, une référence ou une règle qui n'existent pas, parce qu'il produit un texte plausible, pas un fait vérifié.
- Une connaissance figée : il ne sait que ce qu'il a lu jusqu'à la date de son entraînement, sauf si on lui donne d'autres documents.
- Des réponses qui varient : la même question peut recevoir deux formulations différentes.
- Un coût à l'usage : chaque demande se paie selon la quantité de texte lue et écrite.
Limiter les hallucinations
On ne les supprime pas, on les rend rares et visibles. Trois moyens se combinent : donner au modèle les bons documents au moment de répondre, c'est le RAG ; lui demander de citer ses sources et de dire qu'il ne sait pas quand l'information manque ; faire relire par une personne tout ce qui part vers un client ou engage l'entreprise.
Comment un LLM s'utilise dans un outil d'entreprise
Dans un outil sur mesure, le modèle est appelé par son API : l'outil lui envoie la tâche, les consignes écrites et testées à l'avance, et seulement les données utiles. L'utilisateur, lui, voit un bouton ou un champ, pas une conversation à mener. Les données envoyées et ce que le fournisseur en fait se règlent dans son contrat.
Beaspo intègre l'IA là où elle sert, dans ses agents IA et chatbots comme dans ses automatisations de processus.
Un projet en tête ? Parlons-en, sans jargon.
Un appel de 30 minutes avec Clément, puis une proposition écrite avec le périmètre, le prix et la date de mise en ligne.
Sur demande, vous signez un accord de confidentialité avant l'appel.
Questions fréquentes : LLM
LLM et IA générative, est-ce la même chose ?
Pas tout à fait. L'IA générative désigne toutes les IA qui produisent un contenu nouveau : texte, image, son, vidéo ou code. Le LLM est né pour le texte ; les plus récents lisent aussi des images et du son, mais un générateur d'images classique n'est pas un LLM. Tout LLM fait de l'IA générative, l'inverse n'est pas vrai.
Qu'est-ce qu'un LLM local ?
C'est un modèle de langage installé sur vos propres machines ou votre serveur, au lieu d'être appelé chez un fournisseur en ligne. Les données ne sortent pas de chez vous, ce qui rassure pour les informations sensibles. En contrepartie, les modèles qui tournent en local sont en général moins performants, et le matériel, puissant, a un coût.
Une autre question ?
Clément vous répond en moins de 2 h.