LLM (grand modèle de langage) : les enjeux pour la PME
Le LLM est le moteur de la plupart des outils d’IA générative que les équipes utilisent déjà, comme ChatGPT, Claude ou Mistral Le Chat. Selon la CNIL, les systèmes construits sur ces modèles sont souvent dits à usage général, car ils permettent de réaliser tout un ensemble de tâches : rédiger, résumer, traduire, classer, extraire des informations. C’est l’une des briques principales de l’intelligence artificielle en entreprise.
Un LLM ne consulte pas une base de faits : il produit la suite la plus probable d’un texte. Il peut donc se tromper avec aplomb, ce qu’on appelle une hallucination. Il ne connaît pas non plus les documents de l’entreprise, sauf si on les lui fournit dans la conversation ou par un dispositif de recherche documentaire, le RAG. La documentation d’OpenAI décrit ce procédé : les informations utiles sont ajoutées à l’instruction, de préférence vers la fin.
Le choix du modèle compte autant que la manière de l’utiliser. La documentation d’Anthropic note que la latence et le coût s’améliorent parfois plus facilement en changeant de modèle qu’en retravaillant les instructions. Celle d’OpenAI conseille, pour une application en production, de figer une version précise du modèle afin de garder un comportement stable. Pour une PME, nous proposons une méthode en trois temps : réunir une cinquantaine de questions réelles, tester deux ou trois modèles dessus, puis retenir celui qui répond juste le plus souvent, dans un cadre contractuel acceptable.
Exemple
Un distributeur de pièces détachées de 90 personnes veut aider son service client. Il réunit 50 questions réelles et les soumet à trois LLM, avec la même documentation produit. Le premier répond correctement à 31 questions, le deuxième à 42, le troisième à 44 mais avec des délais de réponse trois fois plus longs. L’entreprise retient le deuxième et fige sa version pour la phase pilote.
Questions fréquentes
Que veut dire LLM ?
LLM signifie « Large Language Model », en français grand modèle de langage. La CNIL emploie ce terme pour les modèles de langage qui comptent généralement un milliard de paramètres ou plus.
Un LLM connaît-il les données de mon entreprise ?
Non. Il ne les utilise que si on les lui fournit dans la conversation ou par un dispositif de recherche documentaire. Vérifiez dans le contrat de l’outil ce que l’éditeur fait de ces données.
Quelle différence entre un LLM et ChatGPT ?
ChatGPT est un service conversationnel. Il s’appuie sur des LLM développés par OpenAI, comme Claude s’appuie sur ceux d’Anthropic.
Comment choisir un LLM pour son entreprise ?
Testez plusieurs modèles sur vos propres questions et comparez la justesse, la rapidité et les conditions contractuelles. Le modèle le plus récent n’est pas toujours le plus adapté à un usage donné.
Sources
- Modèle de langage (définition), CNIL — consulté le 16 octobre 2026
- Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative, CNIL — consulté le 16 octobre 2026
- Prompt engineering overview, Anthropic (Claude Docs) — consulté le 16 octobre 2026
- Prompt engineering, OpenAI (documentation API) — consulté le 16 octobre 2026
Auteur
Clément Marchal a fondé le Cabinet Flourens. Depuis 2017, dont cinq ans à faire tourner des équipes, notamment dans un environnement régulé par l'AMF, il voit la même chose : l'IA entre dans l'entreprise par les salariés, pas par la direction. Personne ne sait qui l'utilise, sur quelles données, ni ce qu'elle rapporte. Avec Ardoise, le Cabinet Flourens met cet usage en ordre en six semaines : la carte des usages, des règles acceptées, deux automatisations ou agents IA sur vos outils et le dossier qui prouve ce que l'entreprise a fait.
L'histoire du cabinetMode d'Emploi, la lettre
Une méthode par semaine pour reprendre la main sur votre organisation. Désinscription en un clic.