Comprendre l'IA générative sans jargon : modèles, tokens, contexte et hallucinations

Vous avez testé ChatGPT ou Claude, le résultat vous a impressionné ou déçu, et dès que la conversation devient technique avec un prestataire, les mots se brouillent. Paramètres, fenêtre de contexte, tokens par requête : la décision recule. Pourtant, quatre notions suffisent pour discuter d'égal à égal et choisir en connaissance de cause.

En bref : un modèle de langage prédit du texte à partir de ce qu'il a appris ; il ne vérifie pas les faits. Les tokens sont l'unité de découpage du texte et la base de facturation des API. Le contexte que vous fournissez est votre principal levier de qualité, et les hallucinations se gèrent en vérifiant et en donnant au modèle vos propres sources.

Mise à jour : octobre 2026

Pourquoi le vocabulaire technique bloque-t-il les décisions ?

Parce qu'on n'achète pas sereinement ce qu'on ne comprend pas. Ce décrochage a des effets concrets : un projet repoussé, ou un contrat signé sans savoir ce qu'il couvre. La bonne nouvelle, c'est que le vocabulaire utile est court. Voici les quatre notions qui reviennent dans presque toutes les discussions en PME.

Qu'est-ce qu'un modèle de langage ?

Un programme entraîné à prédire la suite d'un texte. Un modèle de langage (LLM, pour « Large Language Model ») est entraîné sur de très grandes quantités de textes. La documentation d'Anthropic le décrit ainsi : ces modèles sont pré-entraînés à prédire le mot suivant à partir du contexte, puis affinés pour devenir des assistants utiles.

Il ne « comprend » pas le sens comme vous : il reproduit des structures du langage avec une cohérence souvent bluffante. Le résultat ressemble à un raisonnement humain sans en être un. Gardez cette nuance en tête pour calibrer vos attentes.

Les versions changent souvent ; raisonnez par usage plutôt que par numéro de version. Pour choisir entre deux assistants, lisez notre réponse ChatGPT ou Claude : lequel choisir en entreprise ?

Que sont les tokens, et pourquoi comptent-ils dans la facture ?

Ce sont les morceaux de texte que le modèle traite, et les API les facturent. Un token peut correspondre à un mot, une partie de mot ou un caractère. Anthropic donne un ordre de grandeur : environ 4 caractères ou 0,75 mot en anglais, le nombre exact variant selon la langue et le contenu.

Les API d'IA se facturent au token, séparément pour le texte envoyé (tokens d'entrée) et pour la réponse générée (tokens de sortie), avec des tarifs différents pour chacun. Plus vos instructions et vos documents sont longs, plus la note monte.

Si vous automatisez des tâches répétitives, comme l'analyse de documents ou la génération de rapports, le volume de tokens peut dépasser vos estimations. Testez sur un échantillon avant de généraliser. L'article sur le coût réel de l'IA en entreprise passe en revue les postes de dépense.

Pourquoi le contexte est-il votre principal levier de qualité ?

Parce que le modèle répond à partir de ce que vous lui donnez. La fenêtre de contexte désigne tout le texte que le modèle peut prendre en compte pour produire sa réponse : vos instructions, l'historique de la conversation, les documents joints, et la réponse elle-même. Anthropic la décrit comme la « mémoire de travail » du modèle. Selon le modèle Claude, elle va de 200 000 à 1 million de tokens.

Plus grand ne veut pas dire meilleur : la même documentation précise que la précision et le rappel se dégradent quand le nombre de tokens augmente. Choisir ce que vous mettez dans le contexte compte autant que la place disponible.

Une instruction vague donne une réponse générique. Précisez votre secteur, le destinataire, le registre attendu et un exemple de résultat idéal : la qualité change nettement. L'article sur le contexte et les instructions dans Claude Code illustre ce mécanisme, même si vous n'êtes pas développeur.

Qu'est-ce qu'une hallucination, et comment s'en protéger ?

C'est une réponse fausse présentée avec la même assurance qu'une réponse juste. Le modèle peut citer une source qui n'existe pas, attribuer une phrase à la mauvaise personne ou confondre deux entreprises aux noms proches. Ce n'est pas un bug ponctuel : c'est une conséquence du mécanisme de prédiction. Le modèle cherche un texte plausible, pas un fait vérifié.

• Demandez au modèle de signaler ses incertitudes et vérifiez les sources qu'il cite.
• Confiez-lui d'abord des tâches dont vous pouvez contrôler le résultat : rédaction, reformulation, structuration.
• Pour les informations critiques (montants, textes de loi, données clients), recoupez avec une source de référence.
• Fournissez-lui vos propres documents fiables : c'est le principe du RAG, expliqué dans base de connaissance interne interrogeable par IA : le RAG sans jargon.

Comment ces quatre notions s'articulent-elles dans un cas concret ?

Prenons un scénario illustratif : une entreprise du bâtiment veut automatiser la rédaction de ses comptes rendus de chantier.

1. Le modèle choisi détermine la qualité rédactionnelle et la capacité à structurer un texte métier.
2. Les tokens consommés dépendent de la longueur des notes envoyées et des comptes rendus produits : à surveiller si le volume grandit.
3. Le contexte fourni (modèle de compte rendu, vocabulaire maison, noms des chefs de chantier) améliore directement la précision.
4. Les hallucinations reculent parce que les faits (dates, intervenants, travaux réalisés) sont donnés au modèle, qui n'a pas à les inventer. Une relecture reste nécessaire.

D'autres exemples par secteur figurent dans l'article sur l'IA générative en Bretagne.

Par quoi commencer ?

Modèles, tokens, contexte, hallucinations : avec ces quatre mots, vous pouvez poser les bonnes questions à un prestataire et juger une proposition. La question suivante n'est plus « est-ce que je comprends l'IA ? » mais « par quelle tâche je commence ? ».

À lire aussi : IA générative en formation professionnelle : les bonnes pratiques.

Sources

• Anthropic, glossaire (LLM, pré-entraînement, tokens, RAG)
• Anthropic, tarification de l'API (facturation par tokens d'entrée et de sortie, ordre de grandeur d'un token)
• Anthropic, fenêtres de contexte (définition, tailles par modèle)