Comment fonctionne un modèle de langage

Ce que l'IA fait bien ici, ce qu'elle fait mal

Ce qu'elle fait bien

• Prolonger un texte dans son registre: elle reprend le ton, le format et le vocabulaire de la demande.
• Relier des mots éloignés: elle rattache un pronom ou une condition à la phrase qui les porte.
• Rapprocher deux formulations: deux phrases de sens voisin reçoivent des vecteurs proches même sans mot commun.
• Passer d'une langue à l'autre: le même mécanisme découpe et relie le français, l'allemand et l'anglais.

Ce qu'elle fait mal

• Apprendre d'une conversation: une correction ne modifie aucun paramètre du modèle.
• Compter des lettres ou des mots: le modèle reçoit des jetons. Un jeton regroupe souvent plusieurs caractères.
• Rendre deux fois la même réponse: un nouveau tirage peut choisir un autre jeton avec les mêmes réglages.
• Lire au-delà de sa fenêtre de contexte: un texte hors de la fenêtre n'entre pas dans le calcul.
• Connaître un fait postérieur à son entraînement: son corpus s'arrête à une date. Un fait plus récent doit venir de la demande.
• Garantir la vérité: le modèle choisit une suite plausible. Une suite plausible peut être fausse.

Du corpus au modèle

Le fournisseur réunit d'abord un corpus: des textes du web, des livres, du code, parfois des données spécialisées. Il choisit une architecture: un réseau de couches de calcul qui transforme le texte étape par étape. L'entraînement fait passer le corpus dans ce réseau. À la fin, le modèle est prêt: un réseau dont chaque liaison porte un poids fixé.

Ces poids s'appellent les paramètres du modèle. La norme ISO/IEC 22989 (3.3.15), qui fixe le vocabulaire de l'IA, définit l'entraînement comme le processus qui détermine ou améliore les paramètres d'un modèle d'apprentissage automatique à partir de données d'entraînement. Le programme masque la suite d'un passage du corpus, demande au réseau de la prédire, compare la prédiction au texte réel, mesure l'écart et ajuste les poids pour le réduire. Il répète l'opération sur des milliards de passages. Le fournisseur valide ensuite le modèle sur des textes inédits pour mesurer sa qualité et ses biais.

Le modèle ne garde pas de copie consultable du corpus. Il en retient des régularités: quels mots suivent quels mots, dans quels contextes, avec quelle fréquence. Un passage très répété peut toutefois ressortir mot pour mot. Un fait rare dans le corpus laisse une trace faible. Un fait postérieur au corpus n'en laisse aucune.

L'inférence laisse le modèle intact

L'inférence est l'utilisation d'un modèle entraîné sur une nouvelle entrée: une demande, un document, une image. Le modèle applique ses paramètres sans les modifier et calcule une sortie plausible au vu de cette entrée.

Un collaborateur d'une caisse de pension corrige un assistant qui cite une règle de la LPP dans sa version abrogée. L'assistant reprend la correction et répond juste jusqu'à la fin de la conversation. Le lendemain, dans une nouvelle conversation, il cite la même règle abrogée. La correction n'a jamais atteint le modèle: elle vivait dans le texte de la conversation, que le modèle relisait à chaque réponse.

Certains assistants semblent pourtant se souvenir d'une conversation à l'autre. Ils conservent des notes et les ajoutent à la demande suivante. Le modèle relit ces notes sans changer ses paramètres. Un fournisseur peut aussi réutiliser les conversations pour entraîner une version ultérieure du modèle. Un document confidentiel collé dans une conversation entre alors dans le corpus. Ses passages peuvent ressortir dans la réponse faite à un autre utilisateur. Ce second cas relève du contrat et de la protection des données: l'organisation le règle avant qu'un document confidentiel parte chez le fournisseur. Vous trouverez dans Du modèle au produit ce qui revient au modèle et ce qui revient au produit.

Du texte aux probabilités

À chaque réponse, le modèle découpe le texte en jetons, convertit chaque jeton en une liste de nombres, relie ces listes entre elles et en tire une distribution de probabilités sur le jeton suivant. Il ajoute ce jeton au texte et recommence jusqu'à la fin de la réponse. «Le lapin mange» donne «une», puis «Le lapin mange une» donne «carotte».

Les jetons

Un jeton (token en anglais) est l'unité de texte que le modèle traite: un mot entier, un morceau de mot, un signe de ponctuation ou un mot précédé de son espace. Le tokenizer est le programme qui découpe le texte. Il possède un vocabulaire fixe de fragments fréquents. Un mot courant tient en un jeton. Un mot rare, long ou étranger au vocabulaire se découpe en plusieurs: «artificielle» peut donner «artific» et «ielle».

OpenAI précise que le nombre de jetons d'un même texte dépend du modèle, de son encodage et de la langue. Les fournisseurs facturent l'usage par API au jeton. La fenêtre de contexte se mesure aussi en jetons.

Le Tokenizer d'OpenAI montre ce découpage: chaque couleur y marque un jeton. Tapez «L'intelligence artificielle aide à décider.» et notez le nombre de jetons. Remplacez-la ensuite par sa traduction anglaise «Artificial intelligence helps with decisions.» et comparez les deux comptes.

Un modèle qui reçoit des jetons ne voit pas les lettres qui les composent. Compter les «e» d'un mot, les mots d'un paragraphe ou les chiffres d'un numéro de police lui demande une information que son entrée ne porte pas directement. L'analyste vérifie hors du modèle tout comptage, calcul ou référence exacte.

Les embeddings

Le modèle calcule sur des nombres. Il convertit chaque jeton en un embedding: une liste de plusieurs centaines ou milliers de nombres, qu'on peut lire comme les coordonnées d'un point dans un espace à autant de dimensions. L'entraînement rapproche les points des mots employés dans des contextes semblables. «Salaire» et «rémunération» deviennent ainsi voisins alors que leur graphie n'a rien de commun. «Hausse» et «baisse» apparaissent dans les mêmes phrases. Leurs points peuvent donc être voisins même si les mots disent l'inverse.

L'Embedding Projector de Google affiche ces points. L'outil charge à l'ouverture le jeu Word2Vec 10K. Ce jeu décrit chacun de ses dix mille mots anglais par deux cents nombres. Tapez «cat» dans le champ de recherche à droite: l'outil isole ce point et liste ses voisins les plus proches. Cherchez ensuite «dog» puis «animal» et comparez les deux voisinages.

L'outil projette deux cents dimensions sur deux ou trois. Deux points proches à l'écran peuvent être éloignés dans l'espace d'origine. Il calcule la liste des voisins, à droite, dans l'espace d'origine. Word2Vec donne un vecteur fixe à chaque mot. Un modèle de langage part d'un tel vecteur. L'attention le modifie ensuite selon les mots qui l'entourent. Aucune de ces cartes ne montre ce que le modèle «pense».

L'attention

L'attention est le mécanisme qui pondère les relations entre les jetons du contexte. Pour chaque jeton, le modèle calcule quels autres jetons comptent pour l'interpréter et dans quelle proportion. Il ajuste ensuite l'embedding du jeton en conséquence. Vaswani et ses coauteurs l'ont placée au centre de l'architecture Transformer en 2017. Les grands modèles de langage en dérivent.

Dans «Marie regarde le lapin. Elle lui donne une carotte.», le modèle doit interpréter «Elle». Schématiquement, il donne le plus de poids à «Marie», moins à «lapin», presque aucun à «regarde» et à «le». Il rattache le pronom à son antécédent. Le même mécanisme peut rattacher l'exception d'un règlement à la règle posée trois paragraphes plus haut.

L'attention ne vérifie rien: un modèle peut rattacher correctement chaque pronom d'un texte et produire une affirmation fausse. Les hallucinations en expliquent la raison.

La prédiction du jeton suivant

La dernière couche rend un score pour chaque jeton du vocabulaire. Ces scores deviennent des probabilités: après «Le lapin mange», «une» reçoit la plus forte, «la» et «des» des probabilités plus faibles. Des milliers d'autres jetons reçoivent une probabilité proche de zéro. Le produit tire ensuite un jeton dans cette distribution.

Le tirage explique qu'une même demande produise deux réponses différentes. Un réglage appelé température dose le hasard: une température basse favorise le candidat le plus probable; une température haute laisse passer des candidats moins probables. Les assistants grand public la fixent eux-mêmes. Avec les mêmes réglages et paramètres, une nouvelle exécution peut choisir un autre jeton à une étape. Toute la suite de la réponse en dépend. L'analyste relance au moins une fois toute réponse qui fonde une décision pour voir ce qui change.

La fenêtre de contexte

La fenêtre de contexte est le nombre maximal de jetons que le modèle peut prendre en compte à la fois. Tout ce que le modèle «voit» y tient: les consignes du produit, la demande, les documents joints, l'historique de la conversation et la réponse en cours de rédaction. Sa taille varie d'un modèle à l'autre.

À chaque réponse, le produit renvoie l'historique entier dans la fenêtre. Quand l'historique et les documents dépassent la taille disponible, le produit coupe, résume ou refuse. Selon le produit, les premiers échanges d'une longue conversation sortent alors de la fenêtre avec les consignes qu'ils contenaient. L'utilisateur l'apprend souvent par la réponse elle-même, qui ignore une consigne donnée au début.

Un analyste qui joint le règlement du personnel, trois procès-verbaux et une directive à une conversation déjà longue ne sait pas toujours ce que le modèle a lu. Il ouvre une nouvelle conversation pour chaque tâche, joint les seuls documents utiles et redit les consignes qui comptent. Quand le corpus dépasse toute fenêtre, la génération augmentée par la recherche (RAG) sélectionne les passages pertinents avant la question.

Vérifier le résultat

L'analyste passe cette liste sur toute réponse d'un modèle qui sert à son travail.

• La demande, les documents joints et l'historique tiennent-ils dans la fenêtre de contexte sans coupure par le produit?
• Chaque fait de la réponse a-t-il été vérifié contre une source indépendamment de la fluidité du texte?
• Les comptages, les calculs et les références exactes ont-ils été contrôlés hors du modèle?
• Une réponse qui fonde une décision a-t-elle été relancée pour voir ce qui change?
• Un fait postérieur à l'entraînement du modèle a-t-il été fourni dans la demande avec sa source?
• Une correction qui doit durer a-t-elle été reportée dans une consigne ou un document de référence?
• Sait-on si le fournisseur réutilise les conversations pour entraîner ses modèles?

Techniques liées

• Analyse documentaire: la lecture d'un grand corpus et ce qu'un modèle ne peut pas rapporter d'un document qu'on ne lui a pas donné.
• Glossaire: les termes qui changent de sens selon le service et la détection de synonymes par les contextes d'emploi.
• Entretien: la synthèse d'une série d'entretiens, où un modèle relève les contradictions entre interviewés.