Histoire de l'IA

Ce que l'IA fait bien ici, ce qu'elle fait mal

Ce qu'elle fait bien

• Appliquer une règle écrite: un système symbolique rend toujours la même sortie et cite la règle appliquée.
• Classer à partir d'exemples: un modèle de machine learning trie des cas trop variés pour une règle.
• Lire une image ou un son: un réseau profond trouve lui-même les indices utiles dans les données brutes.
• Tenir compte du texte entier: un Transformer relie chaque mot à tous les autres.
• Suivre une consigne en langage courant: un modèle entraîné par RLHF répond à la demande.
• Enchaîner des actions: un agent appelle des outils l'un après l'autre pour atteindre un objectif.

Ce qu'elle fait mal

• Traiter le cas imprévu: un système à règles échoue devant la situation qu'aucune règle ne décrit.
• Justifier une sortie apprise: un réseau profond n'a aucune règle lisible à montrer à un auditeur.
• Dépasser ses exemples: un modèle appris reproduit les lacunes et les biais de ses données.
• Distinguer la réponse préférée de la réponse exacte: le RLHF récompense ce que les évaluateurs préfèrent, même faux.
• Garantir un contenu exact: un modèle génératif produit un texte plausible, vrai ou faux.
• Arrêter une action erronée: un agent exécute l'action suivante si personne ne l'arrête avant.

Les ruptures de l'IA et la limite que chacune lève

Les ruptures s'additionnent. Un logiciel de gestion des sinistres applique des règles écrites pour la couverture, un modèle appris pour repérer la fraude et un modèle de langage pour rédiger le courrier à l'assuré. La frise date chaque rupture par un événement que la page cite: un séminaire, une publication, un concours, un lancement, une annonce.

Depuis 1956: l'IA symbolique écrit les règles

Le 31 août 1955, John McCarthy, Marvin Minsky, Nathaniel Rochester et Claude Shannon proposent un séminaire d'été au Dartmouth College. Leur proposition forge le terme «intelligence artificielle». Le séminaire se tient à l'été 1956. Le domaine fait remonter sa naissance à cette date. Son postulat: «chaque aspect de l'apprentissage ou toute autre caractéristique de l'intelligence peut en principe être décrit avec assez de précision pour qu'une machine le simule».

L'IA symbolique applique ce postulat à la lettre. Un expert énonce ses connaissances en règles «si… alors…» que le programme enchaîne. Un système expert d'octroi de crédit vérifie le revenu, l'extrait du registre des poursuites et le taux d'endettement, puis conclut. Il justifie chaque conclusion par la liste des règles appliquées.

La limite tient au nombre de cas. Le monde produit plus de situations que l'expert n'en énonce. Chaque exception ajoute une règle qui peut contredire les autres. Les règles écrites restent en service partout où la décision tient dans des conditions énumérables.

Des années 1990 à 2012: le machine learning apprend des exemples

Le machine learning renverse la démarche. L'équipe fournit des exemples étiquetés. Un algorithme en déduit la frontière entre les classes. Dans les années 1990, la théorie statistique de l'apprentissage donne des garanties sur la généralisation: la capacité d'un modèle à classer des cas qu'il n'a jamais vus. En 1995, Corinna Cortes et Vladimir Vapnik publient la forme des machines à vecteurs de support que l'on emploie depuis. Une telle machine place la frontière le plus loin possible des exemples des deux classes. Le filtre anti-spam de Qu'est-ce que l'IA? en est l'exemple courant.

La limite se trouve en amont de l'algorithme. Un ingénieur choisit les caractéristiques que le modèle examine: certains mots, le nombre de liens, l'expéditeur. Pour un courriel ou un tableau de chiffres, ce choix reste possible. Pour une photo, personne ne sait dire quels pixels distinguent une fissure d'une rayure.

2012: le deep learning trouve ses propres critères

Un réseau de neurones profond empile des couches de calcul. Il apprend ses critères sur les données brutes sans liste de caractéristiques fournie par un ingénieur. Pour suivre sur une image ce que repère chaque couche, voyez Familles de capacités et modalités.

En 2012, le réseau AlexNet d'Alex Krizhevsky, Ilya Sutskever et Geoffrey Hinton remporte le concours de reconnaissance d'images ImageNet (ILSVRC). Son taux d'erreur top-5 tombe à 15,3%. Ce taux mesure la part des images dont la bonne classe manque parmi les cinq propositions du modèle. Le deuxième du concours obtient 26,2%. Le résultat repose sur 1,2 million d'images étiquetées. Des processeurs graphiques accélèrent l'entraînement.

Le deep learning gagne en précision et perd en explication. AlexNet compte 60 millions de paramètres. Aucun ne correspond à une règle qu'un auditeur pourrait lire.

2016: AlphaGo apprend en jouant

En mars 2016, à Séoul, le programme AlphaGo de DeepMind bat Lee Sedol par quatre parties à une et sans handicap. Lee Sedol est alors le meilleur joueur de go de la décennie. AlphaGo associe des réseaux profonds, une recherche parmi les coups possibles et l'apprentissage par renforcement. Il apprend d'abord sur des parties d'experts, puis joue contre lui-même: chaque victoire renforce les coups qui y ont mené.

La récompense d'AlphaGo se calcule sans humain: il gagne la partie ou la perd. Un processus métier offre rarement une telle récompense.

2017: le Transformer relie chaque mot à tout le texte

Avant 2017, les modèles de traitement du langage lisaient une phrase mot après mot. Ils retenaient mal le début d'une longue phrase. Ils s'entraînaient lentement parce qu'ils traitaient une position après l'autre. En 2017, Ashish Vaswani et sept coauteurs publient «Attention Is All You Need». La plupart viennent de Google Brain et de Google Research. Le Transformer qu'ils y décrivent abandonne la lecture séquentielle. Son mécanisme d'attention relie chaque mot à tous les autres en une seule opération.

L'entraînement se répartit alors sur de nombreux processeurs. Des corpus plus grands deviennent utilisables. Les auteurs testent leur modèle sur la traduction de l'anglais vers l'allemand et vers le français. BERT, GPT et les grands modèles de langage qui ont suivi reposent sur cette architecture. Pour suivre l'attention pas à pas, voyez Comment fonctionne un modèle de langage.

2022: l'IA générative suit une consigne

Un Transformer entraîné à prédire le mot suivant sur des textes du web complète un texte. Il ne suit pas une consigne: à la demande «Résume ce contrat», il peut produire une autre demande du même genre, parce que des listes de consignes figurent dans ses données.

En 2017, Paul Christiano et ses coauteurs publient la méthode dont dérive l'apprentissage par renforcement à partir de retours humains pratiqué aujourd'hui (RLHF, pour reinforcement learning from human feedback). Ils la testent sur des jeux vidéo et des robots simulés. Des évaluateurs comparent deux comportements et désignent le meilleur. Un second modèle apprend de ces comparaisons à noter un comportement. Cette note sert de récompense pour entraîner le premier. La récompense vient d'une préférence humaine, là où AlphaGo la tirait de la partie gagnée.

En 2022, OpenAI publie InstructGPT. Ce modèle de langage apprend par RLHF à suivre des consignes de tout type. Les évaluateurs préfèrent les réponses de sa version à 1,3 milliard de paramètres à celles de GPT-3 sans RLHF, qui en compte 175 milliards. La même année, OpenAI présente DALL·E 2, qui génère une image à partir d'une description. Le 30 novembre 2022, OpenAI ouvre au public ChatGPT. Cet assistant est entraîné par RLHF.

L'IA générative produit un contenu nouveau à partir d'une consigne en langage courant: un texte, une image, un son ou du code. La réponse que les évaluateurs préfèrent peut être fausse. Pour comprendre pourquoi un modèle affirme un fait faux, voyez Les hallucinations.

Depuis 2024: l'IA agentique agit

Un assistant génératif rend une réponse et attend la demande suivante. Un agent reçoit un objectif, découpe le travail en étapes et appelle des outils: une recherche, une base de données, un logiciel métier. En octobre 2024, le cabinet d'analyse Gartner place l'IA agentique en tête de ses tendances technologiques pour 2025. Il la définit comme des systèmes qui planifient et exécutent des actions de façon autonome pour atteindre un objectif fixé par l'utilisateur.

Sur un courriel de client, l'agent lit la demande, cherche le dossier dans le CRM, prépare une réponse et la soumet à un collaborateur, qui la valide avant l'envoi. Cette rupture est en cours: Gartner accompagne sa tendance d'un appel à des garde-fous (guardrails). Pour les degrés d'autonomie et l'endroit où placer le contrôle humain, voyez Chatbot, assistant, agent.

Ce que chaque rupture demande à l'analyste

Une caisse maladie traite les demandes de remboursement de ses assurés. Le tableau rejoue ce processus à chaque rupture: l'analyste y écrit d'abord les règles, puis choisit les données, puis contrôle les sorties.

L'analyste vérifie les règles écrites cas par cas et une seule fois avant la mise en service. Dès le machine learning, le contrôle porte sur des échantillons de sorties et se répète tant que le système tourne. Avec l'IA générative et les agents, il porte sur chaque sortie qui engage l'organisation.

Vérifier le résultat

L'analyste applique cette liste à tout système qu'on lui présente comme de l'IA.

• Sait-on à quelle rupture appartient chaque composant: règles, modèle appris, réseau profond, modèle génératif ou agent?
• Pour un composant à règles, les règles sont-elles écrites et lisibles par le métier?
• Pour un modèle appris, connaît-on les données d'entraînement et la période qu'elles couvrent?
• Pour un réseau profond, une personne contrôle-t-elle un échantillon de sorties à intervalles fixes?
• Pour un modèle génératif, une personne relit-elle chaque sortie avant usage?
• Pour un agent, la liste des actions qu'il exécute sans validation humaine est-elle écrite?

Techniques liées

• Analyse des règles métier: énoncer avec l'expert les règles de couverture que le système expert de la première ligne du tableau exécute. Les règles tacites qu'un modèle de langage ne trouve dans aucun document.
• Tables de décision: vérifier, avant la mise en service, qu'aucune combinaison de conditions ne tombe hors des règles.
• Data Mining: le cycle d'un projet de machine learning du cadrage à l'évaluation du modèle.
• Matrice des rôles et permissions: fixer les outils autorisés de la ligne IA agentique du tableau. Un agent agit-il avec ses propres droits ou avec ceux de l'utilisateur?