Qu'est-ce que l'IA?

Ce que l'IA fait bien ici, ce qu'elle fait mal

Ce qu'elle fait bien

• Traiter la variabilité: elle classe des cas que personne n'a su décrire par une règle écrite.
• Lire des données non structurées: elle trie un courriel, une image ou un message vocal sans grille préalable.
• Prévoir à partir de l'historique: elle estime un volume ou un retard.
• Produire un premier jet: elle rédige une réponse ou un résumé à partir d'un texte fourni.

Ce qu'elle fait mal

• Rendre deux fois la même sortie: un modèle génératif répond parfois autrement à la même demande.
• Appliquer un seuil exact: un seuil de CHF 10'000 appris sur des exemples devient une frontière approximative.
• Justifier sa sortie: un modèle appris n'a aucune règle écrite à montrer à un auditeur.
• Reconnaître l'inconnu: un cas absent des données d'entraînement reçoit une réponse aussi assurée qu'un cas connu.
• Garantir l'exactitude d'un contenu: un texte fluide et plausible peut être faux.

Entrée, transformation, sortie, décision

Un système d'IA enchaîne quatre temps. Il reçoit des entrées: des textes, des images, des nombres, des signaux. Il les transforme par des règles qu'une personne a écrites ou par un modèle appris sur des exemples. Il rend une sortie: un classement, une prédiction ou un contenu. Une personne prend la décision: elle vérifie la sortie et agit.

Un filtre anti-spam parcourt la chaîne entière. Il reçoit un courriel, le classe comme indésirable et laisse l'utilisateur confirmer ou corriger ce classement. Cette confirmation est la quatrième étape. Sans elle, un courriel légitime classé à tort reste dans le dossier des indésirables.

La définition que l'OCDE a révisée en 2023 décrit les trois premiers temps. Un système d'IA infère, à partir des entrées qu'il reçoit, comment produire des sorties: des prédictions, des contenus, des recommandations ou des décisions. Le verbe qui compte est infère: le système calcule pour chaque entrée une sortie que personne n'a écrite d'avance.

Une capacité observée ne prouve ni conscience, ni intention, ni compréhension humaine. Un filtre anti-spam appris ne sait pas ce qu'est une arnaque. Il a appris quels mots et quels expéditeurs accompagnent les courriels que les utilisateurs ont signalés.

Règle, automatisation, machine learning, génératif

Ces quatre approches se rangent sur un axe. À gauche, le comportement est déterministe: la même entrée donne toujours la même sortie. À droite, il est probabiliste: la sortie est la plus plausible au vu des exemples. Une personne doit la vérifier.

Une règle applique «si A, alors B». Une facture de plus de CHF 10'000 part au directeur financier pour visa. Un rappel part sept jours après une échéance. La règle se teste cas par cas et s'explique en une phrase.

Une automatisation enchaîne des étapes sans intervention humaine: elle lit un formulaire, saisit les données dans l'ERP et envoie la confirmation. Elle fait gagner du temps et refait chaque fois le même parcours.

Le machine learning (apprentissage automatique) apprend à prédire à partir d'exemples. Un modèle entraîné sur l'historique estime avec une marge d'erreur le nombre de demandes de la semaine suivante ou le retard probable d'une livraison. Le deep learning est une méthode de machine learning: un réseau de neurones profond qui repère des défauts sur des images de pièces en relève.

L'IA générative produit un contenu: un texte, une image, un son. Le NIST, dans son profil AI 600-1, la définit comme la classe de modèles qui imitent la structure et les caractéristiques de leurs données d'entrée pour générer un contenu synthétique dérivé. Un modèle de langage qui rédige une réponse à partir d'une directive en est l'exemple courant. «Comment fonctionne un modèle de langage» explique comment il produit sa réponse.

La frontière entre règle et IA reste floue. L'OCDE compte parmi les systèmes d'IA ceux qui raisonnent sur des règles et des connaissances explicites. En projet, la question utile porte sur l'axe: le comportement est-il écrit d'avance ou appris des données? Le même flou touche l'arbre de décision, que l'analyste construit à partir de règles connues et qu'un algorithme peut induire des données. La fiche Arbres de décision distingue les deux arbres.

Voir un modèle apprendre une frontière

Le site TensorFlow Playground de Google montre un petit réseau de neurones qui apprend à séparer deux groupes de points. Essayez-le: choisissez à gauche le jeu à deux groupes («Gaussian»), réglez le bruit («Noise») sur 25 et lancez l'entraînement avec le bouton lecture.

L'écran se lit de gauche à droite comme la chaîne ci-dessus. À gauche, les entrées: la position de chaque point. Au centre, la transformation: les neurones et leurs liaisons, dont l'épaisseur change à chaque passage. À droite, la sortie: la couleur de fond dit pour chaque endroit du plan si un point y serait bleu ou orange.

Personne n'a écrit cette frontière. Le modèle l'a déduite des points. Avec du bruit, les deux groupes se chevauchent et quelques points tombent du mauvais côté de la frontière. Un nouvel entraînement trace une frontière un peu différente. La perte sur les données de test («Test loss») mesure l'erreur. Elle ne descend pas à zéro. Le comportement probabiliste se voit à l'écran: une sortie juste pour la plupart des points et fausse près de la frontière.

Quand une règle suffit

Une question tranche le choix: la variabilité du problème exige-t-elle un apprentissage ou une génération? Si la réponse est non, une règle, une recherche, une automatisation ou une amélioration du processus fait le travail. Si elle est oui, l'équipe explore une capacité d'IA avec des critères de succès et un contrôle fixés avant le choix de l'outil.

Refuser une facture sans numéro ne demande aucune IA. La condition tient en une ligne, se teste en une minute et ne se trompe jamais sur le cas qu'elle décrit. Un modèle entraîné pour la même tâche coûterait plus cher, se tromperait parfois et ne dirait pas pourquoi.

Une administration cantonale reçoit chaque jour des messages en texte libre que le secrétariat répartit entre les services. Personne ne sait énumérer les formulations. Une règle par mot-clé appelle une nouvelle exception chaque semaine. Un classement appris se justifie dans ce cas avec un échantillon que le secrétariat relit chaque semaine.

La variabilité est réelle quand les entrées arrivent en texte libre, en image ou en son, quand personne ne sait énumérer les cas ou quand chaque nouvelle règle appelle une exception. Elle n'est qu'apparente quand un expert sait énoncer la règle, quand les données sont structurées et quand la décision tient dans une table de décision. L'analyste qui entend «il nous faut de l'IA» demande d'abord quel problème varie et comment. Souvent, l'analyse des règles métier ou l'analyse des processus répond avant qu'un modèle soit entraîné.

Vérifier le résultat

L'analyste applique cette liste à toute proposition d'IA, qu'elle vienne d'un fournisseur, d'un collègue ou de lui-même.

• Les entrées du système sont-elles nommées avec leur format?
• Sait-on si la transformation suit des règles écrites ou un modèle appris?
• La sortie est-elle nommée: un classement, une prédiction ou un contenu?
• Une personne désignée vérifie-t-elle la sortie avant qu'on agisse?
• La variabilité du problème est-elle décrite avec des exemples de cas?
• La solution sans IA (règle, recherche, changement de processus) est-elle écartée pour une raison écrite?
• Les critères de succès et le contrôle sont-ils fixés avant le choix de l'outil?

Techniques liées

• Analyse des règles métier: l'extrémité déterministe de l'axe. Faire extraire des règles par un modèle et ce qu'il faut en vérifier.
• Tables de décision: la forme qui montre qu'une décision tient dans des conditions énumérables.
• Arbres de décision: l'arbre construit à partir de règles connues et ce qui le sépare de l'arbre induit des données.
• Analyse décisionnelle: peser les options avec et sans IA selon des critères explicites.
• Analyse des processus: la réponse quand le problème tient au flux de travail.