Portefeuille des solutions d'IA

Ce que l'IA fait bien ici, ce qu'elle fait mal

Ce qu'elle fait bien

• Rapprocher deux listes: le modèle compare les réponses d'un sondage aux lignes du registre et liste les écarts.
• Regrouper les noms d'un même outil: il ramène les appellations libres du personnel à une solution du registre.
• Lire les conditions d'un fournisseur: il relève le pays de traitement, la durée de conservation et l'entraînement sur les données reçues.
• Comparer deux versions de ces conditions: il liste les clauses modifiées depuis la dernière mise à jour de l'entrée.
• Relever les entrées incomplètes: il signale la solution sans propriétaire, le fournisseur sans pays et le réexamen dépassé.

Ce qu'elle fait mal

• Connaître les solutions en place: le modèle ignore les outils que le personnel utilise sur des comptes privés.
• Repérer l'IA intégrée à un logiciel: une mise à jour l'active sans trace dans les documents que le modèle reçoit.
• Tracer les dépendances: il ignore quelles interfaces relient une solution aux systèmes de l'organisation.
• Classer une solution selon l'AI Act: la classe dépend de l'usage réel que seule l'organisation connaît.
• Nommer un propriétaire: la direction nomme la personne qui répond d'une solution.
• Décider de la suite d'une solution: garder ou arrêter engage un budget et un contrat qu'il ne connaît pas.
• Dater ce qu'il sait: les produits et les conditions qu'il connaît datent de son entraînement.

Déroulé

Ce que le registre contient

Le NIST prévoit des mécanismes qui inventorient les systèmes d'IA. Leurs ressources suivent les priorités de risque de l'organisation (GOVERN 1.6). Le Playbook du NIST définit l'inventaire comme une base organisée des artefacts d'un système d'IA: la documentation, les plans de réponse aux incidents, les dictionnaires de données, les liens vers le code et les contacts des personnes responsables. La page ISO/IEC 42001 et NIST AI RMF situe GOVERN 1.6 dans le reste du cadre.

Aucune loi suisse n'impose un inventaire des solutions d'IA. La LPD impose un autre registre: le responsable du traitement et le sous-traitant tiennent chacun un registre de leurs activités de traitement (art. 12). L'OPDo dispense de ce registre les entreprises de moins de 250 collaborateurs (art. 24). La dispense tombe quand l'entreprise traite à grande échelle des données sensibles ou pratique un profilage à risque élevé.

Les deux registres partagent la finalité, les données, les destinataires et le transfert à l'étranger. L'entrée d'une solution renvoie à celle du registre des activités de traitement au lieu de la recopier.

Pour les composants informatiques, le contrôle CM-8 du NIST SP 800-53 demande un inventaire qui reflète le système, comprend tous les composants et ne compte aucun composant deux fois. CM-8(4) y ajoute la personne responsable de chaque composant. L'organisation revoit l'inventaire à la fréquence qu'elle fixe. Le registre des solutions d'IA reprend ces règles: une entrée par solution, un propriétaire par entrée, un réexamen à date fixe.

La vue des dépendances

La vue des dépendances montre ce que touche une solution: les systèmes qu'elle lit ou alimente, les flux de données entre eux et le fournisseur au bout de chaque flux. Le NIST prévoit d'inventorier les éléments externes dont dépend un système (MAP 4.1). Il note que les modèles préentraînés reposent souvent sur des jeux de données d'origine non divulguée. Il prévoit des politiques pour le risque des tiers (GOVERN 6.1) et un plan de secours pour la panne d'un système tiers à haut risque (GOVERN 6.2).

La vue répond à une question qu'aucune entrée isolée ne règle: si ce fournisseur change ses conditions, quelles solutions sont touchées? Après le sondage, elle montre aussi les usages hors inventaire, que l'anglais appelle shadow AI. Un outil utilisé sur un compte privé ne figure dans aucun registre. Ses flux partent pourtant de documents de l'organisation. Le diagramme de flux de données trace ces flux.

Ce qui déclenche une mise à jour

Un registre mis à jour une fois par an décrit l'organisation de l'année précédente. Un incident ou un changement met l'entrée à jour et avance son réexamen.

• Une marque apposée, une modification substantielle ou une nouvelle destination. Les deux premières visent un système déjà à haut risque. La nouvelle destination rend à haut risque un système qui ne l'était pas. L'AI Act appelle destination l'usage prévu du système. Dans ces trois cas, l'AI Act fait du déployeur le fournisseur du système (art. 25 par. 1). Le juriste reclasse la solution avec la page AI Act: classer le risque.
• Un changement de modèle, de conditions du fournisseur ou de source de données. Évaluer les risques de l'IA traite ces changements comme des déclencheurs du réexamen du risque. L'entrée reçoit la nouvelle date.
• Un incident. Le propriétaire de la solution inscrit l'incident et la mesure prise.
• La date de réexamen. La plupart des agences fédérales américaines inventorient leurs cas d'usage de l'IA au moins une fois par an (OMB, M-25-21, section 3(b)(v)). Ce minimum ne lie qu'elles. Il donne un ordre de grandeur.

Garder, étendre ou arrêter

Garder reconduit la solution jusqu'au réexamen suivant. Étendre change sa finalité ou ses utilisateurs. L'entrée repasse alors par la classification. Le gain attendu d'une extension se chiffre comme dans Mesurer le ROI des initiatives IA. Arrêter retire la solution.

Le NIST prévoit que le retrait d'un système traite les dépendances des systèmes connectés, la continuité de l'activité, la conservation des données et la migration vers une solution de remplacement (GOVERN 1.7). Du prototype à la production fait signer ce plan de retrait avant le pilote. Une solution arrêtée reste au registre avec la date de l'arrêt. L'organisation fixe combien de temps l'entrée et ses artefacts restent conservés (GOVERN 1.7).

Pour un système à haut risque, l'AI Act fixe un critère: le déployeur suspend l'usage quand il a des raisons de penser que le système présente un risque (art. 26 par. 5). Pour les autres solutions, une règle interne fixe les critères. Une solution sans propriétaire ou sans usage depuis le dernier réexamen devient candidate à l'arrêt.

Les étapes

1. La direction nomme le propriétaire du registre. Le NIST suggère de confier l'inventaire à une personne ou à une équipe nommée. La direction donne au propriétaire le temps et les accès que le périmètre exige.
2. Le propriétaire fixe le périmètre. Le NIST propose d'inscrire toutes les solutions ou au moins celles à haut risque. Le périmètre compte les assistants sous licence, les fonctions d'IA intégrées aux logiciels achetés et les développements internes. Un cas d'usage à construire reste dans la liste des cas d'usage IA jusqu'à sa mise en service.
3. Le propriétaire fixe les champs. Il part des attributs du NIST et des champs de la LPD. Le conseiller à la protection des données confirme les renvois vers le registre des activités de traitement. Une entreprise privée n'est pas tenue de nommer un conseiller (LPD art. 10). Sans conseiller, le responsable du registre des activités de traitement confirme les renvois.
4. L'analyste recense les solutions en place. Il réunit les licences, les contrats, les notes de frais et la liste des applications que gère l'informatique. Seul un sondage anonyme révèle les comptes privés. La politique d'usage de l'IA décrit ce recensement.
5. Le modèle rapproche le sondage et le registre. L'analyste lui fournit les réponses sans nom ni service avec un extrait du registre. Le modèle rend deux tableaux: les outils cités sans ligne au registre et les lignes que personne ne cite.
6. L'analyste vérifie chaque écart. Il relit les réponses citées pour chaque outil. Il écarte un rapprochement fondé sur un nom voisin. Un outil cité une seule fois reste dans la liste.
7. Chaque propriétaire de solution remplit son entrée. Le contrat et les conditions du fournisseur donnent le pays de traitement. La page La LPD et les données confidentielles dit ce que ce pays change. L'analyste dessine la vue des dépendances avec l'équipe informatique.
8. Le juriste classe chaque solution. Il établit d'abord si l'AI Act vise la solution et si l'organisation en est le fournisseur ou le déployeur. Il suit la page AI Act: classer le risque. Le responsable des risques place la solution sur l'échelle interne. Le NIST prévoit une échelle unique pour tous les systèmes. Le niveau d'un système peut changer au cours de sa vie (GOVERN 1.3).
9. Le propriétaire du registre inscrit les déclencheurs et les dates. Chaque entrée porte la date de son réexamen. Chaque propriétaire de solution connaît les événements qui l'obligent à signaler un changement.
10. Au réexamen, la direction garde, étend ou arrête chaque solution. Le propriétaire du registre date la décision dans l'entrée.

Prompt modèle

Tu compares les réponses d'un sondage anonyme sur l'usage de l'IA avec le registre des solutions d'IA de [ORGANISATION].

<sondage>
[RÉPONSES DU SONDAGE]
</sondage>

<registre>
[EXTRAIT DU REGISTRE]
</registre>

<consignes>
1. Rapproche chaque outil cité dans <sondage> d'une ligne de <registre> quand le nom, l'éditeur ou la fonction décrite correspondent. Donne la raison de chaque rapprochement.
2. Tableau A: les outils du sondage qu'aucune ligne du registre ne couvre. Colonnes: outil tel qu'il est écrit, numéros des réponses, tâche décrite, type de compte indiqué.
3. Tableau B: les lignes du registre qu'aucune réponse ne cite. Colonnes: numéro de ligne, solution, propriétaire.
4. Cite le numéro de chaque réponse sur laquelle tu t'appuies.
5. N'ajoute aucun outil absent des réponses.
6. Écris «à vérifier» quand une réponse ne dit pas quel outil est en cause.
7. Ne reprends aucun nom de personne ni de service tiré de <sondage>, même si une réponse en contient.
8. Termine par la liste des rapprochements incertains.
</consignes>

• [ORGANISATION] donne le nom de l'organisation et son secteur.
• [RÉPONSES DU SONDAGE] reçoit les réponses numérotées du sondage anonyme. L'analyste retire les noms et les services avant l'envoi.
• [EXTRAIT DU REGISTRE] reçoit le numéro, le nom, l'éditeur et la fonction de chaque ligne du registre. Le propriétaire y figure par son rôle.

L'extrait décrit les systèmes et les fournisseurs de l'organisation. L'analyste lance donc ce prompt sur l'assistant que l'organisation a validé. Les consignes 4 et 5 écartent les outils que le modèle tirerait de sa mémoire. La consigne 7 couvre la réponse qui contient un nom malgré la consigne du sondage.

Exemple

Une assurance de choses de Neuchâtel emploie 320 personnes. Elle assure des ménages, des véhicules et des PME de l'Arc jurassien suisse. Son site web répond aussi à des visiteurs de France voisine. Son analyste a ouvert le registre en septembre. Le sondage anonyme a reçu 141 réponses. Les valeurs sont inventées.

Dix réponses citent un site de traduction en ligne utilisé sur des comptes privés pour des courriers d'assurés. Le modèle les a placées au tableau A. Quatre autres réponses parlent du «traducteur». Le modèle les a rapprochées de la ligne 1. L'analyste a relu ces quatre réponses. Trois décrivent le site de traduction. La quatrième décrit l'assistant sous licence. Treize réponses fondent ainsi la ligne 5.

La liste des applications de l'informatique contenait l'assistant de réunion. Personne ne le cite dans le sondage. Le tableau B a donc rendu la ligne 4. Son pilote a pris fin en avril. Personne n'en répond depuis.

Le juriste a établi le champ de l'AI Act ligne par ligne. Les assurés et les courriers restent en Suisse. Les lignes 1, 2, 4 et 5 sont hors champ. L'agent du site répond à des résidents de France. Sa sortie est donc utilisée dans l'Union (art. 2). L'agence zurichoise l'a bâti sur le modèle de l'éditeur de la ligne 1. L'assurance le met en service sous son nom. Le juriste la tient donc pour le fournisseur (art. 3).

Le module de tri de la ligne 2 appelle le modèle d'un tiers. Le contrat ne dit pas où ce tiers traite les déclarations. Le chef du service sinistres veut étendre le tri aux courriels des assurés. La direction lie l'extension à une réponse écrite de l'éditeur sur le pays de traitement.

L'arrêt de la ligne 4 suit les points de GOVERN 1.7. La vue des dépendances montre que l'assistant lisait les agendas de la messagerie. L'informatique a retiré cet accès. Le fournisseur conserve les enregistrements du pilote. L'analyste a demandé leur suppression par écrit. Aucune migration n'a eu lieu, puisque personne n'utilisait plus l'outil. L'entrée reste au registre avec la date de l'arrêt. Pour la ligne 5, la cheffe du service clientèle a ouvert la fonction de traduction de l'assistant sous licence à son service.

Essayer avec l'Algoritmeregister

Le gouvernement néerlandais publie les algorithmes et les systèmes d'IA de ses administrations dans l'Algoritmeregister. Le site se consulte sans compte. Ouvrez l'entrée AI Chatbot Robin de la commune de Druten. L'en-tête de l'entrée donne la catégorie de publication, les analyses d'impact («Impacttoetsen») et le statut. L'onglet «Werking» montre les données («Gegevens»), le fonctionnement technique et le fournisseur («Leverancier»). L'onglet «Verantwoord gebruik» ajoute la finalité, l'intervention humaine et la gestion des risques. Comparez ces champs aux colonnes de votre registre.

L'Algoritmeregister sert la transparence publique. Il montre une entrée complète. Il ne dit pas ce que le droit demande à une entreprise suisse.

Vérifier le résultat

• Chaque outil du tableau A renvoie-t-il à des réponses numérotées du sondage?
• Chaque rapprochement accepté repose-t-il sur un nom, un éditeur ou une fonction que l'analyste a vérifiés?
• Les réponses transmises au modèle sont-elles exemptes de noms et de services?
• Chaque solution a-t-elle un propriétaire nommé et un suppléant?
• Chaque entrée nomme-t-elle le fournisseur, le modèle tiers et le pays de traitement?
• Chaque entrée qui concerne des données personnelles renvoie-t-elle à une entrée du registre des activités de traitement?
• Chaque solution figure-t-elle dans la vue des dépendances avec ses systèmes et ses flux?
• Chaque entrée porte-t-elle un niveau sur l'échelle interne et l'avis du juriste sur le champ et la classe de l'AI Act?
• Chaque date de réexamen tombe-t-elle après la date du jour?
• Chaque arrêt décidé traite-t-il les systèmes dépendants, la continuité, la conservation des données et la migration?
• Chaque propriétaire de solution connaît-il les événements qui l'obligent à signaler un changement?

Limites et risques

La loi n'impose pas ce registre. L'AI Act oblige le déployeur d'un système à haut risque à l'utiliser selon sa notice et à en surveiller le fonctionnement. Le déployeur conserve aussi les journaux qu'il contrôle pendant au moins six mois (art. 26). Le registre des solutions d'IA reste une mesure de gestion que recommande le NIST. Le propriétaire le présente comme tel à la direction. Ce registre ne remplace pas le registre des activités de traitement, qui couvre aussi les traitements sans IA.

Le sondage peut identifier une personne. Dans une équipe de quatre, l'outil et la tâche suffisent à reconnaître qui a répondu. Les réponses restent alors des données personnelles au sens de la LPD (art. 5 let. a). L'analyste regroupe les petites équipes avant l'envoi au modèle. Il emploie les réponses pour le seul recensement (LPD art. 6 al. 3).

Le registre vieillit entre deux réexamens. Un éditeur ajoute une fonction d'IA à un logiciel par une mise à jour. Un fournisseur change de modèle sans changer de nom. Le propriétaire du registre demande au service des achats de lui signaler chaque contrat qui touche à l'IA. Il fait inscrire dans les contrats l'avis préalable d'un changement de modèle. Le NIST suggère de suivre les calendriers de version et les plans de changement des logiciels tiers (MAP 4.1).

Le registre ne surveille rien. L'entrée nomme la personne qui surveille une solution en service et le lieu de ses journaux. La méthode de surveillance dépend de ce que la solution produit. Le registre ne la décrit pas.

Le registre est lui-même sensible. Il liste les systèmes, les flux et les fournisseurs de l'organisation. Le propriétaire en réserve l'accès aux rôles qui en ont besoin.

Techniques liées

• Diagramme de flux de données: la notation des flux entre les solutions, les systèmes et les fournisseurs.
• Dictionnaire de données: les classes de données auxquelles renvoie le champ Données d'une entrée.
• Matrice RACI: la personne qui répond de chaque solution et celle qui la surveille.
• Analyse et gestion des risques: le registre des risques qui reçoit les risques de chaque solution.
• Sondage ou questionnaire: la construction du sondage anonyme du recensement.
• Matrice de décision: la comparaison des options du réexamen.