ISO/IEC 42001 et NIST AI RMF

Ce que l'IA fait bien ici, ce qu'elle fait mal

Ce qu'elle fait bien

• Rattacher des documents aux sous-catégories: le modèle relie chaque passage d'une directive à sa sous-catégorie du NIST.
• Relever une sous-catégorie sans preuve: il signale le résultat attendu qu'aucun document fourni ne couvre.
• Comparer deux profils: il liste les écarts entre le profil actuel et le profil cible.
• Adapter les actions du Playbook: il retient celles qui conviennent à une petite organisation.
• Ébaucher le plan d'action: il propose une action par écart que l'équipe retient ou écarte.

Ce qu'elle fait mal

• Citer ISO/IEC 42001: la norme est payante. Le modèle invente la formulation d'une exigence qu'il n'a pas lue.
• Décrire l'annexe A: il donne des titres et un nombre de mesures que seule la norme permet de vérifier.
• Situer la version en vigueur: il ignore si le NIST a publié la révision de l'AI RMF.
• Fixer le profil cible: il propose un niveau sans connaître la tolérance au risque de la direction.
• Juger une preuve: il tient pour appliquée une règle que personne n'applique.
• Dire ce qu'un certificat couvre: il étend le certificat d'un fournisseur à des services hors du périmètre audité.
• Conclure à la conformité légale: il présente un certificat ISO/IEC 42001 comme preuve de conformité à l'AI Act.

Déroulé

Deux instruments pour deux usages

ISO/IEC 42001:2023 fixe les exigences pour établir, mettre en œuvre, tenir à jour et améliorer en continu un système de management de l'IA (clause 1). Elle s'applique à toute organisation qui fournit ou utilise des produits ou des services fondés sur l'IA, quels que soient sa taille, son type et sa nature. Un cabinet qui utilise un assistant de rédaction entre dans son champ comme l'éditeur qui développe le modèle.

Le NIST destine l'AI RMF 1.0 (NIST AI 100-1, janvier 2023) à un usage volontaire et le décrit comme indépendant du secteur et du cas d'usage. Le cadre compte 72 sous-catégories réparties en 19 catégories et quatre fonctions.

ISO/IEC 42001: un système de management

La norme suit la structure harmonisée des normes de système de management: mêmes numéros de clauses, mêmes titres et même texte de base. Une organisation certifiée ISO 9001 ou ISO/IEC 27001 y retrouve ses clauses. Les clauses 4 à 10 portent les exigences: le contexte de l'organisation et le périmètre du système (4), le leadership et la politique d'IA (5), la planification (6), le support (7), l'exploitation (8), l'évaluation des performances (9) et l'amélioration (10).

Dans la clause 6, l'organisation évalue les risques de l'IA (6.1.2), choisit leur traitement (6.1.3) et évalue l'impact de ses systèmes d'IA (6.1.4). La clause 8 reprend ces trois exigences dans l'exploitation (8.2 à 8.4). La clause 9 demande un audit interne (9.2) et une revue de direction (9.3). La politique d'usage répond à la clause 5.2.

L'annexe A liste des objectifs et des mesures de référence. L'annexe B guide leur mise en œuvre sous les mêmes numéros. Ses groupes vont de la politique d'IA (B.2) aux relations avec les tiers (B.10). La déclaration d'applicabilité documente les mesures nécessaires et justifie l'inclusion ou l'exclusion de chacune (3.26). La norme admet qu'une organisation se passe de certaines mesures de l'annexe A ou en ajoute.

La norme laisse les processus de gestion à l'organisation. Son introduction renvoie l'organisation à des cadres reconnus, à d'autres normes et à sa propre expérience pour gérer les risques, le cycle de vie et la qualité des données. Le NIST AI RMF peut tenir ce rôle.

Un organisme de certification accrédité audite le système de management. La clause 4.3 demande à l'organisation de fixer les limites de son système de management et de documenter ce périmètre. Selon KPMG Suisse, l'audit de certification commence par la définition de ce périmètre: les systèmes d'IA, les services, les sites et le contexte légal. Le même cabinet indique que le certificat vaut trois ans. L'organisme mène un audit de surveillance chaque année et renouvelle la certification la troisième année.

Les fonctions du NIST AI RMF

La première partie du cadre définit le risque et les caractéristiques d'une IA digne de confiance: valide et fiable, sûre, sécurisée et résiliente, responsable et transparente, explicable et interprétable, respectueuse de la vie privée, équitable avec des biais nuisibles maîtrisés. La validité et la fiabilité en sont une condition nécessaire.

La seconde partie s'appelle le Core. GOVERN fixe les politiques, les rôles et la responsabilité de la direction. Le NIST en fait une fonction qui traverse les trois autres. MAP établit le contexte d'un système d'IA et nomme ses risques. MEASURE analyse et suit ces risques avec des méthodes et des indicateurs. MANAGE les priorise, les traite et surveille le système après son déploiement. Après GOVERN, la plupart des utilisateurs commencent par MAP puis passent à MEASURE ou à MANAGE. Le processus est itératif. Une organisation peut choisir parmi les catégories et les sous-catégories ou les appliquer toutes.

Le NIST ne prescrit aucun modèle de profil (section 6). Un profil actuel décrit les résultats que l'organisation obtient dans la gestion de l'IA. Un profil cible décrit les résultats qu'elle vise. La comparaison des deux révèle en général les écarts. L'organisation en tire un plan d'action qu'elle trie par priorité.

Le Playbook du NIST propose des actions pour chaque sous-catégorie. Le NIST précise qu'il n'est ni une liste de contrôle ni une suite d'étapes à suivre en entier. Le profil d'IA générative (NIST AI 600-1, juillet 2024) applique le cadre aux risques propres à l'IA générative.

Où les deux textes se rejoignent

Le NIST publie des tableaux de correspondance entre l'AI RMF et d'autres textes. Celui vers ISO/IEC 42001 rattache chaque sous-catégorie aux clauses et aux mesures de l'annexe B. La liste du NIST l'attribue à Microsoft. Le tableau date de 2023 et porte sur le projet final de la norme (FDIS). Le NIST précise que la publication d'un tableau ne vaut pas approbation. Il ne dit pas non plus si un texte couvre l'autre en entier.

La plupart des renvois du tableau vont aux mesures de l'annexe B. Les clauses 4 à 10 donnent le cadre: politique, rôles, audit et revue de direction. Les sous-catégories du NIST décrivent le travail sur chaque risque.

L'un, l'autre ou les deux

Notre conseil de pratique part de ce que chaque texte produit.

Un client ou un appel d'offres qui exige un certificat tranche la question: seule ISO/IEC 42001 permet une certification. Une organisation certifiée ISO/IEC 27001 ou ISO 9001 ajoute les clauses propres à l'IA à un système qu'elle audite déjà. Sans ces deux conditions, l'AI RMF suffit pour commencer. Il est gratuit, ne demande aucun audit et s'applique en partie. Une équipe qui n'a besoin ni d'un certificat ni d'une méthode commence par une politique d'usage. Une organisation qui adopte les deux textes applique MAP, MEASURE et MANAGE dans les clauses 6.1 et 8 de la norme.

Les étapes

1. La direction nomme le responsable de la gouvernance de l'IA. Elle fixe la tolérance au risque. Le NIST la rend responsable des décisions sur les risques de l'IA (GOVERN 2.3). Le cadre ne prescrit aucune tolérance.
2. Le responsable choisit les sous-catégories du profil. Une organisation qui achète ses outils d'IA commence par l'inventaire, les exigences légales, les fournisseurs et la surveillance. Le responsable copie le texte de chaque sous-catégorie depuis le Playbook.
3. L'analyste rassemble les documents internes. Politique d'usage, contrats des fournisseurs, liste des outils et procès-verbaux de direction forment la base. Il retire les données personnelles avant tout envoi au modèle. Vous trouverez dans la page LPD et données confidentielles ce qui peut partir vers un outil.
4. Le modèle propose le profil actuel. Il rattache chaque passage à une sous-catégorie et marque celles qui n'ont aucune preuve.
5. L'analyste vérifie chaque preuve. Il retrouve chaque passage dans le document source. Il demande au propriétaire du processus si la règle écrite est appliquée. Une directive que personne n'applique reste un écart.
6. La direction fixe le profil cible. Pour chaque sous-catégorie, elle dit le résultat visé et l'échéance. Un cas d'usage qui touche des personnes passe par l'évaluation des risques.
7. Le modèle compare les deux profils. Il propose une action par écart.
8. Le responsable arrête le plan d'action. Il retient ou écarte chaque action du modèle. Il donne à chacune un responsable et une échéance. La direction approuve le plan et fixe la date de la prochaine revue.
9. Le responsable prépare la certification si elle devient nécessaire. Il achète la norme et fixe le périmètre du système (4.3). Le profil actuel nourrit l'évaluation des risques (6.1.2). Le tableau de correspondance indique quelles mesures de l'annexe B chaque ligne du profil prépare. La déclaration d'applicabilité justifie chaque mesure retenue ou exclue.

Prompt modèle

Tu établis le profil actuel de [ORGANISATION] au regard de sous-catégories du NIST AI RMF 1.0.

<sous-categories>
[SOUS-CATÉGORIES RETENUES]
</sous-categories>

<documents>
[DOCUMENTS INTERNES]
</documents>

<consignes>
1. Pour chaque sous-catégorie de <sous-categories>, écris une ligne d'un tableau à quatre colonnes: sous-catégorie, ce que les documents établissent, preuve, écart.
2. Dans la colonne «preuve», nomme le document et cite le passage exact entre guillemets.
3. Si aucun passage ne couvre la sous-catégorie, écris «AUCUNE PREUVE» dans la colonne «preuve».
4. Si un document décrit une règle sans dire qui l'applique ni à quel rythme, écris «ÉCRIT, APPLICATION À VÉRIFIER» dans la colonne «écart».
5. Appuie-toi seulement sur <sous-categories> et <documents>. Ne cite aucune clause d'ISO/IEC 42001 ni aucun autre texte.
6. Ne propose aucun niveau cible. La direction le fixe.
7. Termine par les questions à poser au propriétaire de chaque processus.
</consignes>

• [ORGANISATION] donne le nom de l'organisation, son secteur et ses outils d'IA.
• [SOUS-CATÉGORIES RETENUES] reçoit le numéro et le texte de chaque sous-catégorie. Le responsable les copie du Playbook.
• [DOCUMENTS INTERNES] reçoit les documents de l'étape 3 sans données personnelles, chacun sous son titre.

Les consignes 5 et 6 écartent ce que le modèle tire de sa mémoire et ce qui revient à la direction. La consigne 4 sépare une règle écrite d'une règle appliquée.

Exemple

Un courtier en assurances de Fribourg emploie 60 personnes. Ses conseillers rédigent les lettres aux clients avec un assistant sous compte d'entreprise. Depuis le printemps, deux équipes transcrivent les entretiens avec un outil. Aucun client ne demande de certificat. Le responsable de la conformité établit un profil sur six sous-catégories. Les valeurs sont inventées.

Le modèle avait marqué GOVERN 2.3 comme couverte. Il citait le procès-verbal qui approuve la politique d'usage. Le responsable a corrigé la ligne. La politique règle l'usage des outils. Elle ne tranche aucun risque de la transcription, qui touche des clients.

La ligne GOVERN 6.1 a changé l'ordre du plan. La transcription traite des voix de clients chez un fournisseur sans contrat. La direction a placé cette action avant l'inventaire.

Une banque cantonale cliente ajoute ensuite à son contrat une clause qui exige un certificat ISO/IEC 42001 de ses prestataires. Le courtier achète la norme. Le profil nourrit l'évaluation des risques de la clause 6.1.2. Selon le tableau de correspondance, la ligne GOVERN 1.6 renvoie aux mesures B.4.2 à B.4.6. L'inventaire tenu depuis décembre sert de base à ces mesures.

Essayer avec le Playbook du NIST

Le Playbook du NIST se consulte sans compte. Ouvrez la page Govern et dépliez GOVERN 1.6. La rubrique About décrit ce qu'un inventaire des systèmes d'IA peut contenir: la documentation du système, les plans de réponse aux incidents, les dictionnaires de données et les contacts des personnes responsables. Les actions suggérées demandent une politique qui nomme la personne qui tient l'inventaire, les systèmes qui y entrent et les attributs qu'il décrit. Comparez-les à votre liste d'outils. La page d'accueil du Playbook propose un fichier Excel ou JSON pour filtrer les sous-catégories de votre profil.

Vérifier le résultat

• Le texte de chaque sous-catégorie est-il copié du NIST AI RMF 1.0 ou de son Playbook?
• Chaque ligne du profil actuel nomme-t-elle un document et un passage?
• L'analyste a-t-il retrouvé chaque passage dans le document source?
• Chaque ligne «ÉCRIT, APPLICATION À VÉRIFIER» a-t-elle reçu la réponse du propriétaire du processus?
• Le profil cible vient-il de la direction?
• Chaque écart porte-t-il une action, un responsable et une échéance?
• Le responsable a-t-il vérifié dans la norme chaque clause d'ISO/IEC 42001 citée?
• Chaque renvoi au tableau de correspondance dit-il que le tableau date de 2023 et porte sur le projet final?
• Le plan nomme-t-il la version de l'AI RMF qu'il applique?
• Le plan porte-t-il la date de la prochaine revue?

Limites et risques

Le texte de la norme est payant. Le responsable achète la norme avant d'écrire la déclaration d'applicabilité.

Un certificat n'établit pas la conformité légale. L'AI Act présume conformes les systèmes d'IA à haut risque et les modèles d'IA à usage général qui respectent des normes harmonisées publiées au Journal officiel de l'Union européenne. La présomption porte sur les exigences que ces normes couvrent (art. 40 par. 1). Le juriste vérifie si la norme que l'organisation applique figure parmi ces références. Vous classez un système avec la page AI Act: classification des risques. Un fournisseur qui traite des données personnelles pour l'organisation est un sous-traitant (art. 9 LPD). Le contrat précède le premier envoi.

Le tableau de correspondance vient d'un tiers. Le responsable vérifie chaque renvoi du tableau dans la norme publiée avant de s'y fier.

Un fournisseur certifié fixe son propre périmètre. La clause 4.3 lui demande de fixer les limites de son système de management. L'analyste demande ce périmètre et vérifie que le service acheté y figure.

L'AI RMF change de version. Le NIST indique que l'AI RMF 1.0 est en cours de révision. Avant chaque revue du plan, le responsable vérifie sur la page du NIST quelle version est en vigueur.

Techniques liées

• Analyse et gestion des risques: le registre qui porte les risques de la fonction MAP et de la clause 6.1.2.
• Matrice RACI: les rôles de la clause 5.3 et de GOVERN 2.1.
• Métriques et KPI: les indicateurs de la clause 9.1 et de la fonction MEASURE.