Gouvernance IA à Paris

L’ensemble des règles, rôles, contrôles et traces qui encadrent l’usage de l’intelligence artificielle dans une organisation : qui décide, qui vérifie, ce qui est autorisé et ce qui est conservé.

En pratique, elle répond à six questions. Quels usages sont autorisés et lesquels ne le sont pas. Quelles données peuvent être soumises à un système externe. Qui valide un nouvel usage avant sa mise en service. Comment un résultat est vérifié. Qu’est-ce qui est conservé pour pouvoir expliquer une décision plus tard. Et à qui s’adresse une personne qui veut contester.

Ce n’est pas un document de conformité rangé dans un classeur : c’est un petit nombre de règles connues des équipes. Une charte de quarante pages que personne ne lit ne gouverne rien ; deux pages affichées et appliquées, oui.

Le déclencheur habituel n’est pas le règlement européen mais un incident : une donnée client collée dans un outil grand public, un courrier généré avec une information fausse, ou un devis calculé par un système que personne ne sait expliquer.

Pas nécessairement une instance formelle. Ce qui compte est l’existence de responsables identifiés, de règles écrites et d’une revue périodique.

Dans une entreprise de moins de deux cents personnes, un comité mensuel devient vite une réunion sans ordre du jour. Ce qui fonctionne est plus léger : une personne responsable des usages — souvent le directeur des systèmes d’information ou un directeur métier —, une liste des usages tenue à jour, et une revue deux fois par an.

Ce qui rend cette organisation suffisante : la plupart des décisions ne sont pas des arbitrages complexes mais des questions simples — peut-on soumettre ce type de document, ce nouvel usage relève-t-il d’une catégorie encadrée, qui vérifie ce résultat. Une personne qui connaît les règles y répond en dix minutes.

Une instance plus formelle se justifie dans deux cas : un usage classé à risque élevé par le règlement européen, et une organisation où plusieurs directions déploient des outils indépendamment. Là, l’absence de coordination produit des doublons et des angles morts.

Il impose une classification des usages par niveau de risque, avec des obligations croissantes de documentation, de transparence, de contrôle humain et de gestion des risques.

Le calendrier s’applique par étapes depuis 2024, avec des échéances distinctes selon les catégories. La première chose à faire est donc un inventaire classé, pas un chantier de conformité global.

La plupart des usages d’entreprise relèvent du risque limité : assistant documentaire, aide à la rédaction, classement de demandes, recherche interne. L’obligation principale y est la transparence — informer la personne qu’elle interagit avec un système automatisé, et signaler les contenus générés.

Certains usages basculent en risque élevé, et ils sont plus courants qu’on ne croit : le tri de candidatures, l’évaluation du personnel, l’accès au crédit, l’attribution de services essentiels. Les obligations y sont substantielles — système de gestion des risques, qualité des données, documentation technique, journalisation, contrôle humain effectif.

Nous établissons cette classification par écrit. Ce n’est pas un avis juridique, et sur un cas à risque élevé nous recommandons de faire valider par un conseil.

Le fournisseur met un système sur le marché sous son nom ; le déployeur l’utilise dans son activité. Les obligations ne sont pas les mêmes.

La distinction est celle qui détermine votre charge, et elle est régulièrement mal comprise. Si vous utilisez un outil d’un éditeur, vous êtes déployeur : vos obligations portent sur l’usage — information des personnes concernées, contrôle humain, surveillance du fonctionnement, conservation des journaux, et respect de la notice du fournisseur.

Si vous mettez un système sur le marché sous votre marque, vous êtes fournisseur, avec des obligations nettement plus lourdes : documentation technique, système de gestion des risques, évaluation de la conformité.

Deux situations font basculer un déployeur vers le statut de fournisseur, et c’est le piège à connaître : apposer sa marque sur un système existant, et modifier substantiellement sa finalité. Une entreprise qui prend un modèle général et le déploie sous son nom auprès de clients devient fournisseur.

Nous déterminons ce statut au cadrage, parce qu’il change le périmètre du projet.

Par des points de validation identifiés, des informations suffisantes pour décider, du temps alloué et la possibilité effective de s’écarter de la proposition.

Le mot important est « effectif ». Un bouton d’approbation sur trois cents dossiers par jour n’est pas un contrôle : c’est une formalité, et elle ne protège personne. Un contrôle réel suppose quatre conditions.

La personne voit sur quoi la proposition repose — les éléments, les sources, ce qui manque. Elle a le temps : le volume soumis est compatible avec une lecture, ce qui limite parfois le déploiement. Elle peut s’écarter sans justification lourde, et cet écart est enregistré sans être présenté comme une anomalie. Et elle est compétente sur le fond, pas seulement disponible.

La quatrième condition est la plus souvent manquée : confier la validation à une personne qui n’a pas l’expertise du sujet transforme le contrôle en approbation.

Nous mesurons donc le taux de modification : s’il tombe à zéro, le contrôle a cessé d’exister, quelle que soit la procédure écrite.

Oui. Les outils utilisés spontanément représentent un risque réel sur la confidentialité et la qualité des informations produites.

C’est le point de départ de presque toutes les démarches sérieuses, parce que l’usage existe déjà. Dans une organisation de cent personnes, on trouve régulièrement une dizaine d’outils employés sans validation, dont certains reçoivent des documents confidentiels — un contrat à résumer, un fichier client à reformater, un compte rendu à rédiger.

L’inventaire ne se fait pas par interdiction : une note qui interdit tout pousse l’usage dans l’ombre. Il se fait par une question ouverte, sans sanction, suivie d’une réponse utile — voici ce qui est autorisé, voici l’outil que nous mettons à disposition, voici ce qui ne doit jamais sortir.

Deux conclusions habituelles. Un besoin réel existe et n’était pas servi, ce qui justifie de fournir un outil encadré. Et une règle simple suffit à couvrir l’essentiel : trois catégories de données qui ne sortent pas, énoncées en une phrase chacune.

Cet inventaire se refait une fois par an : le paysage change vite.

Par la description de sa finalité, de ses données, de ses limites, de ses versions, de son évaluation et des décisions humaines associées.

Le dossier utile tient en quelques pages et répond à ce qu’on vous demandera : à quoi sert ce système, qui l’utilise, quelles données il reçoit et d’où elles viennent, quel modèle et quelle version, quelles consignes lui sont données, comment sa qualité a été mesurée et avec quel résultat, quelles sont ses limites connues, qui valide quoi, et ce qui est conservé.

Deux rubriques font la différence à l’usage. Les limites connues, énoncées franchement — ce système se trompe sur telle catégorie de cas —, parce qu’elles orientent le contrôle humain. Et l’historique des versions : un changement de modèle ou de consignes modifie le comportement, et sans trace on ne peut plus expliquer une décision passée.

Cette documentation se tient à jour au fil des modifications, pas reconstituée l’année suivante. Nous la livrons avec chaque système et nous formons la personne qui la maintiendra.

Au moins une fois par an, et à chaque nouvel usage, changement de modèle, évolution réglementaire ou incident constaté.

Quatre déclencheurs, en plus de la revue annuelle. Un nouvel usage, qui passe par la validation avant mise en service — c’est le moment le plus important et le plus facile à oublier. Un changement de modèle ou de fournisseur, qui modifie le comportement et parfois la localisation des données. Une évolution réglementaire, dont le calendrier européen fournit les échéances. Et tout incident, même sans conséquence : une réponse fausse repérée, une donnée soumise par erreur.

La revue annuelle porte sur cinq points : l’inventaire des usages est-il à jour, les évaluations de qualité ont-elles été refaites, les journaux sont-ils exploitables, le contrôle humain est-il encore effectif — le taux de modification le dit —, et la classification de chaque usage est-elle toujours exacte.

Ce dernier point bouge plus qu’on ne l’imagine : un assistant documentaire à qui l’on ajoute une fonction d’évaluation change de catégorie sans que personne ne l’ait décidé.