Gouvernance de l’IA générative : ce qu’il faut retenir du cas industriel AFNeT – IBM - Numalis
Le 22 janvier 2026, AFNeT et IBM ont réuni industriels, experts techniques et spécialistes de la normalisation autour d’un cas industriel consacré à la gouvernance de l’IA générative.
Objectif : éclairer, à partir d’exemples concrets, les conditions d’une intégration maîtrisée de l’IA dans des environnements industriels et réglementés.
Retour sur les principaux enseignements de cette matinée.
Une gouvernance devenue incontournable avec l’IA générative
L’essor rapide des modèles d’IA générative et, plus récemment, des approches agentiques, modifie profondément les chaînes de valeur industrielles. Contrairement aux systèmes informatiques traditionnels, ces technologies introduisent de la probabilité, du non-déterminisme et des comportements émergents.
Dans ce contexte, la gouvernance des modèles d’IA ne relève plus d’une démarche optionnelle. Elle devient une condition de déploiement durable, en particulier dans les secteurs soumis à de fortes exigences de sûreté, de conformité et de responsabilité.
Les intervenants ont rappelé que cette gouvernance dépasse largement le cadre des équipes data. Elle mobilise les directions techniques, juridiques, conformité, cybersécurité, ainsi que les métiers et les partenaires technologiques.
Le EU AI Act comme socle structurant, mais non suffisant
Une large partie des échanges a porté sur le EU AI Act, désormais entré en vigueur, et sur ses implications concrètes pour les entreprises.
Ce cadre réglementaire repose sur une classification des systèmes d’IA en fonction de leurs risques :
risque inacceptable (interdiction),
haut risque (autorisation sous conditions),
risque de transparence,
risque minimal.
Les modèles à usage général (GPAI), dont relèvent les grands modèles de langage, font l’objet d’obligations spécifiques, notamment en matière de documentation et de transparence.
Toutefois, les intervenants ont souligné que le règlement fixe avant tout des principes. Il ne définit pas, à lui seul, les modalités techniques permettant de démontrer la conformité. D’où l’importance du rôle des normes et des standards.
Normes, standards et pratiques sectorielles : un triptyque indissociable
L’un des messages clés de l’événement concerne l’articulation entre réglementation, normalisation et pratiques industrielles existantes.
Les travaux menés au niveau européen s’appuient sur les organismes de normalisation (CEN-CENELEC), eux-mêmes fortement connectés aux normes internationales développées à l’ISO. Ces standards traduisent les exigences réglementaires en critères techniques mesurables, ouvrant la voie à une présomption de conformité.
Les échanges ont mis en évidence la nécessité :
d’adapter ces standards aux contextes sectoriels,
de s’appuyer sur des référentiels déjà éprouvés dans l’industrie,
de raisonner par profils d’usage plutôt que par modèles abstraits.
L’exemple de l’aéronautique a illustré cette logique, en montrant comment des notions familières (seuils de sécurité, probabilités de défaillance) peuvent être rapprochées des exigences de robustesse imposées par l’IA Act.
Une approche par les risques, au cœur de la gouvernance
Au-delà du cadre réglementaire, la gouvernance de l’IA repose sur une approche structurée des risques.
Les risques associés à l’IA traditionnelle (biais, performance, dérive) sont amplifiés par l’IA générative, à laquelle s’ajoutent des risques spécifiques :
hallucinations,
production de contenus erronés,
fuites d’informations,
comportements non anticipés.
Les approches agentiques introduisent, quant à elles, des risques liés à l’autonomie et à l’enchaînement d’actions.
Pour répondre à ces enjeux, les intervenants ont présenté des référentiels permettant d’identifier, qualifier et suivre ces risques tout au long du cycle de vie des systèmes d’IA, depuis la conception jusqu’à l’exploitation en production.
Du principe à l’opérationnel : l’apport des plateformes de gouvernance
Un autre enseignement majeur concerne la nécessité d’outiller la gouvernance de manière industrielle.
Les pratiques reposant sur des documents statiques ou des processus manuels montrent rapidement leurs limites face :
à la multiplication des cas d’usage,
à la diversité des modèles,
aux exigences de traçabilité imposées par la réglementation.
Les démonstrations ont mis en lumière l’intérêt de plateformes de gouvernance capables de :
centraliser l’inventaire des modèles,
automatiser la documentation,
intégrer des workflows d’approbation,
superviser les modèles en continu à l’aide de métriques techniques pertinentes,
gérer les incidents et les évolutions en exploitation.
Cette approche permet de maintenir les systèmes d’IA « sous contrôle » sans freiner leur adoption par les équipes métiers et techniques.
Des retours d’expérience concrets en environnement critique
L’événement s’est appuyé sur plusieurs cas industriels, notamment dans des contextes de défense et de sécurité. Ces retours d’expérience ont illustré comment des cadres normatifs existants peuvent être digitalisés et intégrés dans des plateformes de gouvernance.
Ils ont montré que la gouvernance de l’IA n’est pas uniquement une réponse à la réglementation, mais aussi un levier pour :
clarifier les responsabilités,
fiabiliser les décisions,
renforcer la confiance dans les systèmes déployés.
Gouverner l’IA pour en garantir la valeur dans la durée
En conclusion, ce cas industriel a mis en évidence un constat partagé : la gouvernance de l’IA générative constitue désormais un pré-requis à son déploiement à grande échelle dans l’industrie.
Elle suppose :
une lecture fine des cadres réglementaires,
une appropriation des normes et standards,
une approche rigoureuse par les risques,
des outils adaptés au pilotage opérationnel des modèles.
Loin d’être un frein, cette gouvernance apparaît comme une condition essentielle pour inscrire l’IA dans des trajectoires industrielles robustes, responsables et durables.
