Objectifs :
L’intelligence artificielle sous toutes ses formes (générative, apprentissage machine ou apprentissage profond) se développe à toute vitesse dans les entreprises. Parfois sans que l’on identifie les risques associés tels que les biais, la discrimination, les hallucinations. Elle pose également des questions d’éthique. Comme toute technologie impactante, l’IA doit être encadrée. Cela ne veut pas dire bridée ! Mais il faut connaître les lois, actuelles et futures, et se poser les bonnes questions.
Contenu du stage :
Les concepts clés et comment les connecter
- Les différentes formes de gouvernance : gouvernance d’entreprise, gouvernance du système d’information, gouvernance des données…
- L’intelligence artificielle et ses applications : IA générative, Apprentissage Machine, Apprentissage Profond…
- Quels sont les liens existants entre gouvernance de l’IA et les autres formes de gouvernance
Identifier les risques
- Cartographier les risques
- Les risques liés aux données (erreurs, copyright, représentativité)
- Les risques liés aux algorithmes
- Les risques liés aux usages (Deepfake)
- Que sont les biais (cognitifs et algorithmiques), les hallucinations, les discriminations : comment les évaluer et mesurer leur impact
- Les IA sous le prisme de la justice sociale
- Les risques spécifiques à l’utilisation de l’IA pour créer du code informatique
- Les risques juridiques - évolution de la jurisprudence[1]
- Risques sociaux[2] et relationnels
- Etudes de cas : lorsque le risque s’est transformé en crise de communication
Cadres règlementaires, normatifs et réflexions éthiques
- Aperçu des régulations internationales et spécificités régionales : USA, Charte de Montréal, AI Act
- Les règles sur les marchés de données : alimenter ses modèles d’IA
- Comparatif des initiatives réglementaires européennes (AI Act) et américaines
- La position de la France
- Les autorités à connaitre : AI Board, AI Office et ses autorités nationales
- La norme ISO 42001 : se préparer à son application
- Etudes de cas : régulation versus innovation, comment préserver les deux approches
Elaboration d’une feuille de route de gouvernance de l’IA
- Cartographie des systèmes et initiatives d’IA dans votre entreprise : classification par niveau de risque
- Identification des acteurs clefs et de leurs rôles : CDO, Data Scientist, Data Governance Officer, Data Steward, Data Product Manager, Data Owner, Compliance Manager, DPO…
- Le rôle des départements juridiques, audit, conformité
- Comment intégrer ces compétences dans un comité de gouvernance de l’IA
- Fusionner ou séparer gouvernance de l’IA et gouvernance de l’information
- Formalisation de la politique de gouvernance des algorithmes : les 10 étapes de la mise en conformité
- Alignement de la gouvernance de l’IA avec la gouvernance d’entreprise
- Etudes de cas : présentation des stratégies déjà élaborées par certains groupes
Les données
- Connecter la gouvernance de l’IA et le catalogue de données
- Modéliser son catalogue des données d'entraînement en YAML
- Cataloguer les algorithmes (en YAML) et les relier au catalogue des données
- Mesurer la qualité des données et son impact sur l’exécution des modèles
- Les données synthétiques sont-elles une solution ?
- Etudes de cas en équipe : concevoir une ébauche de stratégie de gouvernance IA par rapport à un cas fictif
- Echanges et discussions autour des stratégies élaborées en équipe
L’éthique
- Les principes éthiques : justice, équité, transparence, non-discrimination, responsabilité sociale et environnementale, inclusion, solidarité, respect, prudence…
- Ethique et international : comparer et adapter aux différences culturelles
- IA verte et IA décarbonnée : est-ce réaliste ?
- Mesurer l’éthique : cadre de référence
- Risques et solutions pour respecter les principes éthiques dans les développements de l’IA
Les modèles d’IA : transparence, explicabilité et confiance
- Benchmarker les modèles : méthodes et outils - Concept d’AI Observability
- Documenter les modèles (données, limites, hypothèses, apprentissage…)
- Modèles d’IA et cybersécurité : points de vigilance
- Techniques pour mesurer et améliorer l’explicabilité et la transparence
- Construire des “bacs à sable” pour tester sa conformité
- Passer d’une validation initiale à une validation continue : méthodologie et livrables
- Comment construire la confiance (tout en mesurant le risque) auprès des utilisateurs et des parties prenantes
Audit et responsabilisation
- La confiance n’exclut pas le contrôle… quels outils pour mesurer le respect des normes : audit interne ou audit externe
- Auditer ses systèmes d’IA : surveillance humaine, méthodes, cadre d’audit, outils et tableaux de bord
- Se préparer aux futures certifications : modèle de conformité et évaluation
- Etude de cas : simulation d’un audit sur un cas pratique
Conclusion et réflexions
- Au-delà de l’IA, comment instaurer la gouvernance dans la prise de décision automatisée
- L’impact de l’IA sur notre société : éducation, connaissance, alimentation en boucle des modèles
- Demain des modèles d’IA dotés de conscience ? Quels impacts ?
- IA et travail : comment impliquer les ressources humaines dans la gouvernance des impacts sur le travail et son organisation
Compétences cibles :
- Connaître les lois et règlements qui encadreront le développement de l’IA
- Elaborer sa feuille de route de la gouvernance de l’IA
- Identifier et tempérer les risques liés aux données, aux algorithmes et aux usages
- Préparer un cadre d’audit, documenté et outillé
Méthodes pédagogiques :
- Apports théoriques, méthodologiques et juridiques 40%
- Exercices et études de cas 40%
- Echanges et débats 20%
S'inscrire à la formation
Les formateurs :
Philippe NIEUWBOURG
Analyste indépendant et journaliste, il est spécialiste des technologies d’aide à la décision et de traitement des données.
Il a créé le site Decideo, qui réunit plus de 15 000 abonnés, en français et en espagnol, et est devenu la référence en matière d’information objective sur l’actualité des outils d’aide à la prise de décision. Installé au Québec depuis 2013, il est également chargé de cours à l’ISAE-SUPAERO de Toulouse, au Collège de Bois de Boulogne, et formateur professionnel pour Data Science Institute.
Il anime de nombreuses conférences chaque année, en Europe, au Canada et en Amérique du Sud.
