L’intelligence artificielle sous toutes ses formes (générative, apprentissage machine ou apprentissage profond) se développe à toute vitesse dans les entreprises. Parfois sans que l’on identifie les risques associés tels que les biais, la discrimination, les hallucinations. Elle pose également des questions d’éthique. Comme toute technologie impactante, l’IA doit être encadrée. Cela ne veut pas dire bridée ! Mais il faut connaître les lois, actuelles et futures, et se poser les bonnes questions.
Intelligence Artificielle
Gouvernance de l’IA : mettre en place les processus et les outils pour rester conforme
Programme
Objectifs
Connaître les lois et règlements qui encadreront le développement de l’IA
Elaborer sa feuille de route de la gouvernance de l’IA
Identifier et tempérer les risques liés aux données, aux algorithmes et aux usages
Préparer un cadre d’audit, documenté et outillé
Les concepts clés et comment les connecter
- Les différentes formes de gouvernance : gouvernance d’entreprise, gouvernance du système d’information, gouvernance des données…
- L’intelligence artificielle et ses applications : IA générative, Apprentissage Machine, Apprentissage Profond…
- Quels sont les liens existants entre gouvernance de l’IA et les autres formes de gouvernance
Identifier les risques
- Cartographier les risques
- Les risques liés aux données (erreurs, copyright, représentativité)
- Les risques liés aux algorithmes
- Les risques liés aux usages (Deepfake)
- Que sont les biais (cognitifs et algorithmiques), les hallucinations, les discriminations : comment les évaluer et mesurer leur impact
- Les IA sous le prisme de la justice sociale
- Les risques spécifiques à l’utilisation de l’IA pour créer du code informatique
- Les risques juridiques – évolution de la jurisprudence[1]
- Risques sociaux[2] et relationnels
- Etudes de cas : lorsque le risque s’est transformé en crise de communication
Cadres règlementaires, normatifs et réflexions éthiques
- Aperçu des régulations internationales et spécificités régionales : USA, Charte de Montréal, AI Act
- Les règles sur les marchés de données : alimenter ses modèles d’IA
- Comparatif des initiatives réglementaires européennes (AI Act) et américaines
- La position de la France
- Les autorités à connaitre : AI Board, AI Office et ses autorités nationales
- La norme ISO 42001 : se préparer à son application
- Etudes de cas : régulation versus innovation, comment préserver les deux approches
Elaboration d’une feuille de route de gouvernance de l’IA
- Cartographie des systèmes et initiatives d’IA dans votre entreprise : classification par niveau de risque
- Identification des acteurs clefs et de leurs rôles : CDO, Data Scientist, Data Governance Officer, Data Steward, Data Product Manager, Data Owner, Compliance Manager, DPO…
- Le rôle des départements juridiques, audit, conformité
- Comment intégrer ces compétences dans un comité de gouvernance de l’IA
- Fusionner ou séparer gouvernance de l’IA et gouvernance de l’information
- Formalisation de la politique de gouvernance des algorithmes : les 10 étapes de la mise en conformité
- Alignement de la gouvernance de l’IA avec la gouvernance d’entreprise
- Etudes de cas : présentation des stratégies déjà élaborées par certains groupes
Les données
- Connecter la gouvernance de l’IA et le catalogue de données
- Modéliser son catalogue des données d’entraînement en YAML
- Cataloguer les algorithmes (en YAML) et les relier au catalogue des données
- Mesurer la qualité des données et son impact sur l’exécution des modèles
- Les données synthétiques sont-elles une solution ?
- Etudes de cas en équipe : concevoir une ébauche de stratégie de gouvernance IA par rapport à un cas fictif
- Echanges et discussions autour des stratégies élaborées en équipe
L’éthique
- Les principes éthiques : justice, équité, transparence, non-discrimination, responsabilité sociale et environnementale, inclusion, solidarité, respect, prudence…
- Ethique et international : comparer et adapter aux différences culturelles
- IA verte et IA décarbonnée : est-ce réaliste ?
- Mesurer l’éthique : cadre de référence
- Risques et solutions pour respecter les principes éthiques dans les développements de l’IA
Les modèles d’IA : transparence, explicabilité et confiance
- Benchmarker les modèles : méthodes et outils – Concept d’AI Observability
- Documenter les modèles (données, limites, hypothèses, apprentissage…)
- Modèles d’IA et cybersécurité : points de vigilance
- Techniques pour mesurer et améliorer l’explicabilité et la transparence
- Construire des “bacs à sable” pour tester sa conformité
- Passer d’une validation initiale à une validation continue : méthodologie et livrables
- Comment construire la confiance (tout en mesurant le risque) auprès des utilisateurs et des parties prenantes
Audit et responsabilisation
- La confiance n’exclut pas le contrôle… quels outils pour mesurer le respect des normes : audit interne ou audit externe
- Auditer ses systèmes d’IA : surveillance humaine, méthodes, cadre d’audit, outils et tableaux de bord
- Se préparer aux futures certifications : modèle de conformité et évaluation
- Etude de cas : simulation d’un audit sur un cas pratique
Conclusion et réflexions
- Au-delà de l’IA, comment instaurer la gouvernance dans la prise de décision automatisée
- L’impact de l’IA sur notre société : éducation, connaissance, alimentation en boucle des modèles
- Demain des modèles d’IA dotés de conscience ? Quels impacts ?
- IA et travail : comment impliquer les ressources humaines dans la gouvernance des impacts sur le travail et son organisation
Une plateforme d'apprentissage en ligne
Nous proposons à nos stagiaires un accès gratuit à notre Learning Management System Moodle pour leur permettre d’apprendre plus efficacement à distance, accéder aux documents et communiquer avec l’équipe pédagogique après la formation.
Formateur·ice
Philippe Nieuwbourg
Philippe Nieuwbourg est depuis plus de 30 ans spécialisé dans les données. Il a formé et accompagné plusieurs centaines d’entreprises sur des sujets tels que la gouvernance et données et celle de l’intelligence artificielle. Il dispense des formations et donne des conférences en Europe, Afrique, Amérique du Nord et du Sud, pour des entreprises privées ou des organisations publiques.
Prochaines sessions
Témoignages
Claire
Documentaliste
« Le formateur explique très bien tous les concepts, c’est limpide. Je recommande Serda pour son sérieux et son professionnalisme. »
Hamid
Data Manager
Un stage très vivant, je ne me suis pas ennuyé une seconde. Le formateur délivre un contenu très pragmatique avec un apprentissage par l’exemple. Stage très utile.
Aurélie
Archiviste
Merci pour la qualité et le sérieux de votre formation.
J’en garde un très bon souvenir tant au niveau de l’accueil, de l’apprentissage et du partage des connaissances professionnelles que des belles rencontres faîtes lors de cette semaine de stage.
Antoine
Veilleur
« Cette formation m’a donné des outils concrets pour vérifier la fiabilité des informations que je traite au quotidien. Je me sens désormais bien mieux armé pour repérer et contrer les fake news dans mon travail de veille. »
Marie-Christine
Cheffe de projet digital
« Très bonne interaction avec les participants, utilisation de cas concrets et des retours d’expérience des participants . Réponse à toutes les questions posées. Très clair sur des sujets parfois complexes. »
Estelle
Documentaliste, veilleur
« Programme très complet. A conseiller pour toutes personnes en charge de veille. »
Marie-Pierre
Documentaliste
Le formateur se met au niveau des participants avec un langage clair et compréhensif. Un contenu très riche et intéressant. Mes objectifs de formation sont parfaitement atteint.