• Qu’est-ce qu’un LLM ?
• Anatomie simplifiée d’un modèle de génération de texte.
• Modèles généralistes, modèles spécialisés, assistants intégrés et solutions d’entreprise.
• Possibilités : génération, résumé, classification, extraction, reformulation, recommandation, conversation.
• Limites : hallucinations, biais, dépendance au contexte, coût, confidentialité, explicabilité.
• Ce que l’on peut attendre ou non d’un LLM dans un contexte professionnel.

• Recherche et recommandation de documents.
• Assistant conversationnel connecté à des données propriétaires.
• Organisation d’un corpus par thèmes ou catégories.
• Classification et clustering de contenus.
• Extraction d’informations dans des documents.
• Conversion de contenus audio ou vidéo en texte exploitable.
• Synthèse de dossiers, rapports ou corpus.
• Appui aux processus métiers : support interne, conformité, documentation, veille, KM, relation usager.

Atelier pratique
Identifier et qualifier plusieurs cas d’usage LLM à partir d’un contexte d’entreprise.

• Prompting et prompt engineering.
• Assistants personnalisés.
• Recherche sémantique et embeddings.
• Bases vectorielles : principe et intérêt.
• RAG : interroger un corpus sans entraîner un modèle.
• Fine-tuning : quand est-ce utile, quand est-ce excessif ?
• Agents et workflows : délégation de tâches et chaînes d’actions.
• Prompt injection et risques de manipulation.

• Quelles données peuvent être mobilisées ?
• Documents bureautiques, PDF, bases documentaires, FAQ, tickets, mails, procédures, rapports.
• Données structurées, semi-structurées et non structurées.
• Qualité des contenus : fraîcheur, exactitude, cohérence, doublons, versions.
• Métadonnées, droits d’accès et périmètres d’usage.
• Préparation, nettoyage, découpage et enrichissement des données.
• Articulation avec les référentiels, thésaurus et bases de connaissances.

Atelier pratique
Auditer un mini-corpus ou un cas d’usage et identifier les prérequis données.

• Données sensibles, données personnelles, secrets d’affaires.
• Où vont les données ? Questions à poser aux fournisseurs.
• Gestion des accès et droits utilisateurs.
• Traçabilité des sources et réponses.
• Validation humaine.
• Risques de prompt injection, fuite de données, réponses erronées.
• Arbitrer entre outils grand public, solutions d’entreprise et développements spécifiques.
• Lien avec la gouvernance des données et la gouvernance IA.

• Les briques d’un projet : sources, connecteurs, indexation, modèle, interface, sécurité, supervision.
• Architecture type d’un assistant connecté à des données propriétaires.
• Rôle des métiers, de la DSI, des data teams et des professionnels de l’information.
• Critères de choix : coût, sécurité, ergonomie, performance, souveraineté, réversibilité.
• Tests, évaluation et amélioration continue.
• Indicateurs : qualité des réponses, gain de temps, satisfaction, risques, adoption.

• Définir le besoin.
• Choisir le corpus.
• Définir les utilisateurs.
• Rédiger les instructions de l’assistant.
• Construire des questions de test.
• Évaluer les réponses.
• Identifier les risques et corrections.
• Préparer les conditions de déploiement.

Atelier pratique
Concevoir le cadrage fonctionnel d’un assistant LLM connecté à des données d’entreprise.

• Prioriser les cas d’usage.
• Évaluer la valeur et la faisabilité.
• Identifier les données nécessaires.
• Repérer les risques.
• Définir les parties prenantes.
• Choisir une expérimentation pilote.
• Prévoir les règles de gouvernance.
• Construire une feuille de route à 30, 60 ou 90 jours.

Atelier final
Élaborer une feuille de route d’intégration des LLM en entreprise.

• Comprendre le fonctionnement général et les limites des LLM.
• Identifier les cas d’usage pertinents avec les données d’entreprise.
• Comprendre les notions de prompt engineering, RAG, fine-tuning, assistant, agent et workflow.
• Évaluer les prérequis documentaires, techniques et organisationnels.
• Identifier les risques de confidentialité, sécurité et gouvernance.
• Concevoir le cadrage d’un assistant connecté à des données propriétaires.
• Élaborer une feuille de route d’intégration.

• Auto-évaluation dans le questionnaire de préparation
• Validation des concepts
• Exercices pratiques
• QCM
• Étude de cas (cas fil rouge pour chaque phase projet)
• Évaluation à chaud
• Évaluation à froid (6 mois)

Avant : FA126 pour préparer ses documents et données pour l’IA, FA142 pour créer un assistant IA documentaire ou FAD50 pour consolider les bases des IA génératives.

Après : FA89 pour cadrer et piloter un projet IA, FA64 pour structurer la gouvernance de l’IA, FA143 pour automatiser des tâches avec agents et workflows.