Aller au contenu principal
ACENSILearning

Intelligence artificielle · Machine learning et MLOps

Renforcer la fiabilité et la sécurité de vos modèles

Fiabiliser et sécuriser des modèles d'IA qui doivent tenir en production.

  • Intermédiaire

3 jours (21 h) · Présentiel / Distanciel synchrone / Hybride · Français · 2 880 € TTC · Réf. INT-0118

2 880 € TTC

Voir les dates

Prochaine session

du 12 au 14 mai 2027 · La Défense (Tour Canopy) · Présentiel ou à distance

Toutes les dates

En quelques mots

Un modèle qui fonctionne en test peut échouer en production. La formation traite la détection des biais et des dérives de données, les tests de robustesse, les attaques adverses et le vol de données, les techniques d'explicabilité, et l'application des référentiels ISO et RGPD.

Objectifs pédagogiques

  • Détecter les biais et les dérives de données
  • Tester la robustesse d'un modèle
  • Se protéger des attaques adverses
  • Rendre un modèle explicable et conforme

Public visé

Développeurs, data scientists, responsables IA

Prérequis

Non précisé

Programme

Les travaux pratiques s’appuient sur un modèle prédictif et des jeux de données fournis. Les participants examinent ses erreurs, testent son comportement dans des situations dégradées et analysent ses vulnérabilités dans un environnement isolé. Ils constituent progressivement un dossier de fiabilité précisant les contrôles réalisés, les limites observées et les mesures proposées.

  1. Module 1 : Le contexte d’utilisation et les critères de fiabilité

    • Finalité du modèle, utilisateurs et conséquences des erreurs.
    • Distinction entre performance moyenne, robustesse, équité et sécurité.
    • Hypothèses sur les données et conditions dans lesquelles le modèle a été validé.
    • Évolution des données, changement de contexte et situations hors du périmètre prévu.
    • Critères d’acceptation, limites d’usage et recours au contrôle humain.
    • Identification des éléments à examiner : données, prétraitements, modèle et interface d’utilisation.
  2. Module 2 : Les biais et les tests de robustesse

    • Erreurs selon les catégories de données et les situations métier.
    • Représentativité des données et limites des analyses sur de petits groupes.
    • Valeurs manquantes, bruit, erreurs de saisie et catégories inconnues.
    • Sensibilité à des variations plausibles des entrées.
    • Changements de distribution et distinction entre signal de dérive et dégradation démontrée.
    • Comparaison des résultats avant et après correction, avec contrôle des régressions.

    Atelier d’audit : Examiner les erreurs d’un modèle sur plusieurs sous-ensembles de données, construire des tests de perturbation et vérifier si les corrections améliorent réellement son comportement.

  3. Module 3 : L’explicabilité et l’interprétation des résultats

    • Explications globales du modèle et explications d’une prédiction particulière.
    • Principes et usages de SHAP, LIME et des courbes de dépendance partielle.
    • Contributions des variables et recherche de dépendances inattendues.
    • Effets des variables corrélées, du choix des données de référence et des paramètres d’explication.
    • Distinction entre association prédictive, causalité et justification d’une décision.
    • Limites des explications comme preuve de fiabilité ou d’absence de discrimination.

    Analyse guidée : Utiliser SHAP pour examiner des prédictions correctes et incorrectes, confronter les explications à une autre méthode et préciser les conclusions que les résultats permettent réellement de tirer.

  4. Module 4 : Les menaces sur les données et les modèles

    • Surface d’attaque : collecte, apprentissage, stockage, dépendances et service de prédiction.
    • Empoisonnement des données et altération des composants du modèle.
    • Entrées adversariales destinées à modifier les prédictions.
    • Extraction du modèle et tentatives d’inférence sur les données d’apprentissage.
    • Risques liés aux fichiers de modèles, à leur provenance et à leur chargement.
    • Hypothèses sur les accès et les capacités de l’attaquant pour sélectionner des tests pertinents.
  5. Module 5 : Les mesures de protection et leur vérification

    • Contrôle des accès, séparation des environnements et protection des secrets.
    • Provenance et intégrité des données, des dépendances et des modèles.
    • Validation des entrées, restrictions d’usage et limitation des requêtes.
    • Isolation des traitements et maîtrise des opérations exécutées.
    • Protection des informations exposées dans les réponses et les journaux.
    • Limites des contre-mesures et arbitrages avec la performance ou la disponibilité.

    Simulation contrôlée : Tester une manipulation d’entrées sur le modèle fourni, appliquer une mesure de protection et comparer son efficacité ainsi que ses effets sur les usages légitimes.

  6. Module 6 : La documentation et les décisions d’utilisation

    • Traçabilité des versions, des tests, des corrections et des résultats.
    • Fiche du modèle : finalité, données, performances, limites et usages exclus.
    • Documentation des risques résiduels et des responsabilités de contrôle.
    • Repères d’ISO/IEC 23894 et articulation avec les exigences de protection des données.
    • Distinction entre éléments techniques documentés et démonstration de conformité.
    • Conditions de validation, de restriction, de réexamen ou de suspension.

    2. MLOps : superviser les modèles en production (MLflow, W&B)

Méthodes pédagogiques

  • Apports structurés et études de cas concrets
  • Ateliers pratiques et labs sur plateforme de pratique
  • Jusqu'à 70 % de pratique sur les modules techniques
  • Supports fournis et accès aux environnements d'entraînement

Modalités d'évaluation

  • Test de positionnement en amont
  • Évaluations continues (QCM, travaux pratiques)
  • Évaluation de fin de formation et attestation

Votre formateur

Cette formation est animée par l'un de nos formateurs experts du domaine. Nos formateurs sont des praticiens en activité, au sein d'ACENSI, ESN de 2 500 consultants, ou de notre réseau d'experts partenaires : ils interviennent au quotidien sur les sujets qu'ils enseignent, et transmettent des méthodes éprouvées sur des projets réels plutôt que des connaissances théoriques. Chaque intervenant est sélectionné pour son expertise technique, son expérience opérationnelle et ses qualités pédagogiques.

Prochaines sessions

  • du 12 au 14 mai 2027

    La Défense (Tour Canopy) · Présentiel ou à distance

    S'inscrire
  • du 28 au 30 juin 2027

    Clermont-Ferrand · Présentiel ou à distance

    S'inscrire

Modalités pratiques

Modalités
Présentiel, Distanciel synchrone, Hybride
Formats
Inter-entreprises, Intra-entreprise
Lieux
Versailles, La Défense (Tour Canopy), Clermont-Ferrand
Effectif
De 2 à 12 participants
Langue
Français

Financement

Cette formation peut être financée par :

  • OPCO de votre branche professionnelle, pour les salariés
  • Plan de développement des compétences de votre entreprise
  • France Travail (AIF), pour les demandeurs d'emploi
  • Transitions Pro, dans le cadre d'un projet de reconversion professionnelle

Nous vous accompagnons dans le montage de votre dossier de financement.

Financement OPCO ou CPF : prévoyez idéalement 2 mois avant la session.

Accessibilité et handicap

Toutes nos formations sont accessibles aux personnes en situation de handicap. Avant votre inscription, notre référent handicap étudie avec vous vos besoins et les adaptations possibles : aménagement du rythme et des modalités, adaptation des supports, accessibilité des locaux, et recours si nécessaire à des partenaires spécialisés. Nos trois sites sont accessibles aux personnes à mobilité réduite.

Référent handicap : Benjamin BONNET — handicap@acensi.fr