Aller au contenu principal
ACENSILearning

Intelligence artificielle · Machine learning et MLOps

Optimiser les performances IA (GPU, CUDA, NumPy avancé)

Réduire les temps de calcul de l'IA grâce au GPU et à la vectorisation.

  • Expert

4 jours (28 h) · Présentiel / Distanciel synchrone / Hybride · Français · 3 480 € TTC · Réf. INT-0117

3 480 € TTC

Voir les dates

Prochaine session

du 30 novembre au 3 décembre 2026 · Clermont-Ferrand · Présentiel ou à distance

Toutes les dates

En quelques mots

Réduire les temps de calcul quand les volumes explosent. La formation traite l'architecture CPU et GPU et ses goulots d'étranglement, la vectorisation du code Python, l'usage de NumPy, CuPy et Numba, la programmation CUDA, et l'accélération de l'entraînement des modèles.

Objectifs pédagogiques

  • Comprendre l'architecture CPU et GPU et ses goulots
  • Vectoriser le code Python avec NumPy
  • Accélérer les calculs avec CuPy, Numba et CUDA
  • Accélérer l'entraînement des modèles

Public visé

Développeurs et data scientists

Prérequis

Non précisé

Programme

Les travaux pratiques s’appuient sur des traitements numériques et un modèle supervisé léger, avec un environnement CPU et GPU préparé pour la formation. Les participants comparent plusieurs stratégies d’optimisation, mesurent leurs effets et vérifient la validité des résultats. Une synthèse finale distingue les gains locaux des améliorations obtenues sur l’ensemble du traitement.

  1. Module 1 : Les architectures de calcul et les goulots d’étranglement

    • Architecture CPU et GPU : parallélisme, mémoire et types de calcul adaptés.
    • Temps consacré au calcul, aux accès mémoire, aux entrées-sorties et aux transferts.
    • Différences entre latence, débit et temps total de traitement.
    • Limites d’accélération liées aux parties séquentielles d’un programme.
    • Influence du volume de données et du matériel sur le choix d’une solution.
    • Rôles de NumPy, Numba, CuPy, CUDA et des frameworks de deep learning.
  2. Module 2 : Le profilage et les mesures de référence

    • Profilage du code Python et identification des opérations coûteuses.
    • Mesures répétées sur des données représentatives et analyse de la variabilité.
    • Temps de compilation, initialisation et échauffement avant les mesures.
    • Exécution asynchrone du GPU, synchronisation et événements de chronométrage.
    • Distinction entre temps d’un calcul isolé et durée incluant les transferts.
    • Résultats de référence et tolérances pour vérifier les versions optimisées.

    Exercice de diagnostic : Examiner un benchmark donnant une impression trompeuse d’accélération, corriger son protocole et établir les mesures de référence du traitement fourni.

  3. Module 3 : La vectorisation et la gestion mémoire avec NumPy

    • Opérations vectorisées, fonctions universelles et calcul matriciel.
    • Broadcasting, slicing, indexation et réductions.
    • Forme des tableaux, types de données et organisation en mémoire.
    • Copies, vues et conséquences des modifications sur les tableaux partagés.
    • Tableaux intermédiaires, allocations et calcul par blocs.
    • Arbitrages entre rapidité, consommation mémoire et lisibilité du code.

    Atelier d’optimisation : Remplacer les boucles d’un traitement numérique par des opérations NumPy, puis réduire les allocations et vérifier les gains sur plusieurs tailles de données.

  4. Module 4 : La compilation et le parallélisme sur CPU

    • Compilation à la volée avec Numba et fonctions compatibles.
    • Boucles compilées et situations où la vectorisation n’est pas la meilleure option.
    • Parallélisation de boucles indépendantes et gestion des réductions.
    • Calcul multiprocessus, partage des données et coût des échanges.
    • Interactions avec les bibliothèques numériques utilisant plusieurs threads.
    • Précision numérique, ordre des opérations et limites des options de calcul accéléré.
  5. Module 5 : Le calcul GPU avec CuPy

    • Tableaux GPU et adaptation d’opérations NumPy avec CuPy.
    • Transferts entre mémoire CPU et GPU.
    • Conservation des données sur le GPU et réduction des allers-retours.
    • Allocation, réutilisation et limites de la mémoire disponible.
    • Exécution asynchrone et points de synchronisation.
    • Comparaison des solutions CPU et GPU selon le volume et la nature du calcul.

    Atelier comparatif : Porter un traitement sur CuPy, mesurer le calcul seul puis le traitement complet et identifier les volumes pour lesquels le GPU apporte un bénéfice.

  6. Module 6 : Les kernels CUDA et les accès mémoire

    • Organisation de l’exécution en threads, blocs et grilles.
    • Indexation des données et contrôle des limites d’un kernel.
    • Accès à la mémoire globale et regroupement des accès des threads.
    • Principes de mémoire partagée et de synchronisation.
    • Divergence des branches et configuration du lancement.
    • Intérêt d’un kernel spécifique face aux opérations déjà optimisées des bibliothèques.

    Travail guidé : Compléter un kernel CUDA fourni, vérifier son résultat et comparer deux organisations des accès mémoire à partir de mesures.

  7. Module 7 : L’accélération des réseaux neuronaux

    • Répartition du temps entre préparation des données, transferts, calcul et mise à jour du modèle.
    • Taille des lots, débit d’entraînement et contraintes de mémoire.
    • Préparation et chargement des données pour limiter l’attente du GPU.
    • Précision mixte et conditions d’utilisation des Tensor Cores.
    • Stabilité numérique et contrôle de la qualité du modèle après modification.
    • Profilage d’une boucle d’entraînement et sélection des optimisations utiles.

    Expérimentation : Comparer l’entraînement d’un réseau léger sur CPU et GPU, puis tester la précision mixte et plusieurs tailles de lots en contrôlant le temps, la mémoire et les résultats obtenus.

  8. Module 8 : Les arbitrages et le suivi des performances

    • Comparaison des versions sur un protocole commun.
    • Gains de temps, consommation mémoire et coût des ressources mobilisées.
    • Mesure de la puissance et de l’énergie lorsque les capteurs sont disponibles, avec leurs limites.
    • Choix d’une optimisation selon les volumes, la fréquence d’exécution et les contraintes de maintenance.
    • Tests de non-régression numérique et benchmarks automatisés.
    • Documentation du matériel, des versions logicielles et des conditions de mesure.

    Mini-projet de synthèse : Optimiser un traitement fourni, produire un benchmark reproductible et justifier la solution retenue à partir des gains, de la validité des résultats et des contraintes d’exploitation.

Méthodes pédagogiques

  • Apports structurés et études de cas concrets
  • Ateliers pratiques et labs sur plateforme de pratique
  • Jusqu'à 70 % de pratique sur les modules techniques
  • Supports fournis et accès aux environnements d'entraînement

Modalités d'évaluation

  • Test de positionnement en amont
  • Évaluations continues (QCM, travaux pratiques)
  • Évaluation de fin de formation et attestation

Votre formateur

Cette formation est animée par l'un de nos formateurs experts du domaine. Nos formateurs sont des praticiens en activité, au sein d'ACENSI, ESN de 2 500 consultants, ou de notre réseau d'experts partenaires : ils interviennent au quotidien sur les sujets qu'ils enseignent, et transmettent des méthodes éprouvées sur des projets réels plutôt que des connaissances théoriques. Chaque intervenant est sélectionné pour son expertise technique, son expérience opérationnelle et ses qualités pédagogiques.

Prochaines sessions

  • du 30 novembre au 3 décembre 2026

    Clermont-Ferrand · Présentiel ou à distance

    S'inscrire
  • du 2 au 5 mars 2027

    La Défense (Tour Canopy) · Présentiel ou à distance

    S'inscrire

Modalités pratiques

Modalités
Présentiel, Distanciel synchrone, Hybride
Formats
Inter-entreprises, Intra-entreprise
Lieux
Versailles, La Défense (Tour Canopy), Clermont-Ferrand
Effectif
De 2 à 12 participants
Langue
Français

Financement

Cette formation peut être financée par :

  • OPCO de votre branche professionnelle, pour les salariés
  • Plan de développement des compétences de votre entreprise
  • France Travail (AIF), pour les demandeurs d'emploi
  • Transitions Pro, dans le cadre d'un projet de reconversion professionnelle

Nous vous accompagnons dans le montage de votre dossier de financement.

Financement OPCO ou CPF : prévoyez idéalement 2 mois avant la session.

Accessibilité et handicap

Toutes nos formations sont accessibles aux personnes en situation de handicap. Avant votre inscription, notre référent handicap étudie avec vous vos besoins et les adaptations possibles : aménagement du rythme et des modalités, adaptation des supports, accessibilité des locaux, et recours si nécessaire à des partenaires spécialisés. Nos trois sites sont accessibles aux personnes à mobilité réduite.

Référent handicap : Benjamin BONNET — handicap@acensi.fr