PROG.16 – Sécurité, RGPD & conformité des usages de l'IA avec MYAIFACTORY

Objectifs pédagogiques

Objectif général : rendre les participants autonomes pour décider si un usage de l'IA est acceptable, quelles protections mettre en place et comment en conserver la preuve.
Identifier les principales familles d’IA, leurs usages et leurs limites, et repérer les hallucinations, les biais et les situations nécessitant une validation humaine.
Comprendre le rôle de l'organisation au regard de l'IA Act et classifier ses usages.
Appliquer les principes du RGPD et les recommandations de la CNIL.
Protéger les comptes, les fichiers, les données et les accès, et sécuriser l'utilisation commerciale des contenus générés.
Définir des responsabilités, des circuits de validation et des règles internes, et construire une charte IA ainsi qu'un plan d'action à 30/60/90 jours.
Voir plus Voir moins

Matin – Module 1 : Comprendre les usages et les risques de l'IA – 55 min
• définition et fonctionnement simplifié de l'intelligence artificielle générative
• différences entre IA générative, prédictive, analytique, conversationnelle et multimodale
• panorama des principaux outils : ChatGPT, Claude, Copilot, Gemini, Mistral et Perplexity
• cas d'usage professionnels : rédaction, synthèse, analyse, recherche, image, audio et automatisation
• capacités et limites actuelles des modèles
• hallucinations, erreurs factuelles, biais, manque de contexte et obsolescence des réponses
• importance de la qualité des données et des instructions
• rôle de la vérification humaine, de la traçabilité et de la responsabilité professionnelle
Matin – Module 2 : IA Act : obligations et classification des risques – 1 h
• présentation du règlement européen sur l'intelligence artificielle et de son champ d'application
• distinction entre fournisseur, déployeur, importateur, distributeur et utilisateur concerné
• pratiques interdites et usages nécessitant une vigilance renforcée
• classification des systèmes et usages selon les niveaux de risque
• cas des systèmes à haut risque et obligations associées
• obligations de transparence applicables à certains contenus et systèmes génératifs
• documentation, traçabilité, journalisation, supervision humaine et suivi des incidents
• obligation de maîtrise et de sensibilisation à l'IA au sein de l'organisation
• sanctions, responsabilités et articulation avec le RGPD
• calendrier d'application actualisé et points de vigilance pour les entreprises
Matin – Module 3 : RGPD, CNIL et protection des données – 1 h
• rappel des principes du RGPD : licéité, loyauté, transparence, finalité, minimisation, exactitude et sécurité
• distinction entre données personnelles, catégories particulières, données confidentielles et secrets d'affaires
• identification de la finalité, de la base légale et des personnes concernées
• information des personnes et exercice des droits
• durées de conservation, suppression et limitation des accès
• risques liés à la saisie de données dans une IA générative publique
• anonymisation, pseudonymisation et limites de la réidentification
• rôle du DPO, registre des traitements et analyse d'impact relative à la protection des données
• sélection et encadrement des prestataires, transferts de données et paramètres de confidentialité
• recommandations pratiques de la CNIL pour le déploiement et l'utilisation de systèmes génératifs
Matin – Module 4 : Cybersécurité des usages IA – 55 min
• fuite, exfiltration et réutilisation involontaire des données
• injection de prompt, contournement des instructions et manipulation des sorties
• phishing, fraude, usurpation et ingénierie sociale assistés par IA
• risques liés aux extensions, connecteurs, agents et applications tierces
• sécurité des comptes : mots de passe robustes, MFA et récupération
• gestion des habilitations, principe du moindre privilège et revue des accès
• partage de fichiers, stockage cloud, journalisation et gestion des incidents
• différences entre offres grand public, professionnelles, privées et solutions maîtrisées
• hébergement, localisation des données, clauses contractuelles et sous-traitants
• principes issus des recommandations de l'ANSSI pour les systèmes d’IA générative
Après-midi – Module 5 : Propriété intellectuelle et contenus générés – 45 min
• principes essentiels du droit d'auteur et de la titularité des droits
• statut et protection possible des contenus générés avec une intervention humaine
• utilisation d'œuvres, marques, images, textes, voix et données appartenant à des tiers
• risques de plagiat, contrefaçon, parasitisme et atteinte à l'image
• conditions d'utilisation et licences des principaux outils et modèles
• droits d'usage commercial, restrictions et differences entre offres gratuites et professionnelles
• traçabilité des sources, conservation des versions et preuve de l'intervention humaine
• transparence sur l'utilisation de l'IA et validation avant diffusion
• clauses contractuelles avec les clients, prestataires et collaborateurs
Après-midi – Module 6 : Éthique, RSE et gouvernance de l'IA – 45 min
• biais algorithmiques, discrimination et effets sur les personnes
• transparence, explicabilité et capacité à justifier une decision
• supervision humaine et interdiction des décisions entièrement déléguées dans certains contextes
• responsabilité du dirigeant, du manager, du collaborateur et du prestataire
• impact environnemental, sobriété numérique et choix proportionné des outils
• gouvernance des usages : sponsor, référent IA, DPO, RSSI, métiers et utilisateurs
• politique BYOA — Bring Your Own AI — et risques des outils non autorisés
• information, consultation et sensibilisation des collaborateurs
• gestion des incidents, remontée d'alertes et amelioration continue
• introduction à l’ISO/IEC 42001 comme cadre de management de l'intelligence artificielle
Après-midi – Module 7 : Atelier : charte IA et feuille de route – 1 h 40
• inventaire des outils, usages, utilisateurs et données concernés
• définition du périmètre et des objectifs de la charte
• liste des usages autorisés, interdits et soumis à validation
• classification des données et règles de saisie
• règles de contrôle humain et de vérification des résultats
• sécurité des comptes, habilitations, fichiers et connecteurs
• transparence, propriété intellectuelle, conservation des preuves et traçabilité
• rôles, responsabilités, circuit d'escalade et gestion des incidents
• modalités de diffusion, sensibilisation, révision et amélioration continue
• construction d'une feuille de route et d'indicateurs de suivi
Livrable de fin : Charte IA de l'organisation et feuille de route à 30, 60 et 90 jours.
Voir plus Voir moins