[6/30] Interdiction IA : ce que l’AI Act interdit vraiment

Podcast: Play in new window | Download (Duration: 2:33 — 3.5MB)

(: S'inscrire au podcast via une plateforme : Spotify | Deezer | Youtube Music | RSS

[6/30] Interdiction IA : ce que l’AI Act interdit vraiment

Publié le 31 mai 2026 • Temps de lecture : 6 minutes

L’interdiction de l’IA désigne, dans le cadre du Règlement européen sur l’IA (AI Act), l’exclusion légale de tout système ou usage d’intelligence artificielle jugé incompatible avec les droits fondamentaux : notation sociale, manipulation comportementale, identification biométrique en temps réel dans les espaces publics. Ce premier cadre juridique contraignant au monde s’applique à toute organisation active sur le territoire européen, y compris les formateurs et enseignants qui utilisent des outils IA au quotidien.

J’ai suivi de près les travaux de la mission d’information de l’Assemblée nationale, présidée par Roger Chudeau et dont Céline Calvez est rapporteure. Ce qui m’a arrêtée dans cette séance, c’est la question des droits culturels et de la transparence sur les données d’entraînement : une problématique qui touche directement les ressources pédagogiques que j’utilise et que je produis.

Dans mon article, je ne commente pas les positions politiques des intervenants. Je trie ce qui est actionnable pour une formatrice indépendante : ce que le cadre légal interdit, ce qu’il impose en matière de transparence, et ce que cela change concrètement dans la façon de choisir et d’utiliser ses outils.

[FAQ] Les 5 questions clés sur l’interdiction IA

Si vous arrivez avec une question précise, voici les réponses directes aux interrogations que pose l’interdiction IA aux formateurs et enseignants.

Quelles sont les IA interdites ?

Le Règlement européen sur l’IA (AI Act), entré en vigueur en 2024, interdit les systèmes présentant un risque inacceptable : notation sociale généralisée des citoyens, manipulation comportementale subliminale, identification biométrique en temps réel dans les espaces publics, et exploitation des vulnérabilités liées à l’âge ou au handicap. Ces interdictions s’appliquent à tous les opérateurs établis ou actifs en Europe, y compris les outils utilisés en contexte éducatif.

Qu’est-ce qu’une interdiction d’IA ?

Une interdiction d’IA désigne l’exclusion légale d’un usage ou d’un système d’intelligence artificielle jugé incompatible avec les droits fondamentaux. Dans le cadre de l’AI Act, ces interdictions visent les applications dont le risque pour les libertés individuelles est considéré comme inacceptable et non compensable par des mesures techniques. Ce n’est pas l’outil lui-même qui est interdit, mais l’usage précis qui en est fait.

Quels sont les 3 métiers qui survivront à l’IA ?

La mission d’information de l’Assemblée nationale n’a pas listé de métiers en ces termes, et aucun consensus académique ne valide cette formulation. Ce qui ressort des auditions, c’est que les activités ancrées dans le discernement humain, la relation de confiance et la conception pédagogique résistent mieux à l’automatisation. Le formateur qui sait transformer un contenu en expérience d’apprentissage ne disparaît pas : il se repositionne.

Qu’a dit Elon Musk à propos de l’IA ?

Elon Musk n’a pas été auditionné par la mission d’information de l’Assemblée nationale. La mission a travaillé avec des experts juridiques, des représentants d’ayants droit et des spécialistes du droit européen, notamment autour des travaux du CSPLA et du rapport Draghi. Les déclarations publiques d’Elon Musk sur l’IA, souvent contradictoires selon les périodes, ne constituent pas une référence juridique ou pédagogique fiable pour les formateurs.

La France peut-elle interdire une IA de son côté ?

Oui, dans certaines limites. Le principe d’autonomie procédurale des États membres, invoqué dans la Proposition de loi Darcos, permet à la France de compléter le cadre européen pour garantir l’effectivité du droit. La PPL Darcos s’appuie sur la directive européenne de 2004 sur le respect des droits pour introduire une présomption d’exploitation, renforçant la position des créateurs face aux fournisseurs d’IA qui utilisent leurs oeuvres sans autorisation préalable.

Ce que la séance a mis en lumière : droits culturels et opacité des données

La note d’orientation stratégique examinée lors de cette séance part d’un constat brutal : l’émergence de l’IA générative a créé une asymétrie de pouvoir entre les géants technologiques et les détenteurs de droits, qu’il s’agisse d’auteurs, d’éditeurs ou de producteurs de contenus pédagogiques. Cette asymétrie n’est pas théorique. Elle est documentée par des procédures judiciaires en cours, notamment aux États-Unis, où certains fournisseurs d’IA ont admis avoir utilisé des bases de données piratées pour entraîner leurs modèles.

Le cadre juridique central, ici, est la directive européenne de 2019 sur la fouille de textes et de données (TDM). Son article 4 permet en principe aux entreprises privées d’utiliser des contenus protégés pour entraîner leurs modèles, sauf opposition explicite des ayants droit. Mais selon les experts auditionnés et les travaux du CSPLA (Conseil supérieur de la propriété littéraire et artistique), cet article est aujourd’hui détourné de sa finalité initiale. Il visait la recherche scientifique, pas la génération commerciale de contenus concurrents.

Or l’émergence d’un marché de licences, illustré par l’accord entre OpenAI et Le Monde, prouve qu’un marché existe. Utiliser gratuitement des contenus via le TDM alors qu’un tel marché est constitué entre, selon le droit international, en contradiction avec le « test en trois étapes » qui conditionne la validité des exceptions au droit d’auteur.

Le mécanisme d’opt-out, censé permettre aux créateurs de refuser l’utilisation de leurs oeuvres, est lui aussi remis en cause. L’outil principal, le fichier Robot.txt, a été conçu pour le référencement des moteurs de recherche, pas pour l’exercice de droits de propriété intellectuelle. Son détournement à des fins d’entraînement IA est, selon les experts cités, techniquement inadapté et juridiquement fragile.

La doctrine « ingrédients vs recette » : ce que la transparence doit vraiment imposer

La transparence sur les données d’entraînement est le concept le plus directement utile pour un formateur qui choisit ses outils. Le Règlement européen sur l’IA impose aux fournisseurs de publier un « résumé suffisamment détaillé » des données utilisées pour entraîner leurs modèles. Mais cette formulation, issue selon la note d’orientation d’un lobbying intense, maintient un flou qui rend la vérification impossible dans la pratique.

La proposition qui émerge des travaux du CSPLA est de distinguer deux niveaux d’information. D’un côté, les « ingrédients » : liste exhaustive des sources, métadonnées, origines des bases de données, preuve de vérification du droit d’opt-out. Ces éléments doivent être obligatoirement transparents. De l’autre côté, la « recette » : méthodes de filtrage, pondération des données, architectures algorithmiques. Ces éléments relèvent du secret des affaires et n’ont pas à être divulgués.

Cette distinction est opérationnelle. En tant que formatrice, elle me permet de poser une question concrète à n’importe quel fournisseur d’outil IA : sur quelles sources avez-vous entraîné votre modèle, et pouvez-vous en apporter la preuve ? Si la réponse est évasive, c’est un signal de vigilance.

C’est précisément sur cette question de la responsabilité des acteurs que je me suis arrêtée dans mon article précédent. Mon article sur la responsabilité IA (3/30) pose le cadre de qui répond de quoi quand un système IA produit une erreur ou cause un préjudice. La transparence sur les données d’entraînement en est le préalable logique : on ne peut pas attribuer une responsabilité si on ignore ce qu’un modèle a ingéré.

Ce que ça va changer dans ma pratique

La première chose que je projette de faire, c’est de systématiser une vérification minimale avant d’adopter un nouvel outil IA dans mon workflow. Je chercherai à identifier si le fournisseur publie une documentation sur ses sources d’entraînement, même partielle. Ce n’est pas une garantie juridique, mais c’est un premier filtre.

Ensuite, pour les contenus que je produis avec l’aide de l’IA, j’envisage de renforcer ma pratique de validation : chaque sortie générée que je publie est relue, corrigée, et signée avec ma mention habituelle de co-écriture. Ce n’est pas nouveau dans ma méthode, mais le cadre légal qui se construit me conforte dans cette posture. Si la responsabilité reste humaine, la validation doit rester humaine aussi, et ce n’est pas un détail éditorial, c’est une position de fond.

Je compte également intégrer dans mes formations une séquence spécifique sur ce que l’AI Act change concrètement pour les formateurs : quels usages sont désormais encadrés, quels outils méritent d’être questionnés sur leur conformité, et comment documenter sa propre pratique pour être en mesure de justifier ses choix si nécessaire. Sur ce sujet, mon guide sur les meilleures IA pour les enseignants sera prochainement mis à jour pour intégrer ce critère de transparence des données.

Enfin, la question du « model collapse » mentionnée dans les travaux : à terme, les modèles IA qui se nourrissent uniquement de leurs propres sorties s’appauvrissent. Ce phénomène technique renforce l’idée que les contenus humains de qualité restent une ressource irremplaçable. Pour une formatrice, c’est une information utile : produire du contenu original, ancré dans l’expérience terrain, a une valeur qui va au-delà du SEO. C’est une ressource que les IA de demain continueront d’avoir besoin. Mon approche éditoriale sur ce que signifie être formateur digital en 2026 part de ce même constat.

Ce que je laisse de côté

Cette séance couvrait plusieurs dimensions que je ne traite pas ici. Les détails techniques de la Proposition de loi Darcos et ses articulations avec le droit européen sont des sujets juridiques qui dépassent mon champ d’expertise en tant que formatrice. Les tensions internationales autour des licences, notamment la position de l’association technologique NASCOM en Inde et les négociations en cours à l’échelle mondiale, sont des dynamiques que je suis sans prétendre les analyser. Je ne traite pas non plus des modèles économiques de rémunération des créateurs, sujet central de la séance mais qui relève davantage du droit de la propriété intellectuelle que de la pédagogie opérationnelle. C’est précisément pour ça que j’ouvre une série de 30 articles : pour trier, article par article, ce qui est directement utile à ceux qui conçoivent et livrent des formations.

Conclusion sur l’interdiction de l’IA

L’AI Act ne rend pas l’IA inutilisable. Il pose des limites claires sur les usages qui portent atteinte aux droits fondamentaux, et il commence à structurer un cadre de transparence qui nous concerne en tant qu’utilisateurs d’outils IA. Pour un formateur indépendant, cela se traduit par une vigilance accrue sur le choix des outils et une pratique de validation humaine qui ne peut pas être déléguée. Le prochain article de cette série (5/30) portera sur « automatiser IA » : ce que les auditions parlementaires révèlent sur les tâches automatisables et ce que cela change pour ceux qui conçoivent des parcours pédagogiques.

 

 

 

Ce post a été coécrit avec Claude. Le préciser sans s’en excuser, c’est aussi une façon de pratiquer ce que je prêche 

Asma