L’intelligence artificielle révolutionne rapidement chaque secteur, de la santé à la finance, en passant par le marketing et l’administration publique. Mais qui surveille ces systèmes? Comment pouvons-nous garantir que l’AI ne viole pas les droits fondamentaux?
C’est de ces questions que naît l’EU AI Act, la première législation au monde qui régule le développement, la distribution et l’utilisation de l’intelligence artificielle selon un principe clé : le risque.
Sommaire
Que prévoit l’EU AI Act ?
Approuvé en 2024, le Règlement européen sur l’intelligence artificielle introduit une approche basée sur le risque. Les systèmes d’IA sont classés en quatre catégories principales :
🔹 IA à risque minimal
🔹 IA à haut risque
🔹 IA interdite
🔹 Modèles à usage général (GPAI)
Pratiques interdites : l’IA qui n’aura pas d’avenir
Certaines utilisations de l’intelligence artificielle sont considérées comme éthiquement inacceptables ou dangereuses et seront interdites à partir du 2 février 2025.
Exemples d’IA interdite :
- Score social (style “Black Mirror”): évaluer les personnes en fonction de leur comportement, avec des conséquences dans la vie réelle.
- Manipulation psychologique : systèmes qui poussent les utilisateurs à prendre des décisions nuisibles ou inconscientes.
- Scraping de visages d’Internet pour des bases de données biométriques.
- Reconnaissance des émotions dans les écoles et les lieux de travail (sauf pour des raisons de santé ou de sécurité).
- Surveillance biométrique en temps réel par les forces de l’ordre, sauf cas exceptionnels autorisés.
IA à haut risque : règles et exigences
Les systèmes à haut risque sont ceux qui impactent directement les droits, la sécurité ou l’accès aux services essentiels. Ils devront respecter des exigences strictes.
Exemples concrets :
- IA utilisée pour embaucher des candidats ou évaluer les performances.
- Systèmes qui déterminent l’admissibilité au crédit ou aux prestations sociales.
- Algorithmes dans dispositifs médicaux ou infrastructures critiques (énergie, transports).
- Outils d’IA qui influencent le système judiciaire ou les élections démocratiques.
Les fournisseurs devront :
- Adopter des systèmes de gestion du risque continu
- Garantir haute qualité des données de formation et de test
- Documenter chaque étape avec transparence technique
- Mettre en œuvre piani di monitoraggio post-commercializzazione
Les utilisateurs devront :
- Utiliser les systèmes en suivant les instructions spécifiques
- Conserver les log del sistema AI
- Évaluer les impacts sur les droits fondamentaux dans des contextes publics ou sensibles
Les règles entreront en vigueur à partir du 2 août 2026.
Règles pour les modèles AI génériques (GPAI)
Le règlement introduit également une discipline ad hoc pour les foundation models comme Granite di IBM ou LLaMA 3 di Meta, qui peuvent être utilisés dans de nombreuses applications différentes.
Obligations des fournisseurs GPAI :
- Respect du copyright UE
- Résumé public des dataset de training
- Marquage automatique des contenus générés (deepfake, textes, images)
Si un modèle dépasse le seuil de 10²⁵ FLOP lors de l’entraînement, il est considéré comme un risque systémique et devra :
- Signaler les incidents graves
- Adopter des mesures avancées de cybersecurity
Les règles s’appliquent aux nouveaux modèles à partir du 2 août 2025, avec une période d’adaptation jusqu’en 2027 pour ceux déjà existants.
À qui s’applique l’EU AI Act ?
Le règlement s’applique à :
- Fournisseurs (qui développe ou commercialise l’AI)
- Utilizzatori (qui utilise des systèmes AI dans son activité)
- Importateurs et distributeurs dans l’UE
Les entreprises hors UE sont également soumises à la réglementation si leurs systèmes ou résultats sont utilisés dans l’Union Européenne. Dans ce cas, elles doivent désigner un représentant autorisé dans l’UE.
Sanctions : jusqu’à 35 millions d’euros
Les amendes sont proportionnelles à la gravité de la violation :
| Type de Violation | Sanction Maximale |
| Utilisation d’AI interdite | €35 millions ou 7% du chiffre d’affaires mondial |
| Violation des exigences pour AI à haut risque | €15 millions ou 3% du chiffre d’affaires mondial |
| Informations trompeuses aux autorités | €7,5 millions ou 1% du chiffre d’affaires mondial |
Les PMI et startup bénéficient d’un régime de sanctions proportionnel.
Dates clés
1° août 2024: entrée en vigueur officielle
2 février 2025: interdiction des pratiques AI interdites
2 août 2025: GPAI (nouveaux modèles)
2 août 2026: AI à haut risque
2 août 2027: systèmes régulés par d’autres réglementations de l’UE
FAQ – Questions fréquentes sur l’AI Act
▶ L’AI Act s’applique-t-il également à l’utilisation personnelle de l’intelligence artificielle ?
Non. Les usages personnels ou pour la recherche scientifique sont exemptés.
▶ Les systèmes open source sont-ils réglementés ?
Oui, s’ils ont un impact systémique ou sont utilisés dans des contextes à risque.
▶ Que signifie “marquer les contenus générés” ?
Ajouter des métadonnées ou des étiquettes lisibles par les machines qui signalent que le contenu (par exemple, une vidéo deepfake) a été généré ou altéré par une IA.
Conclusion
Le AI Act de l’UE est bien plus qu’une loi : c’est une déclaration d’intentions sur l’avenir de l’innovation numérique européenne. Les entreprises qui développent, distribuent ou utilisent l’IA doivent agir immédiatement pour évaluer leurs risques, adapter les processus et investir dans la transparence et la gouvernance.




