L'AI Act (règlement européen sur l'intelligence artificielle) repose sur une approche par les risques : plus un système d'IA peut avoir d'impact sur les droits fondamentaux, plus les obligations sont strictes.
Les 4 catégories
- Risque inacceptable : interdit purement et simplement (notation sociale, manipulation comportementale, certains usages de reconnaissance faciale en temps réel).
- Risque élevé : autorisé sous conditions strictes (documentation technique, supervision humaine, gestion des biais). Concerne par exemple le recrutement, le crédit ou l'éducation.
- Risque limité : obligation de transparence, comme informer l'utilisateur qu'il interagit avec un chatbot.
- Risque minimal : la grande majorité des usages actuels (filtres anti-spam, recommandations de contenu), sans obligation spécifique.
Pourquoi s'y intéresser dès maintenant
Les obligations pour les systèmes à haut risque entrent progressivement en application, avec des échéances déjà activées pour les pratiques interdites.
Les entreprises qui développent ou intègrent des outils d'IA dans leurs processus RH, financiers ou clients ont intérêt à cartographier leurs usages sans attendre.