Quels défis et initiatives législatives entourent l’intelligence artificielle, un domaine en pleine expansion qui soulève des préoccupations économiques, sociales et politiques ?
L’Union européenne (UE) a adopté l’Artificial Intelligence Act (AI Act) en 2024, une première mondiale visant à encadrer l’utilisation et le développement des systèmes d’IA pour protéger les droits fondamentaux. Ce texte, bien que prometteur, présente des limites significatives.
Points positifs de l’AI Act
- Évaluations des impacts : Le texte prévoit des évaluations de l’impact des systèmes d’IA sur les droits fondamentaux.
- Recours et réparations : Il offre des mécanismes de plainte et de réparation pour les personnes affectées.
- Interdictions spécifiques : Il interdit certaines utilisations de l’IA, comme les logiciels de notation sociale.
Failles et insuffisances
- Exceptions pour la police prédictive : Bien que certaines utilisations soient interdites, des exceptions existent, notamment pour la police prédictive. La question se pose de ces dispositions dans un contexte de montée des risques de régimes autoritaires.
- Reconnaissance faciale : L’AI Act autorise certains usages spécifiques de la reconnaissance faciale en temps réel, malgré les risques pour les droits et libertés.
- Surveillance aux frontières : L’IA est autorisée pour surveiller les personnes exilées, ce qui montre une volonté de tester des systèmes de surveillance sur des populations marginalisées.
- Portée géographique limitée : Le texte ne s’applique qu’au sein de l’UE, laissant les menaces globales de l’IA non adressées.
- Influence du secteur privé : Les fournisseurs de systèmes d’IA à risque élevé peuvent décider eux-mêmes si leur outil présente un risque, révélant une influence excessive du secteur privé.
Pour rappel, l’AI Act est aussi à mettre en perspective avec le Digital Services Act (DSA), adopté en 2023, qui impose aux plateformes technologiques de gérer les risques systémiques comme la haine en ligne et la désinformation, sous peine de lourdes amendes.
En conclusion, selon moi, bien que l’AI Act soit une avancée notable, ses failles révèlent la nécessité d’une réglementation plus robusteet globale pour faire face aux défis posés par l’IA. Il ne s’agit pas d’opposer innovation et réglementation, mais simplement de préserver nos droits fondamentaux.
