L’intelligence artificielle (IA) désigne, selon le Parlement européen, « la possibilité pour une machine de reproduire des comportements liés aux humains, tels que le raisonnement, la planification et la créativité » .
L’IA peut servir dans des domaines très variés, tels que la santé, l’agriculture, l’éducation, les médias, le sport, la culture, la gestion des infrastructures, les transports et la logistique, les services publics, la sécurité, la justice.
Concrètement, une IA peut traduire des documents, détecter et combattre des cyberattaques mais aussi fournir des recommandations aux utilisateurs à partir de leurs comportements en ligne. Les utilisations potentielles semblent infinies.
1. Des risques liés à l’utilisation de l’IA
L’utilisation d’une technologie aussi innovante peut néanmoins causer de graves préjudices matériels comme immatériels (psychologiques, sociaux, économiques).
Conscient de ces risques, le législateur européen a donc adopté le règlement sur l’intelligence artificielle.
Plus communément appelé « AI Act » pour Artificial Intelligence Act, le texte européen classe les systèmes d’IA en quatre niveaux : le niveau de risque inacceptable, le risque élevé ou haut risque, le risque spécifique en matière de transparence et le risque minimal.
Mentionné plus de 770 fois dans le texte, le terme « risque » est définit comme « la combinaison de la probabilité d’un préjudice et de la sévérité de celui-ci ».
Le règlement européen interdit les systèmes d’IA aux risques inacceptables car ceux-ci ont « pour objectif ou pour effet d’altérer substantiellement les comportements humains avec le risque de causer des dommages importants, en particulier d’avoir des incidences suffisamment importantes sur la santé physique ou psychologique ou sur les intérêts financiers ».
2. Les pratiques interdites
Sont interdites toutes les IA ayant pour objet ou pour effet de manipuler le comportement des personnes.
La manipulation est caractérisée soit par le fait que la personne n’ait pas conscience de l’influence de l’IA sur son comportement, soit du fait de l’impossibilité pour elle d’y réagir ou de s’y opposer.
Ainsi, en principe, les pratiques suivantes sont interdites par le règlement sur l’IA :
- la tromperie, la manipulation et l’exploitation des vulnérabilités de personnes ou groupes de personnes, telle que l’utilisation d’images rapides pour influencer des décisions d’achat ;
- la notation sociale ou « scoring social » , qui est préjudiciable ou défavorable à certaines personnes :
Il s’agit par exemple d’un organisme de protection sociale qui utilise un système d'IA pour estimer la probabilité de fraude des bénéficiaires d'allocations familiales lorsque cette estimation est basée sur le fait d'avoir un conjoint d'une certaine nationalité ou origine ethnique, d'avoir une connexion internet, un comportement sur les plateformes sociales ou des performances sur le lieu de travail, etc. Pour la Commission européenne cette pratique est interdite dans la mesure où les caractéristiques sont « collectées ou déduites de contextes sociaux sans lien apparent ni pertinence pour l'évaluation de la fraude »;
- l’évaluation individuelle des risques et prévision des infractions pénales*,
C’est le cas lorsque les autorités fiscales utilisent uniquement un outil prédictif d’IA pour prédire les infractions fiscales potentielles que des personnes pourraient commettre et cibler ses enquêtes sur celles-ci. Cela implique que l’autorité fiscale se soit basée un profil établi par l’IA à partir du lieu de naissance, du nombre d’enfants ou encore de la double nationalité;
- l’extraction non ciblée d’images faciales provenant de l’internet ou de la vidéosurveillance,
- la reconnaissance des émotions sur les lieux de travail et dans les établissements d’enseignements*,
- la catégorisation biométrique pour certaines caractéristiques sensibles telles que la prétendue race, les opinions politiques, les orientations sexuelles,
Sont par conséquent interdits les systèmes qui classent les personnes sur les réseaux sociaux en fonction de leur orientation sexuelle supposée, afin de leur adresser de la publicité ciblée;
- l’identification biométrique à distance en temps réel (RBI) à des fins répressives*.
*Ces interdictions connaissent de nombreuses exceptions, qui méritent à elles seules un article dédié et qui méritent d’être étudiées attentivement avant la mise en service ou la mise sur le marché de tout système d’IA.
Jessy Pollux
Sources :
Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle
Les exemples sont issus des Lignes directrices de la Commission sur les pratiques interdites en matière d’IA
Pas de contribution, soyez le premier