Des lignes directrices contre les pratiques interdites en matière d’Intelligence Artificielle

Des lignes directrices contre les pratiques interdites en matière d’Intelligence Artificielle

La Commission européenne a publié des « lignes directrices » relatives aux pratiques interdites en matière d'IA, directement en lien avec l'article 5 du règlement sur l'intelligence artificielle (AI Act). Elles visent à accroître la clarté juridique et à donner un aperçu de l'interprétation par la Commission des interdictions listées dans l'AI Act, « en vue d'en assurer une application cohérente, efficace et uniforme ». 

Globalement, ces lignes directrices se veulent accessibles aux organisations ne possédant pas d'expert juridique sur la question, et illustrent des cas concrets d'interdiction d'usage de l'IA. La majorité d'entre elles sont liées à l'utilisation d'informations biométriques et aux respects des droits fondamentaux. 

Ces lignes directrices précisent quatre grandes catégories d'interdiction :
- les techniques « subliminales, manipulatrices ou trompeuses » qui influencent les gens à leur insu et les poussent à prendre des décisions pouvant leur causer un « préjudice physique, psychologique, financier ou social important » 


- l'utilisation de l'IA pour du « scoring social », particulièrement l'utilisation de « données sans rapport » pour établir le profil et la classification d'une personne, ou du « profilage » à plus large échelle pour anticiper ou prévoir la criminalité d'un individu en fonction de ses informations biométriques 


- l'utilisation d'images de vidéosurveillance pour créer des « bases de données de reconnaissance faciale » ou pour surveiller l'état psychologique d'un salarié, ainsi que son utilisation dans des lieux publics par les autorités à des fins de respect de l'ordre public 


- l'utilisation de données biométriques pour « assigner des personnes à des catégories » (politiques, sexuelles).


Si ces interdictions sont applicables depuis le 2 février dernier, les chapitres sur la gouvernance, l'exécution et les sanctions ne le seront qu'à partir du 2 août prochain. Les Etats membres ont jusqu'à cette date pour désigner l'autorité nationale de surveillance du marché responsable des contrôles.
La Commission se réserve le droit de mettre à jour ces lignes directrices, si nécessaire, selon les remontées du secteur et l'évolution technologique de l'IA.
Les lignes directrices sur la définition des systèmes d'IA sont, elles, toujours attendues.