Intelligence artificielle : le Sénat soutient l'instauration d'une réglementation européenne

La commission des affaires européennes du Sénat a adopté à l’unanimité, le 30 mars dernier, une proposition de résolution européenne dans le but d’appuyer l’instauration d’une réglementation dans le domaine de l’intelligence artificielle. Elle plaide notamment à ce titre pour une interdiction générale de certaines applications « particulièrement contraires aux valeurs européennes » comme les systèmes de reconnaissance émotionnelle, de catégorisation des personnes dans l’espace public ou encore de notation sociale.

Le rapport d’information portant sur des propositions pour légiférer sur les systèmes d’intelligence artificielle (IA) à l’échelle européenne a été adopté à l’unanimité le 30 mars dernier par la commission des affaires européennes du Sénat, donnant lieu au dépôt d’une proposition de résolution européenne, avec l’objectif d’harmoniser les règles concernant les systèmes d’IA dans l’Union européenne. 

Une démarche qui intervient à point nommé, alors que l’application de conversation ChatGPT a été interdite en Italie le 31 mars (l’Allemagne envisage d’ailleurs de faire de même, comme l’a indiqué le délégué fédéral Ulrich Kelber au journal Handelsblatt) et que la CNIL a reçu, en début de semaine, deux plaintes contre cet outil mettant en cause l’utilisation des données personnelles ; ce qui s’ajoute à la lettre ouverte réunissant plus d’un millier de personnalités de la tech qui ont appelé, dans un moratoire datant du 29 mars, à mettre en pause pendant au moins six mois les systèmes d’IA les plus puissants, afin d’éviter toute dérive.

Le Sénat favorable à une réglementation horizontale harmonisée

La commission, qui regrette l’absence de définition universelle de l’intelligence artificielle, considère que son déploiement devrait être encadré par des règles « claires, précises et compréhensibles par tous ». À ce titre, elle indique soutenir la volonté de la Commission européenne de mettre en place une réglementation horizontale harmonisée de l’IA.

De plus, elle recommande de respecter le Règlement général sur la protection des données (RGPD) car, comme elle le rappelle, « la conformité d’un système d’IA au règlement sur l’IA n’implique pas automatiquement sa conformité au RGPD et réciproquement ». Par conséquent, la chambre haute suggère d’édicter une loi s'articulant entre le règlement de l’IA et le RGPD.

Attention aux droits fondamentaux

Dans sa proposition de résolution, la commission des affaires européennes du Sénat souligne que, « mal utilisée, l’intelligence artificielle est susceptible de causer de graves atteintes aux droits fondamentaux. » Elle invite particulièrement à prendre en compte les risques concernant la santé, la sécurité, les droits fondamentaux et le respect des données personnelles et de la vie privée et suggère entre autres un renforcement des garanties entourant l’utilisation des systèmes d’IA en soumettant les fournisseurs de services à usage générique à des obligations spécifiques. 

La commission plaide notamment pour une interdiction générale de certaines applications « particulièrement contraires aux valeurs européennes », comme par exemple les systèmes de reconnaissance émotionnelle, de catégorisation des personnes dans l’espace public ou encore de notation sociale, comme cela est expérimenté en Chine depuis 2014.   

Les sénateurs attirent aussi l’attention sur les risques liés à la surveillance de masse découlant de la collecte et du traitement d’un nombre considérable de données personnelles par des algorithmes utilisés par de grandes compagnies privées.

Une liste de pratiques « à haut risque » régulièrement mise à jour

La commission recommande également une vigilance particulière concernant « les applications susceptibles de causer des préjudices environnementaux ainsi que les algorithmes de recommandations de contenus visant à maximiser le temps passé par les utilisateurs sur les réseaux sociaux, en promouvant les contenus de désinformation et les contenus clivants ». Ainsi, elle préconise d’entreprendre une réflexion afin de mettre en place un mécanisme d’alerte pour signaler aux régulateurs, aux fournisseurs ou aux utilisateurs les usages abusifs ou les performances défaillantes des systèmes d’IA.  

De plus, la commission du Sénat soutient la constitution d’une liste de pratiques « à haut risque », qui doit entre autres être régulièrement complétée et mise à jour, en fonction de l’évolution des technologies et de leur usage. La proposition de résolution recommande que « les modifications apportées à la liste puissent être au préalable soumises à un examen attentif de scientifiques et de praticiens de l’IA, en se fondant sur des éléments objectifs et documentés, par exemple dans le cadre du futur Comité européen de l’intelligence artificielle ».

L’Union européenne doit faire face à la concurrence

Pour autant, pas question de brider totalement le développement de l’IA. Au contraire, la chambre haute recommande de mobiliser les investissements nécessaires, financiers et humains, afin de permettre le développement d’une offre européenne souveraine en matière d’intelligence artificielle. Elle estime en effet que l’Union européenne, qui « souffre d’un déficit d’investissement regrettable en matière d’intelligence artificielle, alors que cette technologie représente des gisements de croissance considérables », doit se donner les moyens de faire face à la concurrence mondiale dans ce secteur.

Tina Millet