DOSSIER. Droits d’auteur et droits voisins : l’AI Act ne rassure pas complètement

mardi 21 mai 20243 min

Écouter l'article

Notre série "AI Act : un règlement funambule"

Avec l’AI Act, adopté le 21 mai par le Conseil européen, l'UE a innové en matière de régulation numérique pour produire un compromis entre la protection des libertés fondamentales et la protection des start-ups. Mais en optant pour une approche pratique par les risques, elle pourrait avoir affaibli l’objectif de défense des droits individuels. Le JSS consacre un dossier à cette nouvelle législation qui constitue une première mondiale.

DOSSIER. L'AI Act, meilleure gestionnaire de risques que gardienne des libertés

DOSSIER. Face aux cyberviolences, les timides progrès de l’AI Act

DOSSIER. Droits d’auteur et droits voisins : l’AI Act ne rassure pas complètement

21/05/2024 13:20:18 1 8 4912 70 1 Logo de la campagne No AI lancée par des artistes fin 2022 pour protester contre leur remplacement 0 4421 4586 DOSSIER. Face aux cyberviolences, les timides progrès de l’AI Act

Deepfakes pornographiques, cyberharcèlement de masse automatisé, usurpation d’identité… L’intelligence artificielle traîne son lot d’abus, peu abordés lors des discussions européennes qui ont conduit à l'adoption de l'AI Act, officiellement entériné par le Conseil européen le 21 mai.

Dossier AI Act : un règlement funambule

- L’AI Act, meilleure gestionnaire de risque que gardienne des libertés

- Droits d’auteur et droits voisins : l’AI Act ne rassure pas complètement

- Face aux cyberviolences, les timides progrès de l’AI Act

Des images dénudées aux visages de personnalités publiques ou d’anonymes, partagées à des millions d’internautes. Il y a quelques mois, c’était la chanteuse américaine Taylor Swift qui en était victime sur la plateforme X (ex-Twitter) : les deepfakes pornographiques prennent de l’ampleur sur les réseaux sociaux.

Ces images créées de toutes pièces grâce à l’intelligence artificielle sont utilisées pour harceler et dénigrer des femmes. En creux, ces montages démontrent comment l’automatisation permise par l’intelligence artificielle sert aux acteurs malveillants à décupler les cyberviolences : bots créés par centaines pour cyberharceler, possibilité d’usurper l’identité ou d’imputer des paroles haineuses… Les exemples sont nombreux.

« Les enjeux éthiques de l’IA sont liés à son application étendue et à sa capacité à être mise à l’échelle très facilement, observe Giada Pistelli, éthicienne au sein de la start-up spécialisée en IA, Hugging Face. Son impact social, sur l’individu et la société, peut être positif ou négatif [en fonction de] plein de facteurs à prendre en considération. L’intérêt de l’éthique est très vaste en IA et nous oblige à nous remettre en question en tant qu’humains. »

Vaste : le terme est faible. Le nombre de deepfakes a été multiplié par 10 entre 2022 et 2023 selon l’entreprise spécialisée dans la vérification de données Sumsub. Face aux utilisations hostiles de l’IA qui s’immiscent dans ce flux, l’arsenal législatif national et européen se développe depuis plusieurs années, essayant de rattraper des technologies toujours plus avancées.

Dernière tentative en date de réguler le secteur de l’intelligence artificielle, l’AI Act, officiellement adopté par le Conseil européen le 21 mai, présentait l’opportunité de s’emparer de l’enjeu des cyberviolences et de prévenir les risques d’atteintes à l’intégrité et à la