Caméras, IA générative, réseaux sociaux : la CNIL met en garde contre les formes modernes de surveillance

Les nouvelles technologies, au premier rang desquelles le téléphone portable, ont favorisé l’émergence d’une culture généralisée de la surveillance. Un utilisateur peut en permanence être tracé. Il est possible de savoir quels sont ses goûts, sa position géographique, son occupation, etc. Il appartient à chacun de préserver sa vie privée des intrusions familiales, professionnelles ou algorithmiques.

Les grandes entreprises comme les GAFAM, et le cercle familial forment le contingent principal à l’origine de cette surveillance occulte, rappelait la CNIL, le 19 novembre dernier, à l’occasion du colloque « La surveillance dans tous ses états : quelle éthique pour (protéger) nos libertés ? ». S’agissant des entreprises du web, leur modèle économique repose sur la collecte et l’exploitation de nos données personnelles. « Chaque clic, chaque recherche, chaque achat, laisse une trace numérique qui est précieusement analysée par des algorithmes sophistiqués », déclare Marie-Laure Denis, présidente de la CNIL.

Nos données personnelles sont ensuite utilisées pour définir des publicités ciblées, influencer nos comportements et nos opinions, à travers une personnalisation des contenus. « Leur exploitation permet de déduire nos pensées, nos sentiments, et même nos intentions grâce à une architecture automatisée qui s’affranchit du consentement des personnes concernées. »

Les choses se produisent de cette façon depuis l'avènement récent des IA génératives, telles que ChatGPT (lancé fin 2022). « Le fonctionnement de cette technologie repose de la même manière sur l’extraction et la transformation de nos données par les mêmes géants du numérique », ajoute Marie-Laure Denis.

De nouveaux modes de surveillance

Les nouvelles technologies ont fait émerger des modes inédits de surveillance dans nos relations interpersonnelles. La surveillance « horizontale » diffère de la surveillance dite « verticale » qui émane de l’État. « Elle peut être le fait d’un proche, d’un voisin, mais aussi d’un manager, d’un professeur ou d'un futur employeur, voire d’un conjoint », explique la présidente de la CNIL. « Elle s’exerce à travers les nombreux objets connectés qui prolifèrent dans notre vie quotidienne et constituent autant d’outils censés nous simplifier la vie ».

Par exemple, il