La première circulaire de politique civile, un texte qui divise

INTERVIEW. Alors que la commission d’enquête parlementaire sur la plateforme chinoise touche à sa fin, son président livre au JSS un bilan sans détour. Santé mentale en danger, fonctionnement obscur de l’algorithme et tensions avec certains auditionnés : tous les enjeux majeurs ont été passés au crible avant la remise du rapport le 4 septembre.

JSS : Comment définiriez-vous l’algorithme utilisé par TikTok ? Qu’est-ce qui le rend particulièrement redoutable ?

Arthur Delaporte : Cet algorithme se révèle particulièrement efficace car il s’ajuste en permanence aux préférences quotidiennes des utilisateurs. Il permet ainsi de détecter les tendances… mais aussi de les amplifier. Et c’est là que réside sa dangerosité.

Lorsqu’un utilisateur traverse une période de mal-être ou se sent triste, l’algorithme tend à lui proposer des contenus qui renforcent cet état émotionnel. Construit pour capter l’attention, il privilégie les vidéos les plus marquantes, parfois choquantes car ce sont celles qui retiennent le plus longtemps l’utilisateur.

Résultat : un engrenage se met en place, un « rabbit hole » (ou « terrier de lapin »), qui entraîne peu à peu dans une spirale de contenus toujours plus captivants mais potentiellement nocifs. L’algorithme entretient alors un double mécanisme : dépendance et sidération.

JSS : La commission d’enquête s’achèvera jeudi 4 septembre avec l’examen du rapport. Jusqu’ici, quels en ont été, selon vous, ses principaux enseignements ?

A.D. : Ce qui ressort avant tout, ce sont les victimes : celles et ceux qui ont subi les conséquences directes de l’absence de régulation, à la fois de la plateforme et de son algorithme.

Deux éléments posent problème : d’une part, les contenus eux-mêmes ; d’autre part, la façon dont l’algorithme - associé à un modèle économique fondé sur la captation de l’attention - les diffuse et les amplifie.

Au-delà des témoignages, souvent bouleversants, ce qui m’a particulièrement marqué, c’est le sentiment d’impunité face aux contenus problématiques, mais aussi l’absence de réelle responsabilité de la plateforme, qui affirme qu’elle agit « du mieux qu’elle peut ».

JSS : Lors de leur audition, les représentants de TikTok ont affirmé que des mécanismes avaient été mis en place pour vérifier l’âge des utilisateurs, et qu’ils faisaient de la sécurité une priorité, notamment en supprimant les contenus problématiques comme ceux liés à l’anorexie. Ces explications vous ont-elles convaincu(s) ?

A.D. : Leur défense ne nous a absolument pas convaincus. Il est en réalité très simple de constater que certaines tendances problématiques évoquées lors de l’audition restent accessibles.

Par exemple, la mise en avant de la scarification via des mots-clés comme « le zèbre » est toujours repérable en quelques clics.

Quant à la tendance faisant l’apologie de la maigreur, dite « Skinny Tok », il a fallu attendre que la ministre déléguée chargée du Numérique, Clara Chappaz, se rende à Dublin, afin d’échanger avec les dirigeants de TikTok, pour que la plateforme annonce enfin la suppression de l’hashtag.

Autant d’éléments qui illustrent une absence manifeste de modération efficace.

JSS : Il existe une différence notable entre TikTok et Douyin, sa version chinoise : l’un pousse du contenu souvent jugé addictif, tandis que l’autre met en avant des vidéos à visée éducative. Comment expliquez-vous ce décalage ?

A.D. : Je n’en avais pas connaissance à ce point-là, parce qu’au sein de la commission, les opinions divergeaient. Certains faisaient valoir qu’il existait quand même du contenu problématique sur Douyin.

Quoi qu’il en soit, ce que cela montre surtout, c’est qu’il y a une responsabilité première dans les choix algorithmiques. Et manifestement, ça ne pose pas de problème à TikTok de mettre en danger la santé mentale des jeunes, alors qu’il serait possible de proposer une version plus pédagogique. L’exemple chinois l’illustre bien.

Cela étant dit, Douyin soulève aussi d’autres problématiques, notamment en matière de liberté d’expression, ce qui peut freiner le développement de l’esprit critique. La pédagogie ne doit pas devenir de l’endoctrinement. Les réseaux sociaux doivent rester des espaces d’émancipation et de découverte. Et là, on atteint clairement certaines limites.

Tout n’est pas bon à prendre dans le modèle chinois. Mais c’est un bon contre-point.

JSS : Le gouvernement envisage d’interdire l’accès aux réseaux sociaux aux mineurs de moins de 15 ans, comme l’a évoqué Claire Chappaz en audition. Une telle mesure vous paraît-elle pertinente et applicable ? 

A.D. : Je reste assez mesuré, car je ne suis pas certain qu’une telle interdiction soit applicable en l’état, et ce pour plusieurs raisons.

D’abord, il faudrait disposer de mécanismes réellement efficaces de vérification de l’âge, ce qui n’est pas le cas aujourd’hui : on ne peut donc pas garantir que les personnes inscrites ont bien moins de 15 ans. Ensuite, se pose la question du périmètre d’une telle mesure. Par exemple, est-ce que YouTube serait concerné par cette interdiction ?

L’Australie, l’un des rares pays à avoir tenté de la mettre en place, a finalement exempté YouTube. Initialement motivée par la protection des enfants, la mesure s’est recentrée là-bas sur la protection des données personnelles, domaine dans lequel YouTube se montrait plus conforme. C’est pourtant problématique, car cette plateforme présente aussi des dérives.

Même flou concernant d’autres espaces comme Telegram ou WhatsApp, qui relèvent également des réseaux sociaux et où des usages problématiques existent.

Il y a donc un triple enjeu : un problème de périmètre, un problème d’effectivité et un risque de contournement. Car si les jeunes veulent accéder à ces plateformes, ils y parviendront, notamment parce que les modèles sont conçus pour être addictifs.

À mes yeux, il vaut mieux proposer un environnement plus sain, encadré et accompagné, plutôt qu’un interdit qui ne ferait qu’encourager les détournements.

JSS : Vous pensez donc qu’interdire l’accès aux réseaux sociaux aux moins de 15 ans risquerait de créer un effet contre-productif ?

A.D. : Le risque, c’est de dresser une barrière. À titre personnel, je crois davantage en un apprentissage progressif des réseaux sociaux.

Avant de plonger dans l’océan que représentent ces plateformes, mieux vaudrait avoir appris à nager dans une piscine. Mais encore faut-il s’assurer qu’il n’y ait pas de requins dans la piscine, et qu’il y en ait le moins possible dans l’océan. Car si l’on est projeté directement dans les profondeurs, on coule.

« Comment agir concrètement ? D’abord, en renforçant l’efficacité de la modération des contenus. Ensuite, en accélérant la réponse judiciaire » 

On a entendu, en commission, des jeunes de 16 ans raconter comment ils étaient tombés dans des spirales dépressives, voire suicidaires, alors même qu’ils n’avaient jamais été exposés aux réseaux sociaux auparavant.

JSS : Lors de vos auditions, plusieurs créateurs de contenus ont été entendus. Certains ont joué le jeu, mais d’autres non, comme Alex Hitchens, Isac Mayembo de son vrai nom, qui a quitté l’audition en vous raccrochant au nez. Refuser de coopérer avec une commission d’enquête est passible de deux ans de prison et 7 500 € d’amende. Est-ce qu’il y aura des suites judiciaires ? 

A.D. : C’est possible, oui.

Honnêtement, je ne m’attendais pas à une telle réaction. Même si ces personnes tiennent parfois des propos violents, je pensais qu’ils respectaient, à minima, les institutions. Mais là, elles ont montré qu’elles étaient sans foi ni loi.

JSS : Les plateformes continuent de pousser du contenu problématique auprès des mineurs, pendant que certains influenceurs n’hésitent pas à en tirer profit, quitte à encourager des comportements dangereux. Que ce soit sur TikTok, X, Meta… comment endiguer ce phénomène ?

A.D. : À mon sens, il faudrait sans doute faire évoluer le cadre législatif, notamment pour empêcher qu’un compte puisse être recréé immédiatement avec le même nom, les mêmes photos - bref, la même identité.

On voit très bien quand certains influenceurs reviennent, c’est facilement repérable. Parfois, des comptes suspendus finissent même par être réactivés parce que les plateformes craignent un risque juridique si l’influenceur engage des poursuites. Il y a un vrai besoin de mieux appréhender ces comportements problématiques sur le plan du droit pénal.

JSS : On assiste aujourd’hui à une multiplication des dérives en ligne : cyberharcèlement massif, revenge porn, dépendance, doxxing ou encore cyberprostitution. La vie privée des jeunes, notamment, semble de moins en moins protégée, et les sanctions peinent à faire effet. Que peut-on réellement faire pour lutter contre ces fléaux ?

A.D. : Comment agir concrètement ? D’abord, en renforçant l’efficacité de la modération des contenus. Ensuite, en accélérant la réponse judiciaire. Lorsqu’un contenu problématique est mis en ligne, il faut pouvoir réagir immédiatement. L’enjeu, c’est la rapidité de l’action publique : plus l’intervention tarde, plus les risques de diffusion augmentent.

Une vidéo de revenge porn, par exemple, si elle reste en ligne 24 heures, peut être enregistrée, repartagée ailleurs, et devenir quasiment impossible à faire disparaître. Il faut donc une modération active, rapide, avant tout le reste.

JSS : Encore faut-il parvenir à s’accorder avec l’Union européenne pour établir un cadre législatif commun…

A.D. : Je suis d’accord, c’est un enjeu qui dépasse nos frontières. Il faut engager une réflexion à l’échelle européenne et parvenir à bâtir une véritable coalition pour mieux protéger les mineurs.

JSS : Faut-il s’attendre à ce que des mesures soient prises à l’issue de la commission ?

A.D. : Oui, légiférer sur les algorithmes, agir pour la protection de la santé mentale des jeunes, par exemple. Mais je ne peux pas m’avancer davantage, car je ne suis pas en charge de la rédaction du rapport. C’est Laure Miller qui en assure la responsabilité.

Romain Tardino