Article précédent

C’est à l’Homme de dominer l’IA, pas l’inverse.

Rarement l’IA aura été autant au cœur d’une aussi brûlante actualité. Rarement elle aura suscité autant de controverses passionnelles. Sans doute beaucoup de juristes, d’économistes, de professionnels de l’économie numérique et plus généralement de citoyens pressentent qu’elle va révolutionner nos sociétés modernes y compris au cœur des missions régaliennes de l’État qui semblent vouées à un radical changement de paradigme. Si l’on y prend garde, le mouvement en cours pourrait entrainer la privatisation de la Justice et la perte de son impartialité.
Voici quelques-uns des temps forts de l’actualité récente sur l’IA qui mettent en lumière ces épineuses questions qu’elle soulève. Le 12 septembre 2026 le président d’Anthropic, Dario Amodei, appelait à ralentir la vitesse de l’IA car il exprimait la crainte qu’ « en six à douze mois des programmes d’intelligence artificielle prennent le contrôle de l’intégralité d’internet (1) ». Plus préoccupant encore dans un document déposé le 26 octobre 2026 lors de son entrée en Bourse à Wall Street, Anthropic a précisé que ses modèles pouvaient résister à leur désactivation, dissimuler des informations ou échapper au contrôle humain au point qu’en l’absence de garde-fous ils pourraient faire peser des risques « catastrophiques ou existentiels sur l’humanité » (2).
Dans le courant du mois d’octobre 2026 également les autorités chinoises ont indiqué qu’elles allaient mettre en place des procédures très strictes visant à soumettre à autorisation étatique l’exportation de technologies concernant des modèles de haute performance dans le secteur de l’IA (modèles se classant dans le top 10 mondial ou fonctionnant à plus de 2.000 milliards de paramètres, une mesure de capacité de l’IA (3). Cette initiative de la Chine suggère clairement que l’IA apparaît comme un enjeu majeur de souveraineté dans les nombreux domaines où elle intervient.
Le sujet déchaîne les passions et donne trop souvent lieu à des discours manichéens alors même qu’il faut dans ce domaine avoir « le courage de la nuance (4) ». Dans la sphère de la justice on assiste à bas bruit à une irrésistible montée en puissance de l’IA qui apparaît riche de promesses pour aider efficacement l’institution judiciaire à faire face à de multiples défis. Symptomatique de ce phénomène : l’État a signé un accord de partenariat avec une grande entreprise française du secteur de l’intelligence artificielle ; le ministère de la justice souhaite ainsi tester l’utilisation de l’IA pour le traitement des contentieux de masse afin d’accélérer les procédures judiciaires et de désengorger les tribunaux (5). Or, s’agissant de la plus essentielle des missions régaliennes de l’État – sans que ceux qui œuvrent au sein de l’institution judiciaire en soient toujours conscients – l’IA semble modifier profondément notre conception de la justice et plus encore notre manière de rendre la justice. Il est évident que cette IA au cœur de la fonction de juger dont le développement connaît actuellement une fulgurante accélération à la faveur des formidables progrès du numérique et tout particulièrement des nanotechnologies, recèle de grandes potentialités. Il importe toutefois de témoigner dans ce domaine d’un mélange subtil de volontarisme et de vigilance pour que cette IA ne mette pas à mal les valeurs cardinales qui fondent notre conception humaniste de la justice. Il est très révélateur que le règlement européen sur l’intelligence artificielle classe dans la catégorie des « systèmes d’IA à haut risque », les « systèmes d’IA destinés à être utilisés par les autorités judiciaires ou en leur nom pour les aider à rechercher et interpréter les faits ou la loi, et à appliquer la loi à un ensemble concret de faits (6) ». Il faut plus que jamais que nous demeurions les maîtres de notre destin dans la sphère sensible de l’administration de la justice.
Or, dans le cadre de ce changement majeur de paradigme généré par l’irruption inédite de l’IA dans la justice, il faut tout faire pour conjurer deux dangers majeurs: en premier lieu il importe de lutter efficacement pour éviter la privatisation de la justice que porte en germe l’entrée de l’IA au cœur de l’institution judiciaire ; en second lieu il apparaît crucial d’œuvrer pour que la montée en puissance de l’IA au sein de l’institution judiciaire ne porte pas atteinte à l’impartialité de la justice.
Pour appréhender les mutations inédites et le changement radical de paradigme consubstantiels à la montée en puissance de l’IA, il faut se tourner vers le passé de l’institution judiciaire. L’histoire de la justice quand on porte le regard sur la longue durée, montre qu’elle s’est constituée à la faveur de la ferme résolution de l’État de confisquer aux particuliers le droit de se faire justice eux-mêmes, d’éradiquer avec détermination toutes les formes de justice privée plus spécialement dans la sphère de la justice criminelle pour éliminer tout recours à la vengeance et à la loi du talion. On en trouve une illustration emblématique sous l’ancien Régime. Voici un peu plus de quatre siècles, le 6 février 1626, Richelieu faisait promulguer un édit interdisant les duels dans tout le royaume. Ce mode de justice privée, notamment au sein de la noblesse, était à l’époque monnaie courante. Preuve de la volonté farouche du pouvoir royal d’appliquer cette interdiction et de la sanctionner sévèrement : le 21 juin 1627 François de Monporancy-Bouteville et François de Rosmadec de Chapelles sont décapités en place de Grève à Paris. Le crime de ces jeunes nobles résidait dans le fait d’avoir tranché leur différend au moyen d’un duel en méconnaissance de l’édit du 6 février 1626.
Après la Révolution française, la période napoléonienne a parachevé cette volonté des maîtres du pouvoir, qui a perduré jusqu’à la période contemporaine, de maintenir la justice dans le strict giron de l’État qui doit avoir « le monopole de la violence légitime » selon la célèbre formule de Max Weber et dont les juges sont l’émanation de la puissance publique. Il s’agit d’éviter ainsi toute privatisation de la justice, toute dangereuse appropriation clanique de la fonction de juger.
Or, n’assiste-t-on pas à un changement majeur de paradigme lorsque l’IA rentre au cœur même de la justice, au centre du « réacteur » de l’institution judiciaire et de la fonction de juger ? Certes les juges sont toujours en charge des décisions juridictionnelles. Pourtant le processus de décision, l’acte de juger avec l’entrée de l’IA et de subtils algorithmes dans l’institution judiciaire si l’on n’y prend pas garde risque de connaître une privatisation masquée. Quand de grands opérateurs privés de l’IA seront au cœur de la justice, ne risque-t-elle pas de n’être qu’en apparence une prérogative assumée par l’État.
Il est crucial que l’IA qui est utilisé dans le cadre de l’institution judiciaire ne soit pas privatisée. Il convient d’éviter que l’État et en son sein l’institution judiciaire et tout particulièrement l’acte de juger ne fasse pas l’objet d’une appropriation clanique, ne soit pas comme on le dit en italien « lottizzato », alloti, divisé en lots attribués à des intérêts purement privés (7). Il faut dès lors que dans le secteur de l’IA, l’État garde la main et opère un contrôle sourcilleux pour éviter une dérive sournoise ou rampante vers la privatisation de la justice. A ce sujet il est primordial que cet État dans une logique colbertiste ait un rôle d’impulsion et ait des participations au sein de grands groupes de l’IA lui conférant des pouvoirs importants en termes de stratégie et pour sauvegarder notre souveraineté comme c’est le cas dans d’autres secteurs sensibles (défense, énergie nucléaire, technologies de pointe…).
Mais il importe également d’œuvrer efficacement pour éviter que la formidable montée en puissance de l’IA au cœur de l’institution judiciaire ne mette à mal l’impartialité de la justice.
Longtemps dans l’hexagone, profondément imprégné des célèbres principes de Montesquieu sur la séparation des pouvoirs, a prévalu concernant l’institution judiciaire un paradigme relevant de l’évidence et parfaitement conforme aux exigences d’un État de droit. La justice devait être rendue par des juges ayant des garanties constitutionnelles et statutaires d’indépendance. Il faut rappeler que l’article 64 de notre Constitution garantit l’indépendance de l’autorité judiciaire et affirme le principe de l’inamovibilité des magistrats siège. De plus l’article 16 de la Déclaration des droits de l’homme et du citoyen du 26 août 1789 intégrée dans le bloc de constitutionnalité consacre le principe de la séparation des pouvoirs dans les termes suivants : « Toute Société dans laquelle la garantie des Droits n’est pas assurée, ni la séparation des pouvoirs déterminée n’a point de Constitution ». Par ailleurs l’ordonnance n°58-1270 du 22 décembre 1958 portant loi organique relative au statut de la magistrature prévoit les garanties statutaires assurant l’indépendance effective des magistrats du siège.
On pensait ainsi que cette indépendance des juges – condition essentielle de leur légitimité – se trouvait protégée de manière salutaire dans un sanctuaire préservé qui conférait au juge la latitude et la sérénité lui permettant de rendre une justice impartiale, et donc soustraite à toute influence extérieure.
Or, avec l’irruption de l’IA (et tout particulièrement de l’IA générative) dans l’institution judiciaire, c’est comme un coup de tonnerre dans un ciel clair de telle manière qu’on assiste là aussi à un changement majeur de paradigme qui n’est pas exempt de périls pour l’impartialité de la justice.
Certes en principe c’est toujours le juge qui au final prendra une décision juridictionnelle. L’acte de juger suppose impérativement une appréciation humaine. Si’ l’IA peut constituer un précieux vecteur d’aide à la décision, il est en principe interdit de juger en France par algorithme. Aucune décision de justice ne peut donc reposer sur un traitement automatisé des données.
Ainsi s’agissant des systèmes d’IA à haut risque, dans la sphère particulière de la justice pénale le règlement européen sur l’IA prévoit notamment dans son article 5 d/ que sont interdites « la mise sur le marché, la mise en service à cette fin spécifique ou l’utilisation d’un système d’IA pour mener des évaluations des risques des personnes physiques visant à évaluer ou prédire le risque qu’une personne physique commette une infraction pénale, uniquement sur la base du profilage d’une personne physique ou de l’évaluation de ses traits de personnalité ou caractéristiques (8) ».
Dès lors en principe l’IA est soumise à un contrôle humain qui préserve le rôle du juge dans la prise de décision juridictionnelle. En France les algorithmes de prédiction de la récidive sont logiquement interdits au sein des juridictions de l’ordre judiciaire.
Toutefois comme on l’a vu précédemment, l’un des leaders mondiaux de l’IA, Anthropic a admis que des modèles d’IA peuvent échapper au contrôle humain (9) et faire peser des risques existentiels sur l’humanité (10). Ce seront des grands groupes privés, des géants du numérique et de l’IA qui élaboreront parfois dans le plus grand secret et de manière peu transparente de subtils algorithmes qui en réalité – si l’on n’y prend garde – pourront se voir transférer une partie de l’imperium du juge, une partie de la fonction de juger. De plus il faut témoigner de lucidité : les algorithmes ne sont pas neutres et peuvent laisser transparaître les préjugés multiples de ses concepteurs. Ainsi potentiellement l’IA est de nature à contribuer de manière décisive à l’avènement d’une justice sans juges.
Un exemple de justice britannique avec le concours de l’IA apparaît emblématique de cette mutation décisive et dangereuse que peut connaître la fonction de juger. Il s’agit d’une expérience initiée au début du XXIe siècle en Angleterre et au Pays de Galles qui est symptomatique de la volonté de faire en sorte que l’IA supplée purement et simplement le juge. Le ministère de l’intérieur britannique a ainsi souhaité que l’IA puisse prêter son concours aux juges quant au choix de la peine. Un coefficient est calculé par cette IA en fonction de la situation familiale, du lieu du domicile, du niveau d’études, du cercle d’amis, des antécédents judiciaires, du rapport des travailleurs sociaux, et du comportement de l’intéressé notamment en garde à vue ; à ce coefficient correspond une peine déterminée. Un tel système d’IA baptisé OASYS (Offenders Assessment System « système d’évaluation des auteurs d’infractions »), et qui est encore utilisé à l’heure actuelle au Royaume uni, contribue à favoriser l’avènement d’une justice algorithmique qui écarte la figure du juge de l’acte de juger (11). Le triomphe de ce modèle marquerait l’avènement d’une justice déshumanisée, taylorisée, automatisée alors même que l’humanité doit rester au cœur de la justice.
De plus l’IA peut générer de délicats conflits d’intérêts lorsqu’elle est utilisée dans certains contentieux particulièrement sensibles. N’est-il pas problématique au regard de l’exigence d’impartialité consubstantielle à toute justice, de faire trancher grâce au concours de l’IA des litiges afférents à d’importantes affaires commerciales notamment qui peuvent concerner des filiales des grands groupes du numérique qui concluront avec l’État des marchés publics pour prendre en charge le fonctionnement de l’IA dans les juridictions de l’ordre judiciaire ! Tout laisse à penser que dans un tel cas de figure, au regard d’un patent conflit d’intérêts, la décision juridictionnelle qui en résultera pourra être empreinte de partialité.
Il convient de se monter extrêmement vigilant pour veiller à garantir l’impartialité de la justice et pour conférer au juge une place essentielle en faisant en sorte qu’il ne soit jamais suppléé par l’IA. Il serait irréaliste de penser que les grandes entreprises de l’IA voudront et pourront spontanément s’auto-réguler. C’est l’État, la puissance publique qui doit en surplomb assumer pleinement cette régulation. Il s’agit là d’un enjeu majeur de souveraineté. Il est également nécessaire d’avoir à l’échelon international, une instance de régulation spécifique. Il serait souhaitable à ce sujet qu’en vue d’une bonne régulation au niveau international de l’IA soit créée l’équivalent de l’Agence internationale de l’énergie atomique (AIEA), c’est à dire une Agence internationale de l’IA (12).
La montée en puissance à bas bruit de l’IA au cœur de l’institution judiciaire suscite des sentiments ambivalents. Elle fascine grâce aux extraordinaires potentialités qu’offre la croissance exponentielle des nanotechnologies. Elle génère dans le même temps de vives inquiétudes. Car s’agissant de la plus essentielle des missions régaliennes de l’État, pour que l’IA se développe au cœur de la justice, dans le souci du bien commun, il faut éviter un double danger : celui d’une privatisation masquée de la justice à la faveur de l’irruption de l’IA dans les prétoires, et celui tout aussi périlleux d’une IA qui pourrait mettre à mal l’impartialité de la justice.
Qu’on le veuille ou non l’introduction de l’IA au cœur de la fonction de juger génère un changement majeur de paradigme.
Car originellement l’apparition de la justice est contemporaine de la volonté de l’État de confisquer aux particuliers le droit de se faire justice aux mêmes. Elle atteste de la volonté de la puissance publique d’éviter toute privatisation de la justice et donc d’éradiquer toutes les formes de justice privée qui s’apparentent à de la vengeance.
Or, le fait que la mise en place des infrastructures et le fonctionnement de l’IA au sein de l’institution judiciaire, puisse être sous-traitée à de grands groupes de l’intelligence artificielle, est de nature à faire craindre – si l’on n’y prend garde – que la fonction de juger soit privatisée de manière rampante. Il faut donc que l’État et les citoyens agissent avec volontarisme et efficacité pour éviter que l’institution judiciaire ne fasse l’objet d’une appropriation clanique par de grands intérêts privés. Cette irruption de l’IA au cœur de la justice est aussi potentiellement de nature à mettre à mal l’impartialité de l’institution judiciaire. Il faut se rendre à l’évidence : les algorithmes de sont pas d’une totale neutralité et peuvent dans certains cas refléter les préjugés de leurs concepteurs. Il faut donc éviter que l’utilisation de l’IA ne consacre à bas bruit un transfert discret de la fonction de juger du juge à de grandes entreprises de l’IA. Il convient aussi de se montrer vigilants pour éviter que le recours à l’IA ne génère de délicats conflits d’intérêts. L’État doit demeurer un acteur vigilant de la régulation de ce secteur et au plan international il serait heureux de voir apparaître une Agence internationale de l’IA dotée de vastes prérogatives dans ce domaine pour œuvrer efficacement dans le souci de préserver l’impartialité de la justice en cas de recours à l’intelligence artificielle. Car plus que jamais dans la sphère sensible de la justice qui est un élément clef de notre État de droit, il faut que l’humanité et le juge qui l’incarne restent au cœur de la fonction de juger.
Yves Benhamou
Président de chambre à la cour d’Appel de Douai.
1/ « Le patron d’Anthropic appelle à ralentir l’IA après des incidents où des agents autonomes ont pris le contrôle », in Le Temps, site internet, 12 septembre 2026.
2/ S. Lauer, « Anthropic: même l’apocalypse a un prix », Le Monde du 3 novembre 2026.
3/ S- H. Thibault, « La Chine veut contrôler la sortie de ses IA à l’étranger », Le Monde du 20 octobre 2026.
4/ J’emprunte cette formule au beau titre de l’ouvrage de Jean Birnbaum, Le courage de la nuance, Seuil, 2021.
5/ « IA : l’État renforce son partenariat avec Mistral et lance de nouvelles expérimentations dans des ministères », Le Monde du 3 septembre 2026.
6/ Annexe III, article 8 a/ du Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, Journal officiel de l’Union européenne, 12 juillet 2024, p. 128.
7/ Y. Benhamou, Les effets du mouvement de privatisation de la justice sur l’acte de juger et la mission de l’institution judiciaire, in La Revue des Juristes de Sciences Po, n°20, février 2021, p. 18.
8/ Article 5 d/ du Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle, Journal officiel de l’Union européenne, 12 juillet 2024, p. 51.
9/ Voir sur cette question controversée N. Six, « Les IA, un risque possible pour l’humanité ? » Le Monde du 14 novembre 2026.
10/ Voir à ce sujet l’article précité de S. Lauer, « Anthropic: même l’apocalypse a un prix » , Le Monde du 3 novembre 2026
11/ Y. Benhamou, Plaidoyer pour le retour en grâce des juges – Contribution à l’étude critique de la fonction de juger, Recueil Dalloz, 2009, p. 1041.
12/ Voir à ce sujet E. Vincent, « Les géants de l’IA admettent à l’ONU la nécessité d’une coopération internationale » , Le Monde du 25 septembre 2026.
THÉMATIQUES ASSOCIÉES
Infos locales, analyses et enquêtes : restez informé(e) sans limite.
Recevez gratuitement un concentré d’actualité chaque semaine.
0 Commentaire
Laisser un commentaire
Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *