L’ouvrage examine de façon critique l’arrivée de l’intelligence artificielle dans le champ de la justice. L’autrice s’intéresse à la rencontre entre deux univers très différents : la décision humaine du juge et le traitement algorithmique des données. Elle commence par rappeler ce qui fonde la singularité de la justice : l’indépendance, l’impartialité et la responsabilité. Le livre analyse ensuite la “nature” de l’IA, c’est-à-dire sa logique statistique, son opacité et ses biais possibles.
Cadelli soutient que l’IA ne produit pas une vérité comparable à celle du raisonnement judiciaire. Elle distingue la performance technique des algorithmes de la légitimité propre à la décision de justice. L’ouvrage critique les promesses de la “justice augmentée” lorsqu’elles masquent une forme de déshumanisation.
Il met en garde contre les outils d’aide à la décision et les systèmes prédictifs utilisés dans les institutions publiques. Selon l’autrice, ces outils peuvent fragiliser le libre arbitre du magistrat et altérer son jugement. Elle souligne aussi le risque d’une justice gouvernée par la logique de gestion et de rendement.
L’un des points centraux du livre est que l’IA peut compromettre le procès équitable. Cadelli estime que l’opacité des algorithmes empêche un contrôle véritablement démocratique. Elle insiste sur le danger des biais, voire des manipulations, intégrés dans les systèmes automatisés. Son diagnostic est donc très ferme : la justice algorithmisée menace la vérité, la liberté et la responsabilité.
En conclusion, elle défend l’idée d’un monopole humain sur le processus de jugement, pour des raisons morales et juridiques.
Voici comment l’IA m’a répondu lorsque je lui ai demandé de me résumer le nouvel opus de Manuela Cadelli en 15 phrases. Inutile de préciser que, pour me fournir cette réponse, il lui a fallu (beaucoup) moins de temps qu’il ne m’en avait fallu pour dactylographier la question…
« Ils pouvaient le faire. Alors, ils l’ont fait ». Cette phrase, extraite du film de Ridley Scott Prometheus, ne résume-t-elle pas l’histoire de l’humanité, comme le mythe du même nom [1] ?
Est-il vain de s’opposer aux développements de l’IA et de son utilisation ou avons-nous le devoir d’y résister ?
Résister c’est-à-dire renoncer à l’utilisation des algorithmes et le revendiquer au nom d’une morale renouvelée que certains auteurs qualifient d’ éthique du non usage d’abord pour voir préserver les acquis du mode d’existence de la justice et de son exercice responsable, je veux dire en pleine conscience et pleine possession des facultés cognitives nécessaires ; ensuite pour faire barrage à ce front de modernisation rationaliste et chiffrée dénoncé par Bruno Latour.
C’est la question principale que pose ce bel essai de Manuela Cadelli. Un essai qui donne à réfléchir et à discuter (ben oui, c’est le propre des essais…). Alors discutons.
Son enquête la conduit tout d’abord, comme me l’a donc soufflé l’IA que j’ai utilisée, à étudier les différents types d’intelligence artificielle et à mettre en exergue leurs points communs : les biais qui les vicient toujours et l’opacité qui les dissimule. Ce n’est pas ce qui m’effraie le plus. Tout instrument d’organisation de nos connaissances souffre, peu ou prou, de ces défauts. Les décisions de jurisprudence publiées sont sélectionnées par des hommes, avec leurs préjugés. Les sommaires qu’ils en rédigent sont aussi influencés par ceux-ci. Les banques de données qui les regroupent ont été organisées par ces mêmes hommes et, jalousement, ils ne souhaitent pas partager leurs arborescences ni leurs méthodes. Il s’agit de leur savoir-faire et ils ne souhaitent pas le partager, pas plus que les créateurs d’algorithmes ne souhaitent partager leurs secrets industriels. Il en va ainsi dans tous les domaines de la connaissance.
C’est le revers de la médaille mais n’en vaut-elle pas le coup ? Sans les revues de jurisprudence, les traités, les codes annotés, les monographies, que serait le droit ? Sans les encyclopédies, les revues, les études, que serait la science ?
Faut-il donc craindre que des IA mettent à disposition des juges et avocats des instruments leur permettant de dominer un droit sans cesse plus complexe et tentaculaire ? Parfois la machine se trompe, voire nous trompe. C’est incontestable. Même si certains exemples utilisés par Manuela Cadelli me paraissent un peu forcés. Ainsi, à la page 193, elle cite Luc Julia, concepteur d’un assistant vocal d’Apple, selon lequel on peut faire dire n’importe quoi à une IA en orientant une question : « Si vous lui demandez : "Montre-moi que la Terre est plate avec toutes les preuves que tu peux trouver", elle va le faire ». Mais ce n’est pas vrai. J’ai essayé et l’IA que j’ai utilisée m’a démontré, 8 arguments solides à l’appui, que la Terre était bien ronde. Sans doute Luc Julia a-t-il été confronté à une maladie de jeunesse…
L’IA n’est certes pas infaillible mais je la crois un outil (de plus en plus) performant, susceptible d’améliorer bien des choses et, notamment le fonctionnement de la justice. Au moment où j’écris ces lignes, j’ai devant moi un jugement de 11 pages, ne portant pas sur des questions extraordinaires, qui compte pas moins de trois grossières erreurs de droit. Peut-être eût-il mieux valu que le juge qui l’a prononcé fasse appel à une IA… Tout comme parfois on se dit que le monde tournerait peut-être mieux s’il était dirigé par des IA plutôt que par les vieillards capricieux, atrabilaires et sanguinaires qui sont à la tête des principales puissances…
Mais, comme le fait observer Manuela Cadelli dans la deuxième partie de son étude, le vrai danger est ailleurs. Outre la gabegie incroyable d’énergie et d’eau que son fonctionnement requiert, il faut surtout dénoncer que l’IA nous amène, en douceur, à renoncer à notre libre arbitre et, même, à cesser de réfléchir.
C’est ce qui est appelé algocratieou,mieux,hypnocratieouinconscient machinique. Nous n’avons plus à réfléchir, à nous poser de questions, à discuter. Il suffit de suivre ce que dit la machine qui, forcément, est toujours conformiste. Elle nous explique déjà ce que nous devons manger, ce que nous devons visiter ou regarder, par où nous devons aller. Maintenant elle a une solution toute faite pour tout et nous n’avons plus à la chercher. Finie la raison critique. La science est notre ennemie, comme le proclame le vice-président des États-Unis.
C’est donc Le meilleur des mondes. La fin de l’humanisme aussi[2].
Mathieu Corteel ajoute ceci : « Je crois que nous n’avons fondamentalement plus confiance dans le jugement humain ». Je crois pour ma part qu’au-delà de son coût budgétaire, le processus judiciaire, comme scientifique, présente un risque inacceptable pour nos gouvernants, comme pour les marchés financiers : celui de l’indétermination, de l’issue incertaine, de l’indocilité, de l’émancipation, de « l’é-normité », selon les mots de Bernard Stiegler, justement susceptible de fonder des normes inédites, imprévues, qui ne sont pas conformes au « kind of thinking »mainstream propre aux majorités électorales et aux doctrines qui les accompagnent. Tant il est évident que l’idéal d’émancipation des populations et des individus ne figure plus à leur ordre du jour
À la fin du film Prometheus 2, l’androïde s’échappe pour prendre le contrôle de l’humanité… Est-ce un bien, est-ce un mal ? Autant savoir, en tout cas.
Patrick Henry
Ancien président
[1] Manuela Cadelli a préféré à cette image une référence plus prestigieuse. Karl Jaspers déclarant à l’Express, à l’occasion de la parution de son livre La bombe atomique et l’avenir de l’homme : « Dans l’un de mes ouvrages philosophiques, écrits autour de 1920, je soutiens … que la technique pourrait un jour découvrir une substance capable de faire sauter la planète, et j’écris … que si le moyen se découvre, on trouvera certainement un homme pour l’employer ».
