Quelle place pour l'intelligence artificielle dans le processus de décision d'un juge ?

Full text

Les cahiers de la justice
Revue trimestrielle de l’École nationale de la magistrature
#2019/2
[ ]
DOSSIER
Clementina Barbaro | Éloi Buat-Ménard | Audilio Gonzalez Aguilar | Jean Lassègue |
Yannick Meneceur | Daniela Piana | Dory Reiling | Isabelle Sayn
Justice numérique, justice inique ?
par Emmanuel Jeuland
{
“
CHRONIQUES
TRIBUNE
Les défis de la justice
numérique
Pourquoi pas une école de juristes
cliniciens ?
par Jerome Frank
(texte présenté et traduit par Christophe Jamin)
La réhabilitation de Pouvanaa Tetuaapua
dit a Oopa
par Sandrine Zientara
Les Archives judiciaires :
le passage au numérique
par Antoine Meissonnier
Le juge des enfants et la pauvreté :
pour un inconfort méthodique
par Sébastien Morgan

Les cahiers de la justice
revue de l’École nationale de la magistrature (ENM)
co-éditée par l’ENM et les Éditions Dalloz
Éditions Dalloz
Société par actions simplifiée au
capital de 3 956 040 ?
Siège social
31-35 rue Froidevaux
75685 Paris cedex 14
RCS Paris 572 195 550
Siret 572 195 550 00098
APE 5811 Z
TVA FR 69 572 195 550
Filiale des éditions
Lefebvre Sarrut
www.dalloz-revues.fr
La reproduction,
même partielle,
de tout élément publié
dans la revue est interdite
© Éditions Dalloz - ENM - 2019
Abonnement, marketing,
publicité
Relations clients :
Ginette N’Koua
Revue trimestrielle (4 n° par an)
80, av. de la Marne
92541 Montrouge Cedex
Tél. : 01 40 92 20 85
(0,12 ? TTC/min.)
Fax : 01 40 64 89 92
Prix de l’abonnement 2019 (1 an)
France : 170 ? HT (173,57 ? TTC)
Étranger : 188 ?
ISSN : 1958-3702
N° CPPAP : 0922 T 90521
Dépôt légal : Juin 2019
Imprimerie JOUVE
1, rue du Docteur-Sauvé
53100 Mayenne
Directeur de la publication / Olivier Leurent, magistrat, directeur de l’ENM
Directeur scientifique / Denis Salas, magistrat, président de l’AFHJ
Rédacteur en chef / Jean-Louis Gillet, magistrat honoraire, ancien président de chambre à la Cour
de cassation
Rédacteur en chef adjoint / Carole Gayet, responsable pôle pénal (Éditions Dalloz)
Rédaction / Thierry Baranger, magistrat, président du Tribunal pour enfants de Bobigny
Olivier Beauvallet, magistrat en fonction aux Chambres extraordinaires au sein des
tribunaux cambodgiens (CETC)
Dominique Brunet, conservateur des bibliothèques
Fabrice Hourquebie, professeur de droit public, agrégé des universités, université
Montesquieu-Bordeaux IV
Pauline Le Monnier de Gouville, maître de conférences à l’université de Paris II
Panthéon-Assas
Jérôme Michel, conseiller d’État
Philip Milburn, professeur de sociologie à l’université de Rennes II
Isabelle Monteils, magistrate, sous-directrice et chef du Département de la Recherche
et de la documentation de l’ENM
Jean-Philippe Pierron, professeur de philosophie à l’université Lyon 3
Jean-Luc Rivoire, avocat, ancien bâtonnier du barreau des Hauts de Seine
Valérie Sagant, magistrate, directrice du GIP Mission de recherche Droit et Justice
Christophe Soulard, président de la chambre criminelle de la Cour de cassation
Sandra Travers de Faultrier, docteur en droit, docteur es lettres, diplômée de Sciences
Po-Paris, ancienne avocate
Antoine Vauchez, directeur de recherche au CNRS (Centre européen de sociologie et
de sciences politiques)
Sandrine Zientara, avocat général à la Cour de cassation
Secrétaire de rédaction / Vincent Bernaudeau (ENM) @wanadoo.fr
Secrétaire de rédaction unique / Brigitte Langlais-Massare (Éditions Dalloz)
Rédacteur en chef technique / Raphaël Henriques (Éditions Dalloz)
1ère secrétaire de rédaction / Marie-Anne Sebbar (Editions Dalloz)
Correspondants scientifiques /
Emmanuelle Allain, magistrat, substitut du procureur
Florence Audier, économiste, membre associé au SAMM (Paris I)
Hélène Bellanger, professeur agrégé d’histoire à l’Institut d’études politiques de Paris, chercheur
au Centre d’histoire de Sciences-Po (Fondation nationale des sciences politiques)
William Bourdon, avocat au barreau de Paris
Jacques Buisson, magistrat, conseiller à la Cour de cassation, professeur associé à l’Université de
Lyon III
Maurice Godelier, anthropologue, directeur d’études à l’École des hautes études en sciences
sociales
Jacqueline de Guillenchmidt, conseiller d’État, membre honoraire du Conseil constitutionnel
Alain Lacabarats, magistrat, président de chambre à la Cour de cassation
Daniela Piana, professeur à l’université de Bologne (Italie)
Nathalie Przygodzki-Lionet, maître de conférences en psychologie sociale à l’Université de Lille III
Cécile Robin, maître de conférences à l’université de Mulhouse
Evelyne Serverin, directeur de recherche au CNRS, droit et sociologie, IRERP, membre du CSM
Françoise Tulkens, juge honoraire à la Cour européenne des droits de l’homme
Jean-Olivier Viout, magistrat honoraire et ancien procureur général
Massimo Vogliotti, juriste, enseignant à l’Université d’Alessandria (Piémont oriental, Italie)
Origine du papier : Suède
Taux de fibres recyclées : 0 %
Ptot : 0,02 kg/t
Les textes soumis à la Revue doivent être compris
entre 20 000 et 40 000 signes, espaces compris,
et doivent être accompagnés d’un résumé compris entre 500 et 600 signes.
Cette revue peut être citée ainsi : Cah. justice 2019/2, p.
Note à l’attention des auteurs

Les cahiers de la justice - # 2019/2 [ ]
221
DOSSIER
[ ]
Que peut faire l’intelligence arti-
ficielle (IA) pour les tribunaux
et qu’est-ce que cela implique ?
L’activité des tribunaux et des
juges est variée et les affaires ne sont pas
toutes traitées de la même manière, ni en sui-
vant les mêmes procédures. En conséquence,
les technologies de l’information doivent
les assister de manière distincte. Quelques
formes d’IA ont déjà prouvé leur efficacité
dans la pratique juridique. Mais les robots
vont-ils pour autant se substituer aux juges,
comme certains l’ont proclamé il y a déjà plus
de vingt ans ? Cela est d’autant moins certain
que l’article 6 de la Convention Européenne
des Droits de l’Homme (CEDH) promeut
Comment l’intelligence artificielle (IA) peut-elle être utile à la justice et que faut-il pour cela ? Si la
réduction de la complexité des procédures est une réelle préoccupation, les besoins en matière de
technologie de l’information ne sont pas les mêmes pour toutes. Certains types d’IA ont certes déjà
fait leurs preuves dans la pratique, mais les robots jugeront-ils pour autant un jour à la place des
hommes comme cela a été prophétisé il y a une vingtaine d’années. À l’heure actuelle l’intelligence
artificielle peut aider les justiciables, les plaideurs et les juges à organiser les informations et à enrichir
les procédures, mais beaucoup de chemin reste encore à parcourir avant qu’elle satisfasse aux normes
du procès équitable établies par la CEDH.
How might artificial intelligence (AI) be useful to justice and what does it take? While reducing the
complexity of procedures is a real concern, information technology needs are not the same for everyone.
While some types of AI have already proven their worth in practice, will robots ever judge in place of
men as prophesied twenty years ago? At present, artificial intelligence can help litigants, litigants and
judges to organise information and enrich procedures, but there is still a long way to go before it meets
the fair trial standards set by the ECHR.
Dory Reiling, Juge principal honoraire, experte indépendante en technologies de l’information et en reformes judi-
ciaires (Pays-Bas).
1. La transcription de ce texte a été réalisée par Suyay
Chiappino.
par Dory Reiling
Quelle place pour l’intelligence artificielle
dans le processus de décision d’un juge ? 1

Quelle place pour l’intelligence artificielle dans le processus de décision d’un juge ?Dossier
Les cahiers de la justice - # 2019/2
[ ] 222
un procès équitable. Il faudra donc encore
beaucoup de travail pour adapter l’IA à ce
standard, car l’information juridique néces-
site, de fait, structuration et raisonnement.
Ceci est particulièrement important pour
comprendre l’information elle-même et pour
la mettre en œuvre, en ce inclut la prise de
décision. À l’heure actuelle, l’IA ne peut pas
y parvenir totalement, mais elle peut néan-
moins assister les parties et les juges dans la
recherche des informations pertinentes, avec
des données bien structurées. Dans le cas
des informations enrichies, elle peut même
apporter des conseils.
L’idée d’intégration de l’IA dans le
monde judiciaire doit être abordée avec
prudence. Le débat déborde d’ailleurs le
seul terrain judiciaire, puisqu’il embrasse
le monde juridique dans sa globalité et la
société elle-même, dans toutes ses sphères.
Imaginer que l’IA puisse un jour constituer
notre quotidien nécessite, en contrepartie,
de réfléchir aux conséquences – graves – de
ce phénomène.
Une telle perspective nous conduit
d’abord à interroger le travail effectué au
sein des tribunaux (qui est trop souvent
réduit à un simple examen de faits par
le juge) et à comprendre la manière dont
ils fonctionnent. Ensuite, il convient de
cerner les différentes technologies qui sont
convoquées au sein des juridictions, puis
d’envisager ce que l’IA peut faire – et dans
quelle mesure – pour les juges.
On ne saurait d’ailleurs envisager l’ap-
port de la technologie à l’acte de juger sans
se pencher sur la notion de « justice pré-
dictive », très pertinente en matière d’IA.
Il paraît tout aussi judicieux d’appréhender
les usages possibles de l’IA au sein des tri-
bunaux, étant entendu qu’en l’état actuel
celle-ci ne peut fournir toutes les « explica-
tions » juridiques utiles (afin, par exemple,
d’étayer un raisonnement). Enfin, il faut
traiter la question très importante de « l’en-
trée de données » ; l’information juridique
disponible dans les bases informatiques exis-
tantes n’étant pas véritablement structurée
et s’avérant, par conséquent, bien souvent
inopérante.
Les tribunaux
Les tribunaux font partie d’un vaste
ensemble qui, nous semble-t-il, peut s’ap-
parenter à un nuage. Cette figure été très
étudiée au Royaume-Uni, en particulier par
Hazel Genn 2. Dans ce nuage, il y a des
personnes confrontées à des problèmes. Les
tribunaux sont là pour résoudre ces pro-
blèmes que la société ne peut pas tolérer/
supporter. Lorsqu’une personne a un pro-
blème et qu’elle ne parvient pas à le résoudre
seule, elle fait alors appel au conseil d’un
expert. Celui-ci va – ce qui est bien sou-
vent le cas – lui proposer d’aller devant un
tribunal, mais la décision de justice ne va
pas forcément dénouer le conflit existant
ni épuiser le litige.
2. Hazel Genn, Paths to Justice, 1999. Oxford and Portland,
Oregon, Hart Publishing.

Quelle place pour l’intelligence artificielle dans le processus de décision d’un juge ? Dossier
Les cahiers de la justice - # 2019/2 [ ]
223
Que font les tribunaux ?
S’interroger sur ce que font les tribu-
naux, c’est se pencher sur la question de
l’information que traitent les juges. Ces
derniers discutent et décident ; en ce sens,
on peut considérer qu’une procédure judi-
ciaire est comme une conversation. D’abord,
l’on évoque des faits : que s’est-il passé ?
Qu’est-ce que cela signifie pour les parties ?
Ce que le magistrat pense de ces faits peut
être décisif. On peut également envisager
le procès comme une manière de réduire
la complexité, ainsi que le suggère la théo-
rie développée par le sociologue Allemand
Niklas Luhmann 3. Ensuite, il faut distinguer
quels sont les points sur lesquels les parties
sont d’accord et ceux sur lesquels elles ne le
sont pas. Ce genre de discussion a lieu en
permanence au sein d’un tribunal. Enfin, le
juge traite les informations correspondant au
raisonnement juridique : que s’est-il passé et
comment cela s’est-il passé ? Les exigences
d’une procédure équitable ; le cadre légal et
les considérations morales.
Ainsi, les tribunaux ont à traiter l’in-
formation. La manière dont ils le font est
pertinente pour le type I (voir TI dans le
tableau ci-dessous), utile aux tribunaux. La
manière dont les tribunaux traitent l’infor-
mation est en grande partie déterminée par
deux facteurs : l’imprévisibilité du résultat
et la relation entre les parties.
Si un cas – ce qui, fondamentalement,
n’est qu’un ensemble d’informations – arrive
au tribunal, cette information peut être suf-
fisante pour décider de l’issue de l’affaire en
question. Exemple : une créance monétaire
qui n’est pas défendue ou une demande uni-
latérale qui n’implique pas une deuxième
partie. Des cas comme ceux-ci appartiennent
au groupe 1. Le tribunal ne fournit qu’un
titre d’exécution. Pour ce résultat, aucun
échange d’informations entre les parties n’est
nécessaire. En matière civile, aux Pays-Bas,
ces cas représentent environ 41 % des cas
traités au civil. Dans le groupe 2, les parties
soumettent une proposition au tribunal, mais
la loi oblige ce dernier à examiner la légalité
de la demande. Ici, les parties échangent des
informations et travaillent ensemble pour
élaborer leur proposition. La plupart des cas
familiaux entrent dans ce groupe, de même
que certains cas liés aux questions du tra-
vail. Les cas de ce groupe ont en commun
qu’ils traitent en grande partie de relations
à long terme et que la réglementation est
légère. Dans ce groupe, les tribunaux ont
un rôle plutôt notarial, vérifiant si toutes
les dispositions légales ont été respectées.
Ces cas, environ 36 % du total, ont géné-
ralement un résultat prévisible. Dans les
cas plus imprévisibles, une activité accrue
est nécessaire pour transformer l’information
et rendre le résultat davantage prévisible.
Il peut s’agir de demandes d’informations
complémentaires ou d’une réaction supplé-
mentaire de la part de l’autre partie, ou bien
d’une audience, d’une audition de témoin
3. Niklas Luhmann, Legitimation durch Verfahren, 6. Auflage,
Suhrkamp, Frankfurt am Main 2001.

Quelle place pour l’intelligence artificielle dans le processus de décision d’un juge ?Dossier
Les cahiers de la justice - # 2019/2
[ ] 224
ou d’une visite sur place. Parfois, les par-
ties parviennent encore à un accord entre
elles pour régler leur différend. Examinons
maintenant le groupe 3. Dans ce groupe, qui
représente environ 12 % du total, les par-
ties travaillent ensemble, c’est-à-dire qu’elles
échangent des informations pour obtenir un
résultat gagnant-gagnant. Si elles ne le font
pas, une décision du juge est nécessaire pour
mener l’affaire à son terme. Quant au groupe
4, il représente environ 11 % des cas ; et là,
que les parties échangent des informations
ou pas, cela n’est pas primordial pour le
résultat final.
Voici un tableau récapitulatif où sont
présentent les différentes catégories ; y
figurent les résultats en termes de charge
de travail pour chacune au sein des tribunaux
civils de première instance :
Ces pourcentages ne correspondent pas
à l’idée que l’on se fait du travail des tribu-
naux et c’est la raison pour laquelle il est
intéressant de se pencher sur la question.
Ainsi, par exemple, afin d’accélérer les déci-
sions, il faudrait faire passer des affaires de
la colonne de droite à la colonne gauche
pour faciliter une accélération. Ensuite, faire
passer les affaires du haut vers le bas pour
que les parties arrivent elles-mêmes à des
décisions et passent moins de temps devant
un juge.
Quelle technologie de
l’information pour chaque
catégorie de cas ?
Ces quatre catégories ont besoin de
soutiens technologiques différents :
Pour les cas du groupe 1, les technolo-
gies à utiliser sont les dépôts électroniques
(e-filing) et l’automatisation d’une partie
du processus, en saisissant les données et le
traitement automatisé des données lorsque
cela s’avère possible.
Pour le groupe 2, l’on ajoute un soutien
internet pour aider les parties à présenter
leurs arguments et formuler leur proposition.
Pour le règlement amiable, l’on ajoute
des outils de négociation, qui seraient très
utiles pour aider les parties à se mettre d’ac-
cord.
Enfin, dans le cas des jugements, les
technologies sont utilisées par les juges qui
doivent traiter beaucoup d’informations et
étudier beaucoup de dispositions législatives,
voire même se pencher sur des commen-
taires jurisprudentiels ; avoir des systèmes de
nomenclature uniforme automatisés comme
le ECLI (European Case Law Identifier, qui
est l’identifiant jurisprudentiel européen)
serait très utile.
1 titre, 41 %
- Résultat imprévisible +
4 jugement, 11 %
2 notarial, 36 % 3 entendre, 12 %
-
Relation
entre les
parties
+
Les tribunaux traitent de l’information

Quelle place pour l’intelligence artificielle dans le processus de décision d’un juge ? Dossier
Les cahiers de la justice - # 2019/2 [ ]
225
Que peut faire l’IA pour les juges ?
L’IA peut servir différemment les pro-
cédures judiciaires. Certaines technologies
existantes ont d’ailleurs d’ores et déjà prouvé
leur efficacité.
D’abord, elle peut structurer l’en-
semble des informations relatives à un cas,
comme cela est avéré aux États-Unis ou
au Royaume-Uni avec l’eDiscovery, qui
constitue un ensemble d’outils de recherche
sur des documents avant le démarrage du
procès. Si l’on veut bien comprendre ce
processus, il est possible de trouver sur
Google des explications claires et détail-
lées sur le fonctionnement de ce type de
technologies.
En second lieu, la technologie peut
servir non seulement à donner de la struc-
ture à l’information, mais aussi permettre
de dégager des conclusions et, en consé-
quence, apporter des conseils. Par exemple,
à Vancouver, en Colombie britannique, il
existe un Civil Resolution Tribunal 4 qui sont
des tribunaux civils aidant les personnes à
résoudre des différends civils. L’utilisateur
peut s’en servir lui-même en exploitant un
outil ouvert : le Solution Explorer. Il peut
saisir les données et le logiciel lui apporte une
réponse. Cet outil serait par exemple utile
dans la troisième catégorie pour le règlement
entre les parties.
En troisième lieu, la technologie peut
servir à prévoir des résultats. L’enjeu de la
« justice prédictive » est la prévisibilité du
risque. Lorsqu’on accepte de porter une affaire
devant un juge, il y a toujours le risque de
payer des frais. L’intérêt est que l’IA puisse
limiter ce risque tout en rendant la décision
plus prévisible. Or, il existe quelques limites.
Le principe, c’est que tous les jugements
intégrés dans la base de données qu’utilise
l’AI sont corrects. Aux Pays-Bas, où il y a
1.5 million de cas par an, il paraît difficile
de garantir que toutes les décisions rendues
ont été des décisions correctes. Prétendre
que les décisions judiciaires ont toujours
été globalement correctes pose un problème
dans le raisonnement. D’autres risques sont
aussi à mesurer. Aux États-Unis, les outils
de l’IA sont en libre commerce, ce qui
implique que les méthodologies suivies –
au regard notamment du secret des affaires
– ne sont pas transparentes. Néanmoins,
certains outils expliquent leurs méthodes de
fonctionnement.
Aux États-Unis, un groupe d’académi-
ciens a développé une application pour la
prédiction des cas soumis à la Cour suprême 5.
L’application utilise des informations issues
de cas concrets, mais aussi des opinions et
4. https://civilresolutionbc.ca
5. Katz DM, Bommarito, "A general approach for predicting
the behavior of the Supreme Court of the United States PLos
ONE", in J. Blackman, MJ II, nº 12.4, 2017.
« Par exemple, à Vancouver, en Colombie
britannique, il existe un Civil Resolution Tribunal
qui sont des tribunaux civils aidant les personnes
à résoudre des différends civils. L’utilisateur
peut s’en servir lui-même en exploitant un outil
ouvert : le Solution Explorer. Il peut saisir les
données et le logiciel lui apporte une réponse. »
]

Quelle place pour l’intelligence artificielle dans le processus de décision d’un juge ?Dossier
Les cahiers de la justice - # 2019/2
[ ] 226
même les tendances politiques des juges.
L’application prétend avoir une précision
de 70 %.
Une autre application qui décrit sa
méthodologie en détail est celle qui essaye de
prévoir les décisions de la Cour Européenne
des Droits de l’Homme (CEDH). Cet outil
permet de prévoir, au regard des circonstances
d’espèce, si la Cour décidera qu’il y a eu ou
non violation d’un article de la CEDH. L’outil
utilise des arrêts précédemment rendus 6.
Ceci implique que les données sur lesquelles
l’IA travaille sont le résultat d’un complexe
travail de réduction préalable mené par la
CEDH. Il s’avère intéressant d’analyser plus
en détail la méthodologie de cet algorithme :
d’abord, cette technologie compte les mots et
les groupes de mots des décisions précédentes
de la CEDH pour les utiliser ensuite comme
des statistiques de probabilité. Or, quelles
sont les données exactement entrées dans
l’algorithme ? Quelles sont les données qui
sont sorties ? Ce sont les décisions de la
CEDH passées par tout un processus de
réduction de complexité. En effet, lorsqu’un
cas est présenté devant la Cour, il y a un
long processus et la plupart des requêtes
n’arrivent jamais devant la Cour même. Par
ailleurs, une décision prise par la CEDH
est une décision entre oui ou non : elles
décident s’il y a eu violation d’un article
de la CEDH ou pas. Dans ce cas-là, le
raisonnement juridique a pour objectif de
détailler la décision. Or, les groupes de mots
utilisés dans les décisions positives ne sont
pas les mêmes que les groupes de mots utilisés
dans les décisions négatives.
L’outil prétend avoir une précision de
79 % et dès lors il a un impact certain dans
la prise de décision de la Cour. Ce pourcentage
est-il pour autant significatif ? Si l’on relève que
dans 84 % des cas la CEDH décide en faveur
de la violation de l’article 6, ce pourcentage ne
semble pas révélateur. Les chercheurs pensent
qu’un tel outil peut servir aux juges via la
reconnaissance d’un patron décisionnel tiré
des différents textes 7.
Un autre exemple, aux États-Unis cette
fois, porte sur la justice prédictive en matière
criminelle. Les juges américains utilisent cet
outil dans leur pratique quotidienne. Or, cet
outil a fait preuve de biais en proclamant un
taux de récidive accru parmi les américains-afri-
cains défenseurs. La raison en est que les don-
nées utilisées se basent sur des cas précédents 8.
Le dernier exemple d’usage des nouvelles
technologies que nous voulons mentionner
est celui du profilage des juges. Au moins
une legaltech, aux États-Unis, offre ledit
6. Nikolaos Aletras, Dimitrios Tsarapatsanis, "Predicting judicial
decisions of the European Court of Human Rights : a Natural
Language Processing perspectivev, PeerJ Computerscience,
24 oct. 2016.
7. Henry Prakken, “Komt de robotrechter eraan ?”, Nederlands
Juristenblad Nº 207, avr. 2018.
8. Julia Angwin, “Machine Bias”, ProPublica, 23 mai 2016.
« Une autre application qui décrit sa
méthodologie en détail est celle qui essaye de
prévoir les décisions de la Cour Européenne
des Droits de l’Homme (CEDH). »
[

Quelle place pour l’intelligence artificielle dans le processus de décision d’un juge ? Dossier
Les cahiers de la justice - # 2019/2 [ ]
227
service, sur un mode payant. Sa méthode
n’est pourtant pas accessible au grand public
et on ne dispose pas d’informations sur sa
performance et sa précision.
Les technologies mises au service d’un
profilage soulèvent notamment la question
de sa réglementation. Une telle méthode
aurait un impact sur la manière dont les juges
élaborent les décisions. L’on peut imaginer
qu’un juge s’écartant des décisions préa-
lables qu’il aurait prises peut se voir oppo-
ser quelques-unes de ses propres décisions
rendues précédemment.
Comment rendre l’IA utile pour
assister les tribunaux et juges ?
L’article 6 de la CEDH impose aux
tribunaux et juges un procès équitable, ce
qui implique une procédure transparente, le
respect des principes de l’égalité des armes
entre les parties et du contradictoire, ainsi
comme des décisions de justice raisonnées. La
réduction de complexité dans les jugements
doit ainsi être solide, transparente et offrir
des opportunités égales aux parties.
Lorsque l’IA travaille sur l’information
juridique, celle-ci doit pouvoir être traitée
par les machines. Ceci implique une certaine
attention pour la qualité de l’information,
des données de mauvaise qualité affectant
en effet la qualité elle-même des résultats
de l’IA 9. Corrélations et relations
statistiques ne sont pas suffisantes pour
motiver un jugement. Si l’IA doit analyser
et comprendre l’information juridique,
celle-ci doit être structurée et juridiquement
significative 10. L’IA pourrait davantage
servir si l’information juridique (comme
les jugements) était enrichie par une plus
grande lisibilité et structuration des textes,
des codes d’identification et des metadata.
Dans les cas où une signification juridique
est ajoutée sous forme de termes structurés
et de relations significatives, l’apport de l’IA
peut potentiellement augmenter.
D’un autre côté, l’opinion générale est
que l’IA au service de la justice doit pouvoir
donner des explications sur la manière de
parvenir à un certain résultat. Ce peut être
une explication sur le procédé suivi dans la
prise de décision, mais également les raisons
expliquant le contenu même de la décision
finale. Aujourd’hui, même si de manière
générale l’IA est en théorie capable de four-
nir de telles explications, en pratique les
humains sont capables d’expliquer certains
aspects du processus décisionnel beaucoup
plus facilement que les machines 11.
En revanche, l’IA pourrait mettre
à l’épreuve le parti pris des décisions
humaines et essayer de voir si celles-ci
sont impartiales ou pas. L’IA pourrait ainsi
se débarrasser de ce parti pris. Une étude
menée à Harvard a tenté d’expliquer ce
qu’est une motivation juridique ; elle est
naturellement revenue sur les exigences
9. Kristian Lum en William Isaac, "To Predict and Serve ? ",
Significance magazine.com, oct. 2016.
10. Marc Van Opijnen, "Legal(ly) linked data", Computerrecht,
vol. 2, nº 55, 2018.
11. Finale Doshi-Velez en Mason Kortz, "Accountability of
AI under the law", arCHIV, nov. 2017.

Quelle place pour l’intelligence artificielle dans le processus de décision d’un juge ?Dossier
Les cahiers de la justice - # 2019/2
[ ] 228
du procès équitable ; la contradiction et
l’égalité des armes afin de permettre aux
parties d’exprimer leurs points de vue et
arguments respectifs. En conséquence, le
seul constat possible est que toutes les exi-
gences imposées dans la prise de décision
humaine doivent être également imposées
aux machines qui prétendraient pouvoir s’y
substituer. Il semble pourtant difficile à dire
s’il sera possible d’adapter l’algorithme aux
standards imposés dans le respect du principe
du procès équitable et, plus globalement, des
principes fondamentaux de la procédure et
d’une bonne administration de la justice.

Déjà paru :
2009
Le métier de procureur
2010
n°1 – Trois défis pour la justice du XXIe siècle
n°2 – Le rôle des Cours suprêmes dans les sociétés démocratiques
n°3 – L’internationalisation de la justice
n°4 – Peines prononcées, peines appliquées
2011
n°1 – Juger la barbarie
n°2 – La visioconférence dans le prétoire
n°3 – La justice des mineurs : une nouvelle ère ?
n°4 – L’art d’interroger
2012
n°1 – Regain ou déclin du jury en Europe ?
n°2 – La quête d’indépendance judiciaire dans les pays francophones
n°3 – Après Nuremberg : les autres procès du nazisme
n°4 – Créateurs et juges : effets de miroir
2013
n°1 – À l’écoute des justiciables
n°2 – Juger par gros temps
n°3 – Le juge à l’écoute du monde
n°4 – Dix ans de traitement des délits (2000-2010)
2014
n°1 – Les émotions dans le prétoire
n°2 – Pour qui écrivent les juges ?
n°3 – Le secret entre opacité et transparence
n°4 – Face au génocide
2015
n°1 – Art et justice
n°2 – Les prud’hommes : quelle réforme ?
n°3 – La justice transitionnelle : enjeux et expériences
n°4 – Des juges sous influence
2016
n°1 – Les nouvelles relations entre parquets et chancellerie
n°2 – Autour de la gestation pour autrui
n°3 – Faut-il craindre le syndicalisme judiciaire ?
n°4 – La crise des institutions de l’oubli
2017
n°1 – Sortir de l’impunité
n°2 – À l’épreuve du terrorisme
n°3 – La fin de vie, qui en décide ?
n°4 – La cour d’assises au XXIe siècle
2018
n°1 – Maltraitances infantiles
n°2 – L’enseignement du droit : quelles perspectives ?
n°3 – Le gardien de la laïcité
n°4 – La symbolique judiciaire en mutation
2019
n°1 – Séduction et peur des images
n°2 – Les défis de la justice numérique
À paraître :
Justice et environnement

Le passage au numérique de la justice entraîne
des effets que l’on maîtrise mal. Trois d’entre
eux sont explorés dans notre dossier. La
révolution numérique d’abord : une quantité de
données (datas) sous de multiples formats est
désormais offerte aux usagers du droit. C’est une
somme d’informations juridiques et non juridiques
sélectionnées pour leur utilité dans la conduite d’un
litige. C’est ainsi qu’à partir des données disponibles,
des opérateurs (les legal tech) peuvent constituer un
marché ce qui rend possible de prévoir le futur c’est-
à-dire la durée du procès, son coût, voire la décision.
En second lieu, dans un souci d’efficacité et
d’économie, la généralisation des écrans s’observe
partout dans les tribunaux. Dans beaucoup de cas
cela est très utile mais dans d’autres où la relation
humaine compte, cela appauvrit le débat judiciaire.
Ce n’est plus un regard qu’on a en face de soi, mais
un écran sans présence, une voix sans origine. Cette
discontinuité entre le voir, l’entendre et le sentir,
le geste et la parole, le texte et le contexte, peut
désincarner voire déshumaniser la justice fondée sur
la coprésence.
Le troisième effet concerne le jugement et la
jurisprudence. Naturellement l’open data qui est en
cours va rendre accessible l’ensemble des travaux
jurisprudentiels. Cette ouverture positive ne dissipe
cependant pas les inquiétudes et peut entraîner des
effets pervers. En témoigne le récent classement
par un éditeur numérique des cours d’appel les plus
« performantes » selon leur taux de pourvoi entraînant
cassation ce qui fait craindre un « profilage » des juges.
Foisonnement des données, omniprésence des
écrans, stratégies prédictives : ces trois défis de la
justice numérique affectent toutes les composantes
de la fonction de juger. La balance de la justice
est envahie par un gouvernement des nombres
comme le suggère l’allégorie du photographe Hervé
Bernard (regard-sur-limage.com) présentée ci-contre.
On y voit la saturation de l’espace judiciaire par une
prolifération de chiffres qui effacent le symbole de
la balance au point qu’il devient presque invisible.
Dans ce schéma, la carte remplace le territoire,
l’objectif chiffré l’argumentation, la programmation
et le management occultent le jugement. Le rêve
d’une cité rendue harmonieuse par le pur calcul serait
enfin réalisé. Mais à quel prix ? Le choix du modèle
de société que nous voulons est en cause : une société
gouvernée par les « données » ou un État de droit
garant des valeurs qui nous rassemblent ?
Extrait de Regard sur l’image, Hervé Bernard
www.dalloz.fr
Réf. : 621902 9782996 219024