galatea1

Conférence sur la Justice prédictive à Nanterre : Si l’I.A faisait loi ?

CONFÉRENCE – DÉBAT SUR LES PRATIQUES

JURIDIQUES AUGMENTÉES PAR L’INTELLIGENCE ARTIFICIELLE

Les algorithmes peuvent-ils modéliser l’interprétation de la loi ?

Jeudi 16 novembre en fin d’après-midi, à la faculté de droit de Paris-Nanterre, s’est tenue une conférence sur la justice prédictive.

Les algorithmes peuvent-ils modéliser l’interprétation de la loi avec exactitude et  équité ? C’est la question qui a été soulevée pour cette première conférence du réseau Galatea, un réseau international et pluridisciplinaire de réflexion et de propositions sur les enjeux associant le droit et l’intelligence artificielle. Open Law était présent pour participer à cet événement. Retour sur un débat animé dans un amphithéâtre qui affichait complet !

Timothée Paris, rapporteur général adjoint à la section du rapport et des études et maître des requêtes au Conseil d’État, à l’origine de la création de Galatea, amorce sa présentation par une définition de de l’intelligence artificielle et de ses enjeux juridiques et éthiques. Selon lui, « l’IA est un programme autonome qui peut remplacer l’humain dans certaines applications ». Il existe peu de doctrine sur ce point précis et il est nécessaire d’avoir une démarche proactive. N’y a-t-il pas un risque d’être dépassé par la technologie si nous n’entamons pas sans tarder une réflexion pluridisciplinaire et accompagnons sur le plan juridique cette transformation de la société ?

Galatea entend développer quatre grands axes :

– Développer la formation sur l’IA (notamment dans le milieu professionnel : expliquer ce qu’elle est, et n’est pas) ;

– Décrire et expliquer ses applications pratiques ;

– Cartographier le droit et l’IA (à l’échelle de l’Union européenne) ;

– Créer des synergies en permettant à des personnes de milieux professionnels différents de réfléchir ensemble.

De manière plus générale, Galatea entend travailler sur les conséquences de l’IA sur le droit, et les conséquences du droit sur l’IA.

C’est ensuite à Sumi Saint Auguste d’intervenir. Vice-présidente d’Open Law, elle introduit son propos par une présentation de l’Association Open Law et des ateliers pratiques de manipulation de la donnée. Elle présente ensuite le travail mené avec le concours de la cellule R&D ELS,  avec pour point de départ la définition d’un scénario ou cas d’usage qui qui va déterminer le travail de collecte des données en vue de les annoter et de construire ainsi un corpus de données d’apprentissage. On vise la construction au moyen d’algorithmes d’une représentation, ou modèle, la destination de ce modèle étant de l’appliquer ensuite à un lot de données vierges.

Sumi présente ensuite le dataset d’apprentissage du programme. Le scénario répond à un besoin de « cartographie » fine des éléments qui constituent une décision de justice (arrêts de cour d’appel). Le modèle permet de zoner à hauteur de 74 % d’exactitude des décisions de justice (cours d’appel, en open data). La restitution de ces travaux du programme [IA & Droit] d’Open Law se fera les 6 et 7 décembre prochain au village de la legaltech lors du POSS (Paris Open Source Summit).

Juan Gustavo Corvalan, juge à la Cour fiscale suprême de Buenos Aires, co-concepteur de l’algorithme de justice prédictive Prometea,  prend ensuite la parole. Il explique que l’idée de modèles de données est en lien avec deux grandes questions : d’une part, comment faire pour que nos tâches soient plus efficaces avec l’IA ? D’autre part, comment allons-nous contrôler l’évaluation de l’algorithme et sa mise en œuvre ?

Les développeurs de l’AI travaillent déjà beaucoup sur le contrôle des algorithmes. On parle d’« IA explicable », c’est-à-dire que l’on écrit actuellement des  algorithmes ne s’occupant que d’expliquer ce que font d’autres algorithmes.

Juan présente ensuite PROMETEA, un système prédictif utilisé à Buenos Aires (l’Argentine est une république fédérale). Deux types d’IA avec PROMETEA opèrent :

– Celle en charge de la reconnaissance de voix (reconnaît le langage parlé),

– La prédiction sur les données présentes dans la base documentaire de la juridiction.

Après ces présentations, le public a pu poser ses questions aux trois intervenants. Nous avons soulevé la question de l’état de l’open data juridique en Argentine. Pour Juan Gustavo Corvalan, c’est un point crucial et il faut continuer à aller dans ce sens ; par exemple à Buenos Aires, toute la jurisprudence est en ligne. Elle est publiée sur internet c’est pourquoi il est possible de faire ces prédictions avec PROMETEA. Sans accès à ces données, Prometea ne pourrait pas fonctionner. Sumi a ajouté qu’en France la communauté Open Law était particulièrement attentive au calendrier des articles de la loi Lemaire sur l’open data des décisions de justice, dont les décrets d’application semblent reportés sans date.

Pour conclure, nous avons également évoqué la transparence du traitement algorithmique dans l’exercice de la justice. En d’autres termes, est-ce que le justiciable sait si le juge a utilisé l’outil Prometea ? Pour Juan Gustavo Corvalan, la décision est humaine, in fine. On peut expliquer au justiciable que les juges valident l’algorithme. Les doutes que nous pouvons avoir sur l’ algorithme sont dus au fait que l’on relie l’IA à la capacité que le système puisse développer une forme de créativité et d’autonomie, ce qui pourrait se produire. Cela étant, présentement, nous parlons d’un outil qui collabore avec les juges et étaye leur travail, outil qui évidemment ne remplace en aucun cas l’humain.

galatea1
galatea2

Retrouvez quelques photographies de l’événement :

galatea1
galatea 2
galatea3
Retour en haut