Pour la troisième année consécutive, l’université de Bordeaux co-organise l’événement “Convergence du droit et du numérique”, en partenariat avec la fondation Anthony Mainguené, dont le but est de promouvoir les prises de conscience éthiques, responsables et innovantes, garantes des valeurs humaines.
L’objet de ce colloque était de croiser les regards entre juristes et informaticiens afin d’ouvrir le débat sur les enjeux liés aux techniques du numérique et leurs conséquences sous l’éclairage de l’éthique.
Celui-ci s’est tenu en ligne, du 12 au 14 octobre 2020.
Ce colloque fut l’occasion de réunir avocats, juristes, chercheurs, universitaires et entrepreneurs du numérique afin d’ouvrir la discussion en interrogeant le numérique d’un point de vue juridique, et réciproquement.
Open Law* (Le droit ouvert) souscrit pleinement à cette démarche, car il est de l’ADN de l’association d’encourager l’interdisciplinarité, l’interprofessionnalité et l’approche collaborative entre les différents corps de métiers.
Les thématiques abordées étaient les suivantes :
A – “Numérique et pratiques commerciales”
B – “Régulation de la donnée et des traitements algorithmiques”
C – “Usages régaliens et sécuritaires du numérique”
D – “Numérique et pratiques juridiques”
Ce billet est l’occasion de revenir sur quelques-uns des nombreux sujets qui ont été présentés et qui trouvent leur place dans les travaux en cours et à venir de notre association, à savoir : l’Open Data des décisions de justice et le processus d’anonymisation ; les algorithmes au service des droits fondamentaux de l’UE ; les opportunités qu’offre le numérique en termes de démocratie directe.
- Louis Béziaud (Doctorant UQAM / IRISA, Universités de Rennes) Titulaire d’un Master en Sciences de l’informatique de l’ENS Rennes) | L’anonymisation des décisions de justice
Bien qu’elle ne soit pas encore opérationnelle et ne risque d’être déployée qu’avant plusieurs années, l’open data des décisions de justice représente un enjeu majeur pour les legaltech dans les années à venir. Conjuguée au numérique, l’open data est guidée par le principe de publicité des décisions et celui de transparence, en vertu des articles 14 et 15 de la Déclaration des droits de l’homme et du citoyen.
Il appartient donc à nos juridictions de concilier ces différents principes, tout en respectant l’anonymisation l’anonymat des personnes physiques citées dans les décisions de justice.
À ce stade, il est important de rappeler qu’une décision de justice est un acte judiciaire qui contient des données personnelles et que compte tenu du nombre de décisions rendues chaque année (environ 3 millions par an, toutes disciplines et instances confondues, dont 230 000 décisions par an pour les cours d’appel et 130 000 pour la Cour de cassation), le processus d’anonymisation est un travail qui ne peut être réalisé humainement, d’où le recours à des algorithmes de traitement du langage.
La présentation s’est donc attardée sur ce processus d’anonymisation, en rappelant qu’elle passait par un caviardage des noms mais, selon les décisions et le contexte (exemple d’une décision mettant en cause le club de football Real Madrid ainsi que quelques-uns de ses joueurs) la réidentification était chose aisée.
Dès lors, il a été évoqué l’abandon de l’approche unique et la distinction entre un accès précis et un accès massif à ces décisions, et ce, dans le but de réconcilier la vie privée des personnes et la principe de transparence selon lequel “La société a le droit de demander compte à tout agent public de son administration” serait ici tempéré.
Il a été également soulevé que chaque pays dispose d’une approche différente sur le qui procède à l’anonymisation.
L’anonymisation demeure un processus complexe et délicat. Cela tient à la difficulté du langage, à la sémantique, à la synonymie et aux concepts voisins, à la proximité des mots entre eux, mais aussi aux différences de langage entre les cours, à la manière dont on rend justice.
Enfin, la présentation a soulevé à juste titre que toutes les décisions de justice ne sont pas publiées en ligne.
Il est déjà très compliqué pour les professionnels du droit d’avoir une lecture de bout en bout de la jurisprudence, cette difficulté serait renforcée par le peu de lisibilité et de prévisibilité du droit pour le juriste liée à cette absence de publicité en ligne, et par le caractère parfois inutilisable qu’entraîne l’anonymisation sur une décision de justice.
- Marion Lehmans (Présidente SupDPO / Data Protection Officer Sciences Po) | Décliner les droits fondamentaux de l’UE dans les algorithmes
En introduction ont été posées les questions suivantes : est-ce que les valeurs européennes sont bafouées dès lors qu’un outil développé ne l’est pas pour défendre ses principes ? Par le principe même d’élaboration des algorithmes ?
Bien qu’il existe nombre de chartes sur le plan européen (Charte des droits fondamentaux, Charte sociale européenne), celles-ci n’empêchent pas pour autant ces usages délictueux, elles n’ont apparemment pas vocation à intervenir sur le terrain du numérique (du moins il est légitime de penser que cela n’a pas été anticipé lors de leur rédaction).
Il incombe donc de se demander en quoi la programmation algorithmique (ou l’intelligence artificielle) peut conduire à mieux garantir nos valeurs fondamentales ? Cette évaluation pourrait passer par le test des algorithmes utilisés dans les réseaux sociaux permettant de conduire à l’ordonnancement des résultats qui ont un caractère discriminant.
Comment inverser la logique algorithmique ? En réponse, il a été suggéré d’apprendre et de jouer avec les outils de suggestion automatique implémentés dans les moteurs de recherche afin de développer l’esprit critique.
Un meilleur respect de nos droits fondamentaux passe également par la possibilité de pouvoir s’affranchir de ces dispositifs, une sorte de droit à la déconnexion algorithmique. Pour autant, dans un contexte de dématérialisation grandissante des processus, est-ce que l’échappatoire existe ? Par défaut, il semble que non.
Cela nous amène à nous questionner en tant qu’individu, et d’interroger notre société :
Comment peut-elle accepter de fonder ses valeurs sur ces technologies, les algorithmes, qui ne sont pas inclusifs ?
Enfin, il est intéressant de relever que l’AIPD revêt déjà ce rôle puisque l’article 35 du RGPD dispose que cette analyse d’impact est requise lorsque le traitement automatisé “est susceptible d’engendrer un risque élevé pour les droits et libertés des personnes physiques”. Force est de constater qu’elle est insuffisante pour inscrire ces droits fondamentaux. Il n’y a rien d’illégal à utiliser un algorithme qui ne soit pas loyal, en dépit des multiples comités d’éthique qui se forment. Il est d’ailleurs difficile d’apprécier le caractère loyal d’un algorithme d’un point de vue informatique, seule sa finalité permettra de trancher sur le critère de la loyauté.
En droit de la concurrence, il existe des sanctions et une réponse pénale. Il serait toutefois opportun d’étendre cette protection pour protéger les droits et libertés des utilisateurs dans d’autres domaines.
- Pierre Bessière (Conseiller scientifique et co-fondateur ProBAYES, CNRS / Sorbonne Université) | Le numérique, un pont entre démocratie représentative et directe ?
La prise de parole s’est articulée en questionnant chacun des attributs de notre système représentatif, et leur mutation probable grâce au numérique.
En premier lieu, la question de la territorialité. Rappelant que, techniquement, on se dirige vers un accès généralisé à internet (95% des 18-25 ans disposent d’un smartphone), de sorte qu’il est légitime de se demander s’il est toujours pertinent de relier représentativité et territorialité.
Par ailleurs, pour un représentant, il n’a jamais été aussi facile de communiquer et des possibilités sécurisées existent, lesquelles sont là aussi offertes par le numérique.
En suivant cette logique, la question du vote a également été soulevée, nos modes de scrutins se veulent parfois inégalitaires, d’autres modes de scrutin existent, c’est là tout l’intérêt de la démocratie liquide. Au lieu d’organiser des élections, les individus se regroupent et décident d’un représentant (abandon de la notion de combat électoral) un délégué dispose d’un nombre de voix proportionnel à ceux qui l’ont désigné comme délégué. Il s’agit d’un processus permanent. On peut même imaginer plusieurs délégués en fonction du sujet abordé, il peut également y avoir des délégués du délégué, ce qui renforcerait l’abandon d’une vision territorialiste. La conséquence majeure serait le changement de nature des partis politiques.
D’autre part, l’article 27 de la Constitution de 1958 rend impossible tout mandat impératif. D’où l’intérêt d’évoquer le processus de révocation, largement usité aux États-Unis (hors impeachment) et en Angleterre. Le processus révocatoire pourrait être une solution intéressante à la crise de confiance qui secoue notre système représentatif.
Ne serait-il pas souhaitable que les promesses n’engagent plus uniquement ceux à qui elles sont destinées ?
Enfin, la question de la citoyenneté a été abordée. Il existe une littérature qui a imaginé que la citoyenneté puisse être liée à une communauté (politique, philosophique, religieuse) laquelle aurait son système de loi, d’enseignement (comme l’a fait l’Église catholique).
En soit, la promesse d’un nouveau monde, moins centralisé qu’il ne l’est actuellement.
Le prochain colloque à ne pas manquer est prévu au printemps s 2021, du 15 au 17 mars, pour une édition, qui, nous l’espérons, se révèlera être aussi riche en échanges et en contributions qu’elle le fut cette année.
