📧Si l'algorithme engendre un risque systémique de fraude, l'entreprise doit trouver le moyen de prévenir et détecter celle-ci : cas d'école

♾️ suivre Marie-Anne Frison-Roche sur LinkedIn

♾️ s'abonner à la Newsletter MAFR Regulation, Compliance, Law 

____

► Référence complète : M.-A. Frison-Roche, "Si l'algorithme engendre un risque systémique de fraude, l'entreprise doit trouver le moyen de prévenir et détecter celle-ci : cas d'école", Newsletter MAFR Law, Compliance, Regulation, 15 janvier 2023.

____

Le cas agite et inquiète à juste titre. Il est notamment relayé dans Le Parisien et dans Libération.

Il apparait qu'un professeur de master découvre que la moitié de la promotion de ses étudiants avait fait écrire sa copie par un algorithme (ChatGPT), dont on dit que les productions mécaniques se rapprochent, à s'y méprendre, du "langage naturel", c'est-à-dire manié par les êtres humains. Il en a résulté des copies correctes, mais si identiques que l'usage de l'outil par les étudiants avait été ainsi détecté.

La dimension systémique du phénomène mérite qu'on y réfléchisse car il s'agit non seulement de détecter mais encore de prévenir le recours à cet outil, si l'on veut que les travaux rendus par les étudiants permettent d'évaluer leurs niveaux.

L'on peut certes rechercher des solutions très radicales, comme obliger les étudiants à écrire à la main dans des contrôles faits sur table et surveillés..., ou interdire le recours aux algorithmes, interdiction dont l'effectivité va être difficile ; ou rêver d'une Université où l'on leur donnerait des sujets de réflexion à traiter chacun d'une façon originale, ce qui suppose sans doute un nombre d'étudiants moins élevés (d'ailleurs, les lycées et collègues sont aussi concernés).

Mais si l'on regarde le "but" : il s'agit bien de prévenir et détecter un comportement systémiquement dommageable, pour l'Université et pour les étudiants eux-mêmes (qui n'auront rien appris ; ce sont les premières victimes).

Or, la prévention et détection des comportements systémiquement dommageables non pas tant pour les sanctionner mais pour qu'ils ne prospèrent pas à l'avenir, ici garder les avantages des algorithmes comme outils et prévenir leur usage dolosif, c'est la définition du Droit de la Compliance comme mode de prévention et de détection des maux systémique. Cela constitue un "but monumental".

🔴 M.-A. Frison-Roche, 📕Les buts monumentaux de la Compliance, 2022

Pour concrétiser une telle ambition, notamment face à la puissance de ces outils neutres que sont les algorithmes, qui permettent d'ailleurs à des professeurs de rédiger sans difficulté des cours sur l'originalité desquels on ne leur demande pas de compte, le Droit de la Compliance présente un atout majeur : il repose sur les entreprises elles-mêmes, notamment celles par lesquelles le risque est né.

Historiquement, le Droit de la Compliance est né aux Etats-Unis, en imposant aux entreprises ayant contribué par leur comportement interne à la crise de 1929 une série d'obligations de prudence, de gestion des conflits d'intérêts, d'information et de soumission à un superviseur.

🔴 M.-A. Frison-Roche, 📝Compliance : avant, maintenant, après, 2018

C'est en effet aux entreprises de trouver les solutions pour détecter et prévenir les comportements systémiques dommageables.

L'article publié dans Libération fait état des travaux menés par les entreprises fabriquant les algorithmes pour que soient insérés dans les textes des signaux, indétectables par l'usager (par exemple l'algorithme achevant une phrase sur dix par un mot finissant par la même lettre, ou une phrase sur vingt par un mot commençant par la même lettre), mais qu'un autre algorithme pourrait "détecter" pour que le travail produit soit analysé par le professeur (comme on le fait déjà en matière de plagiat).

Il s'agit ici d'une "compliance consentie, choisie par l'entreprise elle-même ; cela pourrait être leur être également imposé.

🔴 L. Benzoni et B. Deffains, 📝Approche économique des outils de la Compliance: finalité, effectivité et mesure de la Compliance subie et choisie, in M.-A. Frison-Roche (dir.), 📕Les outils de la Compliance, 2021

Apparaît ainsi le juste et efficace rapport entre le Droit de la Compliance et ce que l'on appelle "l'intelligence artificielle", dès l'instant que l'on n'a précisément pas une vision mécanique du Droit de la Compliance, ce qui permet de laisser les algorithmes à leur place : des "outils".

🔴 M.-A. Frison-Roche, 🎥Compliance, Intelligence artificielle et gestion des entreprises : la juste mesure, 2022

________