3 juin 2024

Base Documentaire : Convention, contrat, composition, engagement

 

 Référence complète : N. Yax, H. Anlio & S. Palminteri, "Studying and improving reasoning in humans and machines",  Communications Psychology volume 2, Article number: 51 (2024)

____

15 février 2024

Base Documentaire : Doctrine

 Réference complète : L.-M. Augagneur, "The jurisdictionalisation of reputation by platforms", in M.-A. Frison-Roche (ed.), Compliance Jurisdictionalisation, Journal of Regulation & Compliance (JoRC) et Bruylant, coll. "Compliance & Regulation", 2024, pp.109-125 

____

📘consulter une présentation générale de l'ouvrage, Compliance Jurisdictionalisation, dans lequel cet article est publié

____

 Résumé de l'article (fait par l'auteur) : The large platforms are in the position of arbiter of the reputation economy (referencing, notoriety) in which they themselves act. Although the stakes are usually low on a unit basis, the jurisdiction of reputation represents significant aggregate stakes. Platforms are thus led to detect and assess reputation manipulations (by users: SEO, fake reviews, fake followers; or by the platforms themselves as highlighted by the Google Shopping decision issued by the European Commission in 2017) that are implemented on a large scale with algorithmic tools.

The identification and treatment of manipulations is itself only possible by means of artificial intelligence tools. Google thus proceeds with an automated downgrading mechanism for sites that do not follow its guidelines, with the possibility of requesting a review through a very summary procedure entirely conducted by an algorithm. Tripadvisor, on the other hand, uses an algorithm to detect false reviews based on "fraud modeling to identify electronic patterns that cannot be detected by the human eye". It only conducts a human investigation in limited cases.

This jurisdictionality of reputation has little in common with that defined by the jurisprudence of the Court of Justice (legal origin, contradictory procedure, independence, application of the Rules of Law). It is characterized, on the one hand, by the absence of transparency of the rules and even of the existence of rules stated in predicative form and applied by deductive reasoning. It is replaced by an inductive probabilistic model by the identification of abnormal behaviors in relation to centroids. This approach of course raises the issue of statistical bias. More fundamentally, it reflects a transition from Rule of Law, not so much to "Code is Law" (Laurence Lessig), but to "Data is Law", that is, to a governance of numbers (rather than "by" numbers). It also comes back to a form of collective jurisdictionality, since the sanction comes from a computational apprehension of the phenomena of the multitude and not from an individual appreciation. Finally, it appears particularly consubstantial with compliance, since it is based on a teleological approach (the search for a finality rather than the application of principles).

On the other hand, this jurisdictionality is characterized by man-machine cooperation, whether in the decision-making process (which poses the problem of automaticity bias) or in the contradictory procedure (which poses, in particular, the problems of discussion with the machine and the explicability of the machine response).

Until now, the supervision of these processes has been based essentially on the mechanisms of transparency, a limited adversarial requirement and the accessibility of appeal channels. The French Law Loi pour une République Numérique ("Law  for a Digital Republic"), the European Legislation Platform-to-Business Regulation and the Omnibus Directive, have thus set requirements on the ranking criteria on platforms. The Omnibus Directive also requires that professionals guarantee that reviews come from consumers through reasonable and proportionate measures. As for the European Digital Services Act, it provides for transparency on content moderation rules, procedures and algorithms. But this transparency is often a sham. In the same way and for the moment the requirements of sufficient human intervention and adversarial processes appear very limited in the draft text.

The most efficient forms of this jurisdictionality ultimately emerge from the role played by third parties in a form of participatory dispute resolution. Thus, for example, FakeSpot detects false Tripadvisor reviews, Sistrix establishes a ranking index that helped establish the manipulation of Google's algorithm in the Google Shopping case by detecting artifacts based on algorithm changes. Moreover, the draft Digital Services Act envisages recognizing a specific status for trusted flaggers who identify illegal content on platforms.

This singular jurisdictional configuration (judge and party platform, massive situations, algorithmic systems for handling manipulations) thus leads us to reconsider the grammar of the jurisdictional process and its characteristics. If Law is a language (Alain Sériaux), it offers a new grammatical form that would be that of the middle way (mesotès) described by Benevéniste. Between the active and the passive way, there is a way in which the subject carries out an action in which he includes himself. Now, it is the very nature of this jurisdictionality of compliance to make laws by including oneself in them (nomos tithestai). In this respect, the irruption of artificial intelligence in this jurisdictional treatment undoubtedly bears witness to the renewal of the language of Law.

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

22 janvier 2024

Auditions Publiques

🌐suivre Marie-Anne Frison-Roche sur LinkedIn

🌐s'abonner à la Newsletter MAFR Regulation, Compliance, Law

____

 Référence complète : M.-A. Frison-Roche, audition notamment par Maître Sophie Bonne et Maître Anne-Claire Ancelin, respectivement présidente et rapporteure de la Commission du Conseil Supérieur du Notariat (CSN), élaborant un rapport sur Compliance : un espace à conquérir ?, 22 janvier 2024, CSN, Paris..

____

► Résumé de la présentation :  j'ai eu l'occasion d'étudier et de discuter des relations entre le notaire comme professionnel et le notariat comme structure de régulation d'une part et le Droit de la Compliance, d'autre part. 

Je l'ai fait lors des travaux du Conseil Supérieur du Notariat sur la raison d'être, dans une audition avec la Commission du CSN en charge de la réflexion à ce propos et et d'une façon plus générale à propos de l'articulation entre l'office du notariat et les mécanismes juridiques de régulation, car le Droit de la Compliance est le prolongement du Droit de la Régulation. J'ai d'ailleurs à ce titre fait une masterclass sur le droit de la compliance lors du Congrès annuel de 2022 à ce sujet. 

M'appuyant sur ces premières réflexions et discussions, je peux articuler les propos suivants:

 

0. Observation préalable : l'intitulé semble sous-entendre que la compliance serait un espace nouveau, où le notariat serait étranger et qu'il faudrait "conquérir" cette terra incognita , le point d'interrogation permettant de suggérer que, si nouveau soit le Droit de la Compliance, c'est plutôt dans les professions agissant en Ex Ante qu'il est le moins "étranger" et que l'espace est donc déjà le plus "naturel".

L'enjeu est plutôt dans l'ambition que l'on peut en avoir : soit une ambition faible ("conformité"), soit une ambition forte ("Droit de la Compliance").

 

1. Un espace restreint aujourd'hui et plus encore demain si l'on réduit la Compliance à ce qui n'est que son outil : la conformitéCette réduction équivaut à un grand dommage, car les algorithmes sont aptes à prendre en charge la conformité, et font le faire le plus en plus, tandis que la compliance est maniée par les êtres humains. La conformité est, mais n'est que, un outil de la Compliance.

 

2. La Compliance se définit par les Buts Monumentaux 

  1. Les Buts monumentaux sont fixés par les Autorités politiques et publiques et ne peuvent être fixés que par elles ; le déploiement des moyens peuvent être déploient par d'autres que l'administration

 

3. Pragmatiquement, les buts monumentaux unifient la "masse réglementaire"

4. Tendre, dans une trajectoire, vers eux nécessite des êtres humains qui se coordonnent et agissent ensemble (ensemble du modèle concurrentiel)

5. Ils constituent la Compliance comme une branche ex ante du Droit

6. Ils placent le Droit de la Compliance en déploiement du Droit de la Régulation

7. Le Notariat est alors tout d'abord un "agent d'effectivité de la conformité", se dotant pour cela notamment des outils algorithmiques

8. Le Notariat est aussi une profession humaniste qui aide l'Etat, les entreprises et les parties intéressées à tendre vers la protection des êtres humains, pour qu'ils ne soient pas broyés par les systèmes devenus plus menaçants (but monumental négatif) et qu'ils en bénéficient (but monumental positif)

9. En cela, le Notariat, comme le Juge et l'Avocat, doit être consolidé dans sa structure, et doit aussi se présenter, au niveau du professionnel, au niveau de l'étude, au niveau de la profession structurée

10. Le Notariat doit aussi conforter sa gouvernance dans ce nouveau système de Compliance qui est en lien avec l'Etat de Droit et la Démocratie

 

____

► Voir dans mes travaux ceux qui peuvent présenter un intérêt au regard de cette audition ⤵️

🕴️M.-A. Frison-Roche, 🖥️Appliquer la notion de "Raison d'être à la profession du Notariat, 2021

🕴️M.-A. Frison-Roche,🎤La compliance pour les études notariales : aspects théoriques et pratiques, Congrès des notaires , 2022

🕴️M.-A. Frison-Roche,📝Notariat et régulation font bon ménage, 2015

🕴️M.-A. Frison-Roche, 💬La profession investit le Droit de la Compliance et détermine sa Raison d'Etre, 2023

🕴️M.-A. Frison-Roche (dir.), 📕Les Buts Monumentaux de la Compliance, 2022

🕴️M.-A. Frison-Roche, 📝Penser et manier la Vigilance par ses Buts Monumentaux de Compliance, mars 2023.

🕴️M.-A. Frison-Roche, 📝Contrat de compliance, clauses de compliance, 2022.

🕴️M.-A. Frison-Roche, 🚧L'invention de la vigilance : un terme nouveau pour une Responsabilité en Ex Ante, 2021. 

🕴️M.-A. Frison-Roche, 📝Synthèse : Le rôle du juge dans le déploiement du droit de la régulation par le droit de la compliance, à paraître 

🕴️M.-A. Frison-Roche, 📝Le Droit de la compliance, 2016.

________

14 juin 2023

Conférences

♾️suivre Marie-Anne Frison-Roche sur LinkedIn

♾️s'abonner à la Newsletter MAFR Regulation, Compliance, Law

____

► Référence complète : M.-A. Frison-Roche, "Compliance et droit processuel", in B. Deffains, M.-A. Frison-Roche et J.-B. Racine (dir.), Journal of Regulation & Compliance (JoRC) et Université Panthéon-Assas (Paris II), Compliance : Obligation, devoir, pouvoir, cultureUniversité Panthéon-Assas, Salle des Conseils, 14 juin 2023.

____

🧮Consulter le programme de cette manifestation

____

🎤consulter l'autre intervention faite lors de la première journée de ce colloque : "L'obligation de compliance, entre volonté et consentement : obligation sur obligation vaut

____

► Résumé de la conférence : après avoir renvoyé au chapitre qui dans l'ouvrage sur La juridictionnalisation de la Compliance, traite plus particulièrement du Droit processuel!footnote-2987, la conférence est construite sur 5 développements, qui sont autant de progression.

Le premier développement porte sur le fait que les rapports entre le Droit de la Compliance et le Droit processuel sont très difficiles parce qu'on affirme souvent soit qu'ils n'ont tout simplement rien à voir l'un avec l'autre, soit qu'ils ont tout pour se déplaire. Cela tient à la réduction que l'on ferait de la Compliance à des process et à la place mécanique qu'y prendrait les algorithmes qui pourraient pourvoir à tout.

La Compliance aurait même pour objet et pour effet que l'entreprise, et ses dirigeants, n'entrent jamais en contact avec un Juge, le procureur étant alors leur meilleur allié pour cela...

Dans un 2ième temps, j'ai rappelé l'idée, très courante, comme quoi le Droit processuel serait une sorte de "tribut" que l'Etat de Droit exige, plombant certes les entreprises face à des entreprises vivant dans des systèmes qui n'existent pas un tel prix....

Mais beaucoup soulignent que le Droit processuel pourrait devenir un modèle. Cela peut se justifier et s'anticiper techniquement parce que cela s'est déjà produit dans le Droit de la Régulation et que le Droit de la Compliance est le déploiement de celui-ci!footnote-2988.

Dans un 3ième temps, j'ai donc travaillé sur l'alliance s'opérant entre les deux, la procédure (et non plus process) venant modifier la compliance et par là-même la renforcer, évoquant la façon dont cela peut se manifester techniquement!footnote-2989.

Dans un 4ième temps, j'ai recherché ce qui sera la "procédure naturellement adéquate" à la Compliance : celle qui intègre la durée et l'élaboration de "solutions", ce à quoi renvoie la notion de "durabilité" qui est centrale dans le Droit substantiel de la Compliance.

Dans un 5ième temps et y consacrant plus de temps, j'ai pointé là où l'innovation doit être la plus forte : la preuve, l'obligation probatoire étant la "part totale" de l'obligation de compliance. Cette question majeure sera d'ailleurs l'objet du cycle de colloques en 2024.

________

3

Notamment dans cette perspective, 🕴️M.-A. Frison-Roche et 🕴️M. Boissavy, 📕Compliance et droits de la défense. Enquête interne - CJIP - CRPC2024.

15 janvier 2023

Compliance : sur le vif

♾️ suivre Marie-Anne Frison-Roche sur LinkedIn

♾️ s'abonner à la Newsletter MAFR Regulation, Compliance, Law 

____

► Référence complète : M.-A. Frison-Roche, "Si l'algorithme engendre un risque systémique de fraude, l'entreprise doit trouver le moyen de prévenir et détecter celle-ci : cas d'école", Newsletter MAFR Law, Compliance, Regulation, 15 janvier 2023.

____

Le cas agite et inquiète à juste titre. Il est notamment relayé dans Le Parisien et dans Libération.

Il apparait qu'un professeur de master découvre que la moitié de la promotion de ses étudiants avait fait écrire sa copie par un algorithme (ChatGPT), dont on dit que les productions mécaniques se rapprochent, à s'y méprendre, du "langage naturel", c'est-à-dire manié par les êtres humains. Il en a résulté des copies correctes, mais si identiques que l'usage de l'outil par les étudiants avait été ainsi détecté.

La dimension systémique du phénomène mérite qu'on y réfléchisse car il s'agit non seulement de détecter mais encore de prévenir le recours à cet outil, si l'on veut que les travaux rendus par les étudiants permettent d'évaluer leurs niveaux.

L'on peut certes rechercher des solutions très radicales, comme obliger les étudiants à écrire à la main dans des contrôles faits sur table et surveillés..., ou interdire le recours aux algorithmes, interdiction dont l'effectivité va être difficile ; ou rêver d'une Université où l'on leur donnerait des sujets de réflexion à traiter chacun d'une façon originale, ce qui suppose sans doute un nombre d'étudiants moins élevés (d'ailleurs, les lycées et collègues sont aussi concernés).

Mais si l'on regarde le "but" : il s'agit bien de prévenir et détecter un comportement systémiquement dommageable, pour l'Université et pour les étudiants eux-mêmes (qui n'auront rien appris ; ce sont les premières victimes).

Or, la prévention et détection des comportements systémiquement dommageables non pas tant pour les sanctionner mais pour qu'ils ne prospèrent pas à l'avenir, ici garder les avantages des algorithmes comme outils et prévenir leur usage dolosif, c'est la définition du Droit de la Compliance comme mode de prévention et de détection des maux systémique. Cela constitue un "but monumental".

🔴 M.-A. Frison-Roche, 📕Les buts monumentaux de la Compliance, 2022

Pour concrétiser une telle ambition, notamment face à la puissance de ces outils neutres que sont les algorithmes, qui permettent d'ailleurs à des professeurs de rédiger sans difficulté des cours sur l'originalité desquels on ne leur demande pas de compte, le Droit de la Compliance présente un atout majeur : il repose sur les entreprises elles-mêmes, notamment celles par lesquelles le risque est né.

Historiquement, le Droit de la Compliance est né aux Etats-Unis, en imposant aux entreprises ayant contribué par leur comportement interne à la crise de 1929 une série d'obligations de prudence, de gestion des conflits d'intérêts, d'information et de soumission à un superviseur.

🔴 M.-A. Frison-Roche, 📝Compliance : avant, maintenant, après, 2018

C'est en effet aux entreprises de trouver les solutions pour détecter et prévenir les comportements systémiques dommageables.

L'article publié dans Libération fait état des travaux menés par les entreprises fabriquant les algorithmes pour que soient insérés dans les textes des signaux, indétectables par l'usager (par exemple l'algorithme achevant une phrase sur dix par un mot finissant par la même lettre, ou une phrase sur vingt par un mot commençant par la même lettre), mais qu'un autre algorithme pourrait "détecter" pour que le travail produit soit analysé par le professeur (comme on le fait déjà en matière de plagiat).

Il s'agit ici d'une "compliance consentie, choisie par l'entreprise elle-même ; cela pourrait être leur être également imposé.

🔴 L. Benzoni et B. Deffains, 📝Approche économique des outils de la Compliance: finalité, effectivité et mesure de la Compliance subie et choisiein M.-A. Frison-Roche (dir.), 📕Les outils de la Compliance, 2021

Apparaît ainsi le juste et efficace rapport entre le Droit de la Compliance et ce que l'on appelle "l'intelligence artificielle", dès l'instant que l'on n'a précisément pas une vision mécanique du Droit de la Compliance, ce qui permet de laisser les algorithmes à leur place : des "outils".

🔴 M.-A. Frison-Roche, 🎥Compliance, Intelligence artificielle et gestion des entreprises : la juste mesure, 2022

________

8 décembre 2020

Base Documentaire : Doctrine

► Référence complète : M. Teller, "L'intelligence artificielle", in J.-B. Racine (dir.), Le droit économique au XXIe siècle. Notions et enjeux, LGDJ, coll. "Droit & Économie", 2020, pp. 461-478

____

📕consulter une présentation générale de l'ouvrage, Le droit économique au XXIe siècle. Notions et enjeux, dans lequel cet article est publié 

____

► Résumé de l'article : 

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

 

5 janvier 2020

Base Documentaire : Doctrine

Référence complète: Adam, P., Le Friant, M. et Tarasewicz, Y. (dir.), Intelligence artificielle, gestion algorithmique du personnel et droit du travail, série "Les travaux de l'AFDT", Coll. "Thèmes et Commentaires", Dalloz, 2020, 241 p.

Lire la quatrième de 

6 novembre 2019

Base Documentaire : 10. Autorité de la Concurrence

Référence complète : Autorité de la concurrence et le Bundeskartellamt, Algorythms and Competition, in Autorité de la concurrence, 6 novembre 2019.

 

Lire l'étude.

1 septembre 2019

Base Documentaire : Doctrine

Référence complète: Bounie, D. et Maxwell, W., L'explicabilité des algorithmes est-elle un droit fondamental?, Tribune dans Le Monde, 1er septembre 2019 

Lire la Tribune

10 juin 2019

Blog

Le 5 juin 2019, Youtube a informé via son "blog officiel" (Official YouTube Blog) le renforcement de sa politique pour atteindre la lutte contre les contenus de haine, en raison de leur responsabilité sociale : we need "to live up to our responsability and protect the YouTube community from harmfum content".

Le slug du billet de blog "officiel" est plus clair encore : our-ongoing-work-to-tackle-hate.html.

On ne peut qu'être favorable à cette politique dans son principe, et ce d'autant plus qu'en ce qui concerne l'Europe ce sont les Autorités publiques, la jurisprudence et bientôt la Loi en ce qui concerne la France, qui exigent des opérateurs numériques cruciaux l'adoption d'une telle politique!footnote-1615

Le "billet officiel" prend deux cas et deux exemples : le premier porte sur la déinformation et l'affirmation que la terre est plate, le second porte sur l'incitation à la haine et la promotion du nazisme. Sur celui-ci, le "billet officiel" le fait en ces termes :

"Today, we're taking another step in our hate speech policy by specifically prohibiting videos alleging that a group is superior in order to justify discrimination, segregation or exclusion based on qualities like age, gender, race, caste, religion, sexual orientation or veteran status. This would include, for example, videos that promote or glorify Nazi ideology, which is inherently discriminatory. Finally, we will remove content denying that well-documented violent events, like the Holocaust or the shooting at Sandy Hook Elementary, took place.

We recognize some of this content has value to researchers and NGOs looking to understand hate in order to combat it, and we are exploring options to make it available to them in the future. And as always, context matters, so some videos could remain up because they discuss topics like pending legislation, aim to condemn or expose hate, or provide analysis of current events. We will begin enforcing this updated policy today; however, it will take time for our systems to fully ramp up and we’ll be gradually expanding coverage over the next several months.

 

Le 6 juin, un journaliste s'en inquiète en affirmant qu'avec une telle politique le film Le triomphe de la volonté, en ce qu'elle met en scène le nazisme et constitue un film de propagande de ce mouvement est donc condamné à disparaître de l'espace numérique

Il titre son article : "YouTube Pulls ‘Triumph of the Will’ For Violating New Hate Speech Policy".

Il proteste en disant que dans toutes les universités le film a été montré pour souligner à quel point le cinéma peut être un médium en politique : "Riefensahl's harrowing depiction of the Nuremberg Rallies remains an essential loof at the ideological power of the moving image, and how it can be co-opted on a mass scale" ; "the movie also illuminates how a nation can filter its own realities through recorded media". 

Il soutient qu'à ce compte les films d'Eistenstein, Potemkin, devrait être retiré, ce qu'il n'est pas, et soutient que cela devrait aussi le cas pour Naissance d'une Nation de Griffith, qui ne l'est pas davantage. 

Découvrant dans une chaine que Youtube diffuse au titre des "archives historiques", une prise de position est prise sur le caractère inadmissible du "Triomphe de volonté", il estime que le retrait de ce film-là est donc le reflet d'une prise de position qui n'est pas neutre.

Il conclut son article de la façon suivante : "It raises major issues surrounding the platform's capacity as a historical archive, and how much viewers can be trusted to do some of the legwork on their own. These are the challenges that no algorithmes can solve.".

_____

 

Pourtant effectivement, le film est désormais indisponible sur Youtube, l'internaute ne trouvant que le message suivant (dans la langue que son adresse IP suppose être la suivante : "Cette vidéo a été supprimée, car elle ne respectait pas le règlement de YouTube concernant les contenus incitant à la haine. Découvrez comment lutter contre l'incitation à la haine dans votre pays.". Il est possible en cliquant sur "En savoir plus".

En cliquant, l'on arrive à un document de "Règles concernant l'incitation à la haine".  Il s'adresse aux personnes qui mettent des contenus, les prévient de ce qui sera supprimé par Youtube et pourquoi, donne des exemple. Signale que cela résulte des mesures supplémentaires adoptées par YouTube le 5 juin. Renvoie par click  à ce document. L'internaute arrive au document précité en anglais du "blog officiel".

 

Qu'en penser en Droit ?

Lire ci-dessous.

1

Frison-Roche, M.-A.,  L'apport du Droit de la Compliance à la Gouvernance d'Internet, rapport remis au Gouvernement, 2019.