Editorial responsibilities : Direction de la collection "Droit et Économie", L.G.D.J. - Lextenso éditions (30)

🌐follow Marie-Anne Frison-Roche on LinkedIn

🌐subscribe to the Newsletter MAFR. Regulation, Compliance, Law


 Full ReferenceM.-A. Frison-Roche (ed.), Contentieux Systémique Émergent (Emerging Systemic Litigation), Paris, LGDJ, "Droit & Économie" Serie, to be published


📚Consult all the other books of the Serie in which this book is published


► General Presentation of the Book : 




June 28, 2024

Thesaurus : Doctrine

► Référence complète : E. Netter, "Quand la force de conviction du scoring bancaire provoque sa chute. L'interprétation extensive, par la CJUE, de la prohibition des décisions entièrement automatisées", RTD com., 2024, chron., pp.342-348


🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche


June 3, 2024

Thesaurus : Convention, contract, settlement, engagement


 Référence complète : N. Yax, H. Anlio & S. Palminteri, "Studying and improving reasoning in humans and machines",  Communications Psychology volume 2, Article number: 51 (2024)


May 30, 2024

Thesaurus : Doctrine

► Référence complète : Th. Douville, "De l'approche extensive de la prise de décision exclusivement automatisée (à propos du refus d'un prêt fondé sur une note de solvabilité communiquée par un tiers)", D. 2024, pp. 1000-1004


🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche


Feb. 15, 2024

Thesaurus : Doctrine

 Full Reference: L.-M. Augagneur, "The jurisdictionalisation of reputation by platforms", in M.-A. Frison-Roche (ed.), Compliance Jurisdictionalisation, Journal of Regulation & Compliance (JoRC) and Bruylant, coll. "Compliance & Regulation", 2024, pp.109-125 


📘read a general presentation of the book, Compliance Jurisdictionalisation, in which this article is published


 Summary of the article (done by the Author): The large platforms are in the position of arbiter of the reputation economy (referencing, notoriety) in which they themselves act. Although the stakes are usually low on a unit basis, the jurisdiction of reputation represents significant aggregate stakes. Platforms are thus led to detect and assess reputation manipulations (by users: SEO, fake reviews, fake followers; or by the platforms themselves as highlighted by the Google Shopping decision issued by the European Commission in 2017) that are implemented on a large scale with algorithmic tools.

The identification and treatment of manipulations is itself only possible by means of artificial intelligence tools. Google thus proceeds with an automated downgrading mechanism for sites that do not follow its guidelines, with the possibility of requesting a review through a very summary procedure entirely conducted by an algorithm. Tripadvisor, on the other hand, uses an algorithm to detect false reviews based on "fraud modeling to identify electronic patterns that cannot be detected by the human eye". It only conducts a human investigation in limited cases.

This jurisdictionality of reputation has little in common with that defined by the jurisprudence of the Court of Justice (legal origin, contradictory procedure, independence, application of the Rules of Law). It is characterized, on the one hand, by the absence of transparency of the rules and even of the existence of rules stated in predicative form and applied by deductive reasoning. It is replaced by an inductive probabilistic model by the identification of abnormal behaviors in relation to centroids. This approach of course raises the issue of statistical bias. More fundamentally, it reflects a transition from Rule of Law, not so much to "Code is Law" (Laurence Lessig), but to "Data is Law", that is, to a governance of numbers (rather than "by" numbers). It also comes back to a form of collective jurisdictionality, since the sanction comes from a computational apprehension of the phenomena of the multitude and not from an individual appreciation. Finally, it appears particularly consubstantial with compliance, since it is based on a teleological approach (the search for a finality rather than the application of principles).

On the other hand, this jurisdictionality is characterized by man-machine cooperation, whether in the decision-making process (which poses the problem of automaticity bias) or in the contradictory procedure (which poses, in particular, the problems of discussion with the machine and the explicability of the machine response).

Until now, the supervision of these processes has been based essentially on the mechanisms of transparency, a limited adversarial requirement and the accessibility of appeal channels. The French Law Loi pour une République Numérique ("Law  for a Digital Republic"), the European Legislation Platform-to-Business Regulation and the Omnibus Directive, have thus set requirements on the ranking criteria on platforms. The Omnibus Directive also requires that professionals guarantee that reviews come from consumers through reasonable and proportionate measures. As for the European Digital Services Act, it provides for transparency on content moderation rules, procedures and algorithms. But this transparency is often a sham. In the same way and for the moment the requirements of sufficient human intervention and adversarial processes appear very limited in the draft text.

The most efficient forms of this jurisdictionality ultimately emerge from the role played by third parties in a form of participatory dispute resolution. Thus, for example, FakeSpot detects false Tripadvisor reviews, Sistrix establishes a ranking index that helped establish the manipulation of Google's algorithm in the Google Shopping case by detecting artifacts based on algorithm changes. Moreover, the draft Digital Services Act envisages recognizing a specific status for trusted flaggers who identify illegal content on platforms.

This singular jurisdictional configuration (judge and party platform, massive situations, algorithmic systems for handling manipulations) thus leads us to reconsider the grammar of the jurisdictional process and its characteristics. If Law is a language (Alain Sériaux), it offers a new grammatical form that would be that of the middle way (mesotès) described by Benevéniste. Between the active and the passive way, there is a way in which the subject carries out an action in which he includes himself. Now, it is the very nature of this jurisdictionality of compliance to make laws by including oneself in them (nomos tithestai). In this respect, the irruption of artificial intelligence in this jurisdictional treatment undoubtedly bears witness to the renewal of the language of Law.


🦉This article is available in full text to those registered for Professor Marie-Anne Frison-Roche's courses


Jan. 22, 2024

Public Auditions

🌐suivre Marie-Anne Frison-Roche sur LinkedIn

🌐s'abonner à la Newsletter MAFR Regulation, Compliance, Law


 Référence complète : M.-A. Frison-Roche, audition notamment par Maître Sophie Bonne et Maître Anne-Claire Ancelin, respectivement présidente et rapporteure de la Commission du Conseil Supérieur du Notariat (CSN), élaborant un rapport sur Compliance : un espace à conquérir ?, 22 janvier 2024, CSN, Paris..


► Résumé de la présentation :  j'ai eu l'occasion d'étudier et de discuter des relations entre le notaire comme professionnel et le notariat comme structure de régulation d'une part et le Droit de la Compliance, d'autre part. 

Je l'ai fait lors des travaux du Conseil Supérieur du Notariat sur la raison d'être, dans une audition avec la Commission du CSN en charge de la réflexion à ce propos et et d'une façon plus générale à propos de l'articulation entre l'office du notariat et les mécanismes juridiques de régulation, car le Droit de la Compliance est le prolongement du Droit de la Régulation. J'ai d'ailleurs à ce titre fait une masterclass sur le droit de la compliance lors du Congrès annuel de 2022 à ce sujet. 

M'appuyant sur ces premières réflexions et discussions, je peux articuler les propos suivants:


0. Observation préalable : l'intitulé semble sous-entendre que la compliance serait un espace nouveau, où le notariat serait étranger et qu'il faudrait "conquérir" cette terra incognita , le point d'interrogation permettant de suggérer que, si nouveau soit le Droit de la Compliance, c'est plutôt dans les professions agissant en Ex Ante qu'il est le moins "étranger" et que l'espace est donc déjà le plus "naturel".

L'enjeu est plutôt dans l'ambition que l'on peut en avoir : soit une ambition faible ("conformité"), soit une ambition forte ("Droit de la Compliance").


1. Un espace restreint aujourd'hui et plus encore demain si l'on réduit la Compliance à ce qui n'est que son outil : la conformitéCette réduction équivaut à un grand dommage, car les algorithmes sont aptes à prendre en charge la conformité, et font le faire le plus en plus, tandis que la compliance est maniée par les êtres humains. La conformité est, mais n'est que, un outil de la Compliance.


2. La Compliance se définit par les Buts Monumentaux 

  1. Les Buts monumentaux sont fixés par les Autorités politiques et publiques et ne peuvent être fixés que par elles ; le déploiement des moyens peuvent être déploient par d'autres que l'administration


3. Pragmatiquement, les buts monumentaux unifient la "masse réglementaire"

4. Tendre, dans une trajectoire, vers eux nécessite des êtres humains qui se coordonnent et agissent ensemble (ensemble du modèle concurrentiel)

5. Ils constituent la Compliance comme une branche ex ante du Droit

6. Ils placent le Droit de la Compliance en déploiement du Droit de la Régulation

7. Le Notariat est alors tout d'abord un "agent d'effectivité de la conformité", se dotant pour cela notamment des outils algorithmiques

8. Le Notariat est aussi une profession humaniste qui aide l'Etat, les entreprises et les parties intéressées à tendre vers la protection des êtres humains, pour qu'ils ne soient pas broyés par les systèmes devenus plus menaçants (but monumental négatif) et qu'ils en bénéficient (but monumental positif)

9. En cela, le Notariat, comme le Juge et l'Avocat, doit être consolidé dans sa structure, et doit aussi se présenter, au niveau du professionnel, au niveau de l'étude, au niveau de la profession structurée

10. Le Notariat doit aussi conforter sa gouvernance dans ce nouveau système de Compliance qui est en lien avec l'Etat de Droit et la Démocratie



► Voir dans mes travaux ceux qui peuvent présenter un intérêt au regard de cette audition ⤵️

🕴️M.-A. Frison-Roche, 🖥️Appliquer la notion de "Raison d'être à la profession du Notariat, 2021

🕴️M.-A. Frison-Roche,🎤La compliance pour les études notariales : aspects théoriques et pratiques, Congrès des notaires , 2022

🕴️M.-A. Frison-Roche,📝Notariat et régulation font bon ménage, 2015

🕴️M.-A. Frison-Roche, 💬La profession investit le Droit de la Compliance et détermine sa Raison d'Etre, 2023

🕴️M.-A. Frison-Roche (dir.), 📕Les Buts Monumentaux de la Compliance, 2022

🕴️M.-A. Frison-Roche, 📝Penser et manier la Vigilance par ses Buts Monumentaux de Compliance, mars 2023.

🕴️M.-A. Frison-Roche, 📝Contrat de compliance, clauses de compliance, 2022.

🕴️M.-A. Frison-Roche, 🚧L'invention de la vigilance : un terme nouveau pour une Responsabilité en Ex Ante, 2021. 

🕴️M.-A. Frison-Roche, 📝Synthèse : Le rôle du juge dans le déploiement du droit de la régulation par le droit de la compliance, à paraître 

🕴️M.-A. Frison-Roche, 📝Le Droit de la compliance, 2016.


Dec. 12, 2023

Thesaurus : Doctrine

► Référence complète : L. Pailler, "Haro de la Cour de justice sur les services d'aide à la décision !", Dalloz actualité, 12 décembre 2023


► Résumé de l'article (fait par l'auteur) : "L'établissement automatisé, par une société fournissant des informations commerciales, d'une valeur de probabilité fondée sur des données à caractère personnel relatives à une personne et concernant la capacité de celle-ci à honorer des engagements de paiement à l'avenir constitue une « décision individuelle automatisée », au sens de l'article 22, § 1er, du règlement général sur la protection des données (RGPD), lorsque dépend de manière déterminante de cette valeur de probabilité le fait qu'une tierce partie, à laquelle ladite valeur de probabilité est communiquée, établisse, exécute ou mette fin à une relation contractuelle avec cette personne.".


🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche


Dec. 7, 2023

Thesaurus : 05. CJCE - CJUE

► Full Reference: ECJ, First chamber, 7 December 2023, case C‑634/21, Schufa Holding AG


🏛️read the judgement




June 14, 2023


♾️follow Marie-Anne Frison-Roche on LinkedIn

♾️subscribe to the Newsletter MAFR Regulation, Compliance, Law


► Full Reference: M.-A. Frison-Roche, "Compliance et droit processuel" ("Compliance and Procedural Law"), in B. Deffains, M.-A. Frison-Roche and J.-B. Racine (dir.), Journal of Regulation & Compliance (JoRC) and University Panthéon-Assas (Paris II), Compliance : Obligation, devoir, pouvoir, culture (Compliance : obligation, duty, power, culture)University Panthéon-Assas, Salle des Conseils, 14 June 2023.


🧮See the full programme of this event


🎤see the other speech made during the first day of this symposium : "L'obligation de compliance, entre volonté et consentement : obligation sur obligation vaut" ("Compliance Obligation, between will and consent: obligation on obligation works")  


► Summary of the conference: After referring to the chapter in the book Compliance Jurisdictionalisation, which deals more specifically with Procedural Law!footnote-2987, the conference is built around 5 developments, each of which represents a progression.

The first development relates to the fact that the relationship between Compliance Law and Procedural Law is very difficult because it is often said that they simply have nothing to do with each other, or that they have everything to dislike each other. This is because Compliance is often reduced to processes, and to the mechanical place that algorithms could take in it, in taking care of everything.

Compliance would even have the purpose and effect of ensuring that the company and its managers never come into contact with a judge, the public prosecutor being their best ally in this respect.

Secondly, I recalled the very common idea that Procedural Law is a kind of 'tribute' that the rule of Law demands, which certainly weighs down companies when compared with companies living in systems in which there's not not such a price.

But many stress that Procedural Law could become a model. This can be justified and technically anticipated because it has already happened in Regulation Law, and Compliance Law is the deployment of it!footnote-2988.

In the third stage, I worked on the alliance between the two, with the procedure (rather than the process) modifying compliance and thereby reinforcing it, evoking the way in which this can manifest itself technically!footnote-2989.

In the fourth step, I looked for what would be the "naturally appropriate procedure" for Compliance: one that takes into account the duration and the development of "solutions", to which the notion of "sustainability", which is central in the substantive Law of Compliance, refers.

In a fifth stage, and devoting more time to this, I have pointed out where innovation should be the strongest: the proof, the probatory obligation being the "part totale" ("total part") of the compliance obligation. This major issue will be the subject of a series of symposiums held in 2024.


Jan. 15, 2023

Compliance: at the moment

♾️ suivre Marie-Anne Frison-Roche sur LinkedIn

♾️ s'abonner à la Newsletter MAFR Regulation, Compliance, Law 


► Référence complète : M.-A. Frison-Roche, "Si l'algorithme engendre un risque systémique de fraude, l'entreprise doit trouver le moyen de prévenir et détecter celle-ci : cas d'école", Newsletter MAFR Law, Compliance, Regulation, 15 janvier 2023.


Le cas agite et inquiète à juste titre. Il est notamment relayé dans Le Parisien et dans Libération.

Il apparait qu'un professeur de master découvre que la moitié de la promotion de ses étudiants avait fait écrire sa copie par un algorithme (ChatGPT), dont on dit que les productions mécaniques se rapprochent, à s'y méprendre, du "langage naturel", c'est-à-dire manié par les êtres humains. Il en a résulté des copies correctes, mais si identiques que l'usage de l'outil par les étudiants avait été ainsi détecté.

La dimension systémique du phénomène mérite qu'on y réfléchisse car il s'agit non seulement de détecter mais encore de prévenir le recours à cet outil, si l'on veut que les travaux rendus par les étudiants permettent d'évaluer leurs niveaux.

L'on peut certes rechercher des solutions très radicales, comme obliger les étudiants à écrire à la main dans des contrôles faits sur table et surveillés..., ou interdire le recours aux algorithmes, interdiction dont l'effectivité va être difficile ; ou rêver d'une Université où l'on leur donnerait des sujets de réflexion à traiter chacun d'une façon originale, ce qui suppose sans doute un nombre d'étudiants moins élevés (d'ailleurs, les lycées et collègues sont aussi concernés).

Mais si l'on regarde le "but" : il s'agit bien de prévenir et détecter un comportement systémiquement dommageable, pour l'Université et pour les étudiants eux-mêmes (qui n'auront rien appris ; ce sont les premières victimes).

Or, la prévention et détection des comportements systémiquement dommageables non pas tant pour les sanctionner mais pour qu'ils ne prospèrent pas à l'avenir, ici garder les avantages des algorithmes comme outils et prévenir leur usage dolosif, c'est la définition du Droit de la Compliance comme mode de prévention et de détection des maux systémique. Cela constitue un "but monumental".

🔴 M.-A. Frison-Roche, 📕Les buts monumentaux de la Compliance, 2022

Pour concrétiser une telle ambition, notamment face à la puissance de ces outils neutres que sont les algorithmes, qui permettent d'ailleurs à des professeurs de rédiger sans difficulté des cours sur l'originalité desquels on ne leur demande pas de compte, le Droit de la Compliance présente un atout majeur : il repose sur les entreprises elles-mêmes, notamment celles par lesquelles le risque est né.

Historiquement, le Droit de la Compliance est né aux Etats-Unis, en imposant aux entreprises ayant contribué par leur comportement interne à la crise de 1929 une série d'obligations de prudence, de gestion des conflits d'intérêts, d'information et de soumission à un superviseur.

🔴 M.-A. Frison-Roche, 📝Compliance : avant, maintenant, après, 2018

C'est en effet aux entreprises de trouver les solutions pour détecter et prévenir les comportements systémiques dommageables.

L'article publié dans Libération fait état des travaux menés par les entreprises fabriquant les algorithmes pour que soient insérés dans les textes des signaux, indétectables par l'usager (par exemple l'algorithme achevant une phrase sur dix par un mot finissant par la même lettre, ou une phrase sur vingt par un mot commençant par la même lettre), mais qu'un autre algorithme pourrait "détecter" pour que le travail produit soit analysé par le professeur (comme on le fait déjà en matière de plagiat).

Il s'agit ici d'une "compliance consentie, choisie par l'entreprise elle-même ; cela pourrait être leur être également imposé.

🔴 L. Benzoni et B. Deffains, 📝Approche économique des outils de la Compliance: finalité, effectivité et mesure de la Compliance subie et choisiein M.-A. Frison-Roche (dir.), 📕Les outils de la Compliance, 2021

Apparaît ainsi le juste et efficace rapport entre le Droit de la Compliance et ce que l'on appelle "l'intelligence artificielle", dès l'instant que l'on n'a précisément pas une vision mécanique du Droit de la Compliance, ce qui permet de laisser les algorithmes à leur place : des "outils".

🔴 M.-A. Frison-Roche, 🎥Compliance, Intelligence artificielle et gestion des entreprises : la juste mesure, 2022


Dec. 8, 2020

Thesaurus : Doctrine

► Référence complète : M. Teller, "L'intelligence artificielle", in J.-B. Racine (dir.), Le droit économique au XXIe siècle. Notions et enjeux, LGDJ, coll. "Droit & Économie", 2020, pp. 461-478


📕consulter une présentation générale de l'ouvrage, Le droit économique au XXIe siècle. Notions et enjeux, dans lequel cet article est publié 


► Résumé de l'article : 


🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche



Jan. 5, 2020

Thesaurus : Doctrine

Full reference: Adam, P., Le Friant, M. et Tarasewicz, Y. (ed.), Intelligence artificielle, gestion algorithmique du personnel et droit du travail (written in French), serie "Les travaux de l'AFDT", Coll. "Thèmes et Commentaires", Dalloz, 2020, 241p.

Read the fourth of cover

Nov. 6, 2019

Thesaurus : 10. Autorité de la Concurrence

Référence complète : Autorité de la concurrence et le Bundeskartellamt, Algorythms and Competition, in Autorité de la concurrence, 6 novembre 2019.


Lire l'étude.

Sept. 1, 2019

Thesaurus : Doctrine

Full reference: Bounie, D. and Maxwell, W., L'explicabilité des algorithmes est-elle un droit fondamental?, Column in Le Monde, 1st of September 2019 

Read the column (in French)

June 10, 2019


Le 5 juin 2019, Youtube a informé via son "blog officiel" (Official YouTube Blog) le renforcement de sa politique pour atteindre la lutte contre les contenus de haine, en raison de leur responsabilité sociale : we need "to live up to our responsability and protect the YouTube community from harmfum content".

Le slug du billet de blog "officiel" est plus clair encore : our-ongoing-work-to-tackle-hate.html.

On ne peut qu'être favorable à cette politique dans son principe, et ce d'autant plus qu'en ce qui concerne l'Europe ce sont les Autorités publiques, la jurisprudence et bientôt la Loi en ce qui concerne la France, qui exigent des opérateurs numériques cruciaux l'adoption d'une telle politique!footnote-1615

Le "billet officiel" prend deux cas et deux exemples : le premier porte sur la déinformation et l'affirmation que la terre est plate, le second porte sur l'incitation à la haine et la promotion du nazisme. Sur celui-ci, le "billet officiel" le fait en ces termes :

"Today, we're taking another step in our hate speech policy by specifically prohibiting videos alleging that a group is superior in order to justify discrimination, segregation or exclusion based on qualities like age, gender, race, caste, religion, sexual orientation or veteran status. This would include, for example, videos that promote or glorify Nazi ideology, which is inherently discriminatory. Finally, we will remove content denying that well-documented violent events, like the Holocaust or the shooting at Sandy Hook Elementary, took place.

We recognize some of this content has value to researchers and NGOs looking to understand hate in order to combat it, and we are exploring options to make it available to them in the future. And as always, context matters, so some videos could remain up because they discuss topics like pending legislation, aim to condemn or expose hate, or provide analysis of current events. We will begin enforcing this updated policy today; however, it will take time for our systems to fully ramp up and we’ll be gradually expanding coverage over the next several months.


Le 6 juin, un journaliste s'en inquiète en affirmant qu'avec une telle politique le film Le triomphe de la volonté, en ce qu'elle met en scène le nazisme et constitue un film de propagande de ce mouvement est donc condamné à disparaître de l'espace numérique

Il titre son article : "YouTube Pulls ‘Triumph of the Will’ For Violating New Hate Speech Policy".

Il proteste en disant que dans toutes les universités le film a été montré pour souligner à quel point le cinéma peut être un médium en politique : "Riefensahl's harrowing depiction of the Nuremberg Rallies remains an essential loof at the ideological power of the moving image, and how it can be co-opted on a mass scale" ; "the movie also illuminates how a nation can filter its own realities through recorded media". 

Il soutient qu'à ce compte les films d'Eistenstein, Potemkin, devrait être retiré, ce qu'il n'est pas, et soutient que cela devrait aussi le cas pour Naissance d'une Nation de Griffith, qui ne l'est pas davantage. 

Découvrant dans une chaine que Youtube diffuse au titre des "archives historiques", une prise de position est prise sur le caractère inadmissible du "Triomphe de volonté", il estime que le retrait de ce film-là est donc le reflet d'une prise de position qui n'est pas neutre.

Il conclut son article de la façon suivante : "It raises major issues surrounding the platform's capacity as a historical archive, and how much viewers can be trusted to do some of the legwork on their own. These are the challenges that no algorithmes can solve.".



Pourtant effectivement, le film est désormais indisponible sur Youtube, l'internaute ne trouvant que le message suivant (dans la langue que son adresse IP suppose être la suivante : "Cette vidéo a été supprimée, car elle ne respectait pas le règlement de YouTube concernant les contenus incitant à la haine. Découvrez comment lutter contre l'incitation à la haine dans votre pays.". Il est possible en cliquant sur "En savoir plus".

En cliquant, l'on arrive à un document de "Règles concernant l'incitation à la haine".  Il s'adresse aux personnes qui mettent des contenus, les prévient de ce qui sera supprimé par Youtube et pourquoi, donne des exemple. Signale que cela résulte des mesures supplémentaires adoptées par YouTube le 5 juin. Renvoie par click  à ce document. L'internaute arrive au document précité en anglais du "blog officiel".


Qu'en penser en Droit ?

Lire ci-dessous.


Frison-Roche, M.-A., L'apport du Droit de la Compliance à la Gouvernance d'Internet, rapport remis au Gouvernement, 2019.