Publications : Doctrine

 Référence complète : Amrani-Mekki, S., Les plateformes de résolution en ligne des différends, in L'émergence d'un droit des plateformes, Dalloz, coll. « Thèmes et commentaires », 2021, pp.189-203.

_____

 

► Lire la présentation générale de l'ouvrage dans lequel s'insère cet article. 

Thesaurus : 03. Conseil d'Etat

Publications : Doctrine

 Référence complète : Houtcieff, D., Les plateformes au défi des plateformes, in L'émergence d'un droit des plateformes, Dalloz, coll. « Thèmes et commentaires », 2021, pp.51-64.

_____

 

► Lire la présentation générale de l'ouvrage dans lequel s'insère cet article. 

Publications : Doctrine

 Référence complète : Roda, J.-Ch, Vers un droit de la concurrence des plateformes , in L'émergence d'un droit des plateformes, Dalloz, coll. « Thèmes et commentaires », 2021, pp.77-90.

_____

 

► Lire la présentation générale de l'ouvrage dans lequel s'insère cet article. 

June 23, 2022

Thesaurus : Doctrine

 Full Reference: Augagneur, L.-M., Le traitement réputationnel par et sur les plateformes, in Frison-Roche, M.-A. (ed.), La juridictionnalisation de la Compliance, series "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) and Dalloz, to be published. 

___

 Article Summary (done by the author): The large platforms are in the position of arbiter of the reputation economy (referencing, notoriety) in which they themselves act. Although the stakes are usually low on a unit basis, the jurisdiction of reputation represents significant aggregate stakes. Platforms are thus led to detect and assess reputation manipulations (by users: SEO, fake reviews, fake followers; or by the platforms themselves as highlighted by the Google Shopping decision issued by the European Commission in 2017) that are implemented on a large scale with algorithmic tools.

The identification and treatment of manipulations is itself only possible by means of artificial intelligence tools. Google thus proceeds with an automated downgrading mechanism for sites that do not follow its guidelines, with the possibility of requesting a review through a very summary procedure entirely conducted by an algorithm. Tripadvisor, on the other hand, uses an algorithm to detect false reviews based on "fraud modeling to identify electronic patterns that cannot be detected by the human eye". It only conducts a human investigation in limited cases.

This jurisdictionality of reputation has little in common with that defined by the jurisprudence of the Court of Justice (legal origin, contradictory procedure, independence, application of the Rules of Law). It is characterized, on the one hand, by the absence of transparency of the rules and even of the existence of rules stated in predicative form and applied by deductive reasoning. It is replaced by an inductive probabilistic model by the identification of abnormal behaviors in relation to centroids. This approach of course raises the issue of statistical bias. More fundamentally, it reflects a transition from Rule of Law, not so much to "Code is Law" (Laurence Lessig), but to "Data is Law", that is, to a governance of numbers (rather than "by" numbers). It also comes back to a form of collective jurisdictionality, since the sanction comes from a computational apprehension of the phenomena of the multitude and not from an individual appreciation. Finally, it appears particularly consubstantial with compliance, since it is based on a teleological approach (the search for a finality rather than the application of principles).

On the other hand, this jurisdictionality is characterized by man-machine cooperation, whether in the decision-making process (which poses the problem of automaticity bias) or in the contradictory procedure (which poses, in particular, the problems of discussion with the machine and the explicability of the machine response).

Until now, the supervision of these processes has been based essentially on the mechanisms of transparency, a limited adversarial requirement and the accessibility of appeal channels. The French Law Loi pour une République Numérique ("Law  for a Digital Republic"), the European Legislation Platform-to-Business Regulation and the Omnibus Directive, have thus set requirements on the ranking criteria on platforms. The Omnibus Directive also requires that professionals guarantee that reviews come from consumers through reasonable and proportionate measures. As for the European Digital Services Act, it provides for transparency on content moderation rules, procedures and algorithms. But this transparency is often a sham. In the same way and for the moment the requirements of sufficient human intervention and adversarial processes appear very limited in the draft text.

The most efficient forms of this jurisdictionality ultimately emerge from the role played by third parties in a form of participatory dispute resolution. Thus, for example, FakeSpot detects false Tripadvisor reviews, Sistrix establishes a ranking index that helped establish the manipulation of Google's algorithm in the Google Shopping case by detecting artifacts based on algorithm changes. Moreover, the draft Digital Services Act envisages recognizing a specific status for trusted flaggers who identify illegal content on platforms.

This singular jurisdictional configuration (judge and party platform, massive situations, algorithmic systems for handling manipulations) thus leads us to reconsider the grammar of the jurisdictional process and its characteristics. If Law is a language (Alain Sériaux), it offers a new grammatical form that would be that of the middle way (mesotès) described by Benevéniste. Between the active and the passive way, there is a way in which the subject carries out an action in which he includes himself. Now, it is the very nature of this jurisdictionality of compliance to make laws by including oneself in them (nomos tithestai). In this respect, the irruption of artificial intelligence in this jurisdictional treatment undoubtedly bears witness to the renewal of the language of Law.

____

 

📝 Consulter une présentation générale du volume dans lequel l'article est publié.

 

June 21, 2022

Interviews

Référence complète : Frison-Roche, M.-A., L'efficacité de la compliance illustrée par l'affaire Youporn, entretien avec Olivia Dufour, 21 juin 2022.

____

 

Lire l'entretien 

____

June 9, 2022

Conferences

► Référence générale : Frison-Roche, M.-A., Droit de la Compliance et Cloud souverain, in Souveraineté numérique : quelles solutions pour quels problèmes ?  Association Master 2 Droit du Commerce Électronique et de l’Économie Numérique (M2 DCEEN), Université Panthéon-Sorbonne (Paris I), 9 juin 2022, 18h-20h.

____

Voir le programme

____

Cette intervention s'insère dans un débat coordonné par la professeure Judith Rochfeld, auquel participent également Monsieur le Député Philippe Latombe et Céline Heller (société Google).

Pour ma part, interrogée en premier pendant un 1/4 d'heure, il s'agissait en premier lieu, avant de participer à la discussion générale, de répondre aux trois questions suivantes :

  •  Quelles définitions doivent être retenues pour la souveraineté numérique ?
  • Quel est le rapport entre souveraineté numérique et droit de la compliance ?
  • Plus largement, quelle place le Droit doit-il occuper dans la souveraineté numérique selon vous ?
  • En quoi la souveraineté numérique est-elle un but monumental ? 

____





 

March 31, 2022

Publications : Chronicles MAFR - Compliance Law

► Full Reference: Frison-Roche, M.-A., La responsabilité ex ante, pilier du droit de la compliance ("Ex-Ante Responsibility, Compliance Law Pillar"), D.2022, chronique MAFR - Droit de la Compliance, Recueil Dalloz, March 31, 2022.

____

► Article English Summary: The Law must help to face the future, which can be totally catastrophic in terms of climate and digital issues. Courts are s best placed for this, without “governing”, only relying on the commitments made by companies, governments, and legislators.  On the ordinary Tort Law, court decisions oblige these different entities to be consistent in the commitments they have made, obliging them to act in the future, formal “compliance” with the regulations cannot be sufficient. This ex-ante responsibility, founding the powers, thus constitutes a pillar of a substantial Compliance Law, showing the part that CSR and the companies with a raison d'être play in it.

____

 

📝 read the article. (written in French)

____

📚go to the presentation of the other articles published in this Chronique Droit de la Compliance made in the Recueil Dalloz

________

March 10, 2022

Conferences

► Référence complète : Frison-Roche, M.-A., "Secrets professionnels : spirale d'une importance accrue et d'un affaiblissement fulgurant", participation à la Table-Ronde sur le thème du secret professionnel, in Comité de Liaison des Institutions Ordinales (CLIO), Secret professionnel et indépendance : deux leviers, garants de l’efficacité et de la confiance envers les professions réglementées, 10 mars 2022.

Cette Table-Ronde est animé par Fabrice Lundy, journaliste à Radio-Classique ; y participent également Jean-Luc Sauron, Conseiller d'Etat et Jacques Lucas, Président de l'Agence du Numérique en Santé.

____

Lire la synthèse écrite du colloque 

____

 Revoir la vidéo de la table-ronde

____

► Résumé de l'intervention : Le thème du secret professionnel est appréhendé comme illustration du rôle essentiel joué par les Ordres professionnels dans le monde d'aujourd'hui (le colloque traitant dans un second temps de la question de l'Indépendance). 

Avant toute participation active au débat proprement dit, l'intervention a pour utilité de présenter le Secret professionnel en lui-même, puis en quoi le monde actuel apporte des éléments nouveaux au besoin impératifs de celui-ci, dans le même temps qu'il le met particulièrement en difficulté.

 

I. LA PERMANENCE DES SECRETS PROFESSIONNELS

Le Secret professionnel, comme tout secret, porte sur une information. C'est une information qu'une personne a sur elle-même ou sur une autre, et qui potentiellement peut mettre cette personne en danger, ou la fragilise, ou l'expose, la constituant en situation de faiblesse par rapport à autrui : l'information peut concernant son état de santé, sa filiation, un acte dont un autre pourrait se prévaloir pour la punir plus tard.

Cette information, que la personne garde pour elle ou qu'elle partage avec peu de personnes, elle va la confier à un "professionnel". Pas n'importe quel professionnel : un professionnel en qui elle a confiance, non seulement parce qu'elle croît qu'il est techniquement compétent (un avocat qui connait le Droit, un médecin qui connait la Médecine) mais parce qu'elle croit qu'il va lui aussi garder pour lui cette information sur la faiblesse de son client, malgré le profit qu'il pourrait tirer de la communiquer à d'autres (presse, juge, voisin de table dans un diner, etc.). C'est donc la confiance que la personne en situation de faiblesse a dans le titre même de la personne, parce qu'il est "avocat" ou "médecin" ou "infirmier", etc., qu'il donne cette information, car il sait que parce qu'il est médecin (et pas seulement parce qu'il connait la Médecine), qu'il garde ce secret. Ainsi ce n'est pas le diplôme comme signe de compétence mais le titre comme signe d'appartenance à une profession qui garde les secrets qui est considéré : c'est pourquoi la profession va pouvoir valoriser cette garde des secrets au-delà des frontières par des associations (American Bar Association, par exemple), si elle peut crédibiliser cela (Ordre et secret sont intimes).

Le rapport que le professionnel, nouveau titulaire de l'information, a avec celle-ci découle de cela. Le professionnel est le "gardien" de l'information. Il n'en dispose pas : la personne concernée lui a confié non pas tant l'information que "la garde de l'information". Il exerce donc sur ce secret, c'est-à-dire le fait de ne pas révéler à autrui l'information, un pouvoir📎!footnote-2494. C'est pourquoi par exemple tandis que la personne concernée peut donner l'information à autrui, la presse par exemple, le professionnel, auquel elle s'était confiée, ne le peut pas. Dans la perspective du secret professionnel, dans la notion de "pouvoir", c'est la notion de "charge" qu'il faut voir, une "charge au bénéfice d'autrui"📎!footnote-2494

Cette conception juridique est stable depuis que les professions, notamment les professions libérales, existent : ce n'est pas par les compétences techniques, ni même par le lien personnel, que le secret professionnel se noue : c'est par l'appartenance à une profession : c'est donc par l'organisation même de cette profession et la crédibilité de celle-ci, le contrôle à l'entrée de qui y entre et doit en sortir en cas de manquement, l'effectivité, l'efficacité et l'efficience de la discipline. 

Tout cela n'est pas remis en cause. Au contraire, plus l'Etat a des difficultés en raison de la disparition des frontières et plus cette structure devient en pratique pertinente.

____

 

Mais le choc vient d'ailleurs. Il faut du fait que précisément si les secrets que nous avons tous en nous et que nous voulons tous donner à garder n'ont pas changé, en revanche le monde dans lequel nous vivons a changé : ce monde est devenu numérique. 

 

II. LE CHOC DU NUMERIQUE SUR LES SECRETS PROFESSIONNELS ET L'URGENCE DE LES ACCROITRE

Or, par cette transformation totale du monde dans lequel nous vivons les secrets n'existent plus, les secrets professionnels pas moins mais pas plus que les autres.

Il faut mais il suffit qu'une "fuite" apparaisse dans l'espace digital et l'information est disponible à la fois partout et en un instant : la viralité est la loi naturelle de l'espace numérique qui recouvre le monde.

L'on peut s'en réjouir, parce que l'information est un bien commun, que nous sommes dans un marché de l'information, une économie de l'information, une société de l'information, une civilisation de l'information.

Si l'on est plus mesuré, l'on dira que certaines informations doivent être gardées par ceux qu'elles concernent et dans le cercle choisi des personnes qui ont leur confiance : c'est l'invention européenne des "données à caractère personnel", qui recoupent largement les secrets professionnels. 

Pour l'instant, le Droit tâtonne tant la situation est nouvelle ...

Tout d'abord, le Droit est dans une sorte d'adoration de l'information disponible sur tout, partout et pour tous... Il y développe des principes comme le "droit à l'information" (sans contrepartie financière), le "droit d'alerte" (vite confondu avec le droit de divulguer publiquement, qui n'existe pas ab initio n'apparaissant qu'en cas d'échec du mécanisme d'alerte, le "droit à la transparence" (qui méconnait l'idée même de droits de la défense) qui vont aller de plus en plus contre les secrets, même professionnels.  

Ensuite et surtout, la technologie numérique, qui a structuré l'espace numérique fait qu'une information à l'instant où elle est mise dans cet espace est diffusée immédiatement, partout et demeure disponible pour toujours. 

Dès lors, l'on peut toujours continuer à affirmer le principe des secrets professionnels, ceux-ci n'ont plus d'effectivité.

Or, et c'est lors le paradoxe, l'espace numérique non seulement n'a pas diminué la fragilité des personnes, fragilité compensée par la confiance dans la garde des secrets conservés par les professionnels ; au contraire le numérique a accru cette fragilité. 

Les revenge porn ou les meurtres en direct en sont un exemple : la personne est encore plus fragile dans l'espace numérique. Les "discours de haine" sont un enjeu majeur, non seulement pour la personne qui en est la victime mais pour le système lui-même puisque, comme le démontre Thimothy Snyder c'est aujourd'hui le système démocratique qui peut chuter. 

La "désinformation" peut partir d'une violation d'un secret professionnel, car il peut s'agir d'une information exacte exploitée à des fins nocives, constituant alors une infox, le conspirationnisme étant un phénomène lié au numérique.

Que peut faire le Droit ? 

Il peut aller dans deux directions :

Tout d'abord armer davantage les structures classiques : Ordres professionnels, police, Autorités de poursuites et Juridictions. 

Ensuite, internaliser dans les opérateurs numériques cruciaux, notamment les plateformes, le devoir de bloquer en Ex Ante la diffusion des informations qui doivent demeurer secrètes (données à caractère personnel, et secrets) : c'est le "Droit de la Compliance".

L'exercice de ce devoir par les entreprises numériques cruciales est lui-même supervisé par des autorités publiques : en France, la CNIL et l'Arcom. 

De nouveaux textes sont en cours d'adoption pour obliger les entreprises cruciaux de veiller à ce que les secrets ont préservés. C'est l'un des enjeux du Digital Services Act, Réglement de l'Union européenne en cours de discussion. 

L'avenir est certainement dans un rapprochement entre les structures classiques, notamment les ordres et ses Autorités publiques de supervision. 

Le Droit de la Compliance, nouvelle branche du Droit Ex Ante qui concrétise la garde des secrets peut être une solution dans cette situation à la fois très nouvelle et très préoccupante. 

____

► aller à la présentation d'une précédente participation au colloque annuel du CLIO : La déontologie professionnelle dans un monde ouvert et concurrentiel 

► voir la publication qui s'en suivit. 

___

► pour aller plus loin : 

👩‍🏫Frison-Roche, M.-A., 📝Les droits subjectifs, outils premiers et naturels du Droit de la Compliance, in Frison-Roche, M.-A., 📕Les outils de la Compliance, 2021

👩‍🏫Frison-Roche, M.-A.,💬 "Et si le secret de l'avocat était l'allié de la lutte contre le blanchiment ?", 2020

👩‍🏫Frison-Roche, M.-A., 📕Avocats et Ordres au 21ième siècle2017

👩‍🏫Frison-Roche, M.-A., 📕Secrets professionnels, 1999

👩‍🏫Frison-Roche, M.-A., 📝Déontologie et discipline des professions libérales1998

________

1

Frison-Roche, M.-A., Concevoir le pouvoir, 2022. 

2

Frison-Roche, M.-A., Concevoir le pouvoir, 2022. 

March 8, 2022

Public Auditions

Référence complète : Frison-Roche, M.-A., Audition par la Section du Rapport et des Etudes du Conseil d'Etat pour la préparation du Rapport annuel sur Les réseaux sociaux, Conseil d'Etat, 8 mars 2022.

____

Pour la partie reproductible de cette audition, consistant dans la présentation qui a pu être faite de la relation entre le Droit de la Compliance et le phénomène des réseaux sociaux, il a été repris l'idée générale d'un impératif de "réguler un espace sans ancrage" et l'apport que représente pour cela le Droit de la Compliance, dès l'instant qu'il n'est pas défini comme le fait de "se conformer" à l'ensemble de la réglementation applicable à l'agent mais comme la charge d'atteindre des "Buts Monumentaux", négatifs ou/et positifs, l'opérateurs ainsi chargé de cette obligation de moyens parce qu'il est en position de le faire, devant avoir la puissance pour y parvenir.

Se dégagent alors des notions nouvelles, comme la "Responsabilité Ex Ante" ou une notion de "Pouvoir" qui est commune aux opérateurs de droit privé et de droit public, leur nationalité venant également en second plan, le Droit de la Compliance étant naturellement a-territorial. 

Cette définition substantielle du Droit de la Compliance qui met en première ligne les opérateurs requiert que ceux-ci soient supervisé (dans un continuum entre Régulation, Supervision, Compliance,) le Droit de la Compliance opérant un continuum du Droit de la Régulation en n'étant plus lié avec l'impératif d'un secteur. Les opérateurs cruciaux numériques sont ainsi "responsabilisés", grâce à une "responsabilité Ex Ante", et s'ils sont supervisés par des Autorités de supervision (dont le modèle historique est le superviseur bancaire, ici l'Arcom), c'est le juge qui a fait naitre cette nouvelle notion de "responsabilité Ex Ante, pilier du Droit de la Compliance, aujourd'hui délivré du territoire dans une jurisprudence à propos du Climat qu'il convient de concevoir plus largement.

Ainsi délivré du secteur et du territoire, le Droit de la Compliance peut affronter le mal des réseaux sociaux que sont la désinformation et l'atteinte des enfants, maux systémiques où peut se perdre la Démocratie, perspective face à laquelle l'Ex Post est inapproprié. 

Le Droit de la Compliance est donc pleinement adéquat. 

Il convient que le Juge continue sa mue en concevant lui-même non pas seulement dans un Ex Post plus rapide, mais dans un office Ex Ante, contrôlant des entreprises qui, elles-mêmes doivent avoir des fonctions des offices de gardiens (ici gardiens des limites concernant les contenus). 

______

Voir ⤵️ la structure plus formelle de l'intervention, qui fut ensuite discutée

March 5, 2022

Compliance: at the moment

Oct. 5, 2021

Compliance: at the moment

Sept. 16, 2021

Thesaurus : Doctrine

 Full Reference: Maistre, R.-O.,  What monumental goals for the Regulator in a rapidly changing audiovisual and digital landscape?, ​in Frison-Roche, M.-A. (ed.),Compliance Monumental Goals, series "Compliance & Regulation", Journal of Regulation & Compliance (JoRC) and Bruylant, to be published.

___

 

► Article Summary (done by the JoRC editor):  In France, since the law of 1982 which put an end to the State monopoly on the audio-visual area, the landscape has profoundly evolved and diversified. In view of the multitude of players who are now established there, the Conseil supérieur de l'audiovisuel - CSA (French High Audiovisual Council) must ensure the economic balance of the sector and the respect for pluralism, in the interest of all audiences. The growing societal responsibilities of audiovisual media and new digital players have multiplied the "monumental goals" on which the CSA (soon to be Arcom) is watching.

Its competences have gradually been extended to the digital space and the successive laws concerning its missions aim at new objectives, in particular in terms of protection of minors, fight against online hate or against disinformation. The emergence of a new European model of Regulation makes it possible to give substance to these additional goals, the Regulator adopting a systemic perspective and calling on soft law tools to fulfill its new missions.

____ 

 

📝 see the general presentation of the book, Compliance Monumental Goals, in which this article is published

Sept. 8, 2021

Thesaurus : Doctrine

► Référence complète : Delpech, X. (dir.), L'émergence d'un droit des plateformes, coll. "Thèmes et Commentaires", Dalloz, 2021, 239 p.

____

 

► Présentation de l'ouvrage en 4ième de couverture : De Uber à Parcoursup en passant par Amazon, le phénomène des plateformes est au cœur de notre vie quotidienne. S’il reflète des réalités diverses, il semble néanmoins possible, d’une plateforme à l’autre, d’observer quelques constantes : toutes sont des dispositifs de mise en relation faisant appel aux nouvelles technologies (internet, un algorithme, etc.).

Les plateformes suscitent cependant de multiples interrogations – et même inquiétudes, compte tenu de la puissance de certaines d’entre elles – auxquels tentent de répondre économistes et bien entendu juristes. Elles constituent ainsi un champ de recherche qui reste encore largement à explorer. Il faudra en particulier s’interroger sur le point de savoir si notre arsenal juridique, y compris européen, est suffisamment armé pour les appréhender, voire même les domestiquer, ou s’il doit être réinventé. Plus profondément, il est légitime de se demander si les plateformes ne sont pas en train de faire émerger une nouvelle branche du droit.

C'est à ces questions que tente de répondre cet ouvrage issu des actes du colloque du 21 octobre 2020 organisé par l'équipe de recherche Louis Josserand de l'Université de Jean Moulin Lyon 3. 

 

____

 

► Lire la présentation des articles :

📝Roda, J.-Ch, Vers un droit de la concurrence des plateformes

📝Houtcieff, D., Les plateformes au défi des qualifications

📝Amrani-Mekki, S., Les plateformes de résolution en ligne des différents

📝Douville, Th., Quel droit pour les plateformes ? 

____

 

 

Aug. 31, 2021

Compliance: at the moment

Par un article publié le 13 juillet 2021, "Targeted ads isolate and divide us even when they’re not political – new research"  des chercheurs ayant mené une étude à propos d'intelligence artificielle et d'éthique , rendent compte des résultats obtenus. Il ressort de cette étude empirique montre que les technologies, mises au point à des fins politiques pour capter les votes afin de faire élire Trump ou pour obtenir un vote positif pour le Brexit, utilisées à des fins commerciales, auraient deux effets sur nous : en premier lieu elles nous isolent ; en second lieu elles nous opposent.

____


Le seul lien social qui a donc vocation à avoir serait donc l'agression.  


Certes l'usage ainsi fait de nos informations personnelles, auquel nous "consentons" tous, que cela soit pour obtenir notre adhésion à des discours ou à des produits, casse ce qu'Aristote appelait "l'amitiés" comme socle de la Cité Politique.
L'on mesure que la notion de "consentement", qui est une notion juridique, relativement périphérique dans le Droit des Obligations, que beaucoup voudraient mettre comme l'alpha et l'omega, ne nous protège en rien de cette destruction de nous-même et des autres, de cette perspective de la Cité.
Il est important de penser la régulation de la technologie, sur laquelle est construit l'espace digital sur une autre notion que le "consentement".
C'est pourquoi le Droit de la Compliance, qui n'est pas construit sur le "consentement", est la branche du Droit de l'avenir.
#droit #numérique #amitié #consentement #haine #politique

Aug. 30, 2021

Compliance: at the moment

An article from March 3, 2021, Smile for the camera: the dark side of China's emotion-recognition tech, then an article from June 16, 2021, "Every smile you fake" - an AI emotion - recognition system can assess how "happy" China's workers are in the office describes how a new technology of emotional recognition is able, through what will soon be out of fashion to call "facial recognition", to distinguish a smile that reflects a mind state of real satisfaction from a smile which does not correspond to it. This allows the employer to measure the suitability of the human being for his or her work. It is promised that it will be used in an ethical way, to improve well-being at work. But isn't it in itself that this technology is incompatible with any compensation through ethical support?

The technology developed by a Chinese technology company and acquired by other Chinese companies with many employees, allows to have information on the actual state of mind of the person through and beyond his or her facial expressions and bodily behavior.

Previously, the technology of emotional recognition had been developed to ensure security, by fighting against people with hostile plans, public authorities using it for example in the controls at airports to detect the criminal plans which some passengers could have.

It is now affirmed that it is not about fighting against some evil people ("dangerousness") to protect the group before the act is committed ("social defense”) but that it is about helping all workers.

Indeed, the use that will be made of it will be ethical, because first the people who work for these Chinese companies with global activity, like Huawaï, do it freely and have accepted the operation of these artificial intelligence tools (which is not the case with people who travel, control being then a kind of necessary evil that they do not have to accept, which is imposed on them for the protection of the group), but even and above all, the purpose is itself ethical: if it turns out that the person does not feel well at work, that they are not happy there, even before they are perhaps aware, the company can assist.

Let’s take this practical case from the perspective of Law and let’s imagine that it is contested before a judge applying the principles of Western Law.

Would this be acceptable?

No, and for three reasons.

1. An "ethical use" cannot justify an unethical process in itself

2. The first freedoms are negative

3. "Consent" should not be the only principle governing the technological and digital space

 

I. AN "ETHICAL USE" CAN NEVER LEGITIMATE AN UNETHICAL PROCESS IN ITSELF

These unethical processes in themselves cannot be made "acceptable" by an "ethical use" which will be made of them.

This principle was especially reminded by Sylviane Agacinski in bioethics: if one cannot dispose of another through a disposition of his or her body which makes his or her very person available (see not. Agacinski, S., ➡️📗Le tiers-corps. Réflexions sur le don d’organes, 2018).

Except to make the person reduced to the thing that his or her body is, which is not ethically admissible in itself, that is excluded, and Law is there in order to this is not possible.

This is even why the legal notion of "person", which is not a notion that goes without saying, which is a notion built by Western thought, acts as a bulwark so that human beings cannot be fully available to others, for example by placing their bodies on the market (see Frison-Roche, M.-A., ➡️📝To protect human beings, the ethical imperative of the legal notion of person, 2018). This is why, for example, as Sylviane Agacinski emphasizes, there is no ethical slavery (a slave who cannot be beaten, who must be well fed, etc.).

That the human being agrees ("and what about if it pleases me to be beaten?") does not change anything.

 

II. THE FIRST FREEDOM IS THE ONE TO SAY NO, FOR EXAMPLE BY REFUSING TO REVEAL YOUR EMOTIONS: FOR EXAMPLE HIDING IF YOU ARE HAPPY OR NOT TO WORK

The first freedom is not positive (being free to say Yes); it is negative (being free to say No). For example, the freedom of marriage is having the freedom not to marry before having the freedom to marry: if one does not have the freedom not to marry, then the freedom to marry loses any value. Likewise, the freedom to contract implies the freedom not to contract, etc.

Thus, freedom in the company can take the form of freedom of speech, which allows people, according to procedures established by Law, to express their emotions, for example their anger or their disapproval, through the strike.

But this freedom of speech, which is a positive freedom, has no value unless the worker has the fundamental freedom not to express his or her emotions. For example if he or she is not happy with his or her job, because he or she does not appreciate what he or she does, or he or she does not like the place where he or she works, or he or she does not like people with whom he or she works, his or her freedom of speech demands that he or she have the right not to express it.

If the employer has a tool that allows him or her to obtain information about what the worker likes and dislikes, then the employee loses this first freedom.

In the Western legal order, we must be able to consider that it is at the constitutional level that the infringement is carried out through Law of Persons (on the intimacy between the Law of Persons and the Constitutional Law, see Marais , A., ➡️📕Le Droit des personnes, 2021).

 

III. CONSENT SHOULD NOT BE THE ONLY PRINCIPLE GOVERNING THE TECHNOLOGICAL AND DIGITAL SPACE

 

We could consider that the case of the company is different from the case of the controls operated by the State for the monitoring of airports, because in the first case observed people are consenting.

"Consent" is today the central notion, often presented as the future of what everyone wants: the "regulation" of technology, especially when it takes the form of algorithms ("artificial intelligence"), especially in digital space.

"Consent" would allow "ethical use" and could establish the whole (on these issues, see Frison-Roche, M.-A., ➡️📝Having a good behavior in the digital space, 2019).

"Consent" is a notion from which Law is today moving away in Law of Persons, in particular as regards the "consent" given by adolescents on the availability of their body, but not yet on digital.

No doubt because in Contract Law, "consent" is almost synonymous with "free will", whereas they must be distinguished (see Frison-Roche, M.-A., ➡️📝Remarques sur la distinction entre la volonté et le consentement en Droit des contrats, 1995).

But we see through this case, which precisely takes place in China, that "consent" is in Law as elsewhere a sign of submission. It is only in a probative way that it can constitute proof of a free will; this proof must not turn into an irrebuttable presumption.

The Data Regulatory Authorities (for example in France the CNIL) seek to reconstitute this probative link between "consent" and "freedom to say No" so that technology does not allow by "mechanical consents", cut off from any connection with the principle of freedom which protects human beings, from dispossessing themselves (see Frison-Roche, M.-A., Yes to the principle of will, No to pure consents, 2018).

The more the notion of consent will be peripheral, the more human beings will be able to be active and protected.

________

June 23, 2021

Publications : Doctrine

 Référence complète : Douville, T., Quel droit pour les plateformes ?, in Delpech, X. (dir.), L'émergence d'un droit des plateformescoll. « Thèmes et commentaires », Dalloz, 2021, pp.217-239.

_____

 

► Lire la présentation générale de l'ouvrage dans lequel est publié cet article. 

June 18, 2021

Compliance: at the moment

 Law is slow, but firm. By its judgment of June 15, 2021, Facebook , the European Union Court of Justice widely interprets the powers of National Authorities, since they serve the people protection in the digital space (➡️📝(CJEU, June 15, 2021, Facebook)

 

Law is slow. The reproach is so often made. But the bottom line is that, in the noise of changing regulations, it establishes clear and firm principles, letting everyone know what to stand for. The more the world is changing, the more Law is required.

When Law degenerates into regulations, then it is up to the Judge to make Law. "Supreme Courts" appear, de jure as in the United States, de facto as in the European Union by the Court of Justice of the European Union which lays down the principles, before everyone else, as it did for the "right to be forgotten" in 2014 (➡️📝CJEU, Google Spain, May 13, 2014), and then with the impossibility of transferring data to third countries without the consent of the people concerned (➡️📝CJEU, Schrems, October 6, 2015).

Facebook litigation is kind of a novel. The company knows that it is above all to the Courts that it speaks. In Europe, it is doing it behind the walls of the Irish legal space, from which it would like to be able not to leave before better dominating the global digital space, while national regulatory authorities want to take it to protect citizens.

There is therefore a technical question of "jurisdictional competence". The texts have provided for this, but Law is clumsy because it was designed for a world still anchored in the ground: the GDPR of 2016 therefore organizes cooperation between national regulatory authorities through a "one-stop-shop", forcing the authorities to relinquish jurisdiction so that the case is only handled by the "lead" National Authority. This avoids splintering and contradiction. But before the adoption of the GDPR, the Belgian data protection regulator had opened a procedure against Facebook concerning cookies. The "one-stop-shop" mechanism, introduced in 2016, is therefore only mentioned before the Brussels Court of Appeal, which is asked to relinquish jurisdiction in favor of the Irish Regulatory Authority, since the company has in Europe its head office in this country. The Court of Appeal referred to the CJEU for a preliminary ruling.

By its judgment of June 15, 2021 (➡️📝CJUE, Facebook, June 15, 2021), it follows the conclusions of its Advocate General and maintains the jurisdiction of the Belgian National Regulator because, even after the GDPR, the case still undergoes national treatment. In this decision, the most important is its reasoning and the principle adopted. The Court notes that the "one-stop-shop" rule is not absolute and that the national regulatory authority has the power to maintain its jurisdiction, in particular if cooperation between national authorities is difficult.

Even more, will it not one day have to adjust Law more radically? We need to consider the fact that the digital space is not bound by borders and that the ambition of "cross-border cooperation" is ill-suited. It is of course on this observation of inefficiency, consubstantial with the digital space, that the European Public Prosecutor's Office (EPPO) was designed and set up, which is not a cooperation, nor a "one-stop shop", but a body of the Union, acting locally for the Union, directly linked to Compliance concerns (➡️📝Frison-Roche, M.-A. "The European Public Prosecutor's Office is a considerable contribution to Compliance Law", 2021 and ., European Public Prosecutor's Office comes on stage: the company having itself become a private prosecutor, are we going towards an alliance of all prosecutors ?, 2021).

So that's what we should be inspired by.

June 17, 2021

Compliance: at the moment

 Compliance Law and Competition: for building, is it necessary to legislate ? Example of quasi-public interest judicial agreement: the French Competition Authority's Statement of June 3, 2021 on Facebook

 

The French law so-called "Sapin 2" of 2016, organized the "convention judiciaire d’intérêt public - CJIP" (Public Interest Judicial Agreement) which allows the prosecutor to undertake not to prosecute a company in returns for this company's commitments for the future. Is this mechanism reserved for this law, which only concerns corruption and bribery? The answer is often positive.

Is it so obvious?

Since the entity having the power to prosecute therefore always has the power not to prosecute. As the company always has the freedom to make commitments for the future. And everything stops.

News in Competition Law illustrate this. On June 9, 2021, as part of a transaction, the Autorité de la concurrence (French Competition Authority) sanctions Google (➡️📝 Communiqué of the Autorité de la Concurrence , translated in English by the French Competition Authority) , which has not contested the facts, for abuse of dominant position for having privileged its services in the online advertising services. Similar facts were alleged against Facebook. But on June 3, 2021, the Autorité de la concurrence (French Competition Authority) published a "communiqué de presse" (➡️📝statement translated in English by the French Competition Authoritysaying that Facebook has, during the investigation, proposed commitments regarding its future behavior. It is remarkable that this statement on Facebook is published as an “acte de régulation” (regulatory act).

Yes, it is indeed an regulatory act about the future and structuring the online advertising area, internalized in this company which engages itself in its future behavior. With its statement, the Competition Authority invites the “acteurs du secteur” (actors of this sector) to make observations, for the development of what will be a sort of compliance program.

In these negotiations which are akin to a game table, where everyone calculates without knowing if they enter into a negotiation or a confrontation, the first game assuming that one shows more cards than in the second, it is indeed towards a kind of Public Interest Judicial Agreement that they are going with a Competition Authority which is both Judge and Prosecutor, concludes the agreement and, through a later decision, gives it force. Under the various legal qualifications, it is indeed the same general mechanism of Compliance Law, well beyond the specific French law known as Sapin 2.

Managed in this way, Compliance Law being an Ex Ante corpus, transforms the Competition Authority, an Ex Post Authority, into an Ex Ante Authority, openly taking "acte de régulation" (Regulatory Act), and allows it to rely on the power of companies, thus “committed”, to structure markets, which are however not regulated. Like advertising or retailing areas (➡️📝see Frison-Roche, M.-A., From Competition Law to Compliance Law: Example of French Competition Authority's decision on central purchasing body in mass distribution, 2020).

Thus Compliance Law has achieved the autonomy of Regulatory Law with regards to the notion, which nevertheless seemed intimate to it, of "sector".

 

► register to the French Newsletter MaFR ComplianceTech®

June 15, 2021

Thesaurus : 05. CJCE - CJUE

Full reference: CJEU, Grand chamber, Judgment Facebook Ireland e.a. v. Gegevensbeschermingsautoriteit, C-645-19, June 15, 2021

Read the judgment

Read the abstract of the judgment done by the Court

Read the press release

 

 

Jan. 11, 2021

Interviews

Full reference: Frison-Roche, M.-A., "Let's Use the Power of GAFAMs in the Service of General Interest!" ("Utilisons la puissance des GAFAMs au service de l'intérêt général!"), interview done by Olivia Dufour, Actu-juridiques Lextenso, 11st of January 2021

Read the interview (in French)

To read the article translated in English by us, read the working paper on which this interview is based

 

Summary of the interview by Olivia Dufour:

Marie-Anne Frison-Roche, Professor of Regulation and Compliance Law, reported to the government in 2019 about Internet governance. For this expert, giving a disciplinary power to GAFAMs is the only effective solution. And the suppression of Donald Trump's account is not likely to call this analysis into question.

 

The three questions (translated in English here by ourselves) asked by Olivia Dufour are: 

  • The deletion of Donald Trump's Twitter account arouses strong emotions on social networks, and not only among his supporters. What do you think about this ?
  • However, this incident does raise concern. Are we not giving too much power to these private companies? This raises the question in France of the relevance of the Avia system ...
  • Should we therefore resolve by default to give our freedoms to private and opaque mastodons?

 

Read the answers to these three questions (in French)

 

To go further, especially about the logics that guide the Avia system, see:

Dec. 31, 2020

Thesaurus : Doctrine

Full reference: Zittrain, J. L., "Gaining Power, Losing Control", Clare Hall Tanner Lecture 2020, 2020

See the intervention

Read the intervention's report

 

This intervention is divided in two parts: 

  • Between Abdication and Suffocation: Three Eras of Governing Digital Platforms 
  • With Great Power Comes Great Ignorance: What’s Wrong When Machine Learning Gets It Right 

Dec. 7, 2020

Thesaurus : Doctrine

Full reference: Vergnolle, S., L'effectivité de la protection des personnes par le droit des données à caractère personnel (The effectiveness of the protection of people by personal data Law (our translation)), Passa, J. (dir.), thesis, Law, Panthéon-Assas University (Paris II), 2020, 531 p.

 

Read the thesis (in French)

Read directly and only the table of contents (in French)

 

 

To go further about regulation of personal data, read: 

Nov. 23, 2020

Interviews

Full reference: Frison-Roche, M.-A., Facebook: Quand le Droit de la Compliance démontre sa capacité à protéger les personnes (Facebook: When Compliance Law proves its ability to protect people), interview with Olivia Dufour, Actu-juridiques Lextenso, 23rd of November 2020

Read the interview (in French)

Read the news of the Newsletter MAFR - Law, Compliance, Regulation about this question

Nov. 1, 2020

Publications