Publications : Doctrine

 Référence complète : Houtcieff, D., Les plateformes au défi des plateformes, in L'émergence d'un droit des plateformes, Dalloz, coll. « Thèmes et commentaires », 2021, pp.51-64.

_____

 

► Lire la présentation générale de l'ouvrage dans lequel s'insère cet article. 

Publications : Doctrine

 Référence complète : Roda, J.-Ch, Vers un droit de la concurrence des plateformes , in L'émergence d'un droit des plateformes, Dalloz, coll. « Thèmes et commentaires », 2021, pp.77-90.

_____

 

► Lire la présentation générale de l'ouvrage dans lequel s'insère cet article. 

Publications : Doctrine

 Référence complète : Amrani-Mekki, S., Les plateformes de résolution en ligne des différends, in L'émergence d'un droit des plateformes, Dalloz, coll. « Thèmes et commentaires », 2021, pp.189-203.

_____

 

► Lire la présentation générale de l'ouvrage dans lequel s'insère cet article. 

Thesaurus : 03. Conseil d'Etat

Aug. 8, 2022

Compliance: at the moment

Référence complète : Frison-Roche, M.-A., "Rendre plus coûteux l'accès au marché de la Haine, Newsletter MAFR Law, Compliance", Regulation, 8 août 2022. 

____

 

L'on dit parfois que le Droit européen lutte contre la désinformation tandis que le Droit américain, par une sorte de passion sans limite pour le principe de la liberté d'expression, ne le ferait en rien.

Cela n'est pas exact. Un article paru dans le New York Times du 4 août 2022, Jurors award $45.2 million in punitive damages after lawyer for Sandy Hook parents asks them to "stop Alex Jones.", vient rappeler l'efficacité de l'action en diffamation dans la lutte contre la désinformation (I). Cela montre le souci commun aux Droits américain et européen : le souci d'arrêter la désinformation (II). Il demeure que les deux voies juridiques de lutte contre la désinformation, souci commun, reflètent deux cultures juridiques différentes, le Droit américain continuant de le faire Ex Post et par le calcul économique, le Droit européen le faisant Ex-Ante et par le Droit de la Compliance (III).

 

I. L'EFFICACITÉ DES ACTIONS EN DIFFAMATION POUR LUTTER CONTRE LA DÉSINFORMATION

Cet article, qui vient à la suite d'une série d'autres, le journal suivant depuis longtemps le cas, illustre à travers ce cas le maniement de l'action en diffamation pour sanctionner efficacement l'usage de la désinformation.

Il relate que dans la tuerie en 2012 d'une école d'enfants et d'enseignants, dans 20 enfants sont morts, un conspirationniste, Alex Jones, a par la suite utilisé son système média notamment numérique, dont la maison-mère a pour nom Free Speech et la filiale de diffusion Infowars, pour affirmer que cet évènement était un complot du gouvernement fédéral pour lutter contre le droit constitutionnel de chacun de porter des armes et aboutir à la prohibition par l'adoption d'une loi de celui-ci. Ce complot aurait donc eu pour but de confisquer les armes des Américains, complot dont les parents des enfants décédées auraient été complices.

Les parents de 10 enfants décédés ont agi en diffamation contre Alex Jones.

Les procès ont eu lieu en deux temps, le premier pour engager la responsabilité du défendeur, le second pour calculer le montant des dommages et intérêts.

L'année dernière, la responsabilité du défendeur a été établie à la fois par une juridiction du Texas et une juridiction du Connecticut.

Tandis que le défendeur a déclaré faire appel de son engagement de responsabilité, le verdict concernant le montant des dommages et intérêts a été rendu par le jury de la Cour du Texas.

Le jury a lui-même procédé en deux temps.

Concernant la somme à attribuer aux parents pour compenser la perte de l'enfant : les intérêts compensatoire (compensative damages). Ceux-ci se sont montés à 4 millions, pour compenser leur malheur

Puis le jury a évalué les dommages et intérêts punitifs (punitive damages). Ceux-ci se sont montés à 45,2 millions. Cela se justifie à la fois pour punir le défendeur mais aussi, et surtout, pour le dissuader de continuer, à pratiquer une sorte d'industrie de la désinformation, le verdict s'adressant non seulement à lui mais encore à tous ceux qui pratiquent la même activité commerciale. Ce que l'on pourrait appeler l'activité économique de la Haine.

Cela montre à quel point, alors qu'on affirme si souvent l'inverse, les Droits américain et européen, ont ce fond commun : le souci de lutter contre la désinformation.

 

II. CE QUI EST COMMUN AU DROIT EUROPÉEN ET AMÉRICAIN : LE SOUCI DE LUTTE CONTRE LA DÉSINFORMATION

Les juristes américains rappellent pourtant que l'action en diffamation est depuis longtemps maniée par les juridictions américaines pour que la liberté d'expression ne laisse pas sans défendre contre la désinformation, tout système juridique produisant toujours ce que l'on pourrait appeler ses anticorps, l'action en diffamation étant maniée à la fois pour protéger les victimes mais aussi le système, notamment le système démocratique.

Or, les dommages et intérêts "punitifs" sont 10 fois plus importants que les dommages et intérêts visant à réparer le dommage. Cela s'explique par le calcul économique auquel le jury a procédé, l'analyse économique du Droit étant sans doute plus familière aux Etats-Unis, y compris dans les jurys, qu'en Europe, pour servir ce souci commun de lutte contre la désinformation (A). Les juridictions utilisent alors le Droit de la responsabilité pour infléchir le futur, comme le fait le Droit européen (B).

A. LE CALCUL ECONOMIQUE

En effet, l'article souligne : "The jury announced both awards after several dramatic days in court that included testimony that Mr. Jones and Free Speech Systems, the parent company of his misinformation-peddling media outlet, Infowars, were worth between $135 million and $270 million.".

L'idée est de rendre à l'avenir cette activité médiatique que l'on ne peut éradiquer dans son principe, puisqu'ancrée dans le principe de la liberté d'expression, comme le rappelle la dénomination sociale de la structure faîtière du groupe, ne soit plus rentable, ni même cessible, faute d'acheteur, le revenu de l'activité étant environ d'une cinquantaine de millions par an.

En effet, deux autres procès en évaluation de dommages et intérêts attendent. Si les jurys attribuent une même somme, le coût d'accès au marché de la Haine sera alors suffisamment élevé, notamment si l'on inclut le coût des procès eux-mêmes, le défendeur se plaignant expressément des millions que lui coûtent ces trois procès qu'il estime injustement menés contre lui.

Pour fermer le marché de la Haine, il convient de démonétiser celle-ci, les punitive damages pouvant être utilisés pour ceux-ci. C'est en ces termes que cela a été demandé par l'avocat de la famille de l'enfant de 6 ans tuée, dans ces termes rappelés par l'article : "“Stop the monetization of misinformation and lies. Please.”.".

Le plaisir de haïr et les croyances (ici le complotisme) ne sont effectivement pas le seul moteur de la désinformation, il y a aussi l'appât du gain : accroître le coût d'accès au marché de la haine par une bonne application de l'Economie du Droit, est une solution, dont ici application est faite, le calcul étant alors fait non pour le passé mais pour le futur.

Dès lors, cet entrepreneur pourrait arrêter son business de la haine non par éthique ou amour de la vérité ou disparition de plaisir de haïr mais par rationalité économique, puisque la Haine va cesser de lui rapporter de l'argent.

🔴 Sur l'analyse économique de la Compliance, v. Bruno Deffains et Laurent Benzoni, 📝 Approche économique des outils de la Compliance: finalité, effectivité et mesure de la Compliance subie et choisiein M.-A Frison-Roche (dir.), 📕Les outils de la Compliance, coll. Régulations & Compliance", 2021.

🔴 Sur l'analyse de la nature de la Haine, v. M.-A Frison-Roche, 📧Quand on s'intéresse à la Compliance, lire "La Haine" de Günther AndersNewsletter MAFR Law, Compliance, Regulation1ier août 2022.

 

B. LE MANIEMENT DE LA RESPONSABILITÉ DANS UNE PERSPECTIVE EX-ANTE

Les juges utilisent ainsi la branche du Droit la plus ancienne dans la Common Law (Tort Law) pour se saisir de l'essentiel : l'avenir. Car rien ne peut compenser la mort d'un enfant et c'est sans doute par altruisme que ces parents agissent en justice pour tenter d'obtenir que cette personne à la tête d'un business de la désinformation cesse de nuire.

Ce faisant, ce qui est assez familier à l'Analyse Economique du Droit, dans laquelle le traitement des décisions comme des informations pour calculer les comportements à adopter et les anticipations sont des éléments centraux, les agents étant présumés rationnels, les dommages et intérêts sont utilisés pour obtenir le comportement souhaité : ici l'arrêt.

Le Droit européen est en train de faire bouger un Droit de la responsabilité qui, sans atteindre l'ampleur qu'il a dans le système de Common Law et notamment parce que les dommages et intérêts punitifs continuent de n'être pas admis, s'oriente vers l'avenir, afin d'obtenir des entreprises qu'elles cessent d'avoir des comportements dommageables et/ou qu'elles adoptent les comportements souhaitables.

C'est notamment le cas pour répondre au souci climatique ou dans ce qui sera le traitement juridictionnel du devoir légal de vigilance, dans lesquels il ne s'agit pas d'être sévère dans l'appréciation des comportements passés - ce sont des obligations de moyens - mais il s'agit d'obtenir des comportements adéquats pour le futur. En effet, comme pour l'usage des armes et les enfants que l'on ne peut plus que pleurer, il faut prévenir et infléchir le futur et non pas - ou pas principalement - sanctionner le passé.

🔴 Sur ce mouvement, v. 𝒎𝒂𝒇𝒓, 📝 𝑳𝒂 𝒓𝒆𝒔𝒑𝒐𝒏𝒔𝒂𝒃𝒊𝒍𝒊𝒕é 𝑬𝒙 𝑨𝒏𝒕𝒆, 𝒑𝒊𝒍𝒊𝒆𝒓 𝒅𝒖 𝑫𝒓𝒐𝒊𝒕 𝒅𝒆 𝒍𝒂 𝑪𝒐𝒎𝒑𝒍𝒊𝒂𝒏𝒄𝒆, 2022.

Si ce fond est commun, à savoir le souci commun de lutter contre la désinformation, où l'Europe est davantage en avant, et l'usage du Droit de la responsabilité en le tournant vers l'avenir, où les Etats-Unis sont davantage en avant, les cultures demeurent tout de même différentes.

 

III. LES MODALITÉS DIFFÉRENTES ENTRE L'EUROPE ET LES ÉTATS-UNIS : EX ANTE NON-JURIDITIONNEL VERSUS EX-POST JURIDICTIONNEL

Pour exprimer son souci de lutter contre la désinformation, l'Europe va continuer de privilégier sa culture de la Régulation en Ex Ante (A), tandis que les Etats-Unis continuent sans doute à compter sur la puissance judiciaire (B).

A. LA CULTURE EX-ANTE EUROPÉENNE, À TRAVERS LE DROIT DE LA COMPLIANCE

Ainsi, le Digital Services Act va obliger les entreprises qui offrent des espaces d'information dans le numérique à mettre en place des systèmes de détection et de prévention de la désinformation.

En cela, généralisant et unifiant les systèmes nationaux, les entreprises numériques vont être contraintes en Ex-Ante de lutter activement contre la désinformation, même s'il n'y a pas fusion entre l'entreprise qui tient l'espace de communication et l'auteur du contenu. L'entreprise est ainsi de force associée dès le départ et en continu à la concrétisation du but politique et économique de préservation de la vérité, "But Monumental", que vise la lutte contre la désinformation.

Même si cette obligation de Compliance est une obligation de moyens, l'opérateur est ainsi soumis à la supervision des Autorités publiques, en France l'Arcom. Le Droit de la Compliance prolonge ainsi le Droit de la Régulation dans ce nouvel espace.

🔴 Sur le mouvement d'ensemble, v. Roch-Olivier Maistre, 📝 Quels buts monumentaux pour le Régulateur dans un paysage audiovisuel et numérique en pleine mutation ?,  in M.-A Frison-Roche (dir.), 📕Les buts monumentaux de la Compliance, coll. Régulations & Compliance", 2022.

 

B. LA CULTURE EX-POST AMERICAINE, À TRAVERS LA CONFIANCE D'UN JUGE ACTIF, EXPERT ET DILIGENT

La culture américaine donnant plus de place à la liberté, l'initiative et comptant sur le calcul des individus rationnels, donne plus de place aux juridictions, lesquelles ont un pouvoir considérable, via la procédure, notamment par l'admission des class actions, et via les punitive damages, l'association des deux accroissant le pouvoir juridictionnel.

Le juge américain n'est pas beaucoup plus rapide que le juge européen, ce qui pour une action sur l'avenir peut poser difficulté. L'événement tragique a eu lieu en 2012 et, tandis que les procès évoluaient, le défendeur a mis son groupe sous la protection du Droit américain des faillites (chapter 11).

L'on peut en outre penser que la voie européenne de l'Ex-Ante est plus appropriée, puisque l'Ex-Ante vise à ce que les choses n'arrivent pas, tandis que l'Ex-Post a une ambition moindre, celle de compenser les dommages déjà arrivés : la mort des personnes, la chute de la Démocratie, dont la "compensation" est assez difficile et pour laquelle la restauration est peu concevable.

Mais sans doute est-ce une réflexion européenne que de penser ainsi, puisque la liberté y trouve moins son compte.

Il est vrai que le mouvement de "Juridictionnalisation du Droit de la Compliance" ne fait que commencer en Europe, ce qui doit plus rendre d'autant plus attentifs aux jurisprudences efficaces Outre-Atlantique.

🔴 Sur le mouvement d'ensemble de la Juridictionnalisation, v. M.-A. Frison-Roche (dir.), 📕La Juridictionnalisation de la Compliance, coll. Régulations & Compliance", à paraître.

 

 

Aug. 1, 2022

Compliance: at the moment

► Référence complète : Frison-Roche, M.-A., Quand on s'intéresse à la Compliance, lire "La Haine"​ de Günther Anders, 1ier août 2022.

___

► Introduction de l'article : Philosophe allemand, Günter Anders connut la Seconde Guerre mondiale, dût quitter l'Allemagne et vécut dans plusieurs pays. C'est avant tout un philosophe moral, habité par le pessimisme et l'idée que le nazisme n'était qu'une répétition générale, plutôt artisanale, de ce que nous attend : L'obsolescence de l'homme, son livre-maître qui en 1956 décrit le système économique comme ce qui broie les êtres humains en les réduisant à n'être plus que des êtres qui entretiennent des machines qui produisent des produits inutiles qu'ils consomment, les humains n'étant eux-mêmes que des machines désirantes.

En 1985 dans un volume paru en langue allemande et composé d'articles tous consacrés au thème de La haine, il donna comme contribution les éléments de travail de ce qu'il avait conçu comme dernière partie de son oeuvre démontrant l'appareillage obtenant "l'obsolescence de l'homme", dernier livre qu'il ne publia jamais.

Extrait de ce volume, ces documents de travail furent traduits en français et présentés par Philippe Ivernel : le titre en est La Haine.

I. LA FABRIQUE DE LA "HAINE COMME PRODUIT DE CONSOMMATION" POUR ENGENDRER DES COMBATS, PRODUCTEURS A LEUR TOUR DE HAINE : L'ARTICULATION DES DEUX HAINES

Anders est un penseur de la technique, de la technologie (comme l'est Jacques Ellul), expliquant qu'elle n'appartiendra plus à une élite mais au contraire à chacun dans notre vie quotidienne, se mettant ainsi au centre de tout, remplaçant notamment la politique, les êtres humains mécanisés devenant la matière première des machines.

Le titre original, La Haine à l'état d'antiquité désigne le fait que la société de consommation réduisant l'être humain à son aptitude à entretenir des machines et à se comporter lui-même comme une machine consommant les produits fabriqués par des machines, l'être humain ayant pour seul fonction de désirer consommer ce que produisent les machines, et désirant donc finalement rien d'autres qu'entretenir et développer les machines qui l'engloutissent sous tous ces biens, n'a plus de pensée que pour ce monde entièrement voué aux machines.

L'Amour et la Haine sont ainsi reléguées "à l'état d'antiquité" car pour trouver sa place dans ce système de désirs qui convergent vers les machines, il n'est besoin ni d'Amour ni de Haine. Il expose que cela se passe dans deux temps. Dans un premier temps, la Haine est fabriquée pour amener les humains à se battre contre des ennemis qu'ils ne connaissent même pas ; dans un second temps, ils sont suffisamment mécanisés pour attaquer sans que l'énergie de la Haine soit même nécessaire.

Le premier fragment de ses documents de travail expose la façon dont les êtres humains "aiment la Haine" car cela donne à chacun le sentiment d'exister : la Haine. "Je hais, donc je suis. Ou plus précisément : Donc je suis quelqu'un" (p.33).

Il reprend cette idée dans le deuxième fragment dont le titre est (en français dans l'édition allemande) : L'appétit vient en mangeant. Il expose que la Haine n'est pas au départ contre une personne particulière et pousse à l'attaquer. La Haine est à l'état pur, mais c'est plutôt l'atmosphère de haine et "l'amour de la haine". Il suffit de la cultiver et la tourner ensuite à volonté contre un tel ou un tel.

Il évoque ainsi une sorte d'industrie de la haine, en des termes qu'il met dans la bouche du personnage qui dirige la cité : "Sans doute est-il exact qu'ils combattent "leurs ennemis" parce qu'ils les haïssent. Sauf que cette haine envers "leurs ennemis" n'explose précisément pas en s'allumant d'elle-même-meme, ni parce que les premiers leur auraient fait quoi que ce soit. Mais uniquement par ceci que (et donc parce que) je leur livre la haine à chaque fois exigible. Ils la reçoivent de moi gratuitement à domicile. Exactement comme l'eau, le gaz et la TV. Et cette haine qui leur est acheminée, ils la consomment alors, et dans tout à fait dans mon sens à moi : car ils s'engagent, en effet, pleins de haine dans la lutte politiquement opportune. Après quoi commence aussi réellement ce dont vous venez de parler : la deuxième phase de la haine. Car à présent ils haïssent réellement du fait qu'ils combattent. La règle de la haine s'énonce comme suite : "Je combats quelqu'un - de ce fait je me mets à le haïr. L'appétit vient en mangeant, la haine vient en luttant". Ils se battent ainsi "avec appétence" et sont persuadés le faire "avec dignité", devant rester dans l'ignorance de l'absence de raison du combat (qui est la pure volonté de celui qui leur a envoyé la Haine).

Günther Anders fait ensuite expliquer par le personnage politique qu'il fait cela par moralité car il ne veut pas que les hommes en tuent d'autres juste par obéissance à ses ordres, ce qu'ils trouveraient immoral. Il leur fabrique alors de la Haine, de la Haine qu'ils aiment, qu'il dirige ensuite sur des groupes de personnes et ainsi dotés de cette première haine, ils attaquent ceux qu'ils haïssent, le combat accroissant par une seconde haine la première, et tout le système fonctionne bien. Il lui fait ainsi conclure : "C'est pourquoi ils ont besoin de haïr. C'est pourquoi je leur accorde de haïr. C'est pourquoi je leur ordonne de haïr.".

Le troisième fragment porte sur la guerre proprement dite. Anders expose que la Haine n'y est aujourd'hui plus requise parce que la technique permet aux soldats de n'être plus en contact avec les personnes qu'ils combattent, ni même d'être confrontés aux cadavres. La fabrique de la Haine serait donc devenue inutile. C'est pour cela aussi qu'elle aurait vocation à être rangée dans les antiquités... Les soldats sont devenus comme des robots.

Le quatrième fragment développe ce point, sur des soldats "aveugles en telos", au point qu'on pourrait davantage les qualifier "d'employés" des armées que de soldats, exécutant leur travail sans savoir sur qui ou quoi ils larguent les bombes, chacun étant désormais comme à l'arrière du front. Anders souligne que dans ce combat sans haine, mené par les ordinateurs, le combat ne prend jamais fin.

 

II. UNE EXTRAORDINAIRE ANTICIPATION DU SYSTEME COMMERCIALE ET POLITIQUE E DE HAINE

 

A. DISTINCTION DES DEUX HAINES ET ROBOTISATION DES ETRES HUMAINS

L'œuvre de Gunther Anders est particulièrement profitable pour comprendre le monde dans lequel nous vivons. Dans cette ébauche d'ouvrage, retenons l'idée d'une double haine : la Haine fabriquée comme un objet et apportée gratuitement à tout le monde car il y a chez chacun un "amour de la haine" qui est en soi, puisqu'en haïssant, on se sent exister.

La Haine est un objet économique pur, car elle n'a pas d'objet particulier. Elle est fabriquée, cultivée, diffusée, accrue, partagée. Ce n'est que dans un second temps, après avoir ainsi inséré de la Haine pure dans l'esprit des amoureux de la Haine, que l'on peut lui affecter un objet, une personne ou un groupe de personnes et qu'un combat contre ceux-ci peut commencer, producteur d'un second type de Haine. Les deux Haines s'accroissent l'une l'autre.

Le premier intérêt de cette conception est d'isoler ce premier temps de la Haine : une Haine à l'état pur, celle qui existe car haïr permet d'exister, indépendamment de l'objet de la haine. Ce n'est pas donc pas l'objet qui fait naître la Haine, mais l'amour de soi qui fait naître la Haine. Dans un second temps, c'est le hasard ou la manipulation d'un tiers (dans l'exemple pris par Anders le dirigeant politique, mais nous connaissons des influenceurs en dehors du cercle politique) qui offre à la Haine son objet. Mais Anders insiste sur le fait que ces objets sont substituables.

Par cette Haine fabriquée, les êtres humains ont donc l'impression d'exister. C'est alors un stade pire et paradoxal qui s'annonce : celui des êtres humains sans haine, parce qu'on leur aura ôté l'objet de Haine, alors même qu'on leur commande (comme à des "employés") de tuer des semblables, en les mettant technologiquement à distance de l'objet à détruire (Anders prend l'exemple du lancer de bombe). Ils deviennent des robots, et la déshumanisation est ainsi achevée.

C'est en cela que les 4 fragments constituent pleinement la dernière partie de l'œuvre centrale qu'est L'obsolescence de l'Homme.

B. LE MONDE NUMERIQUE, LES RÉSEAUX SOCIAUX ET L' "INTELLIGENCE ARTIFICIELLE"

Le travail publié en 1985 correspond à des réflexions élaborées juste après la Seconde Guerre mondiale et puisant dans les leçons de la Première.

Mais si l'on regarde le monde numérique dans lequel nous vivons, il est en premier lieu construit sur des technologies "neutres", une industrie de l'information qui transforme les êtres humains en consommateurs d'information et en source d'information, constituant eux-mêmes une masse de micro-informations.

En deuxième lieu, les plateformes, et plus particulièrement les réseaux sociaux, sont des espaces neutres, les entreprises qui les tiennent ne sont pas des éditeurs, et le produit pur qui y circulent le mieux est de la "Haine pure", qui est ce qui rapporte à ces entreprises le plus de revenus, les différents objets de haines étant interchangeables.

La Haine est devenue un objet qui est délivré à domicile et dont nous sommes abreuvés en permanence, notre "amour de la Haine" étant alimentée en continu, et sans doute accru.

En troisième lieu, les algorithmes sont présentés comme "intelligents", c'est-à-dire dotés d'une capacité non seulement d'apprentissage mais de choix et de discernement. L'intelligence artificielle serait le progrès, c'est-à-dire la disparation de la haine pour exemple pour prononcer les sanctions les plus adéquates. Les chiffres ont donc remplacé les êtres humains, ce qu'Anders visait à travers les "ordinateurs".

 

III. LE PROFIT QUE LE DROIT DE LA COMPLIANCE PEUT FAIRE DE LA PENSÉE DE GUNTHER ANDERS

A. LE DROIT DE LA COMPLIANCE, DROIT AYANT LA PRÉTENTION DE RÉDUIRE LA HAINE DANS L'ESPACE NUMÉRIQUE

Le Droit de la Compliance est une branche du Droit construit sur des prétentions politiques qui visent à concrétiser des "buts monumentaux".

🔴Marie-Anne Frison-Roche, 📝Les Buts Monumentaux, cœur battant du Droit de la Compliance, in Marie-Anne Frison-Roche (dir.), 📕 Les buts monumentaux de la complianceJournal of Regulation & Compliance et Dalloz, coll. 📚Régulations & Compliance, 2022, p.21-44.

La lutte contre la diffusion de ce qu'il est pertinent de désigner comme l'amour naturel de la haine pure, qui se répand d'une façon virale dans l'espace numérique permettant à la haine d'être "portée à domicile" est une des objets majeurs du Droit de la Compliance.

Le Digital Services Act est imprégné de techniques de Compliance pour y parvenir.

Il ne s'agit pas de compter sur la moralité des personnes, puisque le cœur des humains est d'aimer la haine, ni de les remplacer par des machines car le remède est pire que le mal (la déshumanisation) mais sur la performance technique de ceux qui tiennent ce système économique-là : les plateformes elles-mêmes.

🔴M.A. Frison-Roche, 📝Se tenir bien dans l'espace numériquein Mélanges en l'honneur de Michel Vivant, Penser le droit de la pensée, Dalloz et Lexis Nexis, 2020, pp. 155-168.

En combattant le feu par le feu, c'est-à-dire en obligeant ceux qui ont construit les techniques par lesquelles se diffusent la Haine à construire et à utiliser les techniques de contrôle, de détection et de prévention de celle-ci, le Droit de la Compliance, notamment grâce à son effet naturellement extraterritorial, exprime la prétention de ne pas laisser la Haine régner.

En outre, les Autorités publiques non seulement régulent mais encore supervisent les entreprises et leurs technologies, en l'espèce l'Arcom et la CNIL, dont les pouvoirs Ex Ante s'accroissent.

🔴R.-O. Maistre, Quels buts monumentaux pour le Régulateur dans un paysage audiovisuel et numérique en pleine mutation ?in Frison-Roche, M.-A. (dir.), Les buts monumentaux de la Compliance, série "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) et Dalloz, 2022.

B. LA DÉFINITION TÉLÉOLOGIQUE DU DROIT DE LA COMPLIANCE

L'œuvre d'Anders est parcourue par le désespoir moral d'êtres humains "sans telos", c'est-à-dire sans finalités qui leur soit propres. C'est ainsi qu'ils peuvent être saisis aisément par l'amour de la Haine, puisqu'aucun projet propre n'occupe leur temps et leur force.

Il peut en être de même pour la force du Droit.

Si le Droit ne devait être qu'une technique "réglementaire", "neutre", visant à "l'efficacité" des désirs de chacun et des réglementations accumulées, alors le Droit ne ferait qu'ajouter à la déshumanisation décrite par Anders.

Mais le Droit de la Compliance est par nature une branche du Droit téléologique : elle se définit par ses buts. Et ceux-ci sont "monumentaux".

Ces buts monumentaux ponctuels peuvent tous se ramener à ceci : protéger les êtres humains, afin que la description d'Anders ne soit pas exacte en son cœur désespéré.

🔴M.-A. Frison-Roche, 🚧 Fonder la Compliance, 2022

June 23, 2022

Thesaurus : Doctrine

 Full Reference: L.-M. Augagneur, Le traitement réputationnel par et sur les plateformes, in Frison-Roche, M.-A. (ed.), La juridictionnalisation de la Compliance, series "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) and Dalloz, to be published. 

___

 Article Summary (done by the author): The large platforms are in the position of arbiter of the reputation economy (referencing, notoriety) in which they themselves act. Although the stakes are usually low on a unit basis, the jurisdiction of reputation represents significant aggregate stakes. Platforms are thus led to detect and assess reputation manipulations (by users: SEO, fake reviews, fake followers; or by the platforms themselves as highlighted by the Google Shopping decision issued by the European Commission in 2017) that are implemented on a large scale with algorithmic tools.

The identification and treatment of manipulations is itself only possible by means of artificial intelligence tools. Google thus proceeds with an automated downgrading mechanism for sites that do not follow its guidelines, with the possibility of requesting a review through a very summary procedure entirely conducted by an algorithm. Tripadvisor, on the other hand, uses an algorithm to detect false reviews based on "fraud modeling to identify electronic patterns that cannot be detected by the human eye". It only conducts a human investigation in limited cases.

This jurisdictionality of reputation has little in common with that defined by the jurisprudence of the Court of Justice (legal origin, contradictory procedure, independence, application of the Rules of Law). It is characterized, on the one hand, by the absence of transparency of the rules and even of the existence of rules stated in predicative form and applied by deductive reasoning. It is replaced by an inductive probabilistic model by the identification of abnormal behaviors in relation to centroids. This approach of course raises the issue of statistical bias. More fundamentally, it reflects a transition from Rule of Law, not so much to "Code is Law" (Laurence Lessig), but to "Data is Law", that is, to a governance of numbers (rather than "by" numbers). It also comes back to a form of collective jurisdictionality, since the sanction comes from a computational apprehension of the phenomena of the multitude and not from an individual appreciation. Finally, it appears particularly consubstantial with compliance, since it is based on a teleological approach (the search for a finality rather than the application of principles).

On the other hand, this jurisdictionality is characterized by man-machine cooperation, whether in the decision-making process (which poses the problem of automaticity bias) or in the contradictory procedure (which poses, in particular, the problems of discussion with the machine and the explicability of the machine response).

Until now, the supervision of these processes has been based essentially on the mechanisms of transparency, a limited adversarial requirement and the accessibility of appeal channels. The French Law Loi pour une République Numérique ("Law for a Digital Republic"), the European Legislation Platform-to-Business Regulation and the Omnibus Directive, have thus set requirements on the ranking criteria on platforms. The Omnibus Directive also requires that professionals guarantee that reviews come from consumers through reasonable and proportionate measures. As for the European Digital Services Act, it provides for transparency on content moderation rules, procedures and algorithms. But this transparency is often a sham. In the same way and for the moment the requirements of sufficient human intervention and adversarial processes appear very limited in the draft text.

The most efficient forms of this jurisdictionality ultimately emerge from the role played by third parties in a form of participatory dispute resolution. Thus, for example, FakeSpot detects false Tripadvisor reviews, Sistrix establishes a ranking index that helped establish the manipulation of Google's algorithm in the Google Shopping case by detecting artifacts based on algorithm changes. Moreover, the draft Digital Services Act envisages recognizing a specific status for trusted flaggers who identify illegal content on platforms.

This singular jurisdictional configuration (judge and party platform, massive situations, algorithmic systems for handling manipulations) thus leads us to reconsider the grammar of the jurisdictional process and its characteristics. If Law is a language (Alain Sériaux), it offers a new grammatical form that would be that of the middle way (mesotès) described by Benevéniste. Between the active and the passive way, there is a way in which the subject carries out an action in which he includes himself. Now, it is the very nature of this jurisdictionality of compliance to make laws by including oneself in them (nomos tithestai). In this respect, the irruption of artificial intelligence in this jurisdictional treatment undoubtedly bears witness to the renewal of the language of Law.

____

 

📝read the general presentation of the book, 📕La juridictionnalisation de la compliance, in which this article is published.

 

June 21, 2022

Interviews

Référence complète : Frison-Roche, M.-A., L'efficacité de la compliance illustrée par l'affaire Youporn, entretien avec Olivia Dufour, 21 juin 2022.

____

 

💬 Lire l'entretien 

____

June 9, 2022

Conferences

► Référence générale : Frison-Roche, M.-A., Droit de la Compliance et Cloud souverain, in Souveraineté numérique : quelles solutions pour quels problèmes ?  Association Master 2 Droit du Commerce Électronique et de l’Économie Numérique (M2 DCEEN), Université Panthéon-Sorbonne (Paris I), 9 juin 2022, 18h-20h.

____

Voir le programme

____

Cette intervention s'insère dans un débat coordonné par la professeure Judith Rochfeld, auquel participent également Monsieur le Député Philippe Latombe et Céline Heller (société Google).

Pour ma part, interrogée en premier pendant un 1/4 d'heure, il s'agissait en premier lieu, avant de participer à la discussion générale, de répondre aux trois questions suivantes :

  •  Quelles définitions doivent être retenues pour la souveraineté numérique ?
  • Quel est le rapport entre souveraineté numérique et droit de la compliance ?
  • Plus largement, quelle place le Droit doit-il occuper dans la souveraineté numérique selon vous ?
  • En quoi la souveraineté numérique est-elle un but monumental ? 

____





 

March 31, 2022

Publications : Chronicles MAFR - Compliance Law

► Full Reference: Frison-Roche, M.-A., La responsabilité ex ante, pilier du droit de la compliance ("Ex-Ante Responsibility, Compliance Law Pillar"), D.2022, chronique MAFR - Droit de la Compliance, Recueil Dalloz, March 31, 2022.

____

► Article English Summary: The Law must help to face the future, which can be totally catastrophic in terms of climate and digital issues. Courts are s best placed for this, without “governing”, only relying on the commitments made by companies, governments, and legislators.  On the ordinary Tort Law, court decisions oblige these different entities to be consistent in the commitments they have made, obliging them to act in the future, formal “compliance” with the regulations cannot be sufficient. This ex-ante responsibility, founding the powers, thus constitutes a pillar of a substantial Compliance Law, showing the part that CSR and the companies with a raison d'être play in it.

____

 

📝 read the article. (written in French)

____

📚go to the presentation of the other articles published in this Chronique Droit de la Compliance made in the Recueil Dalloz

________

March 10, 2022

Conferences

► Référence complète : Frison-Roche, M.-A., "Secrets professionnels : spirale d'une importance accrue et d'un affaiblissement fulgurant", participation à la Table-Ronde sur le thème du secret professionnel, in Comité de Liaison des Institutions Ordinales (CLIO), Secret professionnel et indépendance : deux leviers, garants de l’efficacité et de la confiance envers les professions réglementées, 10 mars 2022.

Cette Table-Ronde est animé par Fabrice Lundy, journaliste à Radio-Classique ; y participent également Jean-Luc Sauron, Conseiller d'Etat et Jacques Lucas, Président de l'Agence du Numérique en Santé.

____

Lire la synthèse écrite du colloque 

____

 Revoir la vidéo de la table-ronde

____

► Résumé de l'intervention : Le thème du secret professionnel est appréhendé comme illustration du rôle essentiel joué par les Ordres professionnels dans le monde d'aujourd'hui (le colloque traitant dans un second temps de la question de l'Indépendance). 

Avant toute participation active au débat proprement dit, l'intervention a pour utilité de présenter le Secret professionnel en lui-même, puis en quoi le monde actuel apporte des éléments nouveaux au besoin impératifs de celui-ci, dans le même temps qu'il le met particulièrement en difficulté.

 

I. LA PERMANENCE DES SECRETS PROFESSIONNELS

Le Secret professionnel, comme tout secret, porte sur une information. C'est une information qu'une personne a sur elle-même ou sur une autre, et qui potentiellement peut mettre cette personne en danger, ou la fragilise, ou l'expose, la constituant en situation de faiblesse par rapport à autrui : l'information peut concernant son état de santé, sa filiation, un acte dont un autre pourrait se prévaloir pour la punir plus tard.

Cette information, que la personne garde pour elle ou qu'elle partage avec peu de personnes, elle va la confier à un "professionnel". Pas n'importe quel professionnel : un professionnel en qui elle a confiance, non seulement parce qu'elle croît qu'il est techniquement compétent (un avocat qui connait le Droit, un médecin qui connait la Médecine) mais parce qu'elle croit qu'il va lui aussi garder pour lui cette information sur la faiblesse de son client, malgré le profit qu'il pourrait tirer de la communiquer à d'autres (presse, juge, voisin de table dans un diner, etc.). C'est donc la confiance que la personne en situation de faiblesse a dans le titre même de la personne, parce qu'il est "avocat" ou "médecin" ou "infirmier", etc., qu'il donne cette information, car il sait que parce qu'il est médecin (et pas seulement parce qu'il connait la Médecine), qu'il garde ce secret. Ainsi ce n'est pas le diplôme comme signe de compétence mais le titre comme signe d'appartenance à une profession qui garde les secrets qui est considéré : c'est pourquoi la profession va pouvoir valoriser cette garde des secrets au-delà des frontières par des associations (American Bar Association, par exemple), si elle peut crédibiliser cela (Ordre et secret sont intimes).

Le rapport que le professionnel, nouveau titulaire de l'information, a avec celle-ci découle de cela. Le professionnel est le "gardien" de l'information. Il n'en dispose pas : la personne concernée lui a confié non pas tant l'information que "la garde de l'information". Il exerce donc sur ce secret, c'est-à-dire le fait de ne pas révéler à autrui l'information, un pouvoir📎!footnote-2494. C'est pourquoi par exemple tandis que la personne concernée peut donner l'information à autrui, la presse par exemple, le professionnel, auquel elle s'était confiée, ne le peut pas. Dans la perspective du secret professionnel, dans la notion de "pouvoir", c'est la notion de "charge" qu'il faut voir, une "charge au bénéfice d'autrui"📎!footnote-2494

Cette conception juridique est stable depuis que les professions, notamment les professions libérales, existent : ce n'est pas par les compétences techniques, ni même par le lien personnel, que le secret professionnel se noue : c'est par l'appartenance à une profession : c'est donc par l'organisation même de cette profession et la crédibilité de celle-ci, le contrôle à l'entrée de qui y entre et doit en sortir en cas de manquement, l'effectivité, l'efficacité et l'efficience de la discipline. 

Tout cela n'est pas remis en cause. Au contraire, plus l'Etat a des difficultés en raison de la disparition des frontières et plus cette structure devient en pratique pertinente.

____

 

Mais le choc vient d'ailleurs. Il faut du fait que précisément si les secrets que nous avons tous en nous et que nous voulons tous donner à garder n'ont pas changé, en revanche le monde dans lequel nous vivons a changé : ce monde est devenu numérique. 

 

II. LE CHOC DU NUMERIQUE SUR LES SECRETS PROFESSIONNELS ET L'URGENCE DE LES ACCROITRE

Or, par cette transformation totale du monde dans lequel nous vivons les secrets n'existent plus, les secrets professionnels pas moins mais pas plus que les autres.

Il faut mais il suffit qu'une "fuite" apparaisse dans l'espace digital et l'information est disponible à la fois partout et en un instant : la viralité est la loi naturelle de l'espace numérique qui recouvre le monde.

L'on peut s'en réjouir, parce que l'information est un bien commun, que nous sommes dans un marché de l'information, une économie de l'information, une société de l'information, une civilisation de l'information.

Si l'on est plus mesuré, l'on dira que certaines informations doivent être gardées par ceux qu'elles concernent et dans le cercle choisi des personnes qui ont leur confiance : c'est l'invention européenne des "données à caractère personnel", qui recoupent largement les secrets professionnels. 

Pour l'instant, le Droit tâtonne tant la situation est nouvelle ...

Tout d'abord, le Droit est dans une sorte d'adoration de l'information disponible sur tout, partout et pour tous... Il y développe des principes comme le "droit à l'information" (sans contrepartie financière), le "droit d'alerte" (vite confondu avec le droit de divulguer publiquement, qui n'existe pas ab initio n'apparaissant qu'en cas d'échec du mécanisme d'alerte, le "droit à la transparence" (qui méconnait l'idée même de droits de la défense) qui vont aller de plus en plus contre les secrets, même professionnels.  

Ensuite et surtout, la technologie numérique, qui a structuré l'espace numérique fait qu'une information à l'instant où elle est mise dans cet espace est diffusée immédiatement, partout et demeure disponible pour toujours. 

Dès lors, l'on peut toujours continuer à affirmer le principe des secrets professionnels, ceux-ci n'ont plus d'effectivité.

Or, et c'est lors le paradoxe, l'espace numérique non seulement n'a pas diminué la fragilité des personnes, fragilité compensée par la confiance dans la garde des secrets conservés par les professionnels ; au contraire le numérique a accru cette fragilité. 

Les revenge porn ou les meurtres en direct en sont un exemple : la personne est encore plus fragile dans l'espace numérique. Les "discours de haine" sont un enjeu majeur, non seulement pour la personne qui en est la victime mais pour le système lui-même puisque, comme le démontre Thimothy Snyder c'est aujourd'hui le système démocratique qui peut chuter. 

La "désinformation" peut partir d'une violation d'un secret professionnel, car il peut s'agir d'une information exacte exploitée à des fins nocives, constituant alors une infox, le conspirationnisme étant un phénomène lié au numérique.

Que peut faire le Droit ? 

Il peut aller dans deux directions :

Tout d'abord armer davantage les structures classiques : Ordres professionnels, police, Autorités de poursuites et Juridictions. 

Ensuite, internaliser dans les opérateurs numériques cruciaux, notamment les plateformes, le devoir de bloquer en Ex Ante la diffusion des informations qui doivent demeurer secrètes (données à caractère personnel, et secrets) : c'est le "Droit de la Compliance".

L'exercice de ce devoir par les entreprises numériques cruciales est lui-même supervisé par des autorités publiques : en France, la CNIL et l'Arcom. 

De nouveaux textes sont en cours d'adoption pour obliger les entreprises cruciaux de veiller à ce que les secrets ont préservés. C'est l'un des enjeux du Digital Services Act, Réglement de l'Union européenne en cours de discussion. 

L'avenir est certainement dans un rapprochement entre les structures classiques, notamment les ordres et ses Autorités publiques de supervision. 

Le Droit de la Compliance, nouvelle branche du Droit Ex Ante qui concrétise la garde des secrets peut être une solution dans cette situation à la fois très nouvelle et très préoccupante. 

____

► aller à la présentation d'une précédente participation au colloque annuel du CLIO : La déontologie professionnelle dans un monde ouvert et concurrentiel 

► voir la publication qui s'en suivit. 

___

► pour aller plus loin : 

👩‍🏫Frison-Roche, M.-A., 📝Les droits subjectifs, outils premiers et naturels du Droit de la Compliance, in Frison-Roche, M.-A., 📕Les outils de la Compliance, 2021

👩‍🏫Frison-Roche, M.-A.,💬 "Et si le secret de l'avocat était l'allié de la lutte contre le blanchiment ?", 2020

👩‍🏫Frison-Roche, M.-A., 📕Avocats et Ordres au 21ième siècle2017

👩‍🏫Frison-Roche, M.-A., 📕Secrets professionnels, 1999

👩‍🏫Frison-Roche, M.-A., 📝Déontologie et discipline des professions libérales1998

________

1

Frison-Roche, M.-A., Concevoir le pouvoir, 2022. 

2

Frison-Roche, M.-A., Concevoir le pouvoir, 2022. 

March 8, 2022

Public Auditions

Référence complète : M.-A. Frison-Roche, Audition par la Section du Rapport et des Etudes du Conseil d'Etat pour la préparation du Rapport annuel sur Les réseaux sociaux, Conseil d'Etat, 8 mars 2022.

____

Résumé de la présentation faite avant la discussion : Pour la partie reproductible de cette audition, consistant dans la présentation qui a pu être faite de la relation entre le Droit de la Compliance et le phénomène des réseaux sociaux, il a été repris l'idée générale d'un impératif de "réguler un espace sans ancrage" et l'apport que représente pour cela le Droit de la Compliance, dès l'instant qu'il n'est pas défini comme le fait de "se conformer" à l'ensemble de la réglementation applicable à l'agent mais comme la charge d'atteindre des "Buts Monumentaux", négatifs ou/et positifs, l'opérateurs ainsi chargé de cette obligation de moyens parce qu'il est en position de le faire, devant avoir la puissance pour y parvenir.

Se dégagent alors des notions nouvelles, comme la "Responsabilité Ex Ante" ou une notion de "Pouvoir" qui est commune aux opérateurs de droit privé et de droit public, leur nationalité venant également en second plan, le Droit de la Compliance étant naturellement a-territorial. 

Cette définition substantielle du Droit de la Compliance qui met en première ligne les opérateurs requiert que ceux-ci soient supervisé (dans un continuum entre Régulation, Supervision, Compliance,) le Droit de la Compliance opérant un continuum du Droit de la Régulation en n'étant plus lié avec l'impératif d'un secteur. Les opérateurs cruciaux numériques sont ainsi "responsabilisés", grâce à une "responsabilité Ex Ante", et s'ils sont supervisés par des Autorités de supervision (dont le modèle historique est le superviseur bancaire, ici l'Arcom), c'est le juge qui a fait naitre cette nouvelle notion de "responsabilité Ex Ante, pilier du Droit de la Compliance, aujourd'hui délivré du territoire dans une jurisprudence à propos du Climat qu'il convient de concevoir plus largement.

Ainsi délivré du secteur et du territoire, le Droit de la Compliance peut affronter le mal des réseaux sociaux que sont la désinformation et l'atteinte des enfants, maux systémiques où peut se perdre la Démocratie, perspective face à laquelle l'Ex Post est inapproprié. 

Le Droit de la Compliance est donc pleinement adéquat. 

Il convient que le Juge continue sa mue en concevant lui-même non pas seulement dans un Ex Post plus rapide, mais dans un office Ex Ante, contrôlant des entreprises qui, elles-mêmes doivent avoir des fonctions des offices de gardiens (ici gardiens des limites concernant les contenus). 

______

Voir ⤵️ la structure plus formelle de l'intervention, qui fut ensuite discutée

March 5, 2022

Compliance: at the moment

Oct. 5, 2021

Compliance: at the moment

Sept. 16, 2021

Thesaurus : Doctrine

 Full Reference: Maistre, R.-O.,  What monumental goals for the Regulator in a rapidly changing audiovisual and digital landscape?, ​in Frison-Roche, M.-A. (ed.),Compliance Monumental Goals, series "Compliance & Regulation", Journal of Regulation & Compliance (JoRC) and Bruylant, to be published.

___

 

► Article Summary (done by the JoRC editor):  In France, since the law of 1982 which put an end to the State monopoly on the audio-visual area, the landscape has profoundly evolved and diversified. In view of the multitude of players who are now established there, the Conseil supérieur de l'audiovisuel - CSA (French High Audiovisual Council) must ensure the economic balance of the sector and the respect for pluralism, in the interest of all audiences. The growing societal responsibilities of audiovisual media and new digital players have multiplied the "monumental goals" on which the CSA (soon to be Arcom) is watching.

Its competences have gradually been extended to the digital space and the successive laws concerning its missions aim at new objectives, in particular in terms of protection of minors, fight against online hate or against disinformation. The emergence of a new European model of Regulation makes it possible to give substance to these additional goals, the Regulator adopting a systemic perspective and calling on soft law tools to fulfill its new missions.

____ 

 

📝 see the general presentation of the book, Compliance Monumental Goals, in which this article is published

Sept. 8, 2021

Thesaurus : Doctrine

► Référence complète : Delpech, X. (dir.), L'émergence d'un droit des plateformes, coll. "Thèmes et Commentaires", Dalloz, 2021, 239 p.

____

 

► Présentation de l'ouvrage en 4ième de couverture : De Uber à Parcoursup en passant par Amazon, le phénomène des plateformes est au cœur de notre vie quotidienne. S’il reflète des réalités diverses, il semble néanmoins possible, d’une plateforme à l’autre, d’observer quelques constantes : toutes sont des dispositifs de mise en relation faisant appel aux nouvelles technologies (internet, un algorithme, etc.).

Les plateformes suscitent cependant de multiples interrogations – et même inquiétudes, compte tenu de la puissance de certaines d’entre elles – auxquels tentent de répondre économistes et bien entendu juristes. Elles constituent ainsi un champ de recherche qui reste encore largement à explorer. Il faudra en particulier s’interroger sur le point de savoir si notre arsenal juridique, y compris européen, est suffisamment armé pour les appréhender, voire même les domestiquer, ou s’il doit être réinventé. Plus profondément, il est légitime de se demander si les plateformes ne sont pas en train de faire émerger une nouvelle branche du droit.

C'est à ces questions que tente de répondre cet ouvrage issu des actes du colloque du 21 octobre 2020 organisé par l'équipe de recherche Louis Josserand de l'Université de Jean Moulin Lyon 3. 

 

____

 

► Lire la présentation des articles :

📝Roda, J.-Ch, Vers un droit de la concurrence des plateformes

📝Houtcieff, D., Les plateformes au défi des qualifications

📝Amrani-Mekki, S., Les plateformes de résolution en ligne des différents

📝Douville, Th., Quel droit pour les plateformes ? 

____

 

 

Aug. 31, 2021

Compliance: at the moment

Par un article publié le 13 juillet 2021, "Targeted ads isolate and divide us even when they’re not political – new research"  des chercheurs ayant mené une étude à propos d'intelligence artificielle et d'éthique , rendent compte des résultats obtenus. Il ressort de cette étude empirique montre que les technologies, mises au point à des fins politiques pour capter les votes afin de faire élire Trump ou pour obtenir un vote positif pour le Brexit, utilisées à des fins commerciales, auraient deux effets sur nous : en premier lieu elles nous isolent ; en second lieu elles nous opposent.

____


Le seul lien social qui a donc vocation à avoir serait donc l'agression.  


Certes l'usage ainsi fait de nos informations personnelles, auquel nous "consentons" tous, que cela soit pour obtenir notre adhésion à des discours ou à des produits, casse ce qu'Aristote appelait "l'amitiés" comme socle de la Cité Politique.
L'on mesure que la notion de "consentement", qui est une notion juridique, relativement périphérique dans le Droit des Obligations, que beaucoup voudraient mettre comme l'alpha et l'omega, ne nous protège en rien de cette destruction de nous-même et des autres, de cette perspective de la Cité.
Il est important de penser la régulation de la technologie, sur laquelle est construit l'espace digital sur une autre notion que le "consentement".
C'est pourquoi le Droit de la Compliance, qui n'est pas construit sur le "consentement", est la branche du Droit de l'avenir.
#droit #numérique #amitié #consentement #haine #politique

Aug. 30, 2021

Compliance: at the moment

An article from March 3, 2021, Smile for the camera: the dark side of China's emotion-recognition tech, then an article from June 16, 2021, "Every smile you fake" - an AI emotion - recognition system can assess how "happy" China's workers are in the office describes how a new technology of emotional recognition is able, through what will soon be out of fashion to call "facial recognition", to distinguish a smile that reflects a mind state of real satisfaction from a smile which does not correspond to it. This allows the employer to measure the suitability of the human being for his or her work. It is promised that it will be used in an ethical way, to improve well-being at work. But isn't it in itself that this technology is incompatible with any compensation through ethical support?

The technology developed by a Chinese technology company and acquired by other Chinese companies with many employees, allows to have information on the actual state of mind of the person through and beyond his or her facial expressions and bodily behavior.

Previously, the technology of emotional recognition had been developed to ensure security, by fighting against people with hostile plans, public authorities using it for example in the controls at airports to detect the criminal plans which some passengers could have.

It is now affirmed that it is not about fighting against some evil people ("dangerousness") to protect the group before the act is committed ("social defense”) but that it is about helping all workers.

Indeed, the use that will be made of it will be ethical, because first the people who work for these Chinese companies with global activity, like Huawaï, do it freely and have accepted the operation of these artificial intelligence tools (which is not the case with people who travel, control being then a kind of necessary evil that they do not have to accept, which is imposed on them for the protection of the group), but even and above all, the purpose is itself ethical: if it turns out that the person does not feel well at work, that they are not happy there, even before they are perhaps aware, the company can assist.

Let’s take this practical case from the perspective of Law and let’s imagine that it is contested before a judge applying the principles of Western Law.

Would this be acceptable?

No, and for three reasons.

1. An "ethical use" cannot justify an unethical process in itself

2. The first freedoms are negative

3. "Consent" should not be the only principle governing the technological and digital space

 

I. AN "ETHICAL USE" CAN NEVER LEGITIMATE AN UNETHICAL PROCESS IN ITSELF

These unethical processes in themselves cannot be made "acceptable" by an "ethical use" which will be made of them.

This principle was especially reminded by Sylviane Agacinski in bioethics: if one cannot dispose of another through a disposition of his or her body which makes his or her very person available (see not. Agacinski, S., ➡️📗Le tiers-corps. Réflexions sur le don d’organes, 2018).

Except to make the person reduced to the thing that his or her body is, which is not ethically admissible in itself, that is excluded, and Law is there in order to this is not possible.

This is even why the legal notion of "person", which is not a notion that goes without saying, which is a notion built by Western thought, acts as a bulwark so that human beings cannot be fully available to others, for example by placing their bodies on the market (see Frison-Roche, M.-A., ➡️📝To protect human beings, the ethical imperative of the legal notion of person, 2018). This is why, for example, as Sylviane Agacinski emphasizes, there is no ethical slavery (a slave who cannot be beaten, who must be well fed, etc.).

That the human being agrees ("and what about if it pleases me to be beaten?") does not change anything.

 

II. THE FIRST FREEDOM IS THE ONE TO SAY NO, FOR EXAMPLE BY REFUSING TO REVEAL YOUR EMOTIONS: FOR EXAMPLE HIDING IF YOU ARE HAPPY OR NOT TO WORK

The first freedom is not positive (being free to say Yes); it is negative (being free to say No). For example, the freedom of marriage is having the freedom not to marry before having the freedom to marry: if one does not have the freedom not to marry, then the freedom to marry loses any value. Likewise, the freedom to contract implies the freedom not to contract, etc.

Thus, freedom in the company can take the form of freedom of speech, which allows people, according to procedures established by Law, to express their emotions, for example their anger or their disapproval, through the strike.

But this freedom of speech, which is a positive freedom, has no value unless the worker has the fundamental freedom not to express his or her emotions. For example if he or she is not happy with his or her job, because he or she does not appreciate what he or she does, or he or she does not like the place where he or she works, or he or she does not like people with whom he or she works, his or her freedom of speech demands that he or she have the right not to express it.

If the employer has a tool that allows him or her to obtain information about what the worker likes and dislikes, then the employee loses this first freedom.

In the Western legal order, we must be able to consider that it is at the constitutional level that the infringement is carried out through Law of Persons (on the intimacy between the Law of Persons and the Constitutional Law, see Marais , A., ➡️📕Le Droit des personnes, 2021).

 

III. CONSENT SHOULD NOT BE THE ONLY PRINCIPLE GOVERNING THE TECHNOLOGICAL AND DIGITAL SPACE

 

We could consider that the case of the company is different from the case of the controls operated by the State for the monitoring of airports, because in the first case observed people are consenting.

"Consent" is today the central notion, often presented as the future of what everyone wants: the "regulation" of technology, especially when it takes the form of algorithms ("artificial intelligence"), especially in digital space.

"Consent" would allow "ethical use" and could establish the whole (on these issues, see Frison-Roche, M.-A., ➡️📝Having a good behavior in the digital space, 2019).

"Consent" is a notion from which Law is today moving away in Law of Persons, in particular as regards the "consent" given by adolescents on the availability of their body, but not yet on digital.

No doubt because in Contract Law, "consent" is almost synonymous with "free will", whereas they must be distinguished (see Frison-Roche, M.-A., ➡️📝Remarques sur la distinction entre la volonté et le consentement en Droit des contrats, 1995).

But we see through this case, which precisely takes place in China, that "consent" is in Law as elsewhere a sign of submission. It is only in a probative way that it can constitute proof of a free will; this proof must not turn into an irrebuttable presumption.

The Data Regulatory Authorities (for example in France the CNIL) seek to reconstitute this probative link between "consent" and "freedom to say No" so that technology does not allow by "mechanical consents", cut off from any connection with the principle of freedom which protects human beings, from dispossessing themselves (see Frison-Roche, M.-A., Yes to the principle of will, No to pure consents, 2018).

The more the notion of consent will be peripheral, the more human beings will be able to be active and protected.

________

June 23, 2021

Publications : Doctrine

 Référence complète : Douville, T., Quel droit pour les plateformes ?, in Delpech, X. (dir.), L'émergence d'un droit des plateformescoll. « Thèmes et commentaires », Dalloz, 2021, pp.217-239.

_____

 

► Lire la présentation générale de l'ouvrage dans lequel est publié cet article. 

June 18, 2021

Compliance: at the moment

 Law is slow, but firm. By its judgment of June 15, 2021, Facebook , the European Union Court of Justice widely interprets the powers of National Authorities, since they serve the people protection in the digital space (➡️📝(CJEU, June 15, 2021, Facebook)

 

Law is slow. The reproach is so often made. But the bottom line is that, in the noise of changing regulations, it establishes clear and firm principles, letting everyone know what to stand for. The more the world is changing, the more Law is required.

When Law degenerates into regulations, then it is up to the Judge to make Law. "Supreme Courts" appear, de jure as in the United States, de facto as in the European Union by the Court of Justice of the European Union which lays down the principles, before everyone else, as it did for the "right to be forgotten" in 2014 (➡️📝CJEU, Google Spain, May 13, 2014), and then with the impossibility of transferring data to third countries without the consent of the people concerned (➡️📝CJEU, Schrems, October 6, 2015).

Facebook litigation is kind of a novel. The company knows that it is above all to the Courts that it speaks. In Europe, it is doing it behind the walls of the Irish legal space, from which it would like to be able not to leave before better dominating the global digital space, while national regulatory authorities want to take it to protect citizens.

There is therefore a technical question of "jurisdictional competence". The texts have provided for this, but Law is clumsy because it was designed for a world still anchored in the ground: the GDPR of 2016 therefore organizes cooperation between national regulatory authorities through a "one-stop-shop", forcing the authorities to relinquish jurisdiction so that the case is only handled by the "lead" National Authority. This avoids splintering and contradiction. But before the adoption of the GDPR, the Belgian data protection regulator had opened a procedure against Facebook concerning cookies. The "one-stop-shop" mechanism, introduced in 2016, is therefore only mentioned before the Brussels Court of Appeal, which is asked to relinquish jurisdiction in favor of the Irish Regulatory Authority, since the company has in Europe its head office in this country. The Court of Appeal referred to the CJEU for a preliminary ruling.

By its judgment of June 15, 2021 (➡️📝CJUE, Facebook, June 15, 2021), it follows the conclusions of its Advocate General and maintains the jurisdiction of the Belgian National Regulator because, even after the GDPR, the case still undergoes national treatment. In this decision, the most important is its reasoning and the principle adopted. The Court notes that the "one-stop-shop" rule is not absolute and that the national regulatory authority has the power to maintain its jurisdiction, in particular if cooperation between national authorities is difficult.

Even more, will it not one day have to adjust Law more radically? We need to consider the fact that the digital space is not bound by borders and that the ambition of "cross-border cooperation" is ill-suited. It is of course on this observation of inefficiency, consubstantial with the digital space, that the European Public Prosecutor's Office (EPPO) was designed and set up, which is not a cooperation, nor a "one-stop shop", but a body of the Union, acting locally for the Union, directly linked to Compliance concerns (➡️📝Frison-Roche, M.-A. "The European Public Prosecutor's Office is a considerable contribution to Compliance Law", 2021 and ., European Public Prosecutor's Office comes on stage: the company having itself become a private prosecutor, are we going towards an alliance of all prosecutors ?, 2021).

So that's what we should be inspired by.

June 17, 2021

Compliance: at the moment

 Compliance Law and Competition: for building, is it necessary to legislate ? Example of quasi-public interest judicial agreement: the French Competition Authority's Statement of June 3, 2021 on Facebook

 

The French law so-called "Sapin 2" of 2016, organized the "convention judiciaire d’intérêt public - CJIP" (Public Interest Judicial Agreement) which allows the prosecutor to undertake not to prosecute a company in returns for this company's commitments for the future. Is this mechanism reserved for this law, which only concerns corruption and bribery? The answer is often positive.

Is it so obvious?

Since the entity having the power to prosecute therefore always has the power not to prosecute. As the company always has the freedom to make commitments for the future. And everything stops.

News in Competition Law illustrate this. On June 9, 2021, as part of a transaction, the Autorité de la concurrence (French Competition Authority) sanctions Google (➡️📝 Communiqué of the Autorité de la Concurrence , translated in English by the French Competition Authority) , which has not contested the facts, for abuse of dominant position for having privileged its services in the online advertising services. Similar facts were alleged against Facebook. But on June 3, 2021, the Autorité de la concurrence (French Competition Authority) published a "communiqué de presse" (➡️📝statement translated in English by the French Competition Authoritysaying that Facebook has, during the investigation, proposed commitments regarding its future behavior. It is remarkable that this statement on Facebook is published as an “acte de régulation” (regulatory act).

Yes, it is indeed an regulatory act about the future and structuring the online advertising area, internalized in this company which engages itself in its future behavior. With its statement, the Competition Authority invites the “acteurs du secteur” (actors of this sector) to make observations, for the development of what will be a sort of compliance program.

In these negotiations which are akin to a game table, where everyone calculates without knowing if they enter into a negotiation or a confrontation, the first game assuming that one shows more cards than in the second, it is indeed towards a kind of Public Interest Judicial Agreement that they are going with a Competition Authority which is both Judge and Prosecutor, concludes the agreement and, through a later decision, gives it force. Under the various legal qualifications, it is indeed the same general mechanism of Compliance Law, well beyond the specific French law known as Sapin 2.

Managed in this way, Compliance Law being an Ex Ante corpus, transforms the Competition Authority, an Ex Post Authority, into an Ex Ante Authority, openly taking "acte de régulation" (Regulatory Act), and allows it to rely on the power of companies, thus “committed”, to structure markets, which are however not regulated. Like advertising or retailing areas (➡️📝see Frison-Roche, M.-A., From Competition Law to Compliance Law: Example of French Competition Authority's decision on central purchasing body in mass distribution, 2020).

Thus Compliance Law has achieved the autonomy of Regulatory Law with regards to the notion, which nevertheless seemed intimate to it, of "sector".

 

► register to the French Newsletter MaFR ComplianceTech®

June 15, 2021

Thesaurus : 05. CJCE - CJUE

Full reference: CJEU, Grand chamber, Judgment Facebook Ireland e.a. v. Gegevensbeschermingsautoriteit, C-645-19, June 15, 2021

Read the judgment

Read the abstract of the judgment done by the Court

Read the press release

 

 

Jan. 11, 2021

Interviews

Full reference: Frison-Roche, M.-A., "Let's Use the Power of GAFAMs in the Service of General Interest!" ("Utilisons la puissance des GAFAMs au service de l'intérêt général!"), interview done by Olivia Dufour, Actu-juridiques Lextenso, 11st of January 2021

Read the interview (in French)

To read the article translated in English by us, read the working paper on which this interview is based

 

Summary of the interview by Olivia Dufour:

Marie-Anne Frison-Roche, Professor of Regulation and Compliance Law, reported to the government in 2019 about Internet governance. For this expert, giving a disciplinary power to GAFAMs is the only effective solution. And the suppression of Donald Trump's account is not likely to call this analysis into question.

 

The three questions (translated in English here by ourselves) asked by Olivia Dufour are: 

  • The deletion of Donald Trump's Twitter account arouses strong emotions on social networks, and not only among his supporters. What do you think about this ?
  • However, this incident does raise concern. Are we not giving too much power to these private companies? This raises the question in France of the relevance of the Avia system ...
  • Should we therefore resolve by default to give our freedoms to private and opaque mastodons?

 

Read the answers to these three questions (in French)

 

To go further, especially about the logics that guide the Avia system, see:

Dec. 31, 2020

Thesaurus : Doctrine

Full reference: Zittrain, J. L., "Gaining Power, Losing Control", Clare Hall Tanner Lecture 2020, 2020

See the intervention

Read the intervention's report

 

This intervention is divided in two parts: 

  • Between Abdication and Suffocation: Three Eras of Governing Digital Platforms 
  • With Great Power Comes Great Ignorance: What’s Wrong When Machine Learning Gets It Right 

Dec. 7, 2020

Thesaurus : Doctrine

Full reference: Vergnolle, S., L'effectivité de la protection des personnes par le droit des données à caractère personnel (The effectiveness of the protection of people by personal data Law (our translation)), Passa, J. (dir.), thesis, Law, Panthéon-Assas University (Paris II), 2020, 531 p.

 

Read the thesis (in French)

Read directly and only the table of contents (in French)

 

 

To go further about regulation of personal data, read: