Référence complète : Gibert, M., Faire la morale aux robots. Une introduction à l'éthique des algorithmes, Flammarion, 2021, 168 p.

Lire le commentaire de l'ouvrage sur le site NonFiction. 

► Référence complète : E. Netter, "Les technologies de conformité pour satisfaire les exigences du droit de la compliance. Exemple du numérique", in M.-A. Frison-Roche (dir.), L'obligation de Compliance, Journal of Regulation & Compliance (JoRC) et Dalloz, coll. "Régulations & Compliance", 2024, à paraître

____

📕lire une présentation générale de l'ouvrage, L'obligation de Compliance, dans lequel cet article est publié

____

► Résumé de cette contribution (fait par le Journal of Regulation & Compliance) : L’auteur distingue la Compliance qui renvoie aux buts monumentaux et la conformité, qui sont les moyens concrets que l’entreprise utilise pour tendre vers eux, par des procédés, des checks-liksts dans le suivi desquels l’opérateur rend des comptes (art. 5.2. RGPD). La technologie permet à l’opérateur de satisfaire à cette exigence, le caractère changeant des technologies s’ajustant bien au caractère très général des buts visés, qui laissent un large place aux entreprises et aux autorités publiques qui produisent du droit souple.

L’étude s’attache tout d’abord aux technologies existantes. A ce titre, le Droit peut par la Compliance interdire une technologie ou en restreindre l’usage, parce qu’elle contrarie les buts visés, par exemple la technologie de la décision entièrement automatisée produisant des effets juridiques sur des personnes. Parce que l’exercice est périlleux de dicter par la loi ce qui est bon et ce qui est mauvais en la matière, la méthode est plutôt celle de l’explicabilité, c’est-à-dire de la maîtrise par la connaissance par les autres.

Les Régulateurs développent pourtant de nombreuses exigences issues des Buts Monumentaux de la Compliance. Les opérateurs doivent mettre à jour leur technologie ou abandonnent la technologie obsolescente au regard des nouveaux risques ou pour permettre une concurrence effective ne n’enfermant pas les utilisateurs dans un système clos. Mais la puissance technologique ne doit pas se retourner et devienne trop intrusive, la vie privée et la liberté des personnes concernées devant être respectées, ce qui conduit aux principes de nécessité et de proportionnalité.

L’auteur souligne que les opérateurs doivent se conformer à la réglementation en recourant à certaines technologies, si elles sont disponibles, voire de contrecarrer celles-ci si elles sont contraires aux buts de la réglementation mais uniquement toujours si elles sont disponibles, la notion de « technologie disponible » devenant donc le critère de l’obligation ce qui en fait varier le contenu au fil des circonstances et du temps, notamment en matière de cybersécurité.

Dans une seconde partie, l’auteur examine les technologies qui ne sont que potentielles, celles que le Droit, notamment le Juge, pourrait requérir de l’entreprise qu’elle les invente pour remplir son obligation de compliance. Cela se comprend bien lorsqu’il s’agit de technologies en germe, dont la réalisation va se réaliser, par exemple en matière de transfert de données personnelles pour satisfaire le droit à la portabilité (RGPD) car il faut inciter les entreprises à développer des technologies qui leur sont d’un profit moins immédiate ou en matière de paiement sécurisé pour assurer une authentification forte (DSP 2).

Cela est plus difficile pour des technologies dont la faisabilité n’est pas même certaine, comme la vérification de l’âge en ligne ou l’interopérabilité des messageries sécurisés, deux exigences qui paraissent technologiquement contradictoires dans leurs termes , ce qui relève donc encore de la « technologie imaginaire ». Mais par la Compliance la pression exercée sur les entreprises, notamment les entreprises technologiques du numérique est telle que les investissements sont considérables pour y arriver.

L'auteur conclut que c'est pourtant l'ambition même de la Compliance et que l'avenir verra quel en sera le succès. 

____

🦉Cet article est accessible en texte intégrale pour les personnes inscrites aux enseignements de la professeur Marie-Anne Frison-Roche

________

► Référence complète : C. Leveneur, Les smart contracts. Étude de droit des contrats à l'aune de la blockchain, préf. C. Pérès, Dalloz, coll. "Nouvelle Bibliothèque de Thèses", vol. 236, 2024, 621 p.

____

📗lire la 4ième de couverture

____

📗lire le sommaire de l'ouvrage 

____

📗lire la table des matières de l'ouvrage

____

► Résumé de l'ouvrage (fait par l'éditeur) : "La recherche menée sur les smart contracts a pour objectif de comprendre et d'analyser une innovation technologique à la lumière du droit des contrats, afin de permettre l'utilisation de ces instruments au service de l'efficacité économique des contrats, grâce à des adaptations à la fois technologiques et juridiques.

Des programmes informatiques auto-exécutants, appelés «smart contracts », peuvent être déployés sur des blockchains afin d'exécuter automatiquement des actions prédéfinies, répondant à des conditions déterminées. Une fois enregistré sur une blockchain, le programme est à la fois vérifiable par tous et immuable, ce qui constitue une véritable garantie pour les parties qui l'utilisent. De plus, le smart contract bénéficie d'une autonomie dans l'exécution dès lors que les conditions prédéfinies sont indiquées comme remplies, chassant l'aléa ou l'erreur humaine.

Dans une blockchain, toutes les transactions sont en réalité opérées par des smart contracts. Le smart contract le plus simple envoie des fonds d'une adresse A vers une adresse B. Des smart contracts plus élaborés permettent de programmer des conditions, et par exemple de proposer des prêts à intérêts, de mettre en place des garanties, etc. C'est ce que l'on appelle la finance décentralisée (DeFi). Un smart contract peut également être programmé pour créer des crypto-actifs, par exemple des jetons numériques (tokens), les vendre, prévoir l'équivalent d'un droit de suite, etc. Les jetons non fongibles (NFT) fonctionnent ainsi grâce à des smart contracts.

Les smart contracts sont les rouages indispensables de cette grande « machine de confiance » qu'est la blockchain.

Parmi tous les smart contracts, une forme est apparue particulièrement intéressante pour une analyse juridique. lI s'agit du cas où le smart contract semble non seulement faire vivre une relation contractuelle, mais aussi matérialiser une offre et un mode d'acceptation. Ainsi, au-delà d'être de simples rouages techniques pour des cas d'usage de al blockchain, les smart contracts peuvent être utilisés au service de l'exécution de contrats déjà formés, voire être le support et l'expression de contrats à part entière. Tele est la thèse soutenue dans cette étude.".

________

► Référence complète : Commission de l'intelligence artificielle, présidée par Ph. Aghion et A. Bouverot, IA : notre ambition pour la France, Rapport remis au Premier ministre, mars 2024, 130 p.

____

📓lire le rapport

________

► Référence complète : P. Barban, "Le cadre européen relatif aux technologies de registre distribué et à la blockchain – Analyse critique des nouvelles techniques législatives en droit de l’Union", Revue des Affaires Européennes (R.A.E.), 2023/2, pp. 487-500

____

► Résumé de l'article (fait par l'auteur) : "The emergence and deployment of distributed ledger technology, including blockchain, has led to the emergence of tokens that are traded and speculated on. The European Union has decided to regulate these tokens. Faced with a protean object and a risk of destabilising the regulatory structure of financial law, it has used several new legislative techniques, namely experimentation and replication. The aim of this study is to analyse both the substance of these regulations and to take a critical look at these new methods, which are likely to be used again in the future."

(Free translation : "L'émergence et le déploiement de la technologie des registres distribués, dont la blockchain, a conduit à l'émergence de jetons qui font l'objet d'échanges et de spéculations. L'Union européenne a décidé de réglementer ces jetons. Face à un objet protéiforme et à un risque de déstabilisation de l'édifice réglementaire du droit financier, elle a eu recours à plusieurs nouvelles techniques législatives, à savoir l'expérimentation et la réplication. L'objectif de cette étude est d'analyser à la fois le contenu de cette réglementation et de porter un regard critique sur ces nouvelles méthodes, susceptibles d'être réutilisées à l'avenir.")

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

► Référence complète : J. Groffe-Charrier, "Contrôle de l’âge du public de contenus pornographiques : l’ouverture de la boîte de Pandore ?", Communication-Commerce électronique, n° 9, septembre 2023, pp. 1-4

____

► Résumé de l'article (fait par l'auteure) : "La protection des mineurs en ligne se traduit notamment, pour le Gouvernement, par la nécessité de contrôler l’âge des utilisateurs de sites proposant des contenus pornographiques, afin d’épargner les plus jeunes. Toutefois, si l’objectif est louable, les solutions envisagées ne sont pas sans risque et mettent en lumière les limites de la règle légale.".

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

► Référence complète : B. Lehaire, L'innovation hors-la-loi. Les origines de la techno-normativité, Bruylant, coll. "Penser le droit", 2022, 275 p.

____

📗lire la 4ième de couverture

____

📗lire le sommaire de l'ouvrage

____

📗lire la table des matières de l'ouvrage

____

► Résumé de l'ouvrage (fait par l'éditeur) : "Le droit est-il incapable d’encadrer l’innovation technologique ? L’idée est véhiculée ici et là comme un constat désarmant toute tentative de légiférer sur le "nouveau", en raison principalement du rythme incessant de l’innovation.

L’innovation est devenue un phénomène total entrainant des conséquences sociales réelles.
La principale est sans doute l’injonction faite à tous de l’accueillir, quand il ne s’agit pas de l’encourager. Tous les champs de la société sont concernés, y compris le champ juridique.

En droit, l’injonction normative tend à faire émerger ce qu’il convient désormais d’appeler une techno-normativité, entendue comme la potentielle normativité juridique de la technique.

Ce livre, unique sur le marché, propose une réflexion sur le rôle du droit dans notre société, à la fois comme vecteur de techno-normativité mais aussi comme solution ou limitation des effets négatifs de la technologie sur la société.

En partant des écrits les plus récents sur la philosophie, la sociologie et le monde numérique, l’ouvrage propose une lecture critique du rapport entre droit et innovation qui intéressera tant un public universitaire qu’un public de professionnels du numérique.".

________

► Référence complète : Labbée, Th, N., Le droit face aux technologies disruptives : : le cas de la blockchain, Thèse Strasbourg, 2021.

____

►  lire la thèse.

_________

►  Un article publié le 14 juillet 2021 par The Wall Street Journal, "Brain Implant Lets Man ‘Speak’ After Being Silent for More Than a Decade",  relaye l'information comme quoi il est désormais possible, à titre expérimental, d'implanter dans le cerveau un dispositif permettant à une personne privée par un accident neurologique de la parole de pouvoir s'exprimer de nouveau en inscrivant ses pensées directement sur un écran d'ordinateur, les mots pensés s'affichant en phrases sur celui-ci.

____

Voilà plusieurs années de recherches dites "fondamentales", notamment de la part de Facebook, qui, notamment en subventionnant le professeur de neurosciences Stanislas Dehaene, dans une comparaison entre le développement d'apprentissage du cerveau et le développement du "deep learning", aboutissent à permettre à des personnes qui ont perdu l'usage de la voix à écrire directement sur les écrans sans ce medium vocal en allant directement de la pensée à l'écriture.

Cela conduit à trois réflexions, qui mettent le rapport entre le Droit et la Technologie au centre :

1. A première vue, la parole n'étant  qu'un media entre la pensée et l'expression, il serait concevable d'en faire l'économie ;

2. L'on peut cependant faire le parallèle avec la technologie nouvelle de la "reconnaissance émotionnelle" par laquelle les pensées sont accessibles aux tiers, ce qui contrarie le droit fondamental de rendre ses pensées inaccessibles à autrui ; 

Mais l'actualité a précisément montré que cette technologie qui permet de saisir les pensées véritables d'autrui malgré des expressions faciales feintes pose problème au regard du droit fondamental de mentir ou de se taire (v. à ce propos 📧 MaFR, "Compliance et Ethique. Des technologies peuvent être inadmissibles "en soi" et concevoir leur "usage éthique" n'est donc pas admissibles : cas pratique sur le contrôle des émotions des travailleurs").

3. En anticipant l'usage possible de cette nouvelle technologie et la réaction juridique face à cette potentialité, l'on peut pareillement se demander si en soi une telle implantation d'un outil de "captation des pensées directement dans le cerveau" pour obtenir leur "translation directe sur un écran" ne devrait pas être considéré comme l'équivalent d'une captation des pensées, tout aussi attentatoire au droit fondamental de chacun de garder ses pensées inaccessibles.

Là encore, le fait que dans un ou deux cas, cela ait permis de guérir une personne ne légitime pas la technologie en soi (v. sur les règles bioéthiques, telles que le Droit français les a transcrites dans l'article 16 du Code civil par la loi de 1994, Marais, A., Droit des personnes, 2021).

De la même façon, le fait que la personne concernée "consente" ne suffit pas à légitime ce qui peut être une atteinte per se à la dignité de la personne humaine si la technologie a pour effet de capter les pensées avec une perte de contrôle de la personne concernée. Pour l'instant, dans la description qu'en donnent les chercheurs selon l'article qui relate l'innovation, c'est l'émetteur qui contrôle la technologie mais l'élimination du média qu'est la parole ou l'écrit mérite d'être pensée dans la perte d'isolement de l'individu, isolement auquel la tradition occidentale a souvent associé la liberté. 

_____

► s'inscrire à la Newsletter MaFR ComplianceTech®

►   Un article du 3 mars 2021, Smile for the camera: the dark side of China's emotion-recognition tech, puis un article du 16 juin 2021, "Every smile you fake" - an AI emotion - recognition system can assess how "happy" China's workers are in the office décrit la façon dont une nouvelle technologie de reconnaissance émotionnelle est apte, à travers ce qui sera bientôt démodé d'appeler la "reconnaissance faciale", de distinguer un sourire qui traduit un état de satisfaction effective d'un sourire qui n'y correspond pas. Cela permet à l'employeur de mesurer l'adéquation de l'être humain à son travail.  Il est promis qu'il en sera fait usage d'une façon éthique, pour améliorer le bien-être au travail. Mais n'est-ce pas en soi que cette technologie est incompatible avec toute compensation par un accompagnement éthique ? 

____

La technologie élaborée par une entreprise technologique chinoise et acquise par d'autres entreprises chinoises ayant beaucoup d'employés, permet d'avoir de l'information sur l'état d'esprit effectif de la personne à travers et au-delà de ses mimiques faciales et de son comportement corporel.

La technologie de reconnaissance émotionnelle avait été mise au point pour assurer la sécurité, en luttant contre des personnes au projet hostile, les Autorités publiques l'utilisant par exemple dans les contrôles dans les aéroports pour détecter les desseins criminels que pourraient avoir certains passagers.

Il est affirmé ainsi que non pas qu'il s'agit de lutter contre quelques personnes malfaisantes ("dangerosité") pour protéger le groupe avant que l'acte ne soit commis ("défense sociale) mais qu'il s'agit d'aider l'ensemble des travailleurs. 

En effet non seulement l'usage qui en sera fait sera éthique, car en premier lieu les personnes qui travaillent pour ces entreprises chinoises à l'activité mondiale, comme Huawaï, le font librement et ont accepté le fonctionnement de ces outils d'intelligence artificielle (ce qui n'est pas le cas des personnes qui voyagent (le contrôle étant alors un sorte de mal nécessaire qu'ils n'ont pas à accepter, qui leur est imposé pour la sauvegarde du groupe), mais encore et surtout que la finalité est elle-même éthique : s'il s'avère que la personne ne se sent pas bien au travail, qu'elle n'y est pas heureuse, avant même qu'elle ait peut-être conscience, l'entreprise pourra lui venir en aide.

____

Prenons ce cas pratique du côté du Droit et imaginons que cela soit contesté devant un juge appliquant les principes du Droit occidental.

Est-ce que cela serait admissible ?

Non, et pour trois raisons.

1. Un "usage éthique" ne peut pas justifier un procédé en soi non-éthique

2. Les premières libertés sont négatives

3. Le "consentement" ne doit pas le seul principe régissant l'espace technologique et numérique

____

I. UN "USAGE ETHIQUE" NE PEUT JAMAIS LEGITIMER UN PROCEDE EN SOI NON-ETHIQUE

es procédés en eux-mêmes non-éthiques ne peuvent pas être rendus "admissibles" par un "usage éthique" qui en sera fait.

Ce principe a été rappelé notamment par Sylviane Agacinski en matière bioéthique : si l'on ne peut pas disposer de la personne d'autrui à travers une disposition de son corps qui rend sa personne même disponible (v. not. Agacinski, S., ➡️📗 Le tiers-corps. Réflexions sur le don d'organes, 2018). 

Sauf à rendre la personne réduite à la chose qu'est son corps, ce qui n'est pas éthiquement admissible en soi, cela est exclu, et le Droit est là pour que cela ne soit pas possible. 

C'est même pour cela que la notion juridique de "personne", qui n'est pas une notion qui va de soi, qui est une notion construite par la pensée occidentale, fait rempart pour que les êtres humains ne puissent pas être entièrement disponibles aux autres, par exemple par la mise sur le marché de leur corps (v. Frison-Roche, M.-A., ➡️📝Pour protéger les êtres humains, l'impératif éthique de la notion juridique de personne, 2018). C'est pourquoi par exemple, comme le souligne Sylviane Agacinski il n'y a pas d'esclavage éthique (un esclave qu'on ne peut pas battre, qu'il faut bien nourrir, etc.).

Que l'être humain y consente ("et s'il me plait à moi d'être battue ?") n'y change rien.

II. LA PREMIERE LIBERTE EST CELLE DE DIRE NON, PAR EXEMPLE EN REFUSANT DE REVELER SES EMOTIONS : PAR EXEMPLE CACHER SI L'ON EST HEUREUX OU PAS DE TRAVAILLER

La première liberté n'est pas positive (être libre de dire Oui) ; elle est négative (être libre de dire Non). Par exemple la liberté du mariage, c'est avant d'avoir la liberté de se marier, avoir la liberté de ne se marier : si l'on ne dispose pas de la liberté de ne pas se marier, alors la liberté de se marier pert toute valeur. De la même façon, la liberté de contracter suppose la liberté de ne pas contracter, etc.

Ainsi la liberté dans l'entreprise peut prendre la forme de la liberté d'expression, qui permet aux personnes, selon des procédures fixées par le Droit, d'exprimer leur émotions, par exemple leur colère ou leur désapprobation, à travers la grève.

Mais cette liberté d'expression, qui est une liberté positive, n'a de valeur qu'à condition que le travailleur est la liberté fondamentale de ne pas exprimer ses émotions. Par exemple s'il n'est pas heureux de son travail, car il n'apprécie pas ce qu'il fait, ou qu'il n'aime pas l'endroit où il ne fait, ou il n'aime pas les personnes avec lesquels il travaille, son liberté d'expression exige qu'il ait le droit de ne pas l'exprimer. 

Si l'employeur dispose d'un outil qui lui permet d'obtenir l'information quant à ce que le travailleur aime ou n'aime pas, alors celui-ci perd cette liberté première.

Dans l'ordre juridique occidental, l'on doit pouvoir considérer que c'est au niveau constitutionnel que l'atteinte est réalisée à travers le Droit des personnes (sur l'intimité entre le Droit des personnes et le Droit constitutionnel, v. Marais, A.,➡️📕  Le Droit des personnes, 2021).  

III. LE CONSENTEMENT NE DOIT PAS ETRE LE SEUL PRINCIPE REGISSANT L'ESPACE TECHNOLOGIQUE ET NUMERIQUE 

L'on pourrait considérer que le cas de l'entreprise est différent du cas des contrôles opérés par l'Etat pour la surveillance des aéroports, car dans le premier cas les personnes observées ont consenti.

Le "consentement" est aujourd'hui la notion centrale, souvent présentée comme  l'avenir de ce que chacun souhaite : la "régulation" de la technologie, notamment lorsqu'elle prend la forme des algorithmes ("intelligence artificielle"), notamment dans l'espace numérique. 

Le "consentement" permettrait un "usage éthique" et pourrait mettre fonder l'ensemble (sur ces problématiques, v. Frison-Roche, M.-A., ➡️📝Se tenir bien dans l'espace numérique, 2019).

Le "consentement" est une notion sur laquelle le Droit prend aujourd'hui des distances en Droit des personnes, notamment quant au "consentement" donné par les adolescents sur la disponibilité de leur corps, mais pas encore sur le numérique. 

Sans doute parce qu'en Droit des obligations, le "consentement" est quasiment synonyme de "libre volonté", alors qu'il faut les distinguer (v. Frison-Roche, M.-A., ➡️📝La distinction entre la volonté et le consentement, 1995). 

Mais l'on voit à travers ce cas, qui précisément déroule en Chine, le "consentement" est en Droit comme ailleurs un signe de soumission. Ce n'est que d'une façon probatoire qu'il peut constituer une preuve d'une libre volonté ; cette preuve ne doit se transformer en présomption irréfragable.

Les Autorités de Régulation des données (par exemple en France la CNIL) cherchent à reconstituer ce lien probatoire entre "consentement" et "liberté de dire Non" pour que la technologie ne permette pas par des "consentements mécaniques", coupés de tout rapport avec le principe de liberté qui protège les êtres humains, de déposséder ceux-ci (v. Frison-Roche, M.-A., Oui au principe de la volonté, manifestation de la liberté, Non aux consentements mécaniques , 2018). 

Plus la notion de consentement ne sera plus que périphérique et plus les êtres humains pourront être actifs et protégés.

________

► s'inscrire à la Newsletter MaFR ComplianceTech®

► Référence complète : S. Merabet, "La morale by design", in M.-A. Frison-Roche (dir.), Les outils de la Compliance, coll. "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) et Dalloz, 2021, p. 287-298.

____

📕consulter une présentation générale de l'ouvrage, Les outils de la Compliance, dans lequel cet article est publié

____

► Résumé de l'article (fait par le Journal of Regulation & Compliance) : Après s'être interrogé sur les rapports entre le Droit et la Morale, dont on a du mal à trouver des points de contact, l'auteur avance l'hypothèse que celle-ci pourrait trouver un espace de concrétisation dans la technologie de l'intelligence artificielle, alors même que beaucoup s'inquiètent des effets délétères de celle-ci. L'auteur considérant que la Compliance n'est qu'une méthode tandis que l'éthique serait la façon dont la morale est incorporée d'une façon assouplie dans le Droit, la technologie dite de l'Intelligence Artificielle pourrait donc exprimer la règle morale ("la compliance by design pourrait être l’outil adéquat pour permettre d’assurer l’effectivité des règles morales sans tomber dans les excès envisagés"). 

L'auteur prend appui sur des exemples pour estimer qu'ainsi la technologie pour d'une part exprimer la règle morale et d'autre part rendre celle-ci effective. La règle morale peut ainsi élaborée d'une façon équilibrée puisqu'elle l'est conjointement entre l'État et les opérateurs économiques, cette collaboration prenant la forme de principes généraux arrêtés par l'État des moyens choisis par l'entreprise. Son contenu serait également caractérisé par la recherche d'un "juste milieu", qui serait trouvé par cette répartition entre les principes moraux primaires dont l'expression serait le fait de l'État et les principes moraux secondaires dont l'expression serait déléguée aux entreprises.

Prenant donc ce qui seraient les principes de la Compliance, l'auteur les applique à l'Intelligence Artificielle, en montrant qu'on insère dans ces technologies non seulement le principe de neutralité mais encore les principes éthiques de non-malveillance, voire de bienveillance (principes premiers) que les entreprises déclinent ensuite en principes secondaires. Dès lors, "la compliance peut utilement être mise à profit pour convertir ces principes moraux fondamentaux en règles morales dérivées, source d’une plus grande effectivité.".

Aboutissant ainsi à une "morale by design", le système global dispose d'un outil d'effectivité supplémentaire. Cela suppose que les règles fondamentales et dérivées soient d'une qualité morale acquise car pour l'instant l'outil technologique ne peut assurer que leur effectivité et non pas la qualité morale des règles implémentées.  Dans la détermination des "règles morales d'application", l'entreprise dispose de marges de liberté, utilisées via les outils technologiques. 

________

► Référence complète : A. Trescases, "Le risque", in J.-B. Racine (dir.), Le droit économique au XXIe siècle. Notions et enjeux, LGDJ, coll. "Droit & Économie", 2020, pp. 655-670

____

📕consulter une présentation générale de l'ouvrage, Le droit économique au XXIe siècle. Notions et enjeux, dans lequel cet article est publié 

____

► Résumé de l'article : 

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

Référence complète: Financial Stability Board, The Use of Supervisory and Regulatory Technology by Authorities and Regulated Institutions. Market Developments and Stability Implications, Rapport du 9 octobre 2020, 36 p. 

Lire le rapport (en anglais)

Lire la présentation que fait le Financial Stability Board de ce rapport (en anglais)

Pour aller plus loin sur la question de l'usage des nouvelles technologies dans les processus de régulation, lire le document de travail de Marie-Anne Frison-Roche: Analyse des blockchains au regard des usages qu'elles peuvent remplir et des fonctions que les officiers ministériels doivent assurer

Référence complète: Frison-Roche, M.-A., Compliance by design, une arme nouvelle? L'opinion de Facebook à propos des nouvelles dispositions techniques d'Apple pour protéger les données personnelles (Compliance by Design, a new weapon? Opinion of Facebook about Apple new technical dispositions on Personal Data protection), Newsletter MAFR - Law, Compliance, Regulation, 31 août 2020

Lire par abonnement gratuit les autres news de la Newsletter MAFR - Law, Compliance, Regulation

Résumé de la news:

Les données personnelles, en tant qu'elles sont des informations, sont un outil de Compliance. Elle représentent une ressource précieuse pour les entreprises qui doivent mettre en oeuvre un plan de vigilance afin de prévenir la corruption, le blanchiment d'argent ou le financement du terrorisme, par exemples. C'est la raison pour laquelle, les données personnelles sont la pierre angulaire des dispositifs de "Compliance by design". Cependant, l'utilisation de ces données ne peut pas dédouaner l'entreprise de son obligation simultanée de protéger ces mêmes données personnelles, ce qui est également un "but monumental" majeur du Droit de la Compliance. 

Afin de pouvoir exploiter ses données dans un objectif de Compliance tout en les protégeant, l'entreprise numérique Apple a par exemple adopté de nouvelles dispositions telles que l'exploitation de l'IDentifier For Advisers (IDFA) intégré à l'iPad ou à l'iPhone et largement utilisé par les entreprises de publicité ciblée soit conditionnée au consentement du consommateur.  

Facebook a vivement réagi à cette nouvelle disposition d'Apple en expliquant que de telles mesures allaient profondément restreindre l'accès des données aux démarcheurs publicitaires qui verraient ainsi leurs activités limitées. Facebook soupçonne Apple de vouloir bloquer l'accès aux autres entreprises publicitaires dans le but de développer son propre outil publicitaire. Facebook a assuré aux démarcheurs qui travaillaient avec lui qu'ils ne prendraient pas, pour sa part, de telles mesures et qu'il privilégiait toujours la consultation du secteur publicitaire avant ses prises de décisions afin de concilier au mieux les intérêts parfois divergents en présence. 

On peut dors-et-déjà formuler quelques remarques:

• Le RGPD imposant aux entreprises numériques qu'elles garantissent un niveau de protection minimum des données personnelles ne s'applique pas aux Etats-Unis. Il est donc plus plausible qu'Apple ait agit par Responsabilité Sociale des Entreprises (RSE), plus que par obligation légale.
• Le mode de régulation utilisé ici est la "régulation conversationnelle" théorisée par Julia Black. Effectivement, les régulateurs laissent les forces en présence "converser".
• Cette "régulation conversationnelle" ne semble pas très efficace ici et une intervention des autorités administratives ou des juges pourrait se justifier par le biais du Droit de la Concurrence, de la Régulation ou de la Compliance, sachant que le Droit de la Concurrence privilégiera le droit d'accès à l'information et le Droit de la Régulation ou de la Compliance davantage le droit à la vie privée.

Tout le paradoxe du Droit de la Compliance réside donc dans l'équilibre entre circulation de l'information et secret.

Référence complète : Mounoussamy, L., Le smart contract, acte ou hack juridique ?, in Petites Affiches, n°37, 20 février 2020, pp. 12-19.

Résumé par les Petites Affiches : Dans cet article, l'auteur analyse l'arrivée du smart contract, système innovant né du développement des nouvelles technologies, dans un environnement juridique déjà structuré. Il commence par définir la nature du smart contract, et le positionne dans cet ensemble juridique mondialisé. Il en présente les impacts et les perspectives de développement, les forces et les faiblesses ainsi que l'intime relation que noues les technologies informatiques et le droit. Le smart contract est un outil dont l'utilisateur définira s'il viendra disrupter le contrat ou le parfaire.

Référence complète : Frison-Roche, M.-A., Analyse des blockchains au regard des usages qu'elles peuvent remplir et des fonctions que les officiers ministériels doivent assurer, in Revue Défrenois, Lextenso, n°25, 20 juin 2019, pp. 23-29.

Résumé : La blockchain est une technologie qui n'est pas, en soir, bonne ou mauvaise. Elle est plus ou moins adaptée aux fonctions qu'elle est apte à remplir. Ce qu'il faut ensuite confronter aux fonctions que l'État a dévolues aux officiers ministériels. Or, autant les fonctions de conservation et de duplication des actes gagnent à être transférées et développées dans cette technologie, autant la fonction d'élaboration des instrumentums ne peut être assumée que par des officiers ministériels auxquels l'État demande de vérifier la correspondance entre les mentions des instrumentums et la réalité des négotiums, ce que seuls des êtres humains peuvent mener et ce qu'aucune machine ne peut faire.

Lire l'article.

Lire le document de travail ayant servi de base à l'article publié, document de travail bilingue comprenant des notes de bas de page, des références techniques et de liens hypertextes.

Ce document de travail a été fait en premier lieu pour servir de support à la participation à la conférence  L'officier ministériel est-il soluble dans la blockchain ? , qui s'est tenu au "Club du Droit" , au Conseil supérieur du Notariat le 14 mai 2019.

Consulter la présentation générale de la conférence.

Puis sous une forme approfondie, il sert de base à l'article publié dans la Revue Defrénois.

______

Introduction et résumé.

L'analyse technique de la confrontation entre l'outil que constitue la blockchain!footnote-1594 et les fonctions que doivent assurer les "officiers ministériels"!footnote-1542, doit permettre de déduire l'usage que les officiers ministériels ont vocation à faire des blockchains.

Pour cela, il est nécessaire de garder à l'esprit cette distinction si simple : la blockchain est un outil, une chose, un dispositif mécanique, un ensemble d'algorithmes, une mécanique renvoyant à des capacités mathématiques basées sur la maîtrise et le maniement des chiffres et des cryptages, tandis que l'officier ministériel est un être humain.

Cela renvoie à la distinction que le système juridique occidental, qu'il soit de Civil Law ou de Common Law, pose comme summa divisio : la distinction entre les êtres humains et les choses. Cette distinction première est formulée pour que l'on ne traite pas les êtres humains comme des choses, impossibilité produite puisqu'ils sont qualifiés de "personnes"!footnote-1584. Il ne s'agit pas d'une idée naturelle, car si l'occasion se présente nous serions bien enclins à traiter l'autre être humain comme une chose.  Cela serait à la fois si agréable et si efficace : la tendance en est naturelle à la fois à titre individuel (agrément) et pour le système (efficacité).

Mais le Droit, dans son premier principe qui oppose la "personne" et les "choses", rendant les choses disponibles à la personne et la personne indisponible, s'y oppose, afin d'empecher celui qui n'aurait les moyens d'être un loup pour l'autre. Locke a soutenu que c'est la ratio legis de la société. Cette raison de nature politique implique que cette distinction entre la personne et les choses demeure très claire. Aujourd'hui, l'on tente à tout instant de nous la faire oublier. 

Pour que cette distinction essentielle demeure effective, non seulement il ne faut pas que l'on imagine des êtres humains comme des choses (réduites à leur corps, par exemple, ou réduites à des actes mécaniques de consommation!footnote-1543), ainsi qu'est  notamment décrit et dénoncé par Alain Supiot dans ses ouvrages successifs!footnote-1582, mais il ne faut pas non plus que,  notamment par un vocabulaire imaginé, l'on représente des choses comme agissant comme des personnes, alors qu'il ne s'agit que d'outils.

Or la technologie nous représente de plus en plus des choses à formes et à réactions anthromophormiques, à travers des robots qui nous "parlent", des machines "intelligentes", des algorithmes qui "apprennent", etc. Le succès économique des promoteurs de machines, et autres robots à forme humaine, des solutions mécaniques présentées comme "intelligentes" repose sur l'oubli de la distinction de la personne et des choses. Nous pourrions alors acheter des machines qui nous aiment, qui nous apprennent, qui nous éduquent, qui soient nos maîtres. Ainsi l'aphorisme des promoteurs de ce que l'on appelle d'une façon imagée "l'intelligence artificielle", "The code is Law" (le code binaire de la formule mathétique est la loi, tout doit être automatique, la réglementation devant suivre sans troubler cette automaticité) aura balayé le précepte de Portalis : "Les lois sont faites pour les hommes et non les hommes pour les lois". 

Il est certes possible d'effacer cettte distinction entre la personne et les choses de notre système de pensée, puisqu'il ne s'agit ni d'une distinction naturelle ni d'une distinction évidente. La difficulté est qu'elle est la base du Droit occidental!footnote-1583 et qu'il y a de fortes raisons de la conserver car c'est ce qui protége l'être humain faible contre l'injustice, ce qui lui permet de participer à l'ordre général et à l'organisation de la société, d'éviter un ordre construit sur un pur rapport de force, lequel ne peut que conduire à de la violence.

C'est cet arrière-plan là qui se joue dans l'insertion des blockchains et autres technologies, en ce qu'elles impliquent de concevoir d'une autre manière la façon dont les différentes professions doivent exercer aujourd'hui leurs fonctions. Si ces outils sont conformes à ces fonctions, voire les améliorent, les professionnels doivent les accueillir sans réserve, voire participer directement à leur développement. Si ces outils ne sont pas aptes à remplir certaines fonctions confiées à ces professionnels, et qu'il s'avère que ces fonctions sont nécessaires, voire essentiels, alors il faut a fortiori veiller à ce que, par inadvertance ou malignité, ces fonctions-là ne sont insérés dans une blockchain, dont la capacité de conservation et de fiabilité n'équivaut en rien à une capacité de penser. Une machine ne pense pas.

C'est pourquoi il faut partir des fonctions, en distinguer la fonction technique de conservation des actes,  la fonction technique de duplication des actes et la fonction d'élaboration des actes qui ne peut se réduire à cela (I).

Il apparaît qu'à supposer la fiabilité de conservation et duplication acquise, dès l'instant qu'il y a une part d'élaboration dans l'acte, une intervention humaine doit avoir lieu car une machine est inapte à effectuer les vérifications nécéssaire. L'on retrouve ici la distinction entre le negotium retranscrit, cette retranscription n'étant jamais mécanique, et l'instrumentum lui-même qui, scindé de ce qui l'a fait naître peut être soumis à des technologies duplicatives et de conservation à ce point efficaces que les notions d'original et de copie pourraient être remises en question en raison de la fiabilité de la blockchain (II).

Ainsi la blockchain est une technologie efficace sur les instrumentums comme actes scindés des negotiums , ce qui est une révolution profonde. Mais cette technologie ne peut en rien  garantir la correspondance entre le negotium et l'instrumental. La fiabilité ainsi apportée dans la conservation, la disponibilité et la duplication à l'infini des instrumentums, est non seulement extrêmement utile mais ne contredit en rien l'office des officiers ministériels. Cette fiabilité technologique justifie que les officiers ministériels l'intègrent et la favorisent. Mais la fonction de ceux-ci ne se limite pas à être des conservateurs et des duplicateurs. Nous ne passons pas du moine copiste à la blockchain. Leur principal office est de vérifier l'exactitude des mentions de l'instrumentum par rapport à la réalité du negotium.Cette assurance d'exactitude par rapport à la réalité est si précieuse dans une économie de marché !footnote-1585. L'officier ministériel le fait en tant qu'être humain, tandis qu'une machine ne peut ni vérifier cette correspondance, ni conseiller les parties - notamment pas la partie faible dans le negotium.  Or, le Droit a pour fonction de protéger les personnes. C'est une des raisons fondamentales pour laquelle il a opposé la "personne", toujours considérée dans sa singularité, et les choses, catégorie dont les machines doivent continuer de relever. C'est pourquoi l’État - qui n'a jamais ignoré l'efficacité des techniques de "décentralisation" - s'est décentralisé dans son office et son pouvoir via dans des officiers ministériels, afin qu'ils dressent d'une façon autonome des actes qui racontent ce qui s'est passé (instrumentum), l'acte correspondant à la réalité objective des transactions (leur objet) aussi bien qu'à leur réalité subjective (consentement). Si l'on choisit de ne plus confier cela à des êtres humains porteurs de cette fonction-là, pour laquelle une machine est inapte, cela serait un choix politique (III).

Cela serait le choix d'un marché très liquide et sans sécurité :sans intermédiaire, sans coût en ex ante, sans garantie, sans considération du long terme. Pourquoi pas. Cela produit des économies immédiates, comme le fait toute désintermédiation. Cela fut fait par le Droit américain, notamment pour les prêts immobiliers, recopiés par quiconque sans vérification, puis retranscrits et découpés des millions de fois dans des subprimes. Le réajustement entre ce qui est marqué sur le titre et ce qui est la réalité des choses s'opère sur le long terme, en ex post, par une crise, qui restaure les informations.  Elle arriva en 2008. Pour l'instant, ce choix politique n'est pas fait par le Droit européen, le souci de sécurité dans le lien d'exactitude entre les biens, les volontés, et les titres qui en parlent (éboration des actes) est préféré. Cela tient au fait que l'Europe a été le principal payeur de la crise financière née aux Etats-Unis et que l'Europe distingue l'aptitude humaine et l'aptitude mécanique. 

Une fois que cette distinction est clairement opérée, parce que l'élaboration d'un acte doit être faite par l'officier ministériel, être humain investi par l’État de la charge particulière d’assurer l'exactitude des mentions de l'acte avec la réalité des personnes, des volontés, des obligations et des biens, il est d'autant plus opportun que les officiers ministériels s'organisent pour développer la technologie des blockchains. En effet, une fois que cet acte élaboré d'une façon fiable, et méritant à ce titre d'être authentique, en raison du continuum entre élaboration, conservation et duplication, parce que c'est aux officiers ministériels d'élaborer les actes les plus incontestablement fiables, c'est à eux de se doter des moyens technologiques de les conserver et de dupliquer efficacement (IV). 

Référence complète : Frison-Roche, M.-A., participation à la table-ronde L'officier public ministériel est-il soluble dans la blockchain?, conférence-débat organisée par  Le Club du Droit & le Conseil supérieur du Notariat, 14 mai 2019, Paris.

Consulter la présentation générale du colloque.

Consulter le document de travail sur la base duquel l'intervention a été faite.

Lire le compte-rendu qui en a été fait dans la presse. 

Dans cette table-ronde, un professeur d'économie expose la dimension technologique et économique de la blockchain. 

Puis est abordée la dimension juridique, dont l'exposé m'était plus particulièrement confié.

_____

A ce titre, après avoir replacé la question technique dans ce que doit garder le Droit, à savoir la distinction entre la Personne et les choses, ce que la technologie présentée aujourd'hui comme un ensemble de choses "intelligentes" et "décidantes" remettant en cause...., l'intervention porte sur 4 points (qui sont développés dans le document de travail).

En premier lieu, avant de porter une appréciation sur ce qui est adéquat et sur l'avenir il faut distinguer les fonctions techniques de conservation des actes, de duplication des actes et d'élaboration des actes, la distinction entre negotium et instrumentum n'étant en rien effacée par la technologie des blockchains.

En deuxième lieu, dès l'instant qu'il y a une altération substantielle de l'acte instrumentaire parce qu'un nouveau negotium a eu lieu, parce que les mentions doivent mesurer la reproduction de la réalité de ce qui fut décidé par les parties, l'on n'est plus dans l'acte de conserver et de dupliquer à l'identique, mais dans l'acte d'élaboration. Or, dans l'acte de conservation et de duplication, la blockchain peut être un atout technologique très précieux, en ce qu'à supposer sa fiabilité acquise, l'erreur étant exclue, c'est comme si l'on pouvait produire des originaux indéfiniment. La fiabilité est telle que la distinction entre original et copie n'aurait plus lieu d'être. Mais pour l'élaboration de l'instrumentum au regard du negotium , comment une machine pourrait-elle "dresser" un acte, c'est-à-dire en vérifier son rapport d'exactitude par rapport à la réalité ? Elle ne le peut pas. Seul un être humain le met, l'Etat ayant "déconcentré" son pouvoir de dresser uniléralement des actes (en cela, les notaires sont issus de la même idée de déconcentration....) en exigeant qu'ils vérifient la conformité à la réalité pour que l'incontestabilité soit ensuite attachée aux mentions.

En troisième lieu, il apparaît alors que la blockain est un outil de conservation et de duplication, mais que l'intermédiation d'un tiers de confiance humain vérifiant l'exactitude des mentions est nécessaire si l'on veut par sécurité que ce qui est dit dans l'acte écrit, puis conservé, puis dupliqué, soit la reproduction de la réalité. S'opère alors un choix de politique économique, souvent lié à la culture des pays. L'on peut considérer que le coût de l'intermédiation est élevé et qu'il faut mieux assumer le risque de l'inexactitude des mentions (quant aux parties, à la réalité de leur consentement, à la consistance de l'objet, à l'ampleur des obligations, etc.) et s'assurer ainsi un marché liquide. Le réajustement des actes par rapport à la réalité des choses se fait alors par la crise, qui réinjecte l'information, l'exemple en étant la crise des prêts immobiliers financiarisés des subprimes. C'est le choix anglais et américains. L'on peut préférer la sécurité par l'intermédiation en ralentissant le marché. C'est le choix du droit romano-germanique. Ces options demeurent ouvertes. La technologie du blockchain n'interfère pas, parce qu'elle ne doit pas viser l'établissement des actes. Si elle devait la viser, alors on aurait choisi la liquidité à la sécurité. Ou en termes plus généraux, l'on aurait choisi la Concurrence contre la Régulation. Mais plus que jamais le souci Ex Ante des risques systémiques (et le fossé entre la réalité et les actes qui doivent la transcrire est un risque systémique majeur) est premier. 

En quatrième lieu, en ayant ainsi un tableau des fonctionnalités, l'on voit que les notaires peuvent avoir grand usage des blockchains. Sans laisser des machines établir des actes, ils peuvent les utiliser comme le furent des coffreforts et des photocopieuses, avec une fiabilité et une mise en commun que seul le numérique et la capacité de calcul peuvent offrir à travers cette nouvelle technologie. Plus encore, l'articulation de l'amont (élaboration) et de l'aval (conservation et duplication) étant de nouveau reconnue comme la plus efficace, les officiels ministériels sont les mieux placés, en tant qu'ils dressent des actes instrumentaires dont ils ont vérifié les mentions et après avoir conseillé les parties, à conserver et à dupliquer ceux-ci.

_____

► Référence complète : Frison-Roche, M.-A., Droit de la concurrence et droit de la compliance, novembre 2018, in Revue Concurrences n° 4-2018, Art. n° 88053, pp. 1-4. 

__________

► Résumé : Le droit de la compliance est une branche du droit nouvelle, encore en construction. L’on peut en avoir une “définition restreinte”, consistant à la concevoir comme l’obligation qu’ont les entreprises de donner à voir qu’elles se conforment en permanence et d’une façon active au Droit. L’on peut en avoir une définition plus riche, de nature substantielle, la définissant comme l’obligation ou la volonté propre qu’ont certaines entreprises de concrétiser des “buts monumentaux” dépassant la seule performance économique et financière. Le droit de la concurrence intègre en partie ses deux conceptions de la compliance. Précurseur, le droit de la concurrence concrétise avec dynamisme la première conception du droit de la compliance. C’est avec davantage de difficultés mais aussi beaucoup plus d’avenir que le droit de la concurrence peut exprimer en dialectique la seconde conception du droit de la compliance comme internationalisation de “buts monumentaux”, notamment dans l’espace numérique.

____

📝 lire l'article.

📝 lire le document de travail ayant servi de base à l'article rédigée par Marie-Anne Frison-Roche, enrichie dans sa version numérique par des notes de bas de page, des références techniques et de liens hypertextes.

________

Complete reference : Randell, Ch., How can we ensure that big Data does not make us prisoners of technology ?, Reuters Newsmaker event, London, 2018.

To read the speech.

Référence complète : Caprioli, É.A., La blockchain dans la banque et la finance (éléments de réflexion juridique), in Études en l'honneur de Philippe Neau-Leduc, Le juriste dans la cité, coll. « Les mélanges », LGDJ- Lextenso,  2018, pp.189-206.

Lire une présentation générale dans lequel l'article est publié.

Référence complète : Parachkévova, I., et Teller, M., (dir.) Quelles régulations pour l'économie collaborative ? Un défi pour le droit économique, Dalloz, coll. "Thèmes et commentaires", 2018, 202 p.

Lire la quatrième de couverture.

Lire le sommaire.

► Référence complète : Frison-Roche, M.-A., La Mondialisation vue par le Droit, document de travail, mai 2017.

____

🎤 ce document de travail  a dans un premier temps servi de base à un rapport de synthèse proposé dans le colloque organisé par l'Association Henri Capitant, dans les Journées internationale Allemandes sur La Mondialisation.

📝 Il sert dans un second temps de base à l'article paru dans l'ouvrage La Mondialisation.

📝 Dans sa version anglaise, il sert de base à l'article écrit en anglais (avec un résumé en espagnol) à paraître au Brésil dans la Rarb - Revista de Arbitragem e Mediação  (Revue d`Arbitrage et Médiation).

____

Dans ce Working Paper, sont insérées des notes, comprenant des développements, des références et des liens vers des travaux et réflexions menés sur le thème de la mondialisation. 

Il utilise par insertion le Dictionnaire bilingue du Droit de la Régulation et de la Compliance.

____

► Résumé du document de travail : La mondialisation est un phénomène déroutant pour le juriste. La première chose à faire est d'en prendre la mesure. Une fois celle-ci prise, il est essentiel que l'on s'autorise à en penser quelque chose, voire que l'on s'impose d'en penser quelque chose. Par exemple sur le caractère nouveau ou non du phénomène, ce qui permet dans un second temps de porter une appréciation sur ce qui est en train de se mettre en place. Si en tant que le Droit peut et doit "prétendre" défendre chaque être humain, prétention universelle ayant vocation à faire face au champ mondial des forces, la question suivante - mais secondaire - se formule alors : quid facere ? Rien ? Moins que rien ? ou bien réguler ? Ou bien prétendre encore que le Droit remplisse son office premier qui est de protéger la personne faible, y compris dans le jeu de forces qu'est la mondialisation ?

____

► Lire le document de travail complet⤵️

► Référence générale :  Anders, G., L'Obsolescence de l'homme. Sur l'âme à l'époque de la deuxième révolution industrielle, Traduction de l'allemand par Christophe David 1956, éd. l'Encyclopédie des Nuisances,  coll." Editions IVREA", Paris, 2002, 360 p.

____

Lire la table des matières.

Lire la quatrième de couverture.

____

Cet ouvrage a été également traduit en anglais : Obsolescence of the Human, 1999. 

________