Responsabilités éditoriales : Direction de la collection "Droit et Economie", L.G.D.J. - Lextenso éditions (29)
🌐suivre Marie-Anne Frison-Roche sur LinkedIn
🌐souscrire à la Newsletter MAFR. Regulation, Compliance, Law
____
► Référence complète : M.-A. Frison-Roche (dir.), Contentieux Systémique Émergent, LGDJ, coll. "Droit & Économie", à paraître
____
📚Consulter tous les autres titres de la collection dans laquelle cet ouvrage est publié
____
► Présentation générale de l'ouvrage :
____
TABLE DES MATIÈRES
Mise à jour : 15 septembre 2024 (Rédaction initiale : )
droit illustré
► Référence complète : M.-A. Frison-Roche., "🎬𝑰'𝒎 𝒚𝒐𝒖𝒓 𝒎𝒂𝒏 - une question à laquelle réponse est demandée : la loi doit-elle autoriser le mariage avec un robot humanoïde ?", billet 15 septembre 2024.
► voir le film-annonce
___
Ce film allemand de 2021de Maria Schrader a reçu le Lion .. à la Nostra de Venise
Il est une fable sur l'intelligence artificielle dans notre société, maintenant et demain.
Dans une société du futur, d'un futur proche, une entreprise (on ne sait pas laquelle) propose à des humains de tester des robots humanoïdes pendant 3 semaines, comme "compagnon idéal", au terme duquel l'humain fournit un rapport pour formuler une opinion argumentée en répondant à la question suivante : Le législateur doit-il changer la loi pour admettre un mariage entre un humain et l'humanoïde.
La fable se déroule entre une femme, Alma, qui accepte de faire cette expérience. Elle n'est pas rémunérée et ne travaille pas dans l'I.A., elle travaille sur la culture perse et le déchiffrage de l'écriture cunéiforme. Son patron lui indique que si elle accepte l'expérience, des crédits seront sans doute débloqués pour permettre à son équipe de poursuivre ses recherches sur ce sujet-là. Il précise, en riant : "bien sûr, je ne cherche en rien à te corrompre".
Se présente donc le "compagnon idéal" réalisé selon ses goûts. Il a par exemple un accent britannique (elle est universitaire, elle apprécie la distinction d'un accent britannique, etc.)
Pendant 3 semaines, le robot parfait s'adapte, et elle a bien du mal mais trouve petit à petit qu'il est vraiment parfait, elle s'ouvre petit à petit.
Elle a beaucoup de soucis. Vit complètement seule. Son mari vient de la quitter pour une autre. Dont elle apprend qu'elle attend un enfant, tandis qu'elle a perdu un enfant jadis et n'en a jamais eu par la suite. Son père est atteint d'un Alzheimer en stade avancé et elle a bien du mal à l'aider.
Tandis que le robot, Tom, fait tout parfaitement, mais cela ne va jamais vraiment bien, puisqu'il ne sent pas, n'a pas froid, n'a pas faim, n'a pas peur. Il peut tout calculer, c'est commode. Elle se sent seule et veut arrêter car plus elle le voit et plus elle se sent à la fois seule et attirer par ce compagnon idéal qui lui appartient : I'm your man.
C'est vrai, c'est tentant.
A aucun moment, on ne voit ni ne parle de l'entreprise qui fabrique les algorithmes et les robots, qui sont manifestement au stade expérimental.
Elle rencontre dans la rue un homme qu'elle avait rencontré précédemment : il est juriste et tient à son bras une jeune fille, souriante, jolie, qui le regarde avec affection. Il lui dit : vous en êtes où ? Moi, j'ai été sollicité parce que je suis juriste. Pour donner une opinion juridique. Mais je suis si heureux ! Avant personne ne voulait de moi. Peut-être pour une histoire de pheromones ou pour mon physique (il est un peu gros) ou parce que j'ai 62 ans. Et maintenant je suis si heureux avec elle ! Je suis en train de négocier pour la garder toujours ! Je crois que je vais arriver à obtenir cela !"
Alma rend son rapport qui tient en quelques lignes : il est le compagnon parfait, qui peut pallier notre solitude, s'ajuster à nos désirs, répondre à tout. Mais notre condition humain est d'avoir des désirs qui ne sont pas comblés, d'avoir des questions sans réponse, d'aller de l'avant. Avec de tels robots, l'humain n'ira plus de l'avant. Il ne faut exclure totalement la possibilité de mariage entre des humains et des algorithmes à forme humaine.
____
On peut mettre ce film dans la longue liste des films qui prennent ce thème essentiel.
Le film prophétique de Spielberg , Intelligence Artificiel où le robot joué par Jude Law est prostitué, où le robot principal est l'enfant tant désiré.
Le film Her où l'amour pour la suite algorithmique dont l'humain est amoureux choisit de s'ajuster plutôt à un autre algorithme.
____
Prenons cela du côté du Droit
1. La question est celle du Législateur. La réponse est claire : c'est Non.
2. L'industrie est invisible : que peut le Législateur à l'égard d'une industrie que l'on ne voit pas, que l'on entend pas, qui n'écrit pas, dont les représentants ne sont eux-mêmes que des androïdes ?
3. La question expressément posée portait aussi sur l'éthique. Après, l'on n'a plus aucune discussion et aucune réponse : quand on n'a pas d'interlocuteur, il est difficile de formuler.
4. Le lien entre les savants et l'industrie est clairement posé ; il n'est pas choquant en soi
5. Le juriste, sollicité sur la dimension juridique, est celui qui l'aborde le mieux, celui qui veut garder la "jeune fille idéale", celui qui ne se pose aucune question éthique.
Juridiquement, c'est donc une très triste fable.
____
28 juin 2024
Base Documentaire : Doctrine
► Référence complète : E. Netter, "Quand la force de conviction du scoring bancaire provoque sa chute. L'interprétation extensive, par la CJUE, de la prohibition des décisions entièrement automatisées", RTD com., 2024, chron., pp.342-348
____
🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche
________
3 juin 2024
Base Documentaire : Convention, contrat, composition, engagement
► Référence complète : N. Yax, H. Anlio & S. Palminteri, "Studying and improving reasoning in humans and machines", Communications Psychology volume 2, Article number: 51 (2024)
____
30 mai 2024
Base Documentaire : Doctrine
► Référence complète : Th. Douville, "De l'approche extensive de la prise de décision exclusivement automatisée (à propos du refus d'un prêt fondé sur une note de solvabilité communiquée par un tiers)", D. 2024, pp. 1000-1004
____
🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche
________
22 mai 2024
Base Documentaire : Doctrine
► Référence complète : M. Mueller, The Myth of AGI. How the illusion of Artificial General Intelligence distorts and distracts digital governance, Internet Governance Project (IGP) White Paper, n°11, mai 2024, 20 p.
____
► Résumé de l'article (fait par l'auteur) : "The claim that Artificial General Intelligence (AGI) poses a risk of human extinction is largely responsible for the urgency surrounding AI governance. This paper reviews and critically evaluates the AGI-related literature in computer science, economics and philosophy to understand the assumptions and logic underlying claims that AI can threaten human survival. The review identifies three inter-related fallacies underlying AGI doomer scenarios: a) the idea that a machine can have a “general intelligence;” b) anthropomorphism, or the attribution of autonomous goals, desires and self-preservation motives to human-built machines; and c) the assumption that the superior calculating intelligence of an AGI will give it unlimited power over physical resources and social institutions. The paper characterizes these assumptions as unrealistic and exposes the lack of logic and empirical evidence in the doomer scenarios. Evaluating the AGI construct is important from a public policy perspective because of the myth's enormous influence on the way governments, industry and the public approach digital governance. The idea of an all-powerful autonomous AGI misdirects policy interventions toward precautionary regulation of the design or production of all AI applications, while diverting our attention from more mundane, yet realistic risks posed by specific AI uses and users. The myth of existential risk also encourages governments to attempt to assert control over the entire digital ecosystem in ways that stifle competition and innovation and centralize power.".
____
🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche
________
15 février 2024
Base Documentaire : Doctrine
► Réference complète : L.-M. Augagneur, "The jurisdictionalisation of reputation by platforms", in M.-A. Frison-Roche (ed.), Compliance Jurisdictionalisation, Journal of Regulation & Compliance (JoRC) et Bruylant, coll. "Compliance & Regulation", 2024, pp.109-125
____
📘consulter une présentation générale de l'ouvrage, Compliance Jurisdictionalisation, dans lequel cet article est publié
____
► Résumé de l'article (fait par l'auteur) : The large platforms are in the position of arbiter of the reputation economy (referencing, notoriety) in which they themselves act. Although the stakes are usually low on a unit basis, the jurisdiction of reputation represents significant aggregate stakes. Platforms are thus led to detect and assess reputation manipulations (by users: SEO, fake reviews, fake followers; or by the platforms themselves as highlighted by the Google Shopping decision issued by the European Commission in 2017) that are implemented on a large scale with algorithmic tools.
The identification and treatment of manipulations is itself only possible by means of artificial intelligence tools. Google thus proceeds with an automated downgrading mechanism for sites that do not follow its guidelines, with the possibility of requesting a review through a very summary procedure entirely conducted by an algorithm. Tripadvisor, on the other hand, uses an algorithm to detect false reviews based on "fraud modeling to identify electronic patterns that cannot be detected by the human eye". It only conducts a human investigation in limited cases.
This jurisdictionality of reputation has little in common with that defined by the jurisprudence of the Court of Justice (legal origin, contradictory procedure, independence, application of the Rules of Law). It is characterized, on the one hand, by the absence of transparency of the rules and even of the existence of rules stated in predicative form and applied by deductive reasoning. It is replaced by an inductive probabilistic model by the identification of abnormal behaviors in relation to centroids. This approach of course raises the issue of statistical bias. More fundamentally, it reflects a transition from Rule of Law, not so much to "Code is Law" (Laurence Lessig), but to "Data is Law", that is, to a governance of numbers (rather than "by" numbers). It also comes back to a form of collective jurisdictionality, since the sanction comes from a computational apprehension of the phenomena of the multitude and not from an individual appreciation. Finally, it appears particularly consubstantial with compliance, since it is based on a teleological approach (the search for a finality rather than the application of principles).
On the other hand, this jurisdictionality is characterized by man-machine cooperation, whether in the decision-making process (which poses the problem of automaticity bias) or in the contradictory procedure (which poses, in particular, the problems of discussion with the machine and the explicability of the machine response).
Until now, the supervision of these processes has been based essentially on the mechanisms of transparency, a limited adversarial requirement and the accessibility of appeal channels. The French Law Loi pour une République Numérique ("Law for a Digital Republic"), the European Legislation Platform-to-Business Regulation and the Omnibus Directive, have thus set requirements on the ranking criteria on platforms. The Omnibus Directive also requires that professionals guarantee that reviews come from consumers through reasonable and proportionate measures. As for the European Digital Services Act, it provides for transparency on content moderation rules, procedures and algorithms. But this transparency is often a sham. In the same way and for the moment the requirements of sufficient human intervention and adversarial processes appear very limited in the draft text.
The most efficient forms of this jurisdictionality ultimately emerge from the role played by third parties in a form of participatory dispute resolution. Thus, for example, FakeSpot detects false Tripadvisor reviews, Sistrix establishes a ranking index that helped establish the manipulation of Google's algorithm in the Google Shopping case by detecting artifacts based on algorithm changes. Moreover, the draft Digital Services Act envisages recognizing a specific status for trusted flaggers who identify illegal content on platforms.
This singular jurisdictional configuration (judge and party platform, massive situations, algorithmic systems for handling manipulations) thus leads us to reconsider the grammar of the jurisdictional process and its characteristics. If Law is a language (Alain Sériaux), it offers a new grammatical form that would be that of the middle way (mesotès) described by Benevéniste. Between the active and the passive way, there is a way in which the subject carries out an action in which he includes himself. Now, it is the very nature of this jurisdictionality of compliance to make laws by including oneself in them (nomos tithestai). In this respect, the irruption of artificial intelligence in this jurisdictional treatment undoubtedly bears witness to the renewal of the language of Law.
____
🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche
________
22 janvier 2024
Auditions Publiques
🌐suivre Marie-Anne Frison-Roche sur LinkedIn
🌐s'abonner à la Newsletter MAFR Regulation, Compliance, Law
____
► Référence complète : M.-A. Frison-Roche, audition notamment par Maître Sophie Bonne et Maître Anne-Claire Ancelin, respectivement présidente et rapporteure de la Commission du Conseil Supérieur du Notariat (CSN), élaborant un rapport sur Compliance : un espace à conquérir ?, 22 janvier 2024, CSN, Paris..
____
► Résumé de la présentation : j'ai eu l'occasion d'étudier et de discuter des relations entre le notaire comme professionnel et le notariat comme structure de régulation d'une part et le Droit de la Compliance, d'autre part.
Je l'ai fait lors des travaux du Conseil Supérieur du Notariat sur la raison d'être, dans une audition avec la Commission du CSN en charge de la réflexion à ce propos et et d'une façon plus générale à propos de l'articulation entre l'office du notariat et les mécanismes juridiques de régulation, car le Droit de la Compliance est le prolongement du Droit de la Régulation. J'ai d'ailleurs à ce titre fait une masterclass sur le droit de la compliance lors du Congrès annuel de 2022 à ce sujet.
M'appuyant sur ces premières réflexions et discussions, je peux articuler les propos suivants:
0. Observation préalable : l'intitulé semble sous-entendre que la compliance serait un espace nouveau, où le notariat serait étranger et qu'il faudrait "conquérir" cette terra incognita , le point d'interrogation permettant de suggérer que, si nouveau soit le Droit de la Compliance, c'est plutôt dans les professions agissant en Ex Ante qu'il est le moins "étranger" et que l'espace est donc déjà le plus "naturel".
L'enjeu est plutôt dans l'ambition que l'on peut en avoir : soit une ambition faible ("conformité"), soit une ambition forte ("Droit de la Compliance").
1. Un espace restreint aujourd'hui et plus encore demain si l'on réduit la Compliance à ce qui n'est que son outil : la conformité. Cette réduction équivaut à un grand dommage, car les algorithmes sont aptes à prendre en charge la conformité, et font le faire le plus en plus, tandis que la compliance est maniée par les êtres humains. La conformité est, mais n'est que, un outil de la Compliance.
2. La Compliance se définit par les Buts Monumentaux
- Les Buts monumentaux sont fixés par les Autorités politiques et publiques et ne peuvent être fixés que par elles ; le déploiement des moyens peuvent être déploient par d'autres que l'administration
3. Pragmatiquement, les buts monumentaux unifient la "masse réglementaire"
4. Tendre, dans une trajectoire, vers eux nécessite des êtres humains qui se coordonnent et agissent ensemble (ensemble du modèle concurrentiel)
5. Ils constituent la Compliance comme une branche ex ante du Droit
6. Ils placent le Droit de la Compliance en déploiement du Droit de la Régulation
7. Le Notariat est alors tout d'abord un "agent d'effectivité de la conformité", se dotant pour cela notamment des outils algorithmiques
8. Le Notariat est aussi une profession humaniste qui aide l'Etat, les entreprises et les parties intéressées à tendre vers la protection des êtres humains, pour qu'ils ne soient pas broyés par les systèmes devenus plus menaçants (but monumental négatif) et qu'ils en bénéficient (but monumental positif)
9. En cela, le Notariat, comme le Juge et l'Avocat, doit être consolidé dans sa structure, et doit aussi se présenter, au niveau du professionnel, au niveau de l'étude, au niveau de la profession structurée
10. Le Notariat doit aussi conforter sa gouvernance dans ce nouveau système de Compliance qui est en lien avec l'Etat de Droit et la Démocratie.
____
► Voir dans mes travaux ceux qui peuvent présenter un intérêt au regard de cette audition ⤵️
🕴️M.-A. Frison-Roche, 🖥️Appliquer la notion de "Raison d'être à la profession du Notariat, 2021
🕴️M.-A. Frison-Roche,🎤La compliance pour les études notariales : aspects théoriques et pratiques, Congrès des notaires , 2022
🕴️M.-A. Frison-Roche,📝Notariat et régulation font bon ménage, 2015
🕴️M.-A. Frison-Roche, 💬La profession investit le Droit de la Compliance et détermine sa Raison d'Etre, 2023
🕴️M.-A. Frison-Roche (dir.), 📕Les Buts Monumentaux de la Compliance, 2022
🕴️M.-A. Frison-Roche, 📝Penser et manier la Vigilance par ses Buts Monumentaux de Compliance, mars 2023.
🕴️M.-A. Frison-Roche, 📝Contrat de compliance, clauses de compliance, 2022.
🕴️M.-A. Frison-Roche, 🚧L'invention de la vigilance : un terme nouveau pour une Responsabilité en Ex Ante, 2021.
🕴️M.-A. Frison-Roche, 📝Synthèse : Le rôle du juge dans le déploiement du droit de la régulation par le droit de la compliance, à paraître
🕴️M.-A. Frison-Roche, 📝Le Droit de la compliance, 2016.
________
12 décembre 2023
Base Documentaire : Doctrine
► Référence complète : L. Pailler, "Haro de la Cour de justice sur les services d'aide à la décision !", Dalloz actualité, 12 décembre 2023
____
► Résumé de l'article (fait par l'auteur) : "L'établissement automatisé, par une société fournissant des informations commerciales, d'une valeur de probabilité fondée sur des données à caractère personnel relatives à une personne et concernant la capacité de celle-ci à honorer des engagements de paiement à l'avenir constitue une « décision individuelle automatisée », au sens de l'article 22, § 1er, du règlement général sur la protection des données (RGPD), lorsque dépend de manière déterminante de cette valeur de probabilité le fait qu'une tierce partie, à laquelle ladite valeur de probabilité est communiquée, établisse, exécute ou mette fin à une relation contractuelle avec cette personne.".
____
🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche
________
7 décembre 2023
Base Documentaire : 05. CJCE - CJUE
► Référence complète : CJUE, 1ière chambre, 7 décembre 2023, aff. C‑634/21, Schufa Holding AG
____
____
📝commentaires de cet arrêt :
- Dalloz actualité, 12 décembre 2023, obs. L. Pailler
- D. 2024, pp.1000-1004, note Th. Douville
- RTD com., 2024, pp. 342-348, note E. Netter
________
14 juin 2023
Conférences
♾️suivre Marie-Anne Frison-Roche sur LinkedIn
♾️s'abonner à la Newsletter MAFR Regulation, Compliance, Law
____
► Référence complète : M.-A. Frison-Roche, "Compliance et droit processuel", in B. Deffains, M.-A. Frison-Roche et J.-B. Racine (dir.), Journal of Regulation & Compliance (JoRC) et Université Panthéon-Assas (Paris II), Compliance : Obligation, devoir, pouvoir, culture, Université Panthéon-Assas, Salle des Conseils, 14 juin 2023.
____
🧮Consulter le programme de cette manifestation
____
🎤consulter l'autre intervention faite lors de la première journée de ce colloque : "L'obligation de compliance, entre volonté et consentement : obligation sur obligation vaut"
____
► Résumé de la conférence : après avoir renvoyé au chapitre qui dans l'ouvrage sur La juridictionnalisation de la Compliance, traite plus particulièrement du Droit processuel
Le premier développement porte sur le fait que les rapports entre le Droit de la Compliance et le Droit processuel sont très difficiles parce qu'on affirme souvent soit qu'ils n'ont tout simplement rien à voir l'un avec l'autre, soit qu'ils ont tout pour se déplaire. Cela tient à la réduction que l'on ferait de la Compliance à des process et à la place mécanique qu'y prendrait les algorithmes qui pourraient pourvoir à tout.
La Compliance aurait même pour objet et pour effet que l'entreprise, et ses dirigeants, n'entrent jamais en contact avec un Juge, le procureur étant alors leur meilleur allié pour cela...
Dans un 2ième temps, j'ai rappelé l'idée, très courante, comme quoi le Droit processuel serait une sorte de "tribut" que l'Etat de Droit exige, plombant certes les entreprises face à des entreprises vivant dans des systèmes qui n'existent pas un tel prix....
Mais beaucoup soulignent que le Droit processuel pourrait devenir un modèle. Cela peut se justifier et s'anticiper techniquement parce que cela s'est déjà produit dans le Droit de la Régulation et que le Droit de la Compliance est le déploiement de celui-ci
Dans un 3ième temps, j'ai donc travaillé sur l'alliance s'opérant entre les deux, la procédure (et non plus process) venant modifier la compliance et par là-même la renforcer, évoquant la façon dont cela peut se manifester techniquement
Dans un 4ième temps, j'ai recherché ce qui sera la "procédure naturellement adéquate" à la Compliance : celle qui intègre la durée et l'élaboration de "solutions", ce à quoi renvoie la notion de "durabilité" qui est centrale dans le Droit substantiel de la Compliance.
Dans un 5ième temps et y consacrant plus de temps, j'ai pointé là où l'innovation doit être la plus forte : la preuve, l'obligation probatoire étant la "part totale" de l'obligation de compliance. Cette question majeure sera d'ailleurs l'objet du cycle de colloques en 2024.
________
Voir dans les articles composant la Deuxième partie de l'ouvrage 🕴️M.-A. Frison-Roche (dir.), 📕La juridictionnalisation de la Compliance, 2023 :
- 🕴️N. Cayrol, 📝Des principes processuels en Droit de la Compliance,
- 🕴️F. Ancel, 📝Le principe processuel de compliance, un nouveau principe directeur du procès ?,
- 🕴️B. Sillaman, 📝Secret professionnel et coopération : les leçons de procédure tirées de l’expérience américaine pour une application universelle,
- 🕴️A. Linden, 📝Motivation et publicité des décisions de la formation restreinte de la Commission nationale de l’informatique et des libertés (CNIL) dans une perspective de compliance,
- 🕴️S. Scemla et 🕴️D. Paillot, 📝La difficile appréhension des droits de la défense par les autorités de contrôle en matière de compliance,
- 🕴️M.-A. Frison-Roche, 📝Ajuster par la nature des choses le Droit processuel au Droit de la Compliance.
🕴️M.-A. Frison-Roche, 📝Du Droit de la régulation au Droit de la compliance, in 🕴️M.-A. Frison-Roche (dir.), 📕Régulation, Supervision, Compliance, 2017.
🕴️M.-A. Frison-Roche, 🎤Le rôle du Juge dans le déploiement du Droit de la Régulation en Droit de la Compliance, in 🧮De la Régulation à la Compliance : quel rôle pour le Juge ?, 2023.
Notamment dans cette perspective, 🕴️M.-A. Frison-Roche et 🕴️M. Boissavy, 📕Compliance et droits de la défense. Enquête interne - CJIP - CRPC, 2024.
15 janvier 2023
Compliance : sur le vif
♾️ suivre Marie-Anne Frison-Roche sur LinkedIn
♾️ s'abonner à la Newsletter MAFR Regulation, Compliance, Law
____
► Référence complète : M.-A. Frison-Roche, "Si l'algorithme engendre un risque systémique de fraude, l'entreprise doit trouver le moyen de prévenir et détecter celle-ci : cas d'école", Newsletter MAFR Law, Compliance, Regulation, 15 janvier 2023.
____
Le cas agite et inquiète à juste titre. Il est notamment relayé dans Le Parisien et dans Libération.
Il apparait qu'un professeur de master découvre que la moitié de la promotion de ses étudiants avait fait écrire sa copie par un algorithme (ChatGPT), dont on dit que les productions mécaniques se rapprochent, à s'y méprendre, du "langage naturel", c'est-à-dire manié par les êtres humains. Il en a résulté des copies correctes, mais si identiques que l'usage de l'outil par les étudiants avait été ainsi détecté.
La dimension systémique du phénomène mérite qu'on y réfléchisse car il s'agit non seulement de détecter mais encore de prévenir le recours à cet outil, si l'on veut que les travaux rendus par les étudiants permettent d'évaluer leurs niveaux.
L'on peut certes rechercher des solutions très radicales, comme obliger les étudiants à écrire à la main dans des contrôles faits sur table et surveillés..., ou interdire le recours aux algorithmes, interdiction dont l'effectivité va être difficile ; ou rêver d'une Université où l'on leur donnerait des sujets de réflexion à traiter chacun d'une façon originale, ce qui suppose sans doute un nombre d'étudiants moins élevés (d'ailleurs, les lycées et collègues sont aussi concernés).
Mais si l'on regarde le "but" : il s'agit bien de prévenir et détecter un comportement systémiquement dommageable, pour l'Université et pour les étudiants eux-mêmes (qui n'auront rien appris ; ce sont les premières victimes).
Or, la prévention et détection des comportements systémiquement dommageables non pas tant pour les sanctionner mais pour qu'ils ne prospèrent pas à l'avenir, ici garder les avantages des algorithmes comme outils et prévenir leur usage dolosif, c'est la définition du Droit de la Compliance comme mode de prévention et de détection des maux systémique. Cela constitue un "but monumental".
🔴 M.-A. Frison-Roche, 📕Les buts monumentaux de la Compliance, 2022
Pour concrétiser une telle ambition, notamment face à la puissance de ces outils neutres que sont les algorithmes, qui permettent d'ailleurs à des professeurs de rédiger sans difficulté des cours sur l'originalité desquels on ne leur demande pas de compte, le Droit de la Compliance présente un atout majeur : il repose sur les entreprises elles-mêmes, notamment celles par lesquelles le risque est né.
Historiquement, le Droit de la Compliance est né aux Etats-Unis, en imposant aux entreprises ayant contribué par leur comportement interne à la crise de 1929 une série d'obligations de prudence, de gestion des conflits d'intérêts, d'information et de soumission à un superviseur.
🔴 M.-A. Frison-Roche, 📝Compliance : avant, maintenant, après, 2018
C'est en effet aux entreprises de trouver les solutions pour détecter et prévenir les comportements systémiques dommageables.
L'article publié dans Libération fait état des travaux menés par les entreprises fabriquant les algorithmes pour que soient insérés dans les textes des signaux, indétectables par l'usager (par exemple l'algorithme achevant une phrase sur dix par un mot finissant par la même lettre, ou une phrase sur vingt par un mot commençant par la même lettre), mais qu'un autre algorithme pourrait "détecter" pour que le travail produit soit analysé par le professeur (comme on le fait déjà en matière de plagiat).
Il s'agit ici d'une "compliance consentie, choisie par l'entreprise elle-même ; cela pourrait être leur être également imposé.
🔴 L. Benzoni et B. Deffains, 📝Approche économique des outils de la Compliance: finalité, effectivité et mesure de la Compliance subie et choisie, in M.-A. Frison-Roche (dir.), 📕Les outils de la Compliance, 2021
Apparaît ainsi le juste et efficace rapport entre le Droit de la Compliance et ce que l'on appelle "l'intelligence artificielle", dès l'instant que l'on n'a précisément pas une vision mécanique du Droit de la Compliance, ce qui permet de laisser les algorithmes à leur place : des "outils".
🔴 M.-A. Frison-Roche, 🎥Compliance, Intelligence artificielle et gestion des entreprises : la juste mesure, 2022
________
8 décembre 2020
Base Documentaire : Doctrine
► Référence complète : M. Teller, "L'intelligence artificielle", in J.-B. Racine (dir.), Le droit économique au XXIe siècle. Notions et enjeux, LGDJ, coll. "Droit & Économie", 2020, pp. 461-478
____
📕consulter une présentation générale de l'ouvrage, Le droit économique au XXIe siècle. Notions et enjeux, dans lequel cet article est publié
____
► Résumé de l'article :
____
🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche
________
5 janvier 2020
Base Documentaire : Doctrine
Référence complète: Adam, P., Le Friant, M. et Tarasewicz, Y. (dir.), Intelligence artificielle, gestion algorithmique du personnel et droit du travail, série "Les travaux de l'AFDT", Coll. "Thèmes et Commentaires", Dalloz, 2020, 241 p.
6 novembre 2019
Base Documentaire : 10. Autorité de la Concurrence
Référence complète : Autorité de la concurrence et le Bundeskartellamt, Algorythms and Competition, in Autorité de la concurrence, 6 novembre 2019.
1 septembre 2019
Base Documentaire : Doctrine
Référence complète: Bounie, D. et Maxwell, W., L'explicabilité des algorithmes est-elle un droit fondamental?, Tribune dans Le Monde, 1er septembre 2019
10 juin 2019
Blog
Le slug du billet de blog "officiel" est plus clair encore : our-ongoing-work-to-tackle-hate.html.
On ne peut qu'être favorable à cette politique dans son principe, et ce d'autant plus qu'en ce qui concerne l'Europe ce sont les Autorités publiques, la jurisprudence et bientôt la Loi en ce qui concerne la France, qui exigent des opérateurs numériques cruciaux l'adoption d'une telle politique
Le "billet officiel" prend deux cas et deux exemples : le premier porte sur la déinformation et l'affirmation que la terre est plate, le second porte sur l'incitation à la haine et la promotion du nazisme. Sur celui-ci, le "billet officiel" le fait en ces termes :
"Today, we're taking another step in our hate speech policy by specifically prohibiting videos alleging that a group is superior in order to justify discrimination, segregation or exclusion based on qualities like age, gender, race, caste, religion, sexual orientation or veteran status. This would include, for example, videos that promote or glorify Nazi ideology, which is inherently discriminatory. Finally, we will remove content denying that well-documented violent events, like the Holocaust or the shooting at Sandy Hook Elementary, took place.
We recognize some of this content has value to researchers and NGOs looking to understand hate in order to combat it, and we are exploring options to make it available to them in the future. And as always, context matters, so some videos could remain up because they discuss topics like pending legislation, aim to condemn or expose hate, or provide analysis of current events. We will begin enforcing this updated policy today; however, it will take time for our systems to fully ramp up and we’ll be gradually expanding coverage over the next several months.
Il titre son article : "YouTube Pulls ‘Triumph of the Will’ For Violating New Hate Speech Policy".
Il proteste en disant que dans toutes les universités le film a été montré pour souligner à quel point le cinéma peut être un médium en politique : "Riefensahl's harrowing depiction of the Nuremberg Rallies remains an essential loof at the ideological power of the moving image, and how it can be co-opted on a mass scale" ; "the movie also illuminates how a nation can filter its own realities through recorded media".
Il soutient qu'à ce compte les films d'Eistenstein, Potemkin, devrait être retiré, ce qu'il n'est pas, et soutient que cela devrait aussi le cas pour Naissance d'une Nation de Griffith, qui ne l'est pas davantage.
Découvrant dans une chaine que Youtube diffuse au titre des "archives historiques", une prise de position est prise sur le caractère inadmissible du "Triomphe de volonté", il estime que le retrait de ce film-là est donc le reflet d'une prise de position qui n'est pas neutre.
Il conclut son article de la façon suivante : "It raises major issues surrounding the platform's capacity as a historical archive, and how much viewers can be trusted to do some of the legwork on their own. These are the challenges that no algorithmes can solve.".
_____
Pourtant effectivement, le film est désormais indisponible sur Youtube, l'internaute ne trouvant que le message suivant (dans la langue que son adresse IP suppose être la suivante : "Cette vidéo a été supprimée, car elle ne respectait pas le règlement de YouTube concernant les contenus incitant à la haine. Découvrez comment lutter contre l'incitation à la haine dans votre pays.". Il est possible en cliquant sur "En savoir plus".
En cliquant, l'on arrive à un document de "Règles concernant l'incitation à la haine". Il s'adresse aux personnes qui mettent des contenus, les prévient de ce qui sera supprimé par Youtube et pourquoi, donne des exemple. Signale que cela résulte des mesures supplémentaires adoptées par YouTube le 5 juin. Renvoie par click à ce document. L'internaute arrive au document précité en anglais du "blog officiel".
Qu'en penser en Droit ?
Lire ci-dessous.
Frison-Roche, M.-A., L'apport du Droit de la Compliance à la Gouvernance d'Internet, rapport remis au Gouvernement, 2019.