► Référence complète : R. Sève, "Compliance Obligation and changes in Sovereignty and Citizenship", in M.-A. Frison-Roche (dir.), Compliance Obligation, Journal of Regulation & Compliance (JoRC) et Bruylant, coll. "Compliance & Regulation", à paraître

____

📘consulter une présentation générale de l'ouvrage, Compliance Obligation, dans lequel cet article est publié

____

► Résumé de l'article (fait par le Journal of Regulation & Compliance - JoRC) : The contribution describes "les changements de philosophie du droit que la notion de compliance peut impliquer par rapport à la représentation moderne de l’Etat assurant l’effectivité des lois issues de la volonté générale, dans le respect des libertés fondamentales qui constituent l’essence du sujet de droit." ("the changes in legal philosophy that the notion of Compliance may imply in relation to the modern representation of the State ensuring the effectiveness of laws resulting from the general will, while respecting the fundamental freedoms that constitute the essence of the subject of law").

The contributor believes that the definition of Compliance is due to authors who « jouer un rôle d’éclairage et de structuration d’un vaste ensemble d’idées et de phénomènes précédemment envisagés de manière disjointe.  Pour ce qui nous occupe, c’est sûrement le cas de la théorie de la compliance, développée en France par Marie-Anne Frison-Roche dans la lignée de grands économistes (Jean-Jacques Laffont, Jean Tirole) et dont la première forme résidait dans les travaux bien connus de la Professeure sur le droit de la régulation. » ( "play a role in illuminating and structuring a vast set of ideas and phenomena previously considered in a disjointed manner.  For our purposes, this is certainly the case with the theory of Compliance, developed in France by Marie-Anne Frison-Roche in the tradition of great economists (Jean-Jacques Laffont, Jean Tirole) and whose first form was in her well-known work on Regulatory Law").

Drawing on the Principles of the Law of the American Law Institute, which considers compliance to be a "set of rules, principles, controls, authorities, offices and practices designed to ensure that an organisation conforms to external and internal norms", he stresses that Compliance thus appears to be a neutral mechanism aimed at efficiency through a move towards Ex Ante. But he stresses that the novelty lies in the fact that it is aimed 'only' at future events, by 'refounding' and 'monumentalising' the matter through the notion of 'monumental goals' conceived by Marie-Anne Frison-Roche, giving rise to a new jus comune. Thus, "la compliance c’est l’idée permanente du droit appliquée à de nouveaux contextes et défis." ("Compliance is the permanent idea of Law applied to new contexts and challenges"). 

So it's not a question of making budget savings, but rather of continuing to apply the philosophy of the Social Contract to complex issues, particularly environmental issues. 

This renews the place occupied by the Citizen, who appears not only as an individual, as in the classical Greek concept and that of Rousseau, but also through entities such as NGOs, while large companies, because they alone have the means to pursue the Compliance Monumental Goals, would be like "super-citizens", something that the digital space is beginning to experience, at the risk of the individuals themselves disappearing as a result of "surveillance capitalism". But in the same way that thinking about the Social Contract is linked to thinking about capitalism, Compliance is part of a logical historical extension, without any fundamental break: "C’est le développement et la complexité du capitalisme qui forcent à introduire dans les entités privées des mécanismes procéduraux d’essence bureaucratique, pour discipliner les salariés, contenir les critiques internes et externes, soutenir les managers en place" ("It is the development and complexity of capitalism that forces us to introduce procedural mechanisms of a bureaucratic nature into private entities, in order to discipline employees, contain internal and external criticism, and support the managers in place") by forcing them to justify remuneration, benefits, and so on.

Furthermore, in the words of the author, "Avec les buts monumentaux, - la prise en compte des effets lointains, diffus, agrégés par delà les frontières, de l’intérêt des générations futures, de tous les êtres vivants - ,  on passe, pour ainsi dire, à une dimension industrielle de l’éthique, que seuls de vastes systèmes de traitement de l’information permettent d’envisager effectivement." ("With the Monumental Goals - taking into account the distant, diffuse effects, aggregated across borders, the interests of future generations, of all living beings - we move, so to speak, to an industrial dimension of ethics, which only vast information processing systems can effectively envisage").

This is how we can find a division between artificial intelligence and human beings in organisations, particularly companies, or in decision-making processes.

In the same way, individual freedom does not disappear with Compliance, because it is precisely one of its monumental goals to enable individuals to make choices in a complex environment, particularly in the digital space where the democratic system is now at stake, while technical mechanisms such as early warning will revive the right to civil disobedience, invalidating the complaint of "surveillance capitalism".

The author concludes that the stakes are so high that Compliance, which has already overcome the distinctions between Private and Public Law and between national and international law, must also overcome the distinction between Information and secrecy, particularly in view of cyber-risks, which requires the State to develop and implement non-public Compliance strategies to safeguard the future.

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

🌐suivre Marie-Anne Frison-Roche sur LinkedIn

🌐souscrire à la Newsletter MAFR. Regulation, Compliance, Law

____

► Référence complète : M.-A. Frison-Roche (dir.), Contentieux Systémique Émergent, LGDJ, coll. "Droit & Économie", à paraître

____

📚Consulter tous les autres titres de la collection dans laquelle cet ouvrage est publié

____

► Présentation générale de l'ouvrage : 

____

TABLE DES MATIÈRES

► Référence complète : R. Sève, "L'Obligation de Compliance  et les mutations de la souveraineté et de la citoyenneté", in M.-A. Frison-Roche (dir.), L'obligation de Compliance, Journal of Regulation & Compliance (JoRC) et Dalloz, coll. "Régulations & Compliance", 2024, à paraître.

____

📕lire une présentation générale de l'ouvrage, L'Obligation de Compliance, dans lequel cet article est publié

____

► Résumé de l'article (fait par le Journal of Regulation & Compliance - JoRC) : La contribution décrit "les changements de philosophie du droit que la notion de compliance peut impliquer par rapport à la représentation moderne de l’Etat assurant l’effectivité des lois issues de la volonté générale, dans le respect des libertés fondamentales qui constituent l’essence du sujet de droit.".

Le contributeur estime que la définition de la compliance tient à des auteurs qui « jouer un rôle d’éclairage et de structuration d’un vaste ensemble d’idées et de phénomènes précédemment envisagés de manière disjointe.  Pour ce qui nous occupe, c’est sûrement le cas de la théorie de la compliance, développée en France par Marie-Anne Frison-Roche dans la lignée de grands économistes (Jean-Jacques Laffont, Jean Tirole) et dont la première forme résidait dans les travaux bien connus de la Professeure sur le droit de la régulation. ».

S'appuyant sur les Principles of the Law de l’American Law Institute, qui considère que la compliance est un « set of rules, principles, controls, authorities, offices and practices designed to ensure that an organisation conforms to external and internal norms», il souligne que la compliance apparaît alors un mécanisme neutre visant à l'efficacité par un passage vers l'Ex Ante. Mais il souligne que la nouveauté tient dans le fait de viser "seulement" des événements futurs, en "refondamentalisant" et en "monumentalisant" la matière par la notion de "buts monumentaux" conçue par Marie-Anne Frison-Roche, faisant apparaître un nouveau jus comune. Ainsi, "la compliance c’est l’idée permanente du droit appliquée à de nouveaux contextes et défis.". 

Il ne s'agit donc pas de faire des économies budgétaires mais bien plutôt de continuer à faire vivre la philosophie du Contrat social à des enjeux complexes, notamment les enjeux environnementaux. 

Cela renouvelle la place qu'y occupe le citoyen car il y apparaît non seulement comme individu, ce qui est dans la conception classique grecque et chez Rousseau, mais encore à travers des entités, notamment les ONG, tandis que les grandes entreprises, parce qu'elles ont seules les moyens de poursuivre les buts monumentaux de la compliance, seraient comme des "super-citoyens", ce dont l'espace numérique commence à développer l'expérience, au risque de disparition de l'individu lui-même par l'effet du "capitalisme de surveillance". Mais de la même façon que la pensée du Contrat social s'articule avec celle du capitalisme, la compliance se situe sans rupture fondamentale  dans un prolongement historique logique : "C’est le développement et la complexité du capitalisme qui forcent à introduire dans les entités privées des mécanismes procéduraux d’essence bureaucratique, pour discipliner les salariés, contenir les critiques internes et externes, soutenir les managers en place" en les forçant à justifier les rémunérations, les avantages, etc.

En outre, selon les termes de l'auteur, "Avec les buts monumentaux, - la prise en compte des effets lointains, diffus, agrégés par delà les frontières, de l’intérêt des générations futures, de tous les êtres vivants - ,  on passe, pour ainsi dire, à une dimension industrielle de l’éthique, que seuls de vastes systèmes de traitement de l’information permettent d’envisager effectivement.".

C'est ainsi que l'on peut trouver une répartition entre l'intelligence artificielle et les êtres humains dans les organisations, notamment les entreprises, ou dans les processus de décisions.

De la même façon, la liberté de l'individu ne disparaît pas par la Compliance car c'est précisément et au contraire l'un de ses buts monumentaux que de rendre les individus aptes à choisir dans un environnement complexe, notamment dans l'espace numérique où le système démocratique est désormais en jeu, tandis que des mécanismes techniques, comme le lancement d'alerte, vont renaître le droit à la désobéissance civile, invalidant le grief de "capitalisme de surveillance".

L'auteur conclut que les enjeux sont si grands que la Compliance qui a déjà dépassé les distinctions entre le droit privé et le droit public, entre le droit national et le droit international, doit aussi dépasser celle entre l'information et et le secret, notamment en raison des cyber-risques, ce qui requiert de l'Etat l'élaboration et la pratique de stratégies non-publiques de Compliance pour préserver l'avenir.

________

🌐suivre Marie-Anne Frison-Roche sur LinkedIn

🌐s'abonner à la Newsletter MAFR. Regulation, Compliance, Law

🌐s'abonner à la Newsletter Surplomb, par MAFR

____

► Référence complète : M.-A. Frison-Roche, "Juger une situation familiale, une "obligation impossible"", in Collège de Droit de l'Université Panthéon-Sorbonne (Paris I), Dialogue avec Éliette Abécassis autour de son roman  Divorce à la française, Amphi Turgot, Sorbonne, 28 janvier 2025, 20h-21h30, Paris. 

____

🪑🪑🪑Cette conférence a été ouverte par Philippe Stoffel-Munck, co-directeur du Collège de Droit de l'Université Panthéon-Sorbonne (Paris I), qui a présenté les parcours, travaux et personnalités  d'Éliette Abécassis et de moi-même.

Puis, selon le principe du dialogue, Éliette Abécassis a présenté trois points d'un point de vue littéraire et philosophique sur lesquels elle m'a demandé d'exprimer ma perspective.

• Le premier point portait sur la procédure, les caractères contradictoires des discours des uns et des autres, la place de la vérité dans une procédure de divorce et la place de la vérité.
• Le deuxième point a porté sur la difficulté de juger, sur l'impossibilité même de juger, son roman étant construit pour mettre le lecteur dans la position qui est celle du juger : comment arriver à juger ?
• Le troisième point a porté sur le caractère "profondément humain" des divorces et du jugement de ceux-ci et, en conséquence, de ce qui donnerait l'application de ladite intelligence artificielle en la matière.

Selon la méthode convenue entre nous, n'ayant pas été prévenue du choix de ces perspectives-là mais connaissant bien Éliette Abécassis et son oeuvre, j'ai donc développé "sur le banc" les points suivants pour les articuler à l'auditoire composé d'étudiants en droit en 1ière, 2ième et 3ième année :

____

► Présentation de mes réponses aux questions ouvertes par Eliette Abécassis dans ce dialogue   : 🔴Éliette a montré comment dans Divorce à la français, elle a fait parlé de multiples personnes impliquées dans la procédure de divorce qui font des récits contradictoires, proposant des vérités qui se contredisent, reprenant comme trame du roman la procédure elle-même. Les vérités multiples sont ainsi confrontées, notamment celle de la littérature et celle du Droit.

I. LE PRINCIPE DU CONTRADICTOIRE, LA VÉRITÉ, LES PARTIES ET LE JUGE

La procédure est effectivement gouvernée par le "principe du contradictoire". Pour les parties au litige, il ne s'agit pas particulièrement de participer à la recherche de la vérité : une partie dans un procès veut gagner, c'est-à-dire notamment que son adversaire perde. Le débat et son alimentation notamment en éléments de preuve a pour bénéficiaire principe le juge. D'ailleurs et à ce titre le principe du contradictoire se démarque des droits de la défense, en ce que ceux-ci n'ont pas toujours pour objectif la vérité mais sont des prérogatives, de plus haut niveau dont les personnes sont titulaires parce qu'elles sont en risque dans la perspective de la décision susceptible d'être prise. Elles peuvent ainsi se défendre, par exemple en mentant, ou en se taisant. Les autorités sont donc davantage favorables au contradictoire, principe qui fonctionne en leur faveur, qu'aux droits de la défense, droits subjectifs qui leur sont parfois opposées. Parce que le juge est gardien de l'État de droit, il concrétise le contradictoire mais aussi les droits de la défense. Parce que la vérité peut aussi être un argument, elle peut aussi alimenter défense et débat mais gardons en tête cette opposition de départ qui fonde le Droit processuel, que Divorce à la française illustre. 

🔴Le deuxième point est sur la difficulté de juger. Éliette Abécassis souligne la difficulté de juger qui est d'autant plus pointée dans son roman que le juge est à la fois omniprésent qu'il est le seul à ne pas prendre la parole. C'est donc le lecteur qui est institué juge. Il perçoit lui-même à travers son expérience de lecteur la difficulté de juger, mais aussi l'importance de juger. Elle se réfère notamment notamment aux travaux de Paul Ricoeur sur l'enjeu du jugement et du juste.

II. LE DIFFICILE ART DE JUGER, OBLIGATION IMPOSSIBLE

Cela m'a fait penser à l'ouvrage publié avec un ami très cher qui étudia avec moi dans ce même Amphi Turgot la philosophie pour une licence de philosophie, ouvrage ayant pour titre La justice. L'obligation impossible. Il est "impossible" de juger, parce qu'il est "impossible" d'être juste.

Faut-il donc se détourner de cet office-là ? De cette prétention-là ? Non, car si la justice, comme la vérité, est un point que nul ne peut atteindre, alors que la Justice est une vertu qui contient toutes les autres et en cela si nous ne sommes pas justes nous n'avons plus aucune vertu (par exemple la vertu du courage), il convient (comme le fait tout juge) partir des situations.

Les situations sont injustes. Etre juste, c'est d'abord être sensible, être perspicace à l'intensité d'injustice de telle ou telle situation. C'est déjà ça. Puis, c'est agir. C'est-à-dire la dire, ce qui est déjà un premier jugement. Puis la trancher, la réparer, la consoler. C'est ainsi que l'on peut être juste. C'est sans doute pour cela que l'on devient juge. Notamment lorsqu'il s'agit des situations familiales. 

🔴Éliette insiste sur la violence des conflits qui s'exprime aussi dans les procédures de divorce et que son roman met en scène. Cette instabilité des rapports humains correspond à une société qui est en train de "liquéfier" les rapports entres les êtres humains, et bientôt les êtres humains eux-mêmes. Elle s'inquiète de ce que va produire sur la justice humaine l'usage de l'intelligence artificielle. 

III. LES ALGORITHMES, APPUI OU DESTRUCTION DE L'OFFICE DU JUGE

Le troisième point porte donc sur la pertinence, légitimité et efficacité de l'usage des algorithmes dans les contentieux de divorce. Il est tentant de répondre en bloc que le système algorithmique sans âme ne doit pas toucher ce contentieux-là car pour reprendre les mots d'Eliette Abécassis, il est "profondément humain" et donc seul un juge humain peut y toucher. Mais il faut aussi considérer que la procédure, dont on a montré tout à l'heure la dimension humaniste à travers le contradictoire et les droits de la défense, est une machinerie, avec des délais et des séries d'actes de procédure que des algorithmes aident à mener et à contrôler.

La procédure c'est par nature du temps, et plus exactement de la durée, du temps qui passe. Il faut que la dispute ait le temps de s'apaiser. Faire durer peut aussi l'exacerber. Les outils algorithmiques peuvent permettre aux parties de se libérer, d'en finir. Il ne s'agit pas seulement d'une logique de gestion de flux vue du côté de l'institution mais aussi de justice pour les parties en litige qui peuvent en être libérées grâce à ces outils-là. Temps utile, délai raisonnable, sont aussi des garanties de procédure. 

L'enjeu est alors d'avoir du discernement sur deux discernements. En premier lieu en distinguant ce qui relève de l'intendance procédurale que le système algorithmique et ce qui relève du choix qui doit être laissé au juge et aux parties. En second lieu, en distinguant ce qui dans les différents cas est identique malgré la singularité (définition de ce qu'est l'analogie) et se prêtent donc à la puissance algorithmique et qui n'est pas analogue. L'analogie est l'art même du juriste.

_____

🌐suivre Marie-Anne Frison-Roche sur LinkedIn

🌐s'abonner à la Newsletter MAFR. Regulation, Compliance, Law

🌐s'abonner à la Newsletter Surplomb, par MAFR

____

► Référence complète : M.-A. Frison-Roche, "Du Droit de la Compliance découle le Droit de l'Intelligence Artificielle", in série de vidéos Surplomb, 1er octobre 2024ré

____

🌐visionner sur LinkedIn cette vidéo de la série Surplomb

____

🌐visionner sur LinkedIn cette vidéo de la série Surplomb, publiée dans la Newsletter Surplomb, par MAFR

____

🎬visionner ci-dessous cette vidéo de la série Surplomb⤵️

____

Surplomp, par mafr

la série de vidéos dédiée à la Régulation, la Compliance et la Vigilance

► Référence complète : M.-A. Frison-Roche., "🎬𝑰'𝒎 𝒚𝒐𝒖𝒓 𝒎𝒂𝒏 -  une question à laquelle réponse est demandée : la loi doit-elle autoriser le mariage avec un robot humanoïde ?", billet 15 septembre 2024.

► voir le film-annonce 

► Référence complète : E. Netter, "Quand la force de conviction du scoring bancaire provoque sa chute. L'interprétation extensive, par la CJUE, de la prohibition des décisions entièrement automatisées", RTD com., 2024, chron., pp.342-348

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

► Référence complète : Autorité de la concurrence (ADLC), avis 24-A-05 du 28 juin 2024 relatif au fonctionnement concurrentiel du secteur de l’intelligence artificielle générative, juin 2024, 104 p.

____

📜lire l'avis

____

📰lire le communiqué de presse accompagnant la publication de l'avis

________

► Référence complète : M.-A. Frison-Roche, "Les deux rencontres entre l'intelligence artificielle et le Contentieux Systémique", in L’intelligence artificielle, nouveau champ de contentieux systémique, in cycle de conférences-débats "Contentieux Systémique Émergent", organisé à l'initiative de la Cour d'appel de Paris, avec la Cour de cassation, la Cour d'appel de Versailles, l'École nationale de la magistrature (ENM) et l'École de formation des barreaux du ressort de la Cour d'appel de Paris (EFB), sous la responsabilité scientifique de Marie-Anne Frison-Roche, 24 juin 2024, 11h-12h30, Cour d'appel de Paris, salle Cassin

____

🧮consulter le programme complet de cette manifestation

____

► Résumé de la conférence : Dans la présentation générale sur le thème lui-même, j'ai souligné "Les deux rencontres entre l'intelligence artificielle et le Contentieux Systémique".

La perspective retenue dans la conférence n'est pas l'état de ce qui est convenu d'appeler l'"Intelligence Artificielle", mais bien la façon dont on doit corréler ici l'IA et le "Contentieux Systémique Émergent" (CSE).

Cela suppose de rappeler ce qu'est un "contentieux systémique" (1), puis de voir l'apport de l'intelligence artificielle pour traiter ce type de contentieux (2), avant de voir que le système algorithmique lui-même peut être l'objet de Contentieux Systémique (3).

1. Ce qu'est le Contentieux Systémique que l'on voit Émerger

Sur la notion même de "Contentieux Systémique Émergent", proposée en 2021, lire : M.-A. Frison-Roche, 🚧L'hypothèse de la catégorie des causes systémiques portés devant le juge, 2021.

Ce Contentieux Systémique Émergent vise des situations dont la connaissance est portée devant le juge et dans lesquelles un système est impliqué. Il peut s'agir du système bancaire, du système financier, du système énergétique, du système numérique, du système climatique, du système algorithmique.

Dans ce type de contentieux, les intérêts et l'avenir du système lui-même sont "en cause". Le juge doit donc les "prendre en considération"📎!footnote-3679.

En cela, le "Contentieux Systémique" doit se distinguer du "contentieux de masse". Le "contentieux de masse" vise des litiges très nombreux et analogues. Le fait qu'ils soient souvent de "faible importance" n'est pas forcément déterminant, car ces litiges sont importants pour les personnes en cause (cf. l'article déterminant de Carbonnier, "De Minimis...", 1981)📎!footnote-3680 et l'usage de l'I.A. ne doit pas trop écraser ce que chacun a de spécifique. Mais toujours est-il que le Contentieux Systémique a pour critère la présence d'un système. Il peut arriver qu'un contentieux de masse mette en cause l'intérêt même d'un système (par exemple le contentieux sur les dates de valeur), mais le plus souvent le Contentieux Systémique que l'on voit émerger est, à l'inverse du contentieux de masse, un cas très spécifique où une partie qui, formulera une prétention très particulière (par exemple demandera l'arrêt de travaux considérables) contre une multinationale, mettra ainsi "en cause" une chaîne de valeur complète et les obligations qui incombent à l'entreprise puissante pour la sauvegarde du système climatique qui, de ce fait, est présent dans l'instance (ce qui ne lui ouvre pas pour autant le droit de formuler des prétentions mais qui doit être pris en considération).

2. L'apport de la puissance algorithmique dans la menée d'un Contentieux Systémique

À ce titre, l'IA peut être un outil utile, voire indispensable, pour maîtriser de tels Contentieux Systémiques, dont l'émergence correspond à une nouveauté et dont la connaissance est portée devant le juge de droit commun.

En effet, ce type de contentieux est particulièrement complexe et long, les questions probatoires étant au centre, les expertises succédant aux expertises. L'appréciation des expertises est difficile à mener. L'IA peut alors être un moyen pour le juge, afin de juguler de risque accru de capture par les experts de son devoir de décision, de maîtriser la dimension expertale du Contentieux Systémique.

Le choix des techniques d'IA présente les mêmes difficultés que celles exposées depuis toujours à propos des experts. Il est probable que des mécanismes de certification, analogues à l'inscription sur des listes d'experts, se mettent en place, si l'on s'écarte de la construction par les juridictions elles-mêmes (ou par le gouvernement, ce qui peut poser un problème d'indépendance de la justice), ou si l'on veut un contrôle sur des outils fournis par les parties elles-mêmes, au regard du principe de l'égalité des armes, en raison du coût de ces outils.

3. Lorsque c'est le système algorithmique lui-même qui est l'objet d'un Contentieux Systémique : sa place est alors plutôt en défense

En outre et d'une façon centrale, le système algorithmique donne lui-même lieu à un Contentieux Systémique, en ce que des personnes peuvent saisir le Juge en prétendant avoir subi un dommage par le fonctionnement du système algorithmique ou en demandant l'exécution d'un contrat rédigé par ce système. C'est sur le terrain du Droit commun des obligations que le système peut se trouver impliqué dans l'instance juridictionnelle.

Il est remarquable que, par rapport à des hypothèses jusqu'ici privilégiées dans les précédentes conférences-débats, notamment le 26 avril 2024 à propos du Contentieux Systémique Émergent lié au Devoir de Vigilance📎!footnote-3681, les systèmes impliqués ont été plutôt pris en considération en arrière des prétentions articulées par les demandeurs, puisque ceux-ci allèguent qu'un système a été attaqué. Ce serait alors la "société civile" qui agit contre l'entreprise. Dans le cas du système algorithmique, les premiers contentieux sont composés d'allégations qui mettent plutôt celui-ci en accusation, en ce que celui-ci aurait par exemple porté atteinte à des droits (par exemple les droits d'auteur, le droit à la vie privée, etc.).

Or, l'instance change si le système est présenté non plus comme la "victime" potentielle mais plutôt comme le "coupable" potentiel. Il est notamment beaucoup moins clair d'identifier quel type d'intervenant dans l'instance, qui ne soit pas nécessairement partie au litige, a vocation à parler pour expliciter l'intérêt du système, notamment au regard de la durabilité et de l'avenir du système de l'IA.

Ce point de réflexion devra être approfondi par les chefs de juridiction.

________

► Référence complète : L’intelligence artificielle, nouveau champ de contentieux systémique, in cycle de conférences-débats "Contentieux Systémique Émergent", organisé à l'initiative de la Cour d'appel de Paris, avec la Cour de cassation, la Cour d'appel de Versailles, l'École nationale de la magistrature (ENM) et l'École de formation des barreaux du ressort de la Cour d'appel de Paris (EFB), sous la responsabilité scientifique de Marie-Anne Frison-Roche, 24 juin 2024, 11h-12h30, Cour d'appel de Paris, salle Cassin

____

🌐consulter sur LinkedIn le compte-rendu de cette manifestation

____

► Présentation de la conférence : L'intelligence artificielle a permis la constitution d'un système algorithmique. Celui-ci développe une logique qui lui est propre, de nature essentiellement technologique. Elle engendre une puissance de calcul basée sur la mise en corrélation des informations pour fabriquer des possibles causalités et construire des probabilités que l'on assimile parfois à des "prédictions", la masse traitée finissant par engendrer un changement qualitatif.

Ce changement est lié à l'espace numérique, lequel par nature fait émerger un contentieux systémique, auquel a été consacré la conférence-débat du 27 mai 2024.

Le contentieux systémique est concerné de trois façons, qu'il s'agit ici d'anticiper car les contentieux sont pour l'instant naissants ou à venir mais vont sans doute advenir brutalement.

En premier lieu, il est possible que l'outil technologique permette de traiter certains dossiers dont la technicité, soit des notions soit des demandes, ou la multitude des demandes si simples soient-elles, requièrent cette aptitude à traiter la masse, ce qui engendre la montée en puissance à la fois de cette puissance mécanique algorithmique et la présence plus grande des êtres humains, notamment par l'accroissement de l'accusatoire, de la mise en état, des médiations, etc.

En deuxième lieu, , Face à ce changement lié à l'espace numérique, des "textes" sont apparus pour "réguler" l'usage ou l'invention même de tel ou tel outil algorithmique, textes de nature très diverses, de plus souple ou plus dur (cette variation entre droit souple et droit dur est le thème repris dans la conférence-débat du 19 septembre 2024). Il peut s'agir de dispositifs pris par les entreprises qui produisent les outils, par celles qui les utilisent, par celles qui les diffusent, les personnes concernées par les informations étant relativement actives. Ce dernier point expliquent que des contentieux systémiques sont déjà en cours et portent sur les droits subjectifs qui seraient violés soit par nature du fait de l'intelligence artificielle, en l'espèce les droits des créateurs, ou les droits à la vie privée, ou d'autres Buts Monumentaux. La dimension systémique, notamment extraterritoriale de ces contentieux, est déjà acquise.

Le troisième point est la part du Politique, puisque l'Union Européenne par les textes en cours d'adoption a posé que le But n'est pas seulement la durabilité du système technique, le marché de l'innovation, la souveraineté européenne, mais aussi la primauté des personnes, à travers une méthode qui est la hiérarchisation Ex Ante des risques. Cette conception assumée est aussi contestée. Cette question méthodologique se pose aussi au juge.

Ces contentieux systémiques émergents sont et seront portées devant diverses Autorités, de régulation ou de supervision, mais aussi devant les juridictions de droit commun, notamment à travers le droit des contrats, de la responsabilité, le droit des sociétés, le droit du travail, le droit processuel, etc.

La perspective ici privilégiée est de mesurer et d'anticiper la façon dont la dimension systémique de ces contentieux va être intégrer dans ces contentieux à venir.

____

🧮Programme de cette manifestation : 

Quatrième conférence-débat

L’INTELLIGENCE ARTIFICIELLE, NOUVEAU CHAMP DE CONTENTIEUX SYSTÉMIQUE

Cour d’appel de Paris, salle Cassin

Présentation et modération par 🕴️Marie-Anne Frison-Roche, Professeure de Droit de la Régulation et de la Compliance, Directrice du Journal of Regulation & Compliance (JoRC)

🕰️11h-11h10. 🎤Les deux rencontres entre l'intelligence artificielle et le Contentieux Systémique, par 🕴️Marie-Anne Frison-Roche, Professeure de Droit de la Régulation et de la Compliance, Directrice du Journal of Regulation & Compliance (JoRC)

🕰️11h10-11h30. 🎤Les premiers contentieux systémiques observables impliquant l’intelligence artificielle, par 🕴️Sonia Cissé, Avocate Associée, Linklaters Paris

🕰️11h30-11h50. 🎤L’influence des nouveaux textes et des textes à venir sur les contentieux systémiques émergents impliquant l’intelligence artificielle, par 🕴️Emmanuel Netter, Professeur de Droit à l'Université de Strasbourg 

🕰️11h50-12h30. Débat

____

🔴Les inscriptions et renseignements se font à l’adresse : inscriptionscse@gmail.com

🔴Pour les avocats, les inscriptions se font à l’adresse suivante : https://evenium.events/cycle-de-conferences-contentieux-systemique-emergent/ 

⚠️Les conférences-débat se tiennent en présentiel à la Cour d’appel de Paris.

____

🧮Lire ci-dessous la présentation détaillée de la manifestation faite par Marie-Anne Frison-Roche⤵️

► Référence complète : Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle et modifiant les règlements (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 et (UE) 2019/2144 et les directives 2014/90/UE, (UE) 2016/797 et (UE) 2020/1828 (règlement sur l’intelligence artificielle) (en anglais Artificial Intelligence Act, dit "IA Act")

____

► lire le texte

________

► Référence complète : N. Yax, H. Anlio & S. Palminteri, "Studying and improving reasoning in humans and machines",  Communications Psychology volume 2, Article number: 51 (2024)

____

► Référence complète : Th. Douville, "De l'approche extensive de la prise de décision exclusivement automatisée (à propos du refus d'un prêt fondé sur une note de solvabilité communiquée par un tiers)", D. 2024, pp. 1000-1004

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

► Référence complète : Les contrôles techniques des risques présents sur les plateformes et les contentieux engendrés, in cycle de conférences-débats "Contentieux Systémique Émergent", organisé à l'initiative de la Cour d'appel de Paris, avec la Cour de cassation, la Cour d'appel de Versailles, l'École nationale de la magistrature (ENM) et l'École de formation des barreaux du ressort de la Cour d'appel de Paris (EFB), sous la responsabilité scientifique de Marie-Anne Frison-Roche, 27 mai 2024, 9h-10h30, Cour d'appel de Paris, salle Cassin

____

🧮consulter le programme complet du cycle Contentieux Systémique Émergent

____

🌐consulter sur LinkedIn le compte-rendu de cette manifestation

____

🧱lire ci-dessous le compte-rendu de cette manifestation⤵️

____

► Présentation de la conférence : L'espace numérique est un espace de risques. Certains y sont naturellement associés, parce qu'il s'agit d'un espace de libertés, d'autres doivent être contrés parce qu'ils sont associés à des comportements interdits d'une façon générale, par exemple le blanchiment d'argent. Mais l'espace numérique a développé des risques qui, par leur ampleur ont été transformés dans leur nature même : il en est ainsi notamment de la déformation imprégnant certains contenus et de l'insécurité qui peut menacer l'ensemble du système lui-même. Le Droit a alors confié aux opérateurs eux-mêmes la vigilance sur ce qui sont devenus des "cyber-risques", comme le risque de désinformation, le risque de destruction des infrastructures de communication, le risque de vol de données, perspective systémique qui peut faire s'effondrer les sociétés elles-mêmes.  

De nouveaux textes sont élaborées, notamment le Digital Services Act, pour à la fois accroître les charges et les pouvoirs des entreprises en la matière, les entreprises numériques étant en première ligne, mais aussi les autorités de supervision, comme l'Arcom. Les contentieux qui en naissent, dans lesquels entreprises et régulateurs peuvent être alliés ou en opposition, sont par nature systémiques.

Le traitement par le juge de ces "causes systémiques", par la procédure et les solutions, doit répondre à cette dimension systémique. Le cas dit des "sites pornographiques", qui est en train de se dérouler, permet d'observer in vivo le dialogue des juges lorsqu'une "cause systémique" s'impose à eux.

____

🧮Programme de cette manifestation : 

Troisième conférence-débat

LES CONTROLES TECHNIQUES DES RISQUES PRESENTS SUR LES PLATEFORMES ET LES CONTENTIEUX ENGENDRES 

Cour d’appel de Paris, salle Cassin

modération par 🕴️Marie-Anne Frison-Roche, Professeure de Droit de la Régulation et de la Compliance, Directrice du Journal of Regulation & Compliance (JoRC)

🕰️9h-9h10. 🎤Le contentieux Systémique Emergent du fait du système numérique, 🕴️Marie-Anne Frison-Roche

🕰️9h10-9h30. 🎤Les techniques de gestion du risque systémique pesant sur la cybersécurité  des plateformes, 🕴️Michel Séjean, Professeur de droit à l'Université Sorbonne Paris Nord

🕰️9h30-9h50. 🎤Un système systémique in vivo : le cas dit des sites pornographiques,🕴️Marie-Anne Frison-Roche

🕰️9h50-10h10. 🎤Les obligations systémiques des opérateurs numériques à travers le Règlement sur les Services Numériques (RSN/DSA) et le rôle des régulateurs, par 🕴️Roch-Olivier Maistre, Président de l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom)

🕰️10h10-10h30. Débat

____

🔴Les inscriptions et renseignements se font à l’adresse : inscriptionscse@gmail.com

🔴Pour les avocats, les inscriptions se font à l’adresse suivante : https://evenium.events/cycle-de-conferences-contentieux-systemique-emergent/ 

⚠️Les conférences-débat se tiennent en présentiel à la Cour d’appel de Paris.

________

► Référence complète : M. Mueller, The Myth of AGI. How the illusion of Artificial General Intelligence distorts and distracts digital governance, Internet Governance Project (IGP) White Paper, n°11, mai 2024, 20 p.

____

► Résumé de l'article (fait par l'auteur) : "The claim that Artificial General Intelligence (AGI) poses a risk of human extinction is largely responsible for the urgency surrounding AI governance. This paper reviews and critically evaluates the AGI-related literature in computer science, economics and philosophy to understand the assumptions and logic underlying claims that AI can threaten human survival. The review identifies three inter-related fallacies underlying AGI doomer scenarios: a) the idea that a machine can have a “general intelligence;” b) anthropomorphism, or the attribution of autonomous goals, desires and self-preservation motives to human-built machines; and c) the assumption that the superior calculating intelligence of an AGI will give it unlimited power over physical resources and social institutions. The paper characterizes these assumptions as unrealistic and exposes the lack of logic and empirical evidence in the doomer scenarios. Evaluating the AGI construct is important from a public policy perspective because of the myth's enormous influence on the way governments, industry and the public approach digital governance. The idea of an all-powerful autonomous AGI misdirects policy interventions toward precautionary regulation of the design or production of all AI applications, while diverting our attention from more mundane, yet realistic risks posed by specific AI uses and users. The myth of existential risk also encourages governments to attempt to assert control over the entire digital ecosystem in ways that stifle competition and innovation and centralize power.".

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

► Référence complète : Commission de l'intelligence artificielle, présidée par Ph. Aghion et A. Bouverot, IA : notre ambition pour la France, Rapport remis au Premier ministre, mars 2024, 130 p.

____

📓lire le rapport

________

► Référence complète : U. Goldberg, "Collecte et traitement des informations dans les enquêtes internes à l'ère numérique : processus et enjeux", in M.-A. Frison-Roche et M. Boissavy (dir.), Compliance et droits de la défense. Enquête interne – CJIP – CRPC, Journal of Regulation & Compliance (JoRC) et Dalloz, coll. "Régulations & Compliance" à paraître.

____

📕consulter une présentation générale de l'ouvrage, Compliance et droits de la défense - Enquête interne, CIIP, CRPC, dans lequel cet article est publié

____

► Résumé de l'article (fait par le Journal of Regulation & Compliance - JoRC) : L'objet de l'article est de décrire la technologie de l'enquête interne. C'est pourquoi la question des droits de la défense n'y est pas abordée en tant que telle mais plutôt la méthodologie requise par l'objet recherché, le traitement des informations requis pour l'atteindre et les contraintes engendrées par les outils utilisés. Il s'agit en effet d'obtenir une fiabilité et une efficience la plus grande possible dans la collecte des données et le maniement de celles-ci. 

L'auteur expose les méthodes pour obtenir les données. Cela est rendu difficile par la variété des systèmes juridiques simultanément applicables, par les obligations de confidentialité et le caractère personnel de certaines données, ce qui les rend juridiquement inexploitables. Il convient ensuite d'extraire dans la masse des données celles qui seront pertinentes.

La méthodologie utilisée par le professionnel consiste à indiquer clairement au départ le périmètre de la recherche d'informations et les spécificités de l'enquête, cadre à communiquer aux personnes et organisations impliquées. Plus précisément, il faut préciser l'étendue géographique de la recherche, la période couverte, les personnes impliquées dans l'enquête interne, le type de données recherchées, les systèmes informatiques impliqués, le niveau de confidentialité imposé, les procédures internes liées à la conservation des données et à leur accès. Les informations collectées sont soit structurées, soit non structurées, les deux types s'articulant, et la technologie évoluant sans cesse, tandis que les principes de l'enquête doivent demeurer stables.

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

► Référence complète : L. Pailler, "Haro de la Cour de justice sur les services d'aide à la décision !", Dalloz actualité, 12 décembre 2023

____

► Résumé de l'article (fait par l'auteur) : "L'établissement automatisé, par une société fournissant des informations commerciales, d'une valeur de probabilité fondée sur des données à caractère personnel relatives à une personne et concernant la capacité de celle-ci à honorer des engagements de paiement à l'avenir constitue une « décision individuelle automatisée », au sens de l'article 22, § 1er, du règlement général sur la protection des données (RGPD), lorsque dépend de manière déterminante de cette valeur de probabilité le fait qu'une tierce partie, à laquelle ladite valeur de probabilité est communiquée, établisse, exécute ou mette fin à une relation contractuelle avec cette personne.".

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

► Référence complète : CJUE, 1ière chambre, 7 décembre 2023, aff. C‑634/21, Schufa Holding AG

____

🏛️lire l'arrêt

____

📝commentaires de cet arrêt : 

• Dalloz actualité, 12 décembre 2023, obs. L. Pailler
• D. 2024, pp.1000-1004, note Th. Douville
• RTD com., 2024, pp. 342-348, note E. Netter

________

► Référence complète : A. Beckers & G. Teubner, Three Liability Regimes for Artificial Intelligence: Algorithmic Actants, Hybrids, Crowds, Pedone, 2018. 

____

► Présentation de l'ouvrage (par les auteurs) : This book proposes three liability regimes to combat the wide responsibility gaps caused by AI systems – vicarious liability for autonomous software agents (actants); enterprise liability for inseparable human-AI interactions (hybrids); and collective fund liability for interconnected AI systems (crowds). Based on information technology studies, the book first develops a threefold typology that distinguishes individual, hybrid and collective machine behaviour. A subsequent social science analysis specifies the socio-digital institutions related to this threefold typology. Then it determines the social risks that emerge when algorithms operate within these institutions. Actants raise the risk of digital autonomy, hybrids the risk of double contingency in human-algorithm encounters, crowds the risk of opaque interconnections. The book demonstrates that the law needs to respond to these specific risks, by recognising personified algorithms as vicarious agents, human-machine associations as collective enterprises, and interconnected systems as risk pools – and by developing corresponding liability rules. The book relies on a unique combination of information technology studies, sociological institution and risk analysis, and comparative law. This approach uncovers recursive relations between types of machine behaviour, emergent socio-digital institutions, their concomitant risks, legal conditions of liability rules, and ascription of legal status to the algorithms involved.

• Droit Commun et Droit Civil
• Droit Global
• Régulation et droit économique
• Théorie, sociologie et philosophie du Droit

• en savoir +
• algorithme
• Entreprise
• Institution
• Intelligence artificielle
• Machine
• numérique
• Responsabilité
• Risque systémique
• Sociologie
• Systèmes de régulation

Mise à jour : 2 février 2023 (Rédaction initiale : 23 juin 2021 )

Base Documentaire : Doctrine

📝La juridictionnalisation de la réputation par les plateformes, in 🕴️M.-A. Frison-Roche (dir.), 📕La Juridictionnalisation de la Compliance

► Référence complète : L.-M. Augagneur, "La juridictionnalisation de la réputation par les plateformes", in M.-A. Frison-Roche (dir.), La juridictionnalisation de la Compliance, coll. "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) et Dalloz, 2023, p. 97-113. 

____

📕consulter une présentation générale de l'ouvrage, La juridictionnalisation de la Compliance, dans lequel cet article est publié

____

► Le résumé ci-dessous décrit un article qui fait suite à une intervention dans le colloque L'entreprise instituée Juge et Procureur d'elle-même par le Droit de la Compliance, coorganisé par le Journal of Regulation & Compliance (JoRC) et la Faculté de Droit Lyon 3. Ce colloque a été conçu par Marie-Anne Frison-Roche et Jean-Christophe Roda, codirecteurs scientifiques, et s'est déroulé à Lyon le 23 juin 2021.

Dans l'ouvrage, l'article sera publié dans le Titre I, consacré à L'entreprise instituée Juge et Procureur d'elle-même par le Droit de la Compliance.

____

► Résumé de l'article (fait par l'auteur) : Les grandes plateformes se trouvent placées en arbitre de l’économie de la réputation (référencement, notoriété) dans laquelle elles agissent elles-mêmes. Malgré, le plus souvent, de faibles enjeux unitaires, la juridictionnalité de la réputation représente des enjeux agrégés importants. Les plateformes sont ainsi conduites à détecter et apprécier les manipulations de réputation (par les utilisateurs : SEO, faux avis, faux followers ; ou par les plateformes elles-mêmes comme l’a mis en lumière la décision Google Shopping rendue par la Commission Européenne en 2017) qui sont mises en œuvre à grande échelle avec des outils algorithmiques.

L’identification et le traitement des manipulations n’est elle-même possible qu’au moyen d’outils d’intelligence artificielle. Google procède ainsi à un mécanisme de déclassement automatisé des sites ne suivant pas ses lignes directrices, avec une possibilité de faire une demande de réexamen par une procédure très sommaire entièrement menée par un algorithme. De son côté, Tripadvisor utilise un algorithme de détection des faux avis à partir d’une « modélisation de la fraude pour relever des constantes électroniques indétectables par l’œil humain ». Elle ne procède à une enquête humaine que dans des cas limités.

Cette juridictionnalité de la réputation présente peu de caractères communs avec celle définie par la jurisprudence de la Cour de Justice (origine légale, procédure contradictoire, indépendance, application des règles de droit). Elle se caractérise, d’une part, par l’absence de transparence des règles et même d’existence des règles énoncées sous forme prédicative et appliquées par raisonnement déductif. S’y substitue un modèle inductif probabiliste par l’identification de comportements anormaux par rapport à des centroïdes. Cette approche pose bien sûr la problématique des biais statistiques. Plus fondamentalement, elle traduit une transition de la Rule of Law, non pas tant vers Code is Law (Laurence Lessig), mais à Data is Law, c’est-à-dire à une gouvernance des nombres (plutôt que “par” les nombres). Elle revient en outre à une forme de juridictionnalité collective puisque la sanction provient d’une appréhension computationnelle des phénomènes de la multitude et non d’une appréciation individuelle. Enfin, elle apparaît particulièrement consubstantielle à la compliance puisqu’elle repose sur une démarche téléologique (la recherche d’une finalité plutôt que l’application de principes).

D’autre part, cette juridictionnalité se caractérise par la coopération homme-machine, que ce soit dans la prise de décision (ce qui pose le problème du biais d’automaticité) et dans la procédure contradictoire (ce qui pose notamment les problèmes de la discussion avec machine et de l’explicabilité de la réponse machine).

Jusqu’ici, l’encadrement de ces processus repose essentiellement sur les mécanismes de transparence, d’une exigence contradictoire limitée et de l’accessibilité de voies de recours. La Loi pour une République Numérique, le Règlement Platform-to-Business et la Directive Omnibus) ont ainsi posé des exigences sur les critères de classement sur les plateformes. La directive Omnibus exige par ailleurs que les professionnels garantissent que  les avis émanent de consommateurs par des mesures raisonnables et proportionnées. Quant au projet de Digital Services Act, il prévoit d’instaurer une transparence sur les règles, procédures et algorithmes de modération de contenus. Mais cette transparence est souvent en trompe-l’œil. De la même façon, les exigences d’une intervention humaine suffisante et du contradictoire apparaissent très limités dans le projet de texte.

Les formes les plus efficientes de cette juridictionnalité ressortent en définitive du rôle joué par les tiers dans une forme de résolution de litiges participative. Ainsi, par exemple, FakeSpot détecte les faux avis Tripadvisor, Sistrix établit un indice de ranking qui a permis d’établir les manipulations de l’algorithme de Google dans l’affaire Google Shopping en détectant les artefacts en fonction des modifications de l’algorithme. D’ailleurs, le projet de Digital Services Act envisage de reconnaître un statut spécifique aux signaleurs de confiance (trusted flaggers) qui identifient des contenus illégaux sur les plateformes.

Cette configuration juridictionnelle singulière (plateforme juge et partie, situations massives, systèmes algorithmiques de traitement des manipulations) amène ainsi à reconsidérer la grammaire du processus juridictionnel et de ses caractères. Si le droit est un langage, elle en offre une nouvelle forme grammaticale qui serait celle de la voie moyenne (mésotès) décrite par Benevéniste. Entre la voie active et la voie passive, se trouve une voie dans laquelle le sujet effectue une action où il s’inclut lui-même. Or c’est bien le propre de cette juridictionnalité de la compliance que de poser des lois en s’y incluant soi-même (nomos tithestai). A cet égard, l’irruption de l’intelligence artificielle dans ce traitement juridictionnel témoigne incontestablement du renouvellement du langage du droit.

________

• Justice
• Régulation et droit économique

• en savoir +
• Droit de la Compliance
• Intelligence artificielle
• Juridiction
• numérique
• Plateforme

1 juillet 2022

Conférences

🎥Compliance, Intelligence artificielle et gestion des entrepriseses : la juste mesure, in M. Mekki (coord.), 🧮L'intelligence artificielle et la gestion des entreprises

♾️suivre Marie-Anne Frison-Roche sur LinkedIn

♾️s'abonner à la Newsletter MAFR Regulation, Compliance, Law

____

► Référence générale : M.-A. Frison-Roche, "Compliance, Intelligence artificielle et gestion des entreprises : : la juste mesure", participation à la conférence coordonnée par Mustapha Mekki, L'intelligence artificielle et la gestion des entreprises. 1ier juillet 2022. 

____

🎥 regarder la conférence

____

 consulter les slides ayant servi de notes brèves pour prononcer la conférence. 

____

🚧lire le document de travail ayant servi de base à la conférence

____

📝Cette conférence sera suivie d'un article.

____

► Résumé de la conférence : Du prochaine Règlement européen sur l'intelligence artificielle, la Commission européenne en a une conception assez neutre pour obtenir un consensus entre les Etats membre, tandis que les Régulateurs et certains Etats en ont une conception plus substantielle voulant que la puissance de celle-ci soit utilisée pour protéger les personnes, et contre ses outils eux-mêmes et contre ce qui est une amplification des maux du monde, comme la haine ou la désinformation. C'est le reflet d'une alternative d'une conception de la Compliance.

En premier lieu, la Compliance peut se définir comme des process neutres qui accroissent l'effectivité de ce qui serait l'obligation des entreprises ou leur volonté pour une bonne gestion des risques (notamment des "risques juridiques") de se soumettre à la totalité des réglementations qui sont applicables à elle-même et toutes les personnes dont elle doit répondre. C'est ce l'on appelle souvent l'obligation de conformité.

Cette conception implique des conséquences pratiques considérables pour l'entreprise qui pour réussir cet "exploit total" devrait alors recourir à des outils d'intelligence artificielle constituant une "solution totale et infaillible", ce qui engendre mécaniquement pour elle l'obligation de "connaitre" toute la "masse réglementaire", de détecter toutes les "non-conformités", de concevoir son rapport au Droit en termes de "risque de non-conformité", pris totalement en charge par la Compliance by Design qui pourrait, sans intervention humaine, éliminer le risque juridique et garantir la "conformité. 

Le "prix juridique" de ce rêve technologique en est très élevé car toutes les prescriptions "réglementaire" vont alors se transformer en obligations de résultat, toute défaillance engendrant responsabilité. Le système probatoire de la Compliance va devenir écrasant pour l'entreprise, tant en termes de charge de preuve, que moyens de preuve, que transferts , sans dispense de preuve. Vont se multiplier des responsabilités objectives pour autrui. Le "droit de la conformité" va multiplier des pénalités systémiques Ex Ante , la frontière avec le Droit pénal étant de moins en moins préservée.

Il est essentiel d'éviter cela, et pour les entreprises, et pour l'Etat de Droit. Pour cela, il faut utiliser l'Intelligence Artificielle à sa juste mesure : elle doit constituer une "aide massive", sans jamais prétendre être une solution totale et infaillible, car c'est l'humain qui doit être au centre et non pas les machines.

Pour cela, il faut adopter une conception substantielle du Droit de la Compliance (et non pas Droit de la conformité). Elle ne vise pas du tout l'ensemble des réglementations applicables et elle n'est pas du tout "neutre", n'ayant en rien une série de process. Cette nouvelle branche du Droit est substantiellement construite sur des buts monumentaux. Ceux-ci sont soit de nature négative (éviter qu'une crise systémique n'arrive, bancaire, financière, sanitaire, climatique, etc.), soit de nature positive (construire un meilleur équilibre, notamment entre les êtres humains, dans l'entreprise et au-delà de celle-ci). 

Dans cette conception qui se manifeste de plus en plus fortement, l'intelligence artificielle trouve sa place, plus modeste. En tant que le Droit de la Compliance est basé sur l'information, l'Intelligence Artificielle est indispensable pour la capter et en faire une première mise en connection, la rendant en état d'analyses successives, notamment de la part d'êtres humains, pour qu'il y ait possibilité de ce qui est l'essentiel : l'engagement de l'entreprise, à la fois par les dirigeants et par tous ceux qui sont "embarqués" par une "culture de Compliance" qui est à la fois construite et commune. 

Cela redonne l'étanchéité requise entre le Droit pénal et ce que l'on peut demander à l'usage mécanique de l'intelligence artificielle, cela remet l'obligation de moyens comme principe. Cela redonne la place centrale au juriste et au Compliance officer , pour que s'articulent la culture de compliance avec la culture d'un secteur et l'identité de l'entreprise elle-même. En effet, la culture de compliance étant indissociable d'une culture de valeurs, la Compliance by design suppose une double technique, à la fois mathématique et de culture juridique. C'est en cela que le Droit européen de la compliance, en ce qu'il est enraciné dans la tradition humaniste européen, est un modèle. 

____

Pour aller plus loin :

📕Les buts monumentaux de la Compliance, 2022

📕La juridictionnalisation de la Compliance, 2022

📕Les outils de la Compliance, 2021

📓L'apport du Droit de la Compliance à la Gouvernance d'Internet, 2019

📕Pour une Europe de la Compliance, 2019

📕Régulation, Supervision, Compliance, 2017

📕 Internet, espace d'interrégulation, 2016

📝 Les Buts Monumentaux, cœur battant du Droit de la Compliance, 2022,

📝 Rôle et place des entreprises dans la création et l'effectivité du Droit de la Compliance en cas de crise, 2022

📝 Appréciation du lancement d'alerte et de l'obligation de vigilance au regard de la compétitivité internationale, 2022

📝 Le jugeant- jugé ; articuler les mots et les choses face à l'impossible conflit d'intérêts, 2022

📝 Décrire, concevoir et corréler les outils de la Compliance, pour en faire un usage adéquat, 2021

📝 Construire juridiquement l'unité des outils de la Compliance à partir de la définition du Droit de la Compliance par ses "buts monumentaux", 2021

📝 Compliance et incitations, un couple à propulser, 2021

📝 Résoudre la contradiction entre incitations et sanctions sous le feu du Droit de la Compliance, 2021

📝Dresser des cartographies des risques comme obligation et le paradoxe des "risques de conformité", 2021

📝 La formation : contenu et contenant du Droit de la Compliance, 2021

📝 Les droits subjectifs, outils premiers et naturels du Droit de la Compliance, 2021

📝 Le Droit rêvé de la Compliance, 2020

📝 Un Droit substantiel de la Compliance, appuyé sur la tradition européenne humaniste, 2019

📝 Se tenir bien dans l'espace numérique, 2019

📝 Droit de la concurrence et Droit de la compliance, 2018

📝 Entreprise, Régulation, Juge : penser la compliance par ces trois personnages, 2018

📝 Compliance : avant, maintenant, après, 2018

📝 Du Droit de la Régulation au Droit de la Compliance, 2017

📝 Tracer les cercles de la Compliance,2017,

📝 Compliance et Confiance, 2017

📝 Le Droit de la Compliance, 2016

 

• Justice
• Régulation et droit économique

• en savoir +
• Buts Monumentaux
• cartographie des risques
• conformité
• Droit de la Compliance
• Droit pénal
• Entreprise cruciale
• Information
• Intelligence artificielle
• Outils de la Compliance
• Risque systémique

21 juin 2022

Publications

🚧 La place de l'Intelligence artificielle dans le respect de la Compliance par l'entreprise : la juste mesure

♾️ suivre Marie-Anne Frison-Roche sur LinkedIn

♾️s'abonner à la Newsletter MAFR Regulation, Compliance, Law 

____

► Référence générale : Frison-Roche, M.-A. La place de l'Intelligence artificielle dans le respect de la Compliance dans l'entreprise : la juste mesure, document de travail, juin 2022. 

____

🎤 Ce document de travail a été élaboré pour servir tout d'abord de base à une intervention dans la conférence de la Cour de cassation du 1ier juillet 2022 : L'intelligence artificielle et la gestion des entreprises.

____

🎥Regarder la conférence prononcée sur la base de ce document de travail

____

📝Il sera également la base à un article.

____

► Résumé du document de travail : Du prochaine Règlement européen sur l'intelligence artificielle, la Commission européenne en a une conception assez neutre pour obtenir un consensus entre les Etats membre, tandis que les Régulateurs et certains Etats en ont une conception plus substantielle voulant que la puissance de celle-ci soit utilisée pour protéger les personnes, et contre ses outils eux-mêmes et contre ce qui est une amplification des maux du monde, comme la haine ou la désinformation. C'est le reflet d'une alternative d'une conception de la Compliance.

En premier lieu, la Compliance peut se définir, soit comme des process neutres qui accroissent l'effectivité de ce qui serait l'obligation ou la volonté pour une bonne gestion des entreprises de se soumettre à la totalité des réglementations qui sont applicables à elle-même et toutes les personnes dont elle doit répondre. C'est ce l'on appelle souvent l'obligation de conformité.

Cette conception implique des conséquences pratiques considérables pour l'entreprise qui pour réussir cet "exploit total" devrait alors recourir à des outils d'intelligence artificielle constituant une "solution totale et infaillible", ce qui engendre mécaniquement pour elle l'obligation de "connaitre" toute la "masse réglementaire", de détecter toutes les "non-conformités", de concevoir son rapport au Droit en termes de "risque de non-conformité", pris totalement en charge par la Compliance by Design qui pourrait, sans intervention humaine, éliminer le risque juridique et garantir la "conformité. 

Le "prix juridique" de ce rêve technologique en est très élevé car toutes les prescriptions "réglementaire" vont alors se transformer en obligations de résultat, toute défaillance engendrant responsabilité. Le système probatoire de la Compliance va devenir écrasant pour l'entreprise, tant en termes de charge de preuve, que moyens de preuve, que transferts , sans dispense de preuve. Vont se multiplier des responsabilités objectives pour autrui. Le "droit de la conformité" va multiplier des pénalités systémiques Ex Ante , la frontière avec le Droit pénal étant de moins en moins préservée.

Il est essentiel d'éviter cela, et pour les entreprises, et pour l'Etat de Droit. Pour cela, il faut utiliser l'Intelligence Artificielle à sa juste mesure : elle doit constituer une "aide massive", sans jamais prétendre être une solution totale et infaillible, car c'est l'humain qui doit être au centre et non pas les machines.

Pour cela, il faut adopter une conception substantielle du Droit de la Compliance (et non pas Droit de la conformité). Elle ne vise pas du tout l'ensemble des réglementations applicables et elle n'est pas du tout "neutre", n'ayant en rien une série de process. Cette nouvelle branche du Droit est substantiellement construite sur des buts monumentaux. Ceux-ci sont soit de nature négative (éviter qu'une crise systémique n'arrive, bancaire, financière, sanitaire, climatique, etc.), soit de nature positive (construire un meilleur équilibre, notamment entre les êtres humains, dans l'entreprise et au-delà de celle-ci). 

Dans cette conception qui se manifeste de plus en plus fortement, l'intelligence artificielle trouve sa place, plus modeste. En tant que le Droit de la Compliance est basé sur l'information, l'Intelligence Artificielle est indispensable pour la capter et en faire une première mise en connection, la rendant en état d'analyses successives, notamment de la part d'êtres humains, pour qu'il y ait possibilité de ce qui est l'essentiel : l'engagement de l'entreprise, à la fois par les dirigeants et par tous ceux qui sont "embarqués" par une "culture de Compliance" qui est à la fois construite et commune. 

Cela redonne l'étanchéité requise entre le Droit pénal et ce que l'on peut demander à l'usage mécanique de l'intelligence artificielle, cela remet l'obligation de moyens comme principe. Cela redonne la place centrale au juriste et au Compliance officer , pour que s'articulent la culture de compliance avec la culture d'un secteur et l'identité de l'entreprise elle-même. En effet, la culture de compliance étant indissociable d'une culture de valeurs, la Compliance by design suppose une double technique, à la fois mathématique et de culture juridique. C'est en cela que le Droit européen de la compliance, en ce qu'il est enraciné dans la tradition humaniste européen, est un modèle. 

____

🔓lire le document de travail ci-dessous⤵️

• Régulation et droit économique

• en savoir +
• Crise
• Droit de la Compliance
• Entreprise cruciale
• Intelligence artificielle

21 juin 2022

Base Documentaire : Soft Law

📓Pour une IA européenne protectrice et garante du principe de non-discrimination

Référence complète : Equinet : Pour une IA européenne protectrice et garante du principe de non-discrimination, Avis établissant des recommandations et des principes essentiels pour la future législation européenne portant sur l'intelligence artificielle, 21 juin 2022.

____

 

Lire l'avis. 

 

• Régulation et droit économique

• en savoir +
• Avis
• Big data
• CNIL
• Données personnelles
• Europe
• Intelligence artificielle
• Loi
• Recommandation

2 mars 2022

Base Documentaire : Doctrine

📝Brave new Planes ou la conformité juridique de grands groupes aéronautiques face aux défis de l'intelligence artificielle

Référence complète : Laroche, B. et Boullu-Chataigner, J., Brave New Planes ou la conformité juridique de grands groupes aéronautiques face aux défis de l'intelligence artificielle, D. IP/IT, 2022, p.83.

____  

• Régulation et droit économique

• en savoir +
• Droit de la Compliance
• Intelligence artificielle

• «
• ←
• 1
• 2
• →
• »

© mafr 2014-2023 Marie-Anne Frison-Roche -

Mentions légales