► Référence complète : R. Sève, "L'obligation de compliance  et les mutations de la souveraineté et de la citoyenneté", in M.-A. Frison-Roche (dir.), L'obligation de Compliance, Journal of Regulation & Compliance (JoRC) et Dalloz, coll. "Régulations & Compliance", 2024, à paraître.

____

📕lire une présentation générale de l'ouvrage, L'obligation de Compliance, dans lequel cet article est publié.

____

► Résumé de l'article (fait par le Journal of Regulation & Compliance - JoRC) : la contribution décrit "les changements de philosophie du droit que la notion de compliance peut impliquer par rapport à la représentation moderne de l’Etat assurant l’effectivité des lois issues de la volonté générale, dans le respect des libertés fondamentales qui constituent l’essence du sujet de droit.".

Le contributeur estime que la définition de la compliance tient à des auteurs qui « jouer un rôle d’éclairage et de structuration d’un vaste ensemble d’idées et de phénomènes précédemment envisagés de manière disjointe.  Pour ce qui nous occupe, c’est sûrement le cas de la théorie de la compliance, développée en France par Marie-Anne Frison-Roche dans la lignée de grands économistes (Jean-Jacques Laffont, Jean Tirole) et dont la première forme résidait dans les travaux bien connus de la Professeure sur le droit de la régulation. ».

S'appuyant sur les Principles of the Law de l’American Law Institute, qui considère que la compliance est un « set of rules, principles, controls, authorities, offices and practices designed to ensure that an organisation conforms to external and internal norms», il souligne que la compliance apparaît alors un mécanisme neutre visant à l'efficacité par un passage vers l'Ex Ante. Mais il souligne que la nouveauté tient dans le fait de viser "seulement" des événements futurs, en "refondamentalisant" et en "monumentalisant" la matière par la notion de "buts monumentaux" conçue par Marie-Anne Frison-Roche, faisant apparaître un nouveau jus comune. Ainsi, "la compliance c’est l’idée permanente du droit appliquée à de nouveaux contextes et défis.". 

Il ne s'agit donc pas de faire des économies budgétaires mais bien plutôt de continuer à faire vivre la philosophie du Contrat social à des enjeux complexes, notamment les enjeux environnementaux. 

Cela renouvelle la place qu'y occupe le citoyen car il y apparaît non seulement comme individu, ce qui est dans la conception classique grecque et chez Rousseau, mais encore à travers des entités, notamment les ONG, tandis que les grandes entreprises, parce qu'elles ont seules les moyens de poursuivre les buts monumentaux de la compliance, seraient comme des "super-citoyens", ce dont l'espace numérique commence à développer l'expérience, au risque de disparition de l'individu lui-même par l'effet du "capitalisme de surveillance". Mais de la même façon que la pensée du Contrat social s'articule avec celle du capitalisme, la compliance se situe sans rupture fondamentale  dans un prolongement historique logique : "C’est le développement et la complexité du capitalisme qui forcent à introduire dans les entités privées des mécanismes procéduraux d’essence bureaucratique, pour discipliner les salariés, contenir les critiques internes et externes, soutenir les managers en place" en les forçant à justifier les rémunérations, les avantages, etc.

En outre, selon les termes de l'auteur, "Avec les buts monumentaux, - la prise en compte des effets lointains, diffus, agrégés par delà les frontières, de l’intérêt des générations futures, de tous les êtres vivants - ,  on passe, pour ainsi dire, à une dimension industrielle de l’éthique, que seuls de vastes systèmes de traitement de l’information permettent d’envisager effectivement.".

C'est ainsi que l'on peut trouver une répartition entre l'intelligence artificielle et les êtres humains dans les organisations, notamment les entreprises, ou dans les processus de décisions.

De la même façon, la liberté de l'individu ne disparaît pas par la Compliance car c'est précisément et au contraire l'un de ses buts monumentaux que de rendre les individus aptes à choisir dans un environnement complexe, notamment dans l'espace numérique où le système démocratique est désormais en jeu, tandis que des mécanismes techniques, comme le lancement d'alerte, vont renaître le droit à la désobéissance civile, invalidant le grief de "capitalisme de surveillance".

L'auteur conclut que les enjeux sont si grands que la Compliance qui a déjà dépassé les distinctions entre le droit privé et le droit public, entre le droit national et le droit international, doit aussi dépasser celle entre l'information et et le secret, notamment en raison des cyber-risques, ce qui requiert de l'Etat l'élaboration et la pratique de stratégies non-publiques de Compliance pour préserver l'avenir.

________

► Référence complète : L’intelligence artificielle, nouveau champ de contentieux systémique, in cycle de conférences-débats "Contentieux Systémique Émergent", organisé à l'initiative de la Cour d'appel de Paris, avec la Cour de cassation, la Cour d'appel de Versailles, l'École nationale de la magistrature (ENM) et l'École de formation des barreaux du ressort de la Cour d'appel de Paris (EFB), sous la responsabilité scientifique de Marie-Anne Frison-Roche, 24 juin 2024, 11h-12h30, Cour d'appel de Paris, salle Cassin

____

► Présentation de la conférence : 

____

🧮Programme de cette manifestation : 

Quatrième conférence-débat

L’INTELLIGENCE ARTIFICIELLE, NOUVEAU CHAMP DE CONTENTIEUX SYSTÉMIQUE

Cour d’appel de Paris, salle Cassin

Présentation et modération par 🕴️Marie-Anne Frison-Roche, Professeure de Droit de la Régulation et de la Compliance, Directrice du Journal of Regulation & Compliance (JoRC)

🕰️11h-11h20. 🎤Les premiers contentieux systémiques observables impliquant l’intelligence artificielle, par 🕴️Sonia Cissé, Avocate Associée, Linklaters Paris

🕰️11h20-11h40. 🎤L’influence des nouveaux textes et des textes à venir sur les contentieux systémiques émergents impliquant l’intelligence artificielle, par 🕴️Yannick Meneceur, magistrat en disponibilité, Conseil de l’Europe, Université de Strasbourg

🕰️11h40-12h30. Débat

____

🔴Les inscriptions et renseignements se font à l’adresse : inscriptionscse@gmail.com

🔴Pour les avocats, les inscriptions se font à l’adresse suivante : https://evenium.events/cycle-de-conferences-contentieux-systemique-emergent/ 

⚠️Les conférences-débat se tiennent en présentiel à la Cour d’appel de Paris.

________

► Référence complète : Les techniques de supervision des contenus numériques disponibles sur les plateformes, in cycle de conférences-débats "Contentieux Systémique Émergent", organisé à l'initiative de la Cour d'appel de Paris, avec la Cour de cassation, la Cour d'appel de Versailles, l'École nationale de la magistrature (ENM) et l'École de formation des barreaux du ressort de la Cour d'appel de Paris (EFB), sous la responsabilité scientifique de Marie-Anne Frison-Roche, 27 mai 2024, 11h-12h30, Cour d'appel de Paris, salle Cassin

____

► Présentation de la conférence : 

____

🧮Programme de cette manifestation : 

Troisième conférence-débat

LES TECHNIQUES DE SUPERVISION DES CONTENUS NUMÉRIQUES DISPONIBLES SUR LES PLATEFORMES

Cour d’appel de Paris, salle Cassin

Présentation et modération par 🕴️Marie-Anne Frison-Roche, Professeure de Droit de la Régulation et de la Compliance, Directrice du Journal of Regulation & Compliance (JoRC)

🕰️11h-11h20. 🎤Les techniques de supervision utilisées par les plateformes, intervenant à venir

🕰️11h20-11h40. 🎤Les techniques de supervision par l’autorité administrative indépendante, par 🕴️Roch-Olivier Maistre, Président de l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom)

🕰️11h40-12h30. Débat

____

🔴Les inscriptions et renseignements se font à l’adresse : inscriptionscse@gmail.com

🔴Pour les avocats, les inscriptions se font à l’adresse suivante : https://evenium.events/cycle-de-conferences-contentieux-systemique-emergent/ 

⚠️Les conférences-débat se tiennent en présentiel à la Cour d’appel de Paris.

________

► Référence complète : U. Goldberg, "Collecte et traitement des informations dans les enquêtes internes à l'ère numérique : processus et enjeux", in M.-A. Frison-Roche et M. Boissavy (dir.), Compliance et droits de la défense. Enquête interne – CJIP – CRPC, Journal of Regulation & Compliance (JoRC) et Dalloz, coll. "Régulations & Compliance" à paraître.

____

📕consulter une présentation générale de l'ouvrage, Compliance et droits de la défense - Enquête interne, CIIP, CRPC, dans lequel cet article est publié

____

► Résumé de l'article (fait par le Journal of Regulation & Compliance - JoRC) : L'objet de l'article est de décrire la technologie de l'enquête interne. C'est pourquoi la question des droits de la défense n'y est pas abordée en tant que telle mais plutôt la méthodologie requise par l'objet recherché, le traitement des informations requis pour l'atteindre et les contraintes engendrées par les outils utilisés. Il s'agit en effet d'obtenir une fiabilité et une efficience la plus grande possible dans la collecte des données et le maniement de celles-ci. 

L'auteur expose les méthodes pour obtenir les données. Cela est rendu difficile par la variété des systèmes juridiques simultanément applicables, par les obligations de confidentialité et le caractère personnel de certaines données, ce qui les rend juridiquement inexploitables. Il convient ensuite d'extraire dans la masse des données celles qui seront pertinentes.

La méthodologie utilisée par le professionnel consiste à indiquer clairement au départ le périmètre de la recherche d'informations et les spécificités de l'enquête, cadre à communiquer aux personnes et organisations impliquées. Plus précisément, il faut préciser l'étendue géographique de la recherche, la période couverte, les personnes impliquées dans l'enquête interne, le type de données recherchées, les systèmes informatiques impliqués, le niveau de confidentialité imposé, les procédures internes liées à la conservation des données et à leur accès. Les informations collectées sont soit structurées, soit non structurées, les deux types s'articulant, et la technologie évoluant sans cesse, tandis que les principes de l'enquête doivent demeurer stables.

____

🦉Cet article est accessible en texte intégral pour les personnes inscrites aux enseignements de la Professeure Marie-Anne Frison-Roche

________

► Référence complète : L.-M. Augagneur, "La juridictionnalisation de la réputation par les plateformes", in M.-A. Frison-Roche (dir.), La juridictionnalisation de la Compliance, coll. "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) et Dalloz, 2023, p. 97-113. 

____

📕consulter une présentation générale de l'ouvrage, La juridictionnalisation de la Compliance, dans lequel cet article est publié

____

► Le résumé ci-dessous décrit un article qui fait suite à une intervention dans le colloque L'entreprise instituée Juge et Procureur d'elle-même par le Droit de la Compliance, coorganisé par le Journal of Regulation & Compliance (JoRC) et la Faculté de Droit Lyon 3. Ce colloque a été conçu par Marie-Anne Frison-Roche et Jean-Christophe Roda, codirecteurs scientifiques, et s'est déroulé à Lyon le 23 juin 2021.

Dans l'ouvrage, l'article sera publié dans le Titre I, consacré à L'entreprise instituée Juge et Procureur d'elle-même par le Droit de la Compliance.

____

► Résumé de l'article (fait par l'auteur) : Les grandes plateformes se trouvent placées en arbitre de l’économie de la réputation (référencement, notoriété) dans laquelle elles agissent elles-mêmes. Malgré, le plus souvent, de faibles enjeux unitaires, la juridictionnalité de la réputation représente des enjeux agrégés importants. Les plateformes sont ainsi conduites à détecter et apprécier les manipulations de réputation (par les utilisateurs : SEO, faux avis, faux followers ; ou par les plateformes elles-mêmes comme l’a mis en lumière la décision Google Shopping rendue par la Commission Européenne en 2017) qui sont mises en œuvre à grande échelle avec des outils algorithmiques.

L’identification et le traitement des manipulations n’est elle-même possible qu’au moyen d’outils d’intelligence artificielle. Google procède ainsi à un mécanisme de déclassement automatisé des sites ne suivant pas ses lignes directrices, avec une possibilité de faire une demande de réexamen par une procédure très sommaire entièrement menée par un algorithme. De son côté, Tripadvisor utilise un algorithme de détection des faux avis à partir d’une « modélisation de la fraude pour relever des constantes électroniques indétectables par l’œil humain ». Elle ne procède à une enquête humaine que dans des cas limités.

Cette juridictionnalité de la réputation présente peu de caractères communs avec celle définie par la jurisprudence de la Cour de Justice (origine légale, procédure contradictoire, indépendance, application des règles de droit). Elle se caractérise, d’une part, par l’absence de transparence des règles et même d’existence des règles énoncées sous forme prédicative et appliquées par raisonnement déductif. S’y substitue un modèle inductif probabiliste par l’identification de comportements anormaux par rapport à des centroïdes. Cette approche pose bien sûr la problématique des biais statistiques. Plus fondamentalement, elle traduit une transition de la Rule of Law, non pas tant vers Code is Law (Laurence Lessig), mais à Data is Law, c’est-à-dire à une gouvernance des nombres (plutôt que “par” les nombres). Elle revient en outre à une forme de juridictionnalité collective puisque la sanction provient d’une appréhension computationnelle des phénomènes de la multitude et non d’une appréciation individuelle. Enfin, elle apparaît particulièrement consubstantielle à la compliance puisqu’elle repose sur une démarche téléologique (la recherche d’une finalité plutôt que l’application de principes).

D’autre part, cette juridictionnalité se caractérise par la coopération homme-machine, que ce soit dans la prise de décision (ce qui pose le problème du biais d’automaticité) et dans la procédure contradictoire (ce qui pose notamment les problèmes de la discussion avec machine et de l’explicabilité de la réponse machine).

Jusqu’ici, l’encadrement de ces processus repose essentiellement sur les mécanismes de transparence, d’une exigence contradictoire limitée et de l’accessibilité de voies de recours. La Loi pour une République Numérique, le Règlement Platform-to-Business et la Directive Omnibus) ont ainsi posé des exigences sur les critères de classement sur les plateformes. La directive Omnibus exige par ailleurs que les professionnels garantissent que  les avis émanent de consommateurs par des mesures raisonnables et proportionnées. Quant au projet de Digital Services Act, il prévoit d’instaurer une transparence sur les règles, procédures et algorithmes de modération de contenus. Mais cette transparence est souvent en trompe-l’œil. De la même façon, les exigences d’une intervention humaine suffisante et du contradictoire apparaissent très limités dans le projet de texte.

Les formes les plus efficientes de cette juridictionnalité ressortent en définitive du rôle joué par les tiers dans une forme de résolution de litiges participative. Ainsi, par exemple, FakeSpot détecte les faux avis Tripadvisor, Sistrix établit un indice de ranking qui a permis d’établir les manipulations de l’algorithme de Google dans l’affaire Google Shopping en détectant les artefacts en fonction des modifications de l’algorithme. D’ailleurs, le projet de Digital Services Act envisage de reconnaître un statut spécifique aux signaleurs de confiance (trusted flaggers) qui identifient des contenus illégaux sur les plateformes.

Cette configuration juridictionnelle singulière (plateforme juge et partie, situations massives, systèmes algorithmiques de traitement des manipulations) amène ainsi à reconsidérer la grammaire du processus juridictionnel et de ses caractères. Si le droit est un langage, elle en offre une nouvelle forme grammaticale qui serait celle de la voie moyenne (mésotès) décrite par Benevéniste. Entre la voie active et la voie passive, se trouve une voie dans laquelle le sujet effectue une action où il s’inclut lui-même. Or c’est bien le propre de cette juridictionnalité de la compliance que de poser des lois en s’y incluant soi-même (nomos tithestai). A cet égard, l’irruption de l’intelligence artificielle dans ce traitement juridictionnel témoigne incontestablement du renouvellement du langage du droit.

________

♾️suivre Marie-Anne Frison-Roche sur LinkedIn

♾️s'abonner à la Newsletter MAFR Regulation, Compliance, Law

____

► Référence générale : M.-A. Frison-Roche, "Compliance, Intelligence artificielle et gestion des entreprises : : la juste mesure", participation à la conférence coordonnée par Mustapha Mekki, L'intelligence artificielle et la gestion des entreprises. 1ier juillet 2022. 

____

🎥 regarder la conférence

____

 consulter les slides ayant servi de notes brèves pour prononcer la conférence. 

____

🚧lire le document de travail ayant servi de base à la conférence

____

📝Cette conférence sera suivie d'un article.

____

► Résumé de la conférence : Du prochaine Règlement européen sur l'intelligence artificielle, la Commission européenne en a une conception assez neutre pour obtenir un consensus entre les Etats membre, tandis que les Régulateurs et certains Etats en ont une conception plus substantielle voulant que la puissance de celle-ci soit utilisée pour protéger les personnes, et contre ses outils eux-mêmes et contre ce qui est une amplification des maux du monde, comme la haine ou la désinformation. C'est le reflet d'une alternative d'une conception de la Compliance.

En premier lieu, la Compliance peut se définir comme des process neutres qui accroissent l'effectivité de ce qui serait l'obligation des entreprises ou leur volonté pour une bonne gestion des risques (notamment des "risques juridiques") de se soumettre à la totalité des réglementations qui sont applicables à elle-même et toutes les personnes dont elle doit répondre. C'est ce l'on appelle souvent l'obligation de conformité.

Cette conception implique des conséquences pratiques considérables pour l'entreprise qui pour réussir cet "exploit total" devrait alors recourir à des outils d'intelligence artificielle constituant une "solution totale et infaillible", ce qui engendre mécaniquement pour elle l'obligation de "connaitre" toute la "masse réglementaire", de détecter toutes les "non-conformités", de concevoir son rapport au Droit en termes de "risque de non-conformité", pris totalement en charge par la Compliance by Design qui pourrait, sans intervention humaine, éliminer le risque juridique et garantir la "conformité. 

Le "prix juridique" de ce rêve technologique en est très élevé car toutes les prescriptions "réglementaire" vont alors se transformer en obligations de résultat, toute défaillance engendrant responsabilité. Le système probatoire de la Compliance va devenir écrasant pour l'entreprise, tant en termes de charge de preuve, que moyens de preuve, que transferts , sans dispense de preuve. Vont se multiplier des responsabilités objectives pour autrui. Le "droit de la conformité" va multiplier des pénalités systémiques Ex Ante , la frontière avec le Droit pénal étant de moins en moins préservée.

Il est essentiel d'éviter cela, et pour les entreprises, et pour l'Etat de Droit. Pour cela, il faut utiliser l'Intelligence Artificielle à sa juste mesure : elle doit constituer une "aide massive", sans jamais prétendre être une solution totale et infaillible, car c'est l'humain qui doit être au centre et non pas les machines.

Pour cela, il faut adopter une conception substantielle du Droit de la Compliance (et non pas Droit de la conformité). Elle ne vise pas du tout l'ensemble des réglementations applicables et elle n'est pas du tout "neutre", n'ayant en rien une série de process. Cette nouvelle branche du Droit est substantiellement construite sur des buts monumentaux. Ceux-ci sont soit de nature négative (éviter qu'une crise systémique n'arrive, bancaire, financière, sanitaire, climatique, etc.), soit de nature positive (construire un meilleur équilibre, notamment entre les êtres humains, dans l'entreprise et au-delà de celle-ci). 

Dans cette conception qui se manifeste de plus en plus fortement, l'intelligence artificielle trouve sa place, plus modeste. En tant que le Droit de la Compliance est basé sur l'information, l'Intelligence Artificielle est indispensable pour la capter et en faire une première mise en connection, la rendant en état d'analyses successives, notamment de la part d'êtres humains, pour qu'il y ait possibilité de ce qui est l'essentiel : l'engagement de l'entreprise, à la fois par les dirigeants et par tous ceux qui sont "embarqués" par une "culture de Compliance" qui est à la fois construite et commune. 

Cela redonne l'étanchéité requise entre le Droit pénal et ce que l'on peut demander à l'usage mécanique de l'intelligence artificielle, cela remet l'obligation de moyens comme principe. Cela redonne la place centrale au juriste et au Compliance officer , pour que s'articulent la culture de compliance avec la culture d'un secteur et l'identité de l'entreprise elle-même. En effet, la culture de compliance étant indissociable d'une culture de valeurs, la Compliance by design suppose une double technique, à la fois mathématique et de culture juridique. C'est en cela que le Droit européen de la compliance, en ce qu'il est enraciné dans la tradition humaniste européen, est un modèle. 

____

Pour aller plus loin :

📕Les buts monumentaux de la Compliance, 2022

📕La juridictionnalisation de la Compliance, 2022

📕Les outils de la Compliance, 2021

📓L'apport du Droit de la Compliance à la Gouvernance d'Internet, 2019

📕Pour une Europe de la Compliance, 2019

📕Régulation, Supervision, Compliance, 2017

📕 Internet, espace d'interrégulation, 2016

📝 Les Buts Monumentaux, cœur battant du Droit de la Compliance, 2022,

📝 Rôle et place des entreprises dans la création et l'effectivité du Droit de la Compliance en cas de crise, 2022

📝 Appréciation du lancement d'alerte et de l'obligation de vigilance au regard de la compétitivité internationale, 2022

📝 Le jugeant- jugé ; articuler les mots et les choses face à l'impossible conflit d'intérêts, 2022

📝 Décrire, concevoir et corréler les outils de la Compliance, pour en faire un usage adéquat, 2021

📝 Construire juridiquement l'unité des outils de la Compliance à partir de la définition du Droit de la Compliance par ses "buts monumentaux", 2021

📝 Compliance et incitations, un couple à propulser, 2021

📝 Résoudre la contradiction entre incitations et sanctions sous le feu du Droit de la Compliance, 2021

📝Dresser des cartographies des risques comme obligation et le paradoxe des "risques de conformité", 2021

📝 La formation : contenu et contenant du Droit de la Compliance, 2021

📝 Les droits subjectifs, outils premiers et naturels du Droit de la Compliance, 2021

📝 Le Droit rêvé de la Compliance, 2020

📝 Un Droit substantiel de la Compliance, appuyé sur la tradition européenne humaniste, 2019

📝 Se tenir bien dans l'espace numérique, 2019

📝 Droit de la concurrence et Droit de la compliance, 2018

📝 Entreprise, Régulation, Juge : penser la compliance par ces trois personnages, 2018

📝 Compliance : avant, maintenant, après, 2018

📝 Du Droit de la Régulation au Droit de la Compliance, 2017

📝 Tracer les cercles de la Compliance,2017,

📝 Compliance et Confiance, 2017

📝 Le Droit de la Compliance, 2016

♾️ suivre Marie-Anne Frison-Roche sur LinkedIn

♾️s'abonner à la Newsletter MAFR Regulation, Compliance, Law 

____

► Référence générale : Frison-Roche, M.-A. La place de l'Intelligence artificielle dans le respect de la Compliance dans l'entreprise : la juste mesure, document de travail, juin 2022. 

____

🎤 Ce document de travail a été élaboré pour servir tout d'abord de base à une intervention dans la conférence de la Cour de cassation du 1ier juillet 2022 : L'intelligence artificielle et la gestion des entreprises.

____

🎥Regarder la conférence prononcée sur la base de ce document de travail

____

📝Il sera également la base à un article.

____

► Résumé du document de travail : Du prochaine Règlement européen sur l'intelligence artificielle, la Commission européenne en a une conception assez neutre pour obtenir un consensus entre les Etats membre, tandis que les Régulateurs et certains Etats en ont une conception plus substantielle voulant que la puissance de celle-ci soit utilisée pour protéger les personnes, et contre ses outils eux-mêmes et contre ce qui est une amplification des maux du monde, comme la haine ou la désinformation. C'est le reflet d'une alternative d'une conception de la Compliance.

En premier lieu, la Compliance peut se définir, soit comme des process neutres qui accroissent l'effectivité de ce qui serait l'obligation ou la volonté pour une bonne gestion des entreprises de se soumettre à la totalité des réglementations qui sont applicables à elle-même et toutes les personnes dont elle doit répondre. C'est ce l'on appelle souvent l'obligation de conformité.

Cette conception implique des conséquences pratiques considérables pour l'entreprise qui pour réussir cet "exploit total" devrait alors recourir à des outils d'intelligence artificielle constituant une "solution totale et infaillible", ce qui engendre mécaniquement pour elle l'obligation de "connaitre" toute la "masse réglementaire", de détecter toutes les "non-conformités", de concevoir son rapport au Droit en termes de "risque de non-conformité", pris totalement en charge par la Compliance by Design qui pourrait, sans intervention humaine, éliminer le risque juridique et garantir la "conformité. 

Le "prix juridique" de ce rêve technologique en est très élevé car toutes les prescriptions "réglementaire" vont alors se transformer en obligations de résultat, toute défaillance engendrant responsabilité. Le système probatoire de la Compliance va devenir écrasant pour l'entreprise, tant en termes de charge de preuve, que moyens de preuve, que transferts , sans dispense de preuve. Vont se multiplier des responsabilités objectives pour autrui. Le "droit de la conformité" va multiplier des pénalités systémiques Ex Ante , la frontière avec le Droit pénal étant de moins en moins préservée.

Il est essentiel d'éviter cela, et pour les entreprises, et pour l'Etat de Droit. Pour cela, il faut utiliser l'Intelligence Artificielle à sa juste mesure : elle doit constituer une "aide massive", sans jamais prétendre être une solution totale et infaillible, car c'est l'humain qui doit être au centre et non pas les machines.

Pour cela, il faut adopter une conception substantielle du Droit de la Compliance (et non pas Droit de la conformité). Elle ne vise pas du tout l'ensemble des réglementations applicables et elle n'est pas du tout "neutre", n'ayant en rien une série de process. Cette nouvelle branche du Droit est substantiellement construite sur des buts monumentaux. Ceux-ci sont soit de nature négative (éviter qu'une crise systémique n'arrive, bancaire, financière, sanitaire, climatique, etc.), soit de nature positive (construire un meilleur équilibre, notamment entre les êtres humains, dans l'entreprise et au-delà de celle-ci). 

Dans cette conception qui se manifeste de plus en plus fortement, l'intelligence artificielle trouve sa place, plus modeste. En tant que le Droit de la Compliance est basé sur l'information, l'Intelligence Artificielle est indispensable pour la capter et en faire une première mise en connection, la rendant en état d'analyses successives, notamment de la part d'êtres humains, pour qu'il y ait possibilité de ce qui est l'essentiel : l'engagement de l'entreprise, à la fois par les dirigeants et par tous ceux qui sont "embarqués" par une "culture de Compliance" qui est à la fois construite et commune. 

Cela redonne l'étanchéité requise entre le Droit pénal et ce que l'on peut demander à l'usage mécanique de l'intelligence artificielle, cela remet l'obligation de moyens comme principe. Cela redonne la place centrale au juriste et au Compliance officer , pour que s'articulent la culture de compliance avec la culture d'un secteur et l'identité de l'entreprise elle-même. En effet, la culture de compliance étant indissociable d'une culture de valeurs, la Compliance by design suppose une double technique, à la fois mathématique et de culture juridique. C'est en cela que le Droit européen de la compliance, en ce qu'il est enraciné dans la tradition humaniste européen, est un modèle. 

____

🔓lire le document de travail ci-dessous⤵️

Référence complète : Equinet : Pour une IA européenne protectrice et garante du principe de non-discrimination, Avis établissant des recommandations et des principes essentiels pour la future législation européenne portant sur l'intelligence artificielle, 21 juin 2022.

____

Lire l'avis. 

Référence complète : Laroche, B. et Boullu-Chataigner, J., Brave New Planes ou la conformité juridique de grands groupes aéronautiques face aux défis de l'intelligence artificielle, D. IP/IT, 2022, p.83.

____  

►   Un article du 3 mars 2021, Smile for the camera: the dark side of China's emotion-recognition tech, puis un article du 16 juin 2021, "Every smile you fake" - an AI emotion - recognition system can assess how "happy" China's workers are in the office décrit la façon dont une nouvelle technologie de reconnaissance émotionnelle est apte, à travers ce qui sera bientôt démodé d'appeler la "reconnaissance faciale", de distinguer un sourire qui traduit un état de satisfaction effective d'un sourire qui n'y correspond pas. Cela permet à l'employeur de mesurer l'adéquation de l'être humain à son travail.  Il est promis qu'il en sera fait usage d'une façon éthique, pour améliorer le bien-être au travail. Mais n'est-ce pas en soi que cette technologie est incompatible avec toute compensation par un accompagnement éthique ? 

____

La technologie élaborée par une entreprise technologique chinoise et acquise par d'autres entreprises chinoises ayant beaucoup d'employés, permet d'avoir de l'information sur l'état d'esprit effectif de la personne à travers et au-delà de ses mimiques faciales et de son comportement corporel.

La technologie de reconnaissance émotionnelle avait été mise au point pour assurer la sécurité, en luttant contre des personnes au projet hostile, les Autorités publiques l'utilisant par exemple dans les contrôles dans les aéroports pour détecter les desseins criminels que pourraient avoir certains passagers.

Il est affirmé ainsi que non pas qu'il s'agit de lutter contre quelques personnes malfaisantes ("dangerosité") pour protéger le groupe avant que l'acte ne soit commis ("défense sociale) mais qu'il s'agit d'aider l'ensemble des travailleurs. 

En effet non seulement l'usage qui en sera fait sera éthique, car en premier lieu les personnes qui travaillent pour ces entreprises chinoises à l'activité mondiale, comme Huawaï, le font librement et ont accepté le fonctionnement de ces outils d'intelligence artificielle (ce qui n'est pas le cas des personnes qui voyagent (le contrôle étant alors un sorte de mal nécessaire qu'ils n'ont pas à accepter, qui leur est imposé pour la sauvegarde du groupe), mais encore et surtout que la finalité est elle-même éthique : s'il s'avère que la personne ne se sent pas bien au travail, qu'elle n'y est pas heureuse, avant même qu'elle ait peut-être conscience, l'entreprise pourra lui venir en aide.

____

Prenons ce cas pratique du côté du Droit et imaginons que cela soit contesté devant un juge appliquant les principes du Droit occidental.

Est-ce que cela serait admissible ?

Non, et pour trois raisons.

1. Un "usage éthique" ne peut pas justifier un procédé en soi non-éthique

2. Les premières libertés sont négatives

3. Le "consentement" ne doit pas le seul principe régissant l'espace technologique et numérique

____

I. UN "USAGE ETHIQUE" NE PEUT JAMAIS LEGITIMER UN PROCEDE EN SOI NON-ETHIQUE

es procédés en eux-mêmes non-éthiques ne peuvent pas être rendus "admissibles" par un "usage éthique" qui en sera fait.

Ce principe a été rappelé notamment par Sylviane Agacinski en matière bioéthique : si l'on ne peut pas disposer de la personne d'autrui à travers une disposition de son corps qui rend sa personne même disponible (v. not. Agacinski, S., ➡️📗 Le tiers-corps. Réflexions sur le don d'organes, 2018). 

Sauf à rendre la personne réduite à la chose qu'est son corps, ce qui n'est pas éthiquement admissible en soi, cela est exclu, et le Droit est là pour que cela ne soit pas possible. 

C'est même pour cela que la notion juridique de "personne", qui n'est pas une notion qui va de soi, qui est une notion construite par la pensée occidentale, fait rempart pour que les êtres humains ne puissent pas être entièrement disponibles aux autres, par exemple par la mise sur le marché de leur corps (v. Frison-Roche, M.-A., ➡️📝Pour protéger les êtres humains, l'impératif éthique de la notion juridique de personne, 2018). C'est pourquoi par exemple, comme le souligne Sylviane Agacinski il n'y a pas d'esclavage éthique (un esclave qu'on ne peut pas battre, qu'il faut bien nourrir, etc.).

Que l'être humain y consente ("et s'il me plait à moi d'être battue ?") n'y change rien.

II. LA PREMIERE LIBERTE EST CELLE DE DIRE NON, PAR EXEMPLE EN REFUSANT DE REVELER SES EMOTIONS : PAR EXEMPLE CACHER SI L'ON EST HEUREUX OU PAS DE TRAVAILLER

La première liberté n'est pas positive (être libre de dire Oui) ; elle est négative (être libre de dire Non). Par exemple la liberté du mariage, c'est avant d'avoir la liberté de se marier, avoir la liberté de ne se marier : si l'on ne dispose pas de la liberté de ne pas se marier, alors la liberté de se marier pert toute valeur. De la même façon, la liberté de contracter suppose la liberté de ne pas contracter, etc.

Ainsi la liberté dans l'entreprise peut prendre la forme de la liberté d'expression, qui permet aux personnes, selon des procédures fixées par le Droit, d'exprimer leur émotions, par exemple leur colère ou leur désapprobation, à travers la grève.

Mais cette liberté d'expression, qui est une liberté positive, n'a de valeur qu'à condition que le travailleur est la liberté fondamentale de ne pas exprimer ses émotions. Par exemple s'il n'est pas heureux de son travail, car il n'apprécie pas ce qu'il fait, ou qu'il n'aime pas l'endroit où il ne fait, ou il n'aime pas les personnes avec lesquels il travaille, son liberté d'expression exige qu'il ait le droit de ne pas l'exprimer. 

Si l'employeur dispose d'un outil qui lui permet d'obtenir l'information quant à ce que le travailleur aime ou n'aime pas, alors celui-ci perd cette liberté première.

Dans l'ordre juridique occidental, l'on doit pouvoir considérer que c'est au niveau constitutionnel que l'atteinte est réalisée à travers le Droit des personnes (sur l'intimité entre le Droit des personnes et le Droit constitutionnel, v. Marais, A.,➡️📕  Le Droit des personnes, 2021).  

III. LE CONSENTEMENT NE DOIT PAS ETRE LE SEUL PRINCIPE REGISSANT L'ESPACE TECHNOLOGIQUE ET NUMERIQUE 

L'on pourrait considérer que le cas de l'entreprise est différent du cas des contrôles opérés par l'Etat pour la surveillance des aéroports, car dans le premier cas les personnes observées ont consenti.

Le "consentement" est aujourd'hui la notion centrale, souvent présentée comme  l'avenir de ce que chacun souhaite : la "régulation" de la technologie, notamment lorsqu'elle prend la forme des algorithmes ("intelligence artificielle"), notamment dans l'espace numérique. 

Le "consentement" permettrait un "usage éthique" et pourrait mettre fonder l'ensemble (sur ces problématiques, v. Frison-Roche, M.-A., ➡️📝Se tenir bien dans l'espace numérique, 2019).

Le "consentement" est une notion sur laquelle le Droit prend aujourd'hui des distances en Droit des personnes, notamment quant au "consentement" donné par les adolescents sur la disponibilité de leur corps, mais pas encore sur le numérique. 

Sans doute parce qu'en Droit des obligations, le "consentement" est quasiment synonyme de "libre volonté", alors qu'il faut les distinguer (v. Frison-Roche, M.-A., ➡️📝La distinction entre la volonté et le consentement, 1995). 

Mais l'on voit à travers ce cas, qui précisément déroule en Chine, le "consentement" est en Droit comme ailleurs un signe de soumission. Ce n'est que d'une façon probatoire qu'il peut constituer une preuve d'une libre volonté ; cette preuve ne doit se transformer en présomption irréfragable.

Les Autorités de Régulation des données (par exemple en France la CNIL) cherchent à reconstituer ce lien probatoire entre "consentement" et "liberté de dire Non" pour que la technologie ne permette pas par des "consentements mécaniques", coupés de tout rapport avec le principe de liberté qui protège les êtres humains, de déposséder ceux-ci (v. Frison-Roche, M.-A., Oui au principe de la volonté, manifestation de la liberté, Non aux consentements mécaniques , 2018). 

Plus la notion de consentement ne sera plus que périphérique et plus les êtres humains pourront être actifs et protégés.

________

► s'inscrire à la Newsletter MaFR ComplianceTech®

► Référence complète : S. Merabet, "La morale by design", in M.-A. Frison-Roche (dir.), Les outils de la Compliance, coll. "Régulations & Compliance", Journal of Regulation & Compliance (JoRC) et Dalloz, 2021, p. 287-298.

____

📕consulter une présentation générale de l'ouvrage, Les outils de la Compliance, dans lequel cet article est publié

____

► Résumé de l'article (fait par le Journal of Regulation & Compliance) : Après s'être interrogé sur les rapports entre le Droit et la Morale, dont on a du mal à trouver des points de contact, l'auteur avance l'hypothèse que celle-ci pourrait trouver un espace de concrétisation dans la technologie de l'intelligence artificielle, alors même que beaucoup s'inquiètent des effets délétères de celle-ci. L'auteur considérant que la Compliance n'est qu'une méthode tandis que l'éthique serait la façon dont la morale est incorporée d'une façon assouplie dans le Droit, la technologie dite de l'Intelligence Artificielle pourrait donc exprimer la règle morale ("la compliance by design pourrait être l’outil adéquat pour permettre d’assurer l’effectivité des règles morales sans tomber dans les excès envisagés"). 

L'auteur prend appui sur des exemples pour estimer qu'ainsi la technologie pour d'une part exprimer la règle morale et d'autre part rendre celle-ci effective. La règle morale peut ainsi élaborée d'une façon équilibrée puisqu'elle l'est conjointement entre l'État et les opérateurs économiques, cette collaboration prenant la forme de principes généraux arrêtés par l'État des moyens choisis par l'entreprise. Son contenu serait également caractérisé par la recherche d'un "juste milieu", qui serait trouvé par cette répartition entre les principes moraux primaires dont l'expression serait le fait de l'État et les principes moraux secondaires dont l'expression serait déléguée aux entreprises.

Prenant donc ce qui seraient les principes de la Compliance, l'auteur les applique à l'Intelligence Artificielle, en montrant qu'on insère dans ces technologies non seulement le principe de neutralité mais encore les principes éthiques de non-malveillance, voire de bienveillance (principes premiers) que les entreprises déclinent ensuite en principes secondaires. Dès lors, "la compliance peut utilement être mise à profit pour convertir ces principes moraux fondamentaux en règles morales dérivées, source d’une plus grande effectivité.".

Aboutissant ainsi à une "morale by design", le système global dispose d'un outil d'effectivité supplémentaire. Cela suppose que les règles fondamentales et dérivées soient d'une qualité morale acquise car pour l'instant l'outil technologique ne peut assurer que leur effectivité et non pas la qualité morale des règles implémentées.  Dans la détermination des "règles morales d'application", l'entreprise dispose de marges de liberté, utilisées via les outils technologiques. 

________

► Référence complète : S.  Merabet, Vers un droit de l'intelligence artificielle, préf. H. Barbier, Dalloz, coll. "Nouvelle Bibliothèque des Thèses", vol. 197, 2020, 509 p.

____

► Résumé de l'ouvrage (fait par l'auteur) : "Les études consacrées aux conséquences de l'intelligence artificielle sur le marché de l'emploi prédisent un large mouvement de remplacement de l'homme par la machine au cours des prochaines années. Le phénomène ne semble a priori pas inédit et rappelle celui intervenu au cours de la Révolution industrielle. Néanmoins, l'observation des catégories d'emplois menacés interpelle. Toutes les activités semblent concernées. Ainsi, banquiers, comptables, avocats, médecins voire même magistrats pourraient être exposés à cette nouvelle concurrence technologique. Le remplacement progressif de l'intelligence humaine par l'intelligence artificielle ne semble pour l'heure connaître aucune autre limite que celle fixée par la technique. Pourtant, à l'étude, il apparaît que ces deux formes d'intelligences ne peuvent pas être tenues pour équivalentes par le droit. L'intelligence artificielle est en mesure d'imiter plusieurs manifestations de l'intelligence humaine, tel que le langage ou encore le calcul. À certains égards, l'intelligence artificielle surpasse même l'entendement humain. En revanche, d'autres manifestations de l'intelligence humaine lui font désespérément défaut. La conscience, la volonté ou encore les émotions sont étrangères à l'intelligence artificielle. Plus généralement, les dimensions subjectives de l'intelligence humaine ne sont pas accessibles aux systèmes informatiques, même les plus sophistiqués. Or, le droit se fonde de manière discrète mais certaine sur celles-ci. In fine, l'intelligence artificielle apparaît tout à la fois comme une forme d'intelligence diminuée et augmentée. C'est sur le constat de ces excès et carences de l'intelligence artificielle qu'il convient de penser le régime juridique qui doit lui être réservé. L'application à un système informatique intelligent de règles pensées pour les personnes peut s'avérer inadaptée. En effet, la confrontation entre le droit et l'intelligence artificielle révèle l'existence d'un paradigme sur lequel se fonde le droit positif. Le droit français s'appuie pour une large part sur la subjectivité inhérente à la personne humaine. Toutes les branches du droit semblent concernées, le droit civil comme le droit pénal ou encore le droit de la propriété intellectuelle. Dès lors, le régime juridique de l'intelligence artificielle apparaît bien incertain. L'objet de cette étude est donc de dissiper les doutes qui entourent la nature de l'intelligence artificielle en vue de la distinguer clairement de l'intelligence humaine. Aussi, le constat de l'absence d'identité de ces deux formes d'intelligence suppose d'une part de limiter le domaine de l'intelligence artificielle par la consécration d'un ordre public de l'Humanité, et d'autre part, d'adapter les règles pensées en considération de la subjectivité humaine à l'objectivité des systèmes informatiques intelligents. En définitive, l'appréhension juridique de l'intelligence artificielle est l'occasion d'une réflexion plus générale sur l'intelligence humaine et la place centrale qu'elle occupe dans notre ordonnancement juridique.".

________

Référence complète: Adam, P., Le Friant, M. et Tarasewicz, Y. (dir.), Intelligence artificielle, gestion algorithmique du personnel et droit du travail, série "Les travaux de l'AFDT", Coll. "Thèmes et Commentaires", Dalloz, 2020, 241 p.

Lire la quatrième de 

Regarder la vidéo commentant la décision rendue par la Commission des sanctions de l'Autorité des marchés financiers (AMF)

Lire la décision.

_______________

En 2015, un document soi-disant émanant de l'entreprise Vinci est parvenu au média Bloomberg annonçant des résultats catastrophiques inattendus. Les deux journalistes l'ayant reçu l'ont dans l'instant répercutant sans rien vérifier, le titre Vinci perdant plus de 18%. Il s'agissait d'un faux grossier, ce qu'une vérification élémentaire aurait permis d'établir, vérification à laquelle les journalistes n'avaient pas faite.

4 ans plus tard, l'entreprise Bloomerg est sanctionnée pour le manquemement de "diffusion de fausse information" sur le marché financier, par une décision de la Commission des sanctions de l'Autorité des marchés financiers du 11 décembre 2019. 

L'entreprise poursuivie faisait valoir que c'était aux journalistes d'en répondre et non pas à elle, car elle avait mis en place et un logiciel de détection et un code de bonne conduite, alors même qu'aucun texte ne l'y contraint. Il convenait donc de ne pas la poursuivre.

La Commission des sanctions de l'AMF souligne qu'indépendamment de celà c'est une règle générale de la déontologie des journalistes qui oblige ceux-ci à vérifier l'authentificité des documents qu'ils diffusent, ce qu'ils n'ont en rien fait, alors qu'une vérification élémentaire leur aurait permis de mesurer qu'il s'agit d'un faux grossier.

Pourtant l'agence de presse Bloomberge avait demandé à la Commission des sanctions de poser une "question préjudicielle" à la Cour de justice de l'Union européenne sur l'équilibre à faire entre la liberté de la presse et des opinions d'une part et la protection des marchés et des investisseurs contre les "fausses informations" d'autre part.

Mais la Commission des sanctions de l'AMF estime que les textes sont "clairs" : il s'agit ici de l'article 21 du Réglement européen sanctionnant les abus de marché qui pose que si la liberté des journalistes doit être préservée, il faut que ceux-ci respectent leur propre déontologie, et notamment vérifient l'authenticité des documents sur lesquels ils s'appuient. Or, en l'espèce, ils ne l'ont en rien fait. Le manquement est donc constitué.

______

En outre, la Commission des sanctions se référe au Réglement européen sur les abus de marchés qui dans son article 21 vise le statut particulier à réserver à la liberté de la presse et au statut particulier des journalistes mais y associe cette obligation déontologique de vérification des documents. Or, la Commission des sanctions relève que cette obligation visée, et par la déontologie des journalistes et par le texte de référence de Droit financier, a été totalement méconnue par les deux journalistes. C'est donc à l'agence de presse d'en répondre.

Pourtant celle-ci soutenait que l'équlibre entre le principe de liberté de la presse et le principe de liberté d'opinion d'une part et le principe de la protection du marché financier et des investisseurs contre les fausses informations diffusées nécessite une interprétation du Droit de l'Union européenne, ce qui doit contraindre la Commission des sanction à saisir la Cour de Justice de l'Union européenne d'une question préjudicielle.

La Commission des sanctions écarte cette demande car elle estime que les textes communautaires sont "clairs", ce qui leur permet de les interpréter elle-même. Et précisément le Réglement européen sur les abus de marché dans son article 21 prévoit l'exception en faveur de la presse et des journalistes mais les contraint à respecter leur déontologie, notamment la vérification de l'authenticité des documents. En l'espèce, ils ne l'ont en rien fait. Ils sont clairement auteurs d'un manquement, imputable à l'entreprise.

________

Dans un cas moins net, l'on pourrait pu considérer que cet équilibre entre deux principes, tout deux d'intérêt public, est délicat et qu'une interprétation par la Cour de Justice serait toujours utile.

En effet et plus fondamentalement, le Droit financier demeure-t-il un Droit autonome, mettant en premier l'objectif la préservation de l'intégration du marché financier et la protection des investisseurs ou bien est-il la pointe avancée d'un Droit de l'information préservant chacun contre l'action de tout "influenceur" (catégorie à laquelle Bloomberg appartient) consistant à diffuser des informations inexactes (notion de "désinformaton") ?

Et cela n'est pas si "clair"....

_____________________

Par le site "Open culture", il est possible d'écouter Hayao Miyazaki qui, en mars 2017, affirmait que les jeux videos dont les dessins sont faits par des procédés d'intelligence artificielles sont des "insultes à la vie".

Lire ci-dessous l'histoire, les propos que le Maître a tenus, son conception de ce qu'est la création et un travail "réellement humain", ce qui est fait écho aux définitions données par Alain Supiot, qui lui aussi réfléchi sur ce que font les robots.

Cela ramène à la notion même de "création" et de travail créateur.

_____

Lire ci-dessous.