Référence complète : Gibert, M., Faire la morale aux robots. Une introduction à l'éthique des algorithmes, Flammarion, 2021, 168 p.

 

Lire le commentaire de l'ouvrage sur le site NonFiction. 

► Référence complète : Frison-Roche, M.A., "Quand on s'intéresse à la Compliance, lire "La Haine"​ de Günther Anders", Newsletter MAFR Law, Compliance, Regulation, 1ier août 2022.

____

► Introduction de l'article : Philosophe allemand, Günter Anders connut la Seconde Guerre mondiale, dût quitter l'Allemagne et vécut dans plusieurs pays. C'est avant tout un philosophe moral, habité par le pessimisme et l'idée que le nazisme n'était qu'une répétition générale, plutôt artisanale, de ce que nous attend : L'obsolescence de l'homme, son livre-maître qui en 1956 décrit le système économique comme ce qui broie les êtres humains en les réduisant à n'être plus que des êtres qui entretiennent des machines qui produisent des produits inutiles qu'ils consomment, les humains n'étant eux-mêmes que des machines désirantes.

En 1985 dans un volume paru en langue allemande et composé d'articles tous consacrés au thème de La haine, il donna comme contribution les éléments de travail de ce qu'il avait conçu comme dernière partie de son oeuvre démontrant l'appareillage obtenant "l'obsolescence de l'homme", dernier livre qu'il ne publia jamais.

Extrait de ce volume, ces documents de travail furent traduits en français et présentés par Philippe Ivernel : le titre en est La Haine.

 

Lire la suite de l'article ci-dessous⤵️

🌐suivre Marie-Anne Frison-Roche sur LinkedIn

🌐s'abonner à la Newsletter MAFR Regulation, Compliance, Law 

____

► Référence complète : M.-A. Frison-Roche, "Se tenir bien dans l'espace numérique", in Mélanges en l'honneur de Michel Vivant, Penser le droit de la pensée, Dalloz et Lexis Nexis, 2020, pp. 155-168.

____

📝Lire l'article

____

🚧Lire le document de travail sur lequel cet article est basé, enrichi de développements supplémentaires, de références techniques et de liens hypertextes

 

► Résumé de l'article : L'espace numérique est un des rares espaces non spécifiquement cadrés par le Droit, liberté qui a aussi pour grave conséquence d'offrir l'opportunité à ses acteurs de ne pas "se tenir bien", c'est-à-dire d'exprimer et de diffuser largement et immédiatement des pensées haineuses, lesquels demeuraient auparavant dans des cercles privés ou restreints. L'intimité du Droit et de la notion juridique de Personne en est atteinte : le numérique permet à des individus ou des organisations d'agir comme des personnages démultipliés et anonymes, acteurs numériques dépersonnalisés porteurs de comportements attentatoires à la dignité d'autrui.

Contre cela, le Droit de la Compliance offre une solution adéquate : internaliser dans les opérateurs numériques cruciaux la charge de tenir disciplinairement substantiellement l'espace numérique. L'espace numérique a été structuré par des entreprises puissantes à même d'y maintenir l'ordre. Parce que le Droit ne doit pas réduire l'espace digital à n'être qu'un simple marché neutre de prestations numériques, ces opérateurs cruciaux, comme les réseaux sociaux ou les moteurs de recherches doit être obligés de contrôler substantiellement les comportements. Il peut s'agir d'une obligation des internautes d'agir à visage découvert, politique de "l'identité réelle" contrôlée par les entreprises, et de respecter les droits d'autrui, droits intimes, dignité, droits de propriété intellectuelle. Dans leur fonction de régulation, les entreprises digitales cruciales doivent être supervisées par des Autorités publiques

Ainsi le Droit de la Compliance substantiellement défini est gardien de la personne comme "sujet de droit" dans l'espace digital, par le respect que les autres doivent en avoir, cet espace passant du statut d'espace libre à celui d'espace civilisé, dans lequel chacun est contraint de se tenir bien. 

______

► Consulter pour aller plus loin : 

• Frison-Roche, M.-A., 📓L'apport du Droit de la Compliance à la gouvernance d'Internet, 2019
• Frison-Roche, M.-A. (dir.), 📕Internet, un espace d'interrégulation, 2016

________

Référence générale : Frison-Roche, M.-A., Participation à la table-ronde : De la responsabilité pénale des personnes morales à celle des dirigeants, vers une mutation du droit pénal, Lettre des Juristes d'Affaires, 23 janvier 2019, pp. 15-31.

 

 

Présentation :

En l'absence d'instance internationale, la répression des infractions des entreprises relève du droit national. Et tous les pays ne sont pas alignés.

En Allemagne, par exemple, la récente affaire du Diesel Gate a rappelé qu'il n'existait pas de régime de responsabilité pénale des personnes morales.

Aux États-Unis, elle est très lourdement réprimée. En France, elle existe depuis 1993 et s'étend sous l'influence de la Cour de cassation . Depuis l'appel de Genève en 1996, la justice s'est également attachée à mettre un terme à l'impunité qui régnait pour les dirigeants. Aujourd'hui, les mises en cause de la personne morale et du dirigeant sont quasiment systématiquement liées.

Quelle est la stratégie suivie par les institutions judiciaires françaises? Quels sont les risques encourus par les personnes physiques ? Quelles conséquences à l'introduction en droit français de la justice négociées ?

                                   

Lire l'article.

 

Référence générale : Frison-Roche, M.-A., La garde de l'unité de la personne dans un système a-moral, in Cour de cassation & Association française de philosophie du Droit, Droit & Ethique 31 mai 2018, Paris.

 

 

 

 

Lire le programme disponible sur le site de la Cour de cassation.

Lire une présentation générale du colloque.

 

Lire une présentation des observations finales par ailleurs présentée.. 

 

Résumé de la contribution :  Le Droit a pour fonction de protéger l'être humain. Si l'on confronte la situation concrète des être humains et la puissance du Droit (I), le Droit peut donner une unité à l'être humain, unité qu'il n'a pas ni par nature ni par la société, par l'invention juridique de la personnalité (I.A).  Mais le Droit est aujourd'hui lui-même tenté de pulvériser l'unité de la personne, notamment à travers le "Droit des données" et le "Droit des prestations corporelles", ce dont la GPA est le bastion avancé (I.B). L'on  songe alors à requérir la souveraineté éthique du Droit (II) Pourquoi ? Parce qu'il y a urgence à maintenir l'unité de la personne humaine grâce au Droit, en raison de l'a-moralité d'un monde sans limite, gouverné par la rencontre livre des désirs (II.A) en retenant l'hypothèse d'un droit "de principe" (II.B), d'un Droit qui peut exprimer les principes éthiques garantissant à l'être humain d'être pas la matière première de marchés de l'humain qui se construisent sous nos yeux (II.C).

 

Faute de temps, cette contribution n'a pas pu être présentée.

Lire le document de travail sur la base duquel la conférence a été élaborée.

Ce travail sera utilisé pour l'élaboration d'un article à paraître aux Archives de Philosophie du Droit

 

 

 

 

 

 

Référence complète : Frison-Roche, M.-A., Observations de synthèse (convergences et tensions), in Cour de cassation & Association française de philosophie du Droit, Droit & Ethique, 31 mai 2018, Paris.

Cette synthèse a été opérée sur le banc, à partir des notes prises en écoutant les intervenants.

Elle ne donnera pas lieu à une trace écrite développée.

 

Regarder la vidéo de l'intervention.

Lire le programme disponible sur le site de la Cour de cassation.

Consulter la présentation générale du colloque.

Consulter la présentation de ce qui aurait dû être l'intervention autonome à ce colloque et qui n'a pas eu lieu, faute de temps : La garde de l'unité de la personne dans un système a-moral.

 

Résumé des observations de synthèse : A écouter l'ensemble des intervenants, il apparaît de grandes convergentes, mais aussi des divergentes autant au thème même, des divergentes peut-être définitives.

Après avoir constaté une convergence dans la définition, et notamment la présence du couple "bien/mal" et l'absence du couple "vrai/faux", plusieurs questions ont été brassées et ont trouvé des réponses diverses, croisées et parfois affrontées.

Tout d'abord, la question de savoir qui formulent les règles éthiques qui pénètrent ou influent ou jugent les règles juridique. Et il y a tant de prétendants ....

Puis, la question de savoir ce qu'il y a dans ces règles éthiques, par rapport à ce qu'il y a dans les règles juridiques. L'on finit par trouver pour lieu distinctif la conscience, ce qui nous mène vers le secret et ne peut que provoquer un heurt avec "l'éthique de la transparence" qui nous passionne et qui a tant d'avenir.

S'ouvre alors la question première de savoir pourquoi il y aurait besoin même de règles éthiques ... Mais oui, pourquoi. 

 

_____________

 

Quand on avance dans l'église San Carlo de la ville de Noto en Sicile, avant d'arriver à l'autel un espace circulaire vide permet au croyant qui se place au centre du dallage en marbre blanc de lever les yeux. Ceux qui ont conçu cet espace songeaient aux croyants qui aspirant au ciel lèvent naturellement la tête. Les touristes dont la préoccupation principale est l'accumulation de data dans leurs téléphones le font moins.

Désormais les japonais ne sont plus objets de moqueries, les marchands de cartes postales ne font plus recettes, les croyants ont disparu. Mais les statues restent là, dans ce cercle ouvert avant l'autel, devant lequel nul ne s'agenouille. Si un croyant passait encore, s'il allait jusqu'à l'autel, s'il levait les yeux, il serait sous les quatre regards de quatre femmes drapées.

Elles expriment ce que l’Église veut inculquer, les statuaires comme les peintures étant autant de livres d'écoliers. Mais le drapé qui revêt les quatre jeunes femmes au physique de Diane fait davantage penser à une représentation que l'âge classique donne de la beauté grecque qu'à une modestie biblique. L'aigle qui accompagne l'une d'elle suffit à montrer que la doctrine pieuse a été pénétrée d'une autre pensée. Il n'est pas même besoin de lire la mention des quatre vertus cardinales, conçues par Platon, pour être informé du mélanges des genres au cœur même de l'édifice chrétien.

Mais puisqu'il s'agit d'instruire, leur nom est écrit  devant chaque niche des quatre statues, tandis qu'un symbole les marque. Ainsi, la "justice" fait face à la "force" tandis qu'à sa droite se dresse la "prudence" et à sa gauche se tient la "tempérance". La justice tient une balance. A côté de la force un aigle est posé. La tempérance porte par son col un sac lourd. La prudence se penche vers l'enfant.

La charité ne fait pas partie des "vertus cardinales", ici représentées.  N'est-ce pas pourtant une vertu vantée ? Première ? En quoi la force ou la justice seraient-elles des vertus chrétiennes ? Et quel ordre est ici exprimé ?

En effet, la justice est ici représentée avec ses attributs qui nous sont familiers, la balance et le glaive, mesure et violence qui nous semblent usuelles, mais dans une église, l'on aurait peut-être attendu davantage le pardon, la réconciliation, voire l'amour ....

 

Lire ci-dessous.

 

Le droit prétend être un système autonome, produisant sa propre réalité, incontestable. Acte de langage, il est performatif, en cela souverain. La mondialisation le permet-elle encore ? Pourtant, le droit étant aussi une pratique sociale, soit il prend son objet comme limite (il ne peut dire qu’il fait jour la nuit), soit il prend son objet comme maître : le droit nazi établit la « loi du sang ». Aujourd’hui, l’économie est-elle la loi du droit ?

En outre, le droit n’est-il pas positif qu’une fois appliqué ? Dès lors, le droit recherche l’adhésion, par un discours qui séduit et balance les intérêts. Mais dans le même temps, le droit veut de plus en plus refléter la réalité. Sa première évolution l’éloigne de la vérité pour aller vers le consensus, la seconde prétend la rapprocher. Par exemple, qui décide de la filiation ? On en vient à douter que le Politique ou la morale aient encore une place dans le système juridique.

Avoir une première vue du programme.

Lire le programme général du colloque, Sous-détermination, incomplétude, incommensurabilité : la pensée des limites

Lire le Working Paper établissant les grandes lignes servant de base à la discussion

Si l'on pose la question ainsi, à un esprit innocent ou au contraire à un juriste solidement formé : "un algorithme peut-il être loyal ?", il répondrait tout à trac  : "quelle question stupide ... Bien sûr que non ! Comment un processus mathématique pourrait-il avoir une qualité de cette sorte, laquelle est de nature éthique, morale, et à ce titre n'est imputable qu'à des personnes ?". Peut-être la réponse viendra-t-elle avec condescendance : à question bête, réponse hautaine.

Effectivement, la loyauté est un comportement qui renvoie à une éthique, laquelle est en lien avec la morale.

Pourtant, l'on rencontre depuis quelque temps l'affirmation selon laquelle "les algorithmes doivent être loyaux". Cela fût affirmé par exemple dans le colloque du 23 octobre 2014 sur l'économie des plateformes numériques. Plus encore, c'est l'un des points forts du Rapport annuel du Conseil d'Etat 2014, Le numérique et les droits fondamentaux.

Comment peut-on avancer une telle affirmation, revenant à imposer à un processus mathématique un comportement moral ? En effet, pour imposer un devoir, encore faut-il que celui qui le subit en ait l'aptitude. Or, un processus mathématique n'a pas d'aptitude éthique. Ainsi, la formule n'a pas littéralement pas de sens.

En réalité, la formule est utilisée afin d'imputer à ceux qui conçoivent ou bénéficient des effets économiques des algorithmes, sur lesquels fonctionnent par exemple les moteurs de recherches ou les plateformes de rencontres et les réseaux sociaux, des obligations.

Ainsi, pour atteindre le régime, c'est-à-dire produire des obligations, l'on propose d'inventer par la seule force du droit la source d'obligation, laquelle serait "l'obligation de loyauté". Parce que le droit pourrait tout dire, l'on impute (au sens kelsénien du terme) cette obligation directement à une chose (ici les mathématiques).

Attention, les choses ne sont pas à ce point flexibles et la réalité n'est pas à ce point disponible au droit. Or, transformer les mathématiques en personnes, afin de pouvoir faire naître des obligations parce qu'on ne trouve pas d'autres pistes, c'est porter atteinte à la summa divisio que le droit établit entre les personnes et les choses.

Or, si l'on s'autorise à traiter des choses comme des personnes (ce que l'on fait ici), l'on ne doit pas s'étonner par ailleurs que beaucoup ne trouvent rien à redire - ni en droit, ni en morale --, lorsque l'on traite des personnes comme des choses;

Perdre la distinction entre les personnes et les choses fait perdre dans le droit non seulement son premier repère mais encore son premier garde-fou, contre sa tentation de disposer totalement de la réalité.

La responsabilité est un thème philosophique majeur, qui fonde les sociétés et les personnes. Les personnes irresponsables sont-elles encore des personnes ? Si les animaux accédaient à la personnalité, il faudrait les déclarer aptes à la responsabilité. Classiquement, une personne est responsable parce qu'elle est coupable, conception avant tout religieuse de la responsabilité, qui met au centre la notion de faute. Plus pragmatiquement, c'est aujourd'hui l'engagement qui noue l'obligation de répondre, par exemple l'engagement contractuel d'un assureur. La responsabilité n'est plus alors individuelle mais collective et renvoie à un marché de la responsabilité ou à une prise en charge collective par les pouvoirs publics. Dans une description plus technique, une personne est responsable par sa faute, du fait d'une chose ou du fait d'une personne. Mais si les textes ont jusqu'ici peu bougé dans le Code civil, la jurisprudence a objectivisé le système, développant les deux dernières hypothèses, pour privilégier la fonction réparatrice des responsabilités, y compris pénales et administratives, même si la réparation est symbolique. Les conséquences de la responsabilité sont en effet très diverses. Il peut s'agir aussi bien du remord, qu'il est difficile de demander aux personnes morales mais qu'on exige de ses dirigeants, la punition pour laquelle le droit actuel développe une grande passion, tandis que la réparation devient un souci majeur et se transforme en prévention, dans une société du risque 0.

Accéder au plan de la leçon.

Accéder à la présentation de la problématique de la leçon.

Accéder aux slides.

Le droit n'est pas une technique neutre. Sa valeur tient dans ce qu'il n'est pas disponible à la force, quelle que forme que prenne cette forme, physique, politique ou économique. Mais la première valeur du droit est d'affirmer sa neutralité par rapport à des valeurs qu'il considère comme du cercle des individus, comme l'est aujourd'hui la religion. Ainsi, à la fois l'Etat est laïc, mais il protège dans le même les libertés religieuses.

Dans le même esprit, le droit tout à la fois ne s'immisce pas dans les choix individuels et n'impose pas des convictions aux individus, tandis qu'il assure l'effectivité de la vie privée ou la liberté d'expression, les libertés étant premières par rapport aux droits fondamentaux, mais à un moment cette valeur de neutralité et de tolérance s'arrête devant l'ordre public.

Pourtant, le droit est imprégné de valeurs. Tout d'abord, intrinsèquement, le droit a de la "valeur", non seulement économiquement parlant s'il est "performant", mais également parce qu'il est construit sur des valeurs qui lui sont propres, comme les droits de la défense, le droit au juge, ou d'une façon tautologique, le "droit au droit". Il est aussi perméable à des valeurs extrinsèques, comme des valeurs morales, des valeurs sociales, des valeurs économiques.

L'évolution de notre société fait que l'on semble prôner le relativisme des premières, la considération des deuxièmes et la suprématie des troisièmes.

Pour accéder aux slides.

Pour lire le plan.

 

____

 

- Un algorithme peut-il être "loyal" ?

Référence complète : Hermitte, M.-A., Le lanceur d'alerte, héros des sociétés scientifiques et techniques ?, in  Réseau européen de recherche en droits de l'homme (RERDH), Héroïsme et Droit, coll. "Thèmes et Commentaires", Dalloz, 2014, p.135-148. 

____

Le système probatoire est construit sur la détermination de qui prouve, quoi prouver, comment prouver et quelle recevabilité s’impose aux moyens de preuve. Une fois exposé le système probatoire, peut être étudiée la quatrième question du droit : la personne. Est ici analysée son aptitude à être responsable, la responsabilité ayant pu être analysée comme ce par quoi l’être humain est hissé au niveau de la personnalité. L’on distingue la responsabilité pour faute et la responsabilité pour la garde d’une chose ou d’une personne. Jadis centré sur la personne du responsable, le droit se soucie désormais davantage des victimes.

Le cours a trait à la troisième Grande Question du Droit qui porte sur le juge. Il se concentre plus particulièrement sur la fonction politique et sociale de celui-ci, la question plus technique du procès et du jugement faisant l’objet du cours ultérieur. En ce qui concerne la fonction politique et sociale du juge, celui-ci apparaît tout d’abord comme un instrument de rappel à la légalité. En cela, il est un instrument de réalisation de la loi, d’autant plus s’il s’agit d’un juge pénal ou administratif, où l’intérêt général et l’ordre public interviennent. L’autre fonction du juge est de mettre fin au litige entre les personnes, ce qui est l’office traditionnel du juge civil. Mais l’intérêt général est également présent dans le droit privé et l’on cherche aujourd’hui en toute matière à développer les modes alternatifs de règlement des litiges.

Référence complète : Aguilar, L., Doing the Right Thing: Compliance That Works for Investors, transcription d'une conférence faite par ce commissaire de la U.S. Securities and Exchange Commission (SEC) devant  la Regulatory Compliance Association (ROC), laquelle est une association professionnelle qui propose des programmes de formation à des milliers de personnes sur le thème de la de 78.000  Compliance. 

La conférence s'est tenue à New-York, 18 avril 2013.

Validation de la transcription en 2014.

 

L'auteur de la conférence, commissaire de la SEC, se réfère au propos de Roosevelt, selon lequel la meilleure chose à faire est de faire la chose juste. En la matière, lorsque les choses deviennent trop complexe, la compliance consiste pour l'entreprise à protéger les investisseurs.

Référence complète : Kwame, A., Le code d'honneur. Comment adviennent les révolutions morales, coll. "NRF essais", Gallimard, 2012, 261p.

Il s'agit de la traduction de The honor code. How moral revolutions happens, paru en 2010.

Lire la quatrième de couverture.

Lire la table des matières.

Référence complète : Gutmann, D., L'obligation déontologique entre l'obligation morale et l'obligation juridique, in Archives de Philosophie du Droit (APD), L'obligation, t.44, Dalloz, p. 115-127.

Les étudiants de Sciences-Po peuvent lire l'article via le drive dans le dossier "MAFR - Régulation"