Mise à jour : 15 septembre 2024 (Rédaction initiale : )
droit illustré
► Référence complète : M.-A. Frison-Roche., "🎬𝑰'𝒎 𝒚𝒐𝒖𝒓 𝒎𝒂𝒏 - une question à laquelle réponse est demandée : la loi doit-elle autoriser le mariage avec un robot humanoïde ?", billet 15 septembre 2024.
► voir le film-annonce
___
Ce film allemand de 2021de Maria Schrader a reçu le Lion .. à la Nostra de Venise
Il est une fable sur l'intelligence artificielle dans notre société, maintenant et demain.
Dans une société du futur, d'un futur proche, une entreprise (on ne sait pas laquelle) propose à des humains de tester des robots humanoïdes pendant 3 semaines, comme "compagnon idéal", au terme duquel l'humain fournit un rapport pour formuler une opinion argumentée en répondant à la question suivante : Le législateur doit-il changer la loi pour admettre un mariage entre un humain et l'humanoïde.
La fable se déroule entre une femme, Alma, qui accepte de faire cette expérience. Elle n'est pas rémunérée et ne travaille pas dans l'I.A., elle travaille sur la culture perse et le déchiffrage de l'écriture cunéiforme. Son patron lui indique que si elle accepte l'expérience, des crédits seront sans doute débloqués pour permettre à son équipe de poursuivre ses recherches sur ce sujet-là. Il précise, en riant : "bien sûr, je ne cherche en rien à te corrompre".
Se présente donc le "compagnon idéal" réalisé selon ses goûts. Il a par exemple un accent britannique (elle est universitaire, elle apprécie la distinction d'un accent britannique, etc.)
Pendant 3 semaines, le robot parfait s'adapte, et elle a bien du mal mais trouve petit à petit qu'il est vraiment parfait, elle s'ouvre petit à petit.
Elle a beaucoup de soucis. Vit complètement seule. Son mari vient de la quitter pour une autre. Dont elle apprend qu'elle attend un enfant, tandis qu'elle a perdu un enfant jadis et n'en a jamais eu par la suite. Son père est atteint d'un Alzheimer en stade avancé et elle a bien du mal à l'aider.
Tandis que le robot, Tom, fait tout parfaitement, mais cela ne va jamais vraiment bien, puisqu'il ne sent pas, n'a pas froid, n'a pas faim, n'a pas peur. Il peut tout calculer, c'est commode. Elle se sent seule et veut arrêter car plus elle le voit et plus elle se sent à la fois seule et attirer par ce compagnon idéal qui lui appartient : I'm your man.
C'est vrai, c'est tentant.
A aucun moment, on ne voit ni ne parle de l'entreprise qui fabrique les algorithmes et les robots, qui sont manifestement au stade expérimental.
Elle rencontre dans la rue un homme qu'elle avait rencontré précédemment : il est juriste et tient à son bras une jeune fille, souriante, jolie, qui le regarde avec affection. Il lui dit : vous en êtes où ? Moi, j'ai été sollicité parce que je suis juriste. Pour donner une opinion juridique. Mais je suis si heureux ! Avant personne ne voulait de moi. Peut-être pour une histoire de pheromones ou pour mon physique (il est un peu gros) ou parce que j'ai 62 ans. Et maintenant je suis si heureux avec elle ! Je suis en train de négocier pour la garder toujours ! Je crois que je vais arriver à obtenir cela !"
Alma rend son rapport qui tient en quelques lignes : il est le compagnon parfait, qui peut pallier notre solitude, s'ajuster à nos désirs, répondre à tout. Mais notre condition humain est d'avoir des désirs qui ne sont pas comblés, d'avoir des questions sans réponse, d'aller de l'avant. Avec de tels robots, l'humain n'ira plus de l'avant. Il ne faut exclure totalement la possibilité de mariage entre des humains et des algorithmes à forme humaine.
____
On peut mettre ce film dans la longue liste des films qui prennent ce thème essentiel.
Le film prophétique de Spielberg , Intelligence Artificiel où le robot joué par Jude Law est prostitué, où le robot principal est l'enfant tant désiré.
Le film Her où l'amour pour la suite algorithmique dont l'humain est amoureux choisit de s'ajuster plutôt à un autre algorithme.
____
Prenons cela du côté du Droit
1. La question est celle du Législateur. La réponse est claire : c'est Non.
2. L'industrie est invisible : que peut le Législateur à l'égard d'une industrie que l'on ne voit pas, que l'on entend pas, qui n'écrit pas, dont les représentants ne sont eux-mêmes que des androïdes ?
3. La question expressément posée portait aussi sur l'éthique. Après, l'on n'a plus aucune discussion et aucune réponse : quand on n'a pas d'interlocuteur, il est difficile de formuler.
4. Le lien entre les savants et l'industrie est clairement posé ; il n'est pas choquant en soi
5. Le juriste, sollicité sur la dimension juridique, est celui qui l'aborde le mieux, celui qui veut garder la "jeune fille idéale", celui qui ne se pose aucune question éthique.
Juridiquement, c'est donc une très triste fable.
____
2 octobre 2019
droit illustré
La Fontaine, l'on y revient toujours.
Si facile à lire ;
vite parcouru ;
toujours à approfondir.
Par exemple lorsqu'on réfléchit en Droit de la Régulation et de la Compliance sur la prohibition des "conflit d'intérêts", sa détection et sa punition, l'on peut parcourir la fable La Belette entrée dans un grenier, ensuite la relire une ou deux fois encore, et puis l'approfondire.
I. LA FABLE DE LA BELETTE ENTREE DANS UN GRENIER
Damoiselle Belette, au corps long et fluet,
Entra dans un grenier par un trou fort étroit :
Elle sortait de maladie.
Là, vivant à discrétion,
La galande fit chère lie,
Mangea, ronge : Dieu sait la vie,
Et le lard qui périt en cette occasion.
La voilà pour conclusion
Grasse, maflue, et rebondie.
Au bout de la semaine, ayant diné son soû,
Elle entend quelque bruit, veut sortir par le trou,
Ne peut plus repasser, et croit s'être méprise.
Après avoir fait quelques tours,
C'est, dit-elle, l'endroit, me voilà bien suprises ;
J'ai passé par ici depuis cinq ou six jours.
Un Rat, qui la voyait en peine
lui dit : vous aviez lors la panse un peu moins pleine.
Vous êtes maigre entrée, il faut maigre sortir.
Ce que je vous dis là, l'on le dit à bien d'autres.
Mais ne confondons point, par trop appronfondi,
Leurs affaires avec les vôtres.
II. L'ENRICHISSEMENT NATUREL ET POTENTIELLEMENT EXCESSIF PENDANT LE TEMPS DES FONCTIONS ET LE CONTROLE AU TERME DE CELLES
L'on peut formuler deux observations
1. Celui qui entre dans une fonction a tendance à s'enrichir parce que cela est à portée de mains, sans qu'il y ait nécessairement intention dolosiv
Il y a un grenier avec des avantages : une société commerciale, ou un Etat. La porte en est ouverte : un concours est passé, l'administrateur est élu. L'entrée ne pose pas de problème : la Belette est de la "bonne taille".
Mais le temps passe et la Fable ne mentionne pas ce pour quoi la valeur consommable est ainsi à portée de main de celui qui est légitimement entrée. Si l'administrateur a le "sens du service public" ou si le manager ne vise que "l'intérêt social", alors il ne prélèvera dans les intérêts à sa portée que ce qui est nécessaire pour servir la mission qui est la sienne.
Mais cela n'est pas naturel. La nature des choses et de l'âme humaine fait que la personne "en position", c'est-à-dire installé dans le grenier va puiser sans mesure, prenant à la fois pour remplir sa fonction et remplir ses propres intérêts (l'on sait que La Fontaine en écrivant La Fable pensait quant à lui à Fouquet et non à la théorie de l'agence).
Comment ne pas être sensible pour l'usage par La Fontaine du terme "discrétion" ? Dans son texte, la Belette mange "à discrétion", tandis que des savants dans des livres longs et moins bien tournés approfondissent les "marges de discrétion" à laisser à ceux qui décident et disposent des moyens sur les autres.
Cela pourrait durer toujours puisque dans la Fable la Belette est seule dans l'espace où son action dévorante se déroule et il n'y a pas de pénurie.
Mais à un moment elle veut sortir.
2. Les comptes sont rendus au moment où celui qui usa des pouvoirs quitte de gré ou de force la fonction à laquelle ils étaient liés, sa situation personnelle pouvant révéler la mauvaise gestion du cumul d'intérêts
Ici, le rapprochement entre la Fable et le Droit de la Régulation et de la Compliance est particulièrement pertinent. C'est en effet en fin de mandat, lorsque l'intéressé, qui a exercé un pouvoir en ayant les moyens d'utiliser la puissance à portée de sa main pour son intérêt, quitte sa fonction, qu'il s'aperçoit qu'il n'est "par un effet de nature" contrôlé.
En effet, son enrichissemement le rend incapable de sortir par ses propres forces de sortir sans dommage : la Belette n'est pas "de taille". Et la punition est elle-aussi naturelle et immédiate : celui qui, en conflit d'intérêts, a utilisé sa position pour servir également ses intérêts personnels, perd sa liberté et ce qui était le lieu de son enrichissement devient le lieu de son emprisonnement.
C'est pourquoi la transparence des patrimoines lorsque les responsables entrent en fonction et lorsqu'ils en sortent sont aussi des obligations structurelles du Droit de la Compliance.
______
6 juillet 2019
droit illustré
Jean de La Fontaine écrivit une fable, dont le titre : Le Berger et le Roi
En voilà le texte.
Deux démons à leur gré partagent notre vie,
Et de son patrimoine ont chassé la raison.
Je ne vois point de cœur qui ne leur sacrifie.
Si vous me demandez leur état et leur nom,
J'appelle l'un Amour, et l'autre Ambition.
Cette dernière étend le plus loin son empire ;
Car même elle entre dans l'amour.
Je le ferais bien voir ; mais mon but est de dire
Comme un Roi fit venir un Berger à sa Cour.
Le conte est du bon temps , non du siècle où nous sommes.
Ce Roi vit un troupeau qui couvrait tous les champs,
Bien broutant, en bon corps, rapportant tous les ans,
Grâce aux soins du Berger, de très notables sommes.
Le Berger plut au Roi par ces soins diligents.
Tu mérites, dit-il, d'être pasteur de gens ;
Laisse là tes moutons, viens conduire des hommes.
Je te fais Juge souverain.
Voilà notre berger la balance à la main.
Quoiqu'il n'eût guère vu d'autres gens qu'un ermite,
Son troupeau, ses mâtins, le loup, et puis c'est tout,
Il avait du bon sens ; le reste vient ensuite.
Bref, il en vint fort bien à bout.
L'Ermite son voisin accourut pour lui dire :
Veillé-je ? et n'est-ce point un songe que je vois ?
Vous favori ! vous grand ! Défiez-vous des Rois :
Leur faveur est glissante, on s'y trompe ; et le pire
C'est qu'il en coûte cher ; de pareilles erreurs
Ne produisent jamais que d'illustres malheurs.
Vous ne connaissez pas l'attrait qui vous engage.
Je vous parle en ami. Craignez tout. L'autre rit,
Et notre ermite poursuivit :
Voyez combien déjà la Cour vous rend peu sage.
Je crois voir cet aveugle à qui dans un voyage
Un serpent engourdi de froid
Vint s'offrir sous la main : il le prit pour un fouet.
Le sien s'était perdu, tombant de sa ceinture.
Il rendait grâce au ciel de l'heureuse aventure,
Quand un passant cria : Que tenez-vous, ô Dieux !
Jetez cet animal traître et pernicieux,
Ce serpent. C'est un fouet . C'est un serpent, vous dis-je.
A me tant tourmenter quel intérêt m'oblige ?
Prétendez-vous garder ce trésor ? Pourquoi non ?
Mon fouet était usé ; j'en retrouve un fort bon ;
Vous n'en parlez que par envie.
L'aveugle enfin ne le crut pas ;
Il en perdit bientôt la vie.
L'animal dégourdi piqua son homme au bras.
Quant à vous, j'ose vous prédire
Qu'il vous arrivera quelque chose de pire.
Eh ! que me saurait-il arriver que la mort ?
Mille dégoûts viendront, dit le Prophète Ermite.
Il en vint en effet ; l'Ermite n'eut pas tort.
Mainte peste de Cour fit tant, par maint ressort,
Que la candeur du juge, ainsi que son mérite,
Furent suspects au prince. On cabale, on suscite
Accusateurs et gens grevés par ses arrêts.
De nos biens, dirent-ils, il s'est fait un palais.
Le prince voulut voir ces richesses immenses ;
Il ne trouva partout que médiocrité,
Louanges du désert et de la pauvreté ;
C'étaient là ses magnificences.
Son fait, dit-on, consiste en des pierres de prix.
Un grand coffre en est plein, fermé de dix serrures.
Lui-même ouvrit ce coffre, et rendit bien surpris
Tous les machineurs d'impostures.
Le coffre étant ouvert, on y vit des lambeaux,
L'habit d'un gardeur de troupeaux,
Petit chapeau, jupon, panetière, houlette,
Et je pense aussi sa musette.
Doux trésors, ce dit-il, chers gages qui jamais
N'attirâtes sur vous l'envie et le mensonge,
Je vous reprends ; sortons de ces riches palais
Comme l'on sortirait d'un songe.
Sire, pardonnez-moi cette exclamation.
J'avais prévu ma chute en montant sur le faîte.
Je m'y suis trop complu ; mais qui n'a dans la tête
Un petit grain d'ambition ?
Lire ci-après l'exégèse et l'analyse de la fable