30 août 2021

Compliance : sur le vif

   Un article du 3 mars 2021, Smile for the camera: the dark side of China's emotion-recognition tech, puis un article du 16 juin 2021, "Every smile you fake" - an AI emotion - recognition system can assess how "happy" China's workers are in the office décrit la façon dont une nouvelle technologie de reconnaissance émotionnelle est apte, à travers ce qui sera bientôt démodé d'appeler la "reconnaissance faciale", de distinguer un sourire qui traduit un état de satisfaction effective d'un sourire qui n'y correspond pas. Cela permet à l'employeur de mesurer l'adéquation de l'être humain à son travail.  Il est promis qu'il en sera fait usage d'une façon éthique, pour améliorer le bien-être au travail. Mais n'est-ce pas en soi que cette technologie est incompatible avec toute compensation par un accompagnement éthique ? 

____

La technologie élaborée par une entreprise technologique chinoise et acquise par d'autres entreprises chinoises ayant beaucoup d'employés, permet d'avoir de l'information sur l'état d'esprit effectif de la personne à travers et au-delà de ses mimiques faciales et de son comportement corporel.

La technologie de reconnaissance émotionnelle avait été mise au point pour assurer la sécurité, en luttant contre des personnes au projet hostile, les Autorités publiques l'utilisant par exemple dans les contrôles dans les aéroports pour détecter les desseins criminels que pourraient avoir certains passagers.

Il est affirmé ainsi que non pas qu'il s'agit de lutter contre quelques personnes malfaisantes ("dangerosité") pour protéger le groupe avant que l'acte ne soit commis ("défense sociale) mais qu'il s'agit d'aider l'ensemble des travailleurs. 

En effet non seulement l'usage qui en sera fait sera éthique, car en premier lieu les personnes qui travaillent pour ces entreprises chinoises à l'activité mondiale, comme Huawaï, le font librement et ont accepté le fonctionnement de ces outils d'intelligence artificielle (ce qui n'est pas le cas des personnes qui voyagent (le contrôle étant alors un sorte de mal nécessaire qu'ils n'ont pas à accepter, qui leur est imposé pour la sauvegarde du groupe), mais encore et surtout que la finalité est elle-même éthique : s'il s'avère que la personne ne se sent pas bien au travail, qu'elle n'y est pas heureuse, avant même qu'elle ait peut-être conscience, l'entreprise pourra lui venir en aide.

____

 

Prenons ce cas pratique du côté du Droit et imaginons que cela soit contesté devant un juge appliquant les principes du Droit occidental.

Est-ce que cela serait admissible ?

Non, et pour trois raisons.

1. Un "usage éthique" ne peut pas justifier un procédé en soi non-éthique

2. Les premières libertés sont négatives

3. Le "consentement" ne doit pas le seul principe régissant l'espace technologique et numérique

____

 

I. UN "USAGE ETHIQUE" NE PEUT JAMAIS LEGITIMER UN PROCEDE EN SOI NON-ETHIQUE

es procédés en eux-mêmes non-éthiques ne peuvent pas être rendus "admissibles" par un "usage éthique" qui en sera fait.

Ce principe a été rappelé notamment par Sylviane Agacinski en matière bioéthique : si l'on ne peut pas disposer de la personne d'autrui à travers une disposition de son corps qui rend sa personne même disponible (v. not. Agacinski, S., ➡️📗 Le tiers-corps. Réflexions sur le don d'organes, 2018). 

Sauf à rendre la personne réduite à la chose qu'est son corps, ce qui n'est pas éthiquement admissible en soi, cela est exclu, et le Droit est là pour que cela ne soit pas possible. 

C'est même pour cela que la notion juridique de "personne", qui n'est pas une notion qui va de soi, qui est une notion construite par la pensée occidentale, fait rempart pour que les êtres humains ne puissent pas être entièrement disponibles aux autres, par exemple par la mise sur le marché de leur corps (v. Frison-Roche, M.-A., ➡️📝Pour protéger les êtres humains, l'impératif éthique de la notion juridique de personne, 2018). C'est pourquoi par exemple, comme le souligne Sylviane Agacinski il n'y a pas d'esclavage éthique (un esclave qu'on ne peut pas battre, qu'il faut bien nourrir, etc.).

Que l'être humain y consente ("et s'il me plait à moi d'être battue ?") n'y change rien.

 

II. LA PREMIERE LIBERTE EST CELLE DE DIRE NON, PAR EXEMPLE EN REFUSANT DE REVELER SES EMOTIONS : PAR EXEMPLE CACHER SI L'ON EST HEUREUX OU PAS DE TRAVAILLER

La première liberté n'est pas positive (être libre de dire Oui) ; elle est négative (être libre de dire Non). Par exemple la liberté du mariage, c'est avant d'avoir la liberté de se marier, avoir la liberté de ne se marier : si l'on ne dispose pas de la liberté de ne pas se marier, alors la liberté de se marier pert toute valeur. De la même façon, la liberté de contracter suppose la liberté de ne pas contracter, etc.

Ainsi la liberté dans l'entreprise peut prendre la forme de la liberté d'expression, qui permet aux personnes, selon des procédures fixées par le Droit, d'exprimer leur émotions, par exemple leur colère ou leur désapprobation, à travers la grève.

Mais cette liberté d'expression, qui est une liberté positive, n'a de valeur qu'à condition que le travailleur est la liberté fondamentale de ne pas exprimer ses émotions. Par exemple s'il n'est pas heureux de son travail, car il n'apprécie pas ce qu'il fait, ou qu'il n'aime pas l'endroit où il ne fait, ou il n'aime pas les personnes avec lesquels il travaille, son liberté d'expression exige qu'il ait le droit de ne pas l'exprimer. 

Si l'employeur dispose d'un outil qui lui permet d'obtenir l'information quant à ce que le travailleur aime ou n'aime pas, alors celui-ci perd cette liberté première.

Dans l'ordre juridique occidental, l'on doit pouvoir considérer que c'est au niveau constitutionnel que l'atteinte est réalisée à travers le Droit des personnes (sur l'intimité entre le Droit des personnes et le Droit constitutionnel, v. Marais, A.,➡️📕  Le Droit des personnes2021).  

 

III. LE CONSENTEMENT NE DOIT PAS ETRE LE SEUL PRINCIPE REGISSANT L'ESPACE TECHNOLOGIQUE ET NUMERIQUE 


L'on pourrait considérer que le cas de l'entreprise est différent du cas des contrôles opérés par l'Etat pour la surveillance des aéroports, car dans le premier cas les personnes observées ont consenti.

Le "consentement" est aujourd'hui la notion centrale, souvent présentée comme  l'avenir de ce que chacun souhaite : la "régulation" de la technologie, notamment lorsqu'elle prend la forme des algorithmes ("intelligence artificielle"), notamment dans l'espace numérique. 

Le "consentement" permettrait un "usage éthique" et pourrait mettre fonder l'ensemble (sur ces problématiques, v. Frison-Roche, M.-A., ➡️📝Se tenir bien dans l'espace numérique, 2019).

Le "consentement" est une notion sur laquelle le Droit prend aujourd'hui des distances en Droit des personnes, notamment quant au "consentement" donné par les adolescents sur la disponibilité de leur corps, mais pas encore sur le numérique. 

Sans doute parce qu'en Droit des obligations, le "consentement" est quasiment synonyme de "libre volonté", alors qu'il faut les distinguer (v. Frison-Roche, M.-A., ➡️📝La distinction entre la volonté et le consentement, 1995). 

Mais l'on voit à travers ce cas, qui précisément déroule en Chine, le "consentement" est en Droit comme ailleurs un signe de soumission. Ce n'est que d'une façon probatoire qu'il peut constituer une preuve d'une libre volonté ; cette preuve ne doit se transformer en présomption irréfragable.

Les Autorités de Régulation des données (par exemple en France la CNIL) cherchent à reconstituer ce lien probatoire entre "consentement" et "liberté de dire Non" pour que la technologie ne permette pas par des "consentements mécaniques", coupés de tout rapport avec le principe de liberté qui protège les êtres humains, de déposséder ceux-ci (v. Frison-Roche, M.-A., Oui au principe de la volonté, manifestation de la liberté, Non aux consentements mécaniques , 2018). 

 

Plus la notion de consentement ne sera plus que périphérique et plus les êtres humains pourront être actifs et protégés.

________


 s'inscrire à la Newsletter MaFR ComplianceTech®

21 mars 2021

Compliance : sur le vif

17 février 2021

Enseignements : Droit de la régulation bancaire et financière - semestre 2021

Résumé de la leçon : Après avoir vu précédemment les règles techniques qui gouvernent la sanction et la prévention des Abus de marché, il convient pour mieux comprendre les décisions et les conflits de revenir sur la tension permanente et peut-être définitive qui marque les principes et la place de la répression dans le Droit de la régulation bancaire et financière : dans le même temps qu'elle est un outil presque ordinaire de la Régulation, puisque la répression des abus de marché assure l'intégrité et le fonctionnement des marchés financiers, la répression ne peut et ne doit se soustraire à ce avec quoi elle entretient un lien de filiation : le Droit pénal. Dès lors et par exemple, alors qu'au premier titre, l' efficacité est son premier souci, au second titre, les droits de la défense et le souci des secrets demeurent, tandis que la nature régalienne du Droit pénal trace un cercle par nature national alors que la Régulation financière est au mieux mondiale, au moins européenne. 

Il convient de reprendre cette question à travers une perspective plus générale, notamment à travers le Droit pénal et le Droit européen, tel que celui-ci a été précédemment présenté.

En effet, dans le même temps et parce qu'il s'agit de mécanismes qui ne peuvent pas faire sécession avec le système juridique, sa structure et ses fondements, l'on pourrait penser que la répression en matière bancaire et financière est une déclinaison du Droit pénal général, qu'elle en emprunte et en respecte les principes généraux, concevant des infractions spéciales pour les besoins qui lui sont propres. Ainsi, tout ce qui caractérise le Droit pénal, l'élément intentionnel de l'infraction, le caractère restrictif de l'interprétation des textes, le principe de la personnalité des délits et des peines, le système procédural indissociable des règles substantielles (comme les charges de preuve ou le principe non bis in idem) devrait s'appliquer dans des infractions générales qui concernent le secteur, comme l'escroquerie ou l'abus de confiance comme dans les infractions plus particulières, comme l'abus de biens sociaux, voire des infractions spécifique comme le blanchiment d'argent.

Mais et tout d'abord, par souci d' efficacité, le droit a tout d'abord développé un système de répression qui a emprunté d'autres méthodes, imprégnées avant tout du souci d' efficacité. En outre, le droit a organisé une sorte de double jeu répressif, par un droit administratif répressif à la disposition des régulateurs, qui prend assez souvent distance par rapport au droit pénal classique, lequel continue pourtant de s'exercer.

Les tensions ne peuvent qu'apparaître. A l'intérieur du Droit pénal , dont les principes sont assouplis alors que la rigidité du Droit pénal est dans sa nature même, dans l'articulation du Droit pénal avec le Droit administratif répressif, guidé par le service efficace de l'ordre public de marché, les Cours constitutionnelles tentant de garder un équilibre à l'ensemble. 

Il faut sans doute prendre acte que contrairement aux principes classiques, le droit pénal financier n'est plus autonome du reste de la régulation , la répression devient objective, l' efficacité est son critère et ses objectifs sont systémiques. La loi dite "Sapin 2" le manifeste en internalisant tout le dispositif répressif dans les opérateurs eux-mêmes, devenant à la fois les assujettis et les agents d'effectivité de la Régulation.

 

 

Revenir à la présentation générale du cours

Revenir au plan général du cours

 

Utilisez les matériaux ci-dessous pour aller plus loin et préparer votre conférence de méthode:

Mise à jour : 24 décembre 2020 (Rédaction initiale : 15 juillet 2020 )

Publications

Ce document de travail a tout d'abord servi de base à la première des conférences faites dans le colloque qui s'est tenu sous la direction scientifique de Lucien Rapp, Les incitations, outils de la Compliance,  le 12 décembre 2019,  à Toulouse,

Cette première a porté sur le thème de la sanction comme incitation, tandis que la seconde en synthèse de ce colloque a porté plus globalement sur le sujet : Incitations et Droit de la Compliance. 

Il a ensuite servi de base à un article dans l'ouvrage Les outils de la Compliance, dans la collection Régulations & Compliance.

Lire une présentation générale de cet ouvrage.  

____

Introduction et Résumé du document de travail :  Compliance et Incitations paraissent à première vue totalement opposées. Pour deux raisons majeures. En premier lieu, parce que les sanctions ont une place centrale dans le Droit de la Compliance et que les incitations supposent une absence de contrainte sur les opérateurs. En second lieu, parce que les incitations ont lien avec l'autorégulation et que le Droit de la Compliance suppose une présence forte des Autorités publiques. Ainsi, il faudrait choisir : soit Compliance, soit Incitations ! Soit l'efficacité de l'une, soit l'efficacité des autres ; soit les techniques de l'une, soit les techniques de l'une, soit les techniques des autres ; soit la philosophie de l'une, soit la philosophie de l'autre. Se résigner à la déperdition qu'un tel choix nécessaire impliquerait.  Mais poser les termes ainsi revient à penser pauvrement les situations et à réduire les champs des solutions qu'elles appelles. Si l'on reprend une définition riche du Droit de la Compliance, l'on peut au contraire articuler Compliance et Incitations. Dans cette perspective, les sanctions peuvent devenir non plus ce qui bloque l'usage des incitations mais au contraire ce qui en constitue. Plus encore le couplage entre les Incitations et les exigences du Droit de la Compliance doit être fortement encouragé, dès l'instant que les Autorités publiques supervisent en Ex Ante toutes les initiatives prises par les "opérateurs cruciaux".

Ce document de travail porte sur le premier enjeu En effet, la théorie dite des incitations vise les mécanismes qui n'ont pas recours directement à la contrainte. Elles auraient donc peu de place dans le Droit de la Compliance. Mais celui-ci semble saturé par les procédures de sanction. L’on peut même dire qu’il semble les mettre au centre, les Autorités publiques présentant le nombre de sanction comme étant un signe de succès, tandis que les entreprises semblent obsédées par leur perspectives, les deux soucis finissant par une si étrange convergence que sont les Conventions Judiciaires d’Intérêt Public.

L’observateur honnête ne peut qu’être immédiatement mal à l’aise. En effet, il ne peut que relever la définition de la sanction comme une « contrainte » déclenchée Ex Post , au cœur même d’un Droit de la Compliance qui se présente comme un ensemble de mécanismes Ex Ante. A partir de cette contradiction dans les termes, faudra-t-il renoncer à l’association et penser que cela serait une faute contre l’esprit que de penser la sanction comme une incitation ?

C’est sans doute à ce propos que l’on perçoit le plus nettement le choc de deux cultures, qui ne communiquent pas, alors que techniquement elles s’appliquent aux mêmes situations. En effet, parce que la Compliance a été pensée par la Finance, tout lui est outil. Dès lors, la tendance à ne penser la sanction que comme une incitation est très forte en Droit de la Compliance, se manifeste continûment et ne s’arrêtera pas (I). Mais quelques soient les raisons de la concevoir ainsi, les principes de l’Etat de Droit ne peuvent pas disparaître et si l’on ne veut pas qu’ils s’effacent, alors il faut les articuler (II). C’est un jeu essentiel (II).

C’est pourquoi l’on peut dire littéralement que la Compliance a mis le feu au Droit pénal par sa conception, logique mais close sur elle-même, des sanctions comme simples incitations. Pour que le Droit pourtant demeure, il faut tenir une définition très ferme du Droit de la Compliance centré sur son But Monumental qu’est la protection de la personne.

 

 

_________

 

Lire ci-dessous les développements.

 

14 novembre 2014

Base Documentaire : 01. Conseil constitutionnel

La loi du 23 juin 1941 a restreint l'exportation des oeuvres d'art jusqu'à  la loi du 31 décembre 1992. Pendant cette période, celles-ci n'ont donc pas relevé e pas de la seule liberté du commerce mais ont fait l'objet de restriction de circulation.

En effet, l'article 1ier de la loi obligeait à solliciter une autorisation de sortie du territoire de l'oeuvre d'article. Si celle-ci était refusée,  l'article 2 donné à l'État français le pouvoir de "retenir" des oeuvres d'art au profit de collectivités publiques.

Cette disposition législative a été contestée par une QPC, la partie la prétendant contraire à l'article 17 de la Déclaration des droits de l'Homme et du Citoyen qui protège le droit de propriété privée.

Le Conseil d'État a rendu un arrêt le 8 septembre 2014 de transmission de cette QPC au Conseil constitutionnel.

Par la décision du 14 novembre 2014, QPC, M. Alain L., le Conseil constitutionnel considère en premier lieu que "la possibilité de refuser l'autorisation d'exportation assure la réalisation de l'objectif d'intérêt général de maintien sur le territoire national des objets présentant un intérêt national d'histoire ou d'art". Mais il ajoute immédiatement en second lieu que la privation de propriété "n'est pas nécessairement pour atteindre un tel objectif".

Le système consistant à imposer une acquisition forcée par une personne publique, alors que le dispositif pour empêcher l'oeuvre de sortir du territoire avait déjà fonctionné, instaure "une privation de propriété sans fixer les critères établissant une nécessité publique".

La disposition législative est donc contraire à la Constitution.

4 octobre 1958

Base Documentaire : France