23 juin 2022

Base Documentaire : Doctrine

AUGAGNEUR, Luc-Marie 👤

📝 Le traitement réputationnel par et sur les plateformes, in Frison-Roche, M.-A., "La Juridictionnalisation de la Compliance"

to read this presentation in English ↗️ click on the British flag

â–ş RĂ©fĂ©rence complète : Augagneur, L.-M., Le traitement rĂ©putationnel par et sur les plateformes, in Frison-Roche, M.-A. (dir.), La juridictionnalisation de la CompliancesĂ©rie "RĂ©gulations & Compliance", Journal of Regulation & Compliance (JoRC) et Dalloz, Ă  paraĂ®tre. 

____

â–ş Le rĂ©sumĂ© ci-dessous dĂ©crit un article qui fait suite Ă  une intervention dans le colloque L'entreprise instituĂ©e Juge et Procureur d'elle-mĂŞme par le Droit de la Compliance, coorganisĂ© par le Journal of Regulation & Compliance (JoRC) et la FacultĂ© de Droit Lyon 3. Ce colloque a Ă©tĂ© conçu par Marie-Anne Frison-Roche et Jean-Christophe Roda, codirecteurs scientifiques, et s'est dĂ©roulĂ© Ă  Lyon le 23 juin 2021.

Dans l'ouvrage, l'article sera publiĂ© dans le Titre I, consacrĂ© Ă   L'entreprise instituĂ©e Juge et Procureur d'elle-mĂŞme par le Droit de la Compliance.

___

â–ş RĂ©sumĂ© de l'article (fait par l'auteur) : Les grandes plateformes se trouvent placĂ©es en arbitre de l’économie de la rĂ©putation (rĂ©fĂ©rencement, notoriĂ©tĂ©) dans laquelle elles agissent elles-mĂŞmes. MalgrĂ©, le plus souvent, de faibles enjeux unitaires, la juridictionnalitĂ© de la rĂ©putation reprĂ©sente des enjeux agrĂ©gĂ©s importants. Les plateformes sont ainsi conduites Ă  dĂ©tecter et apprĂ©cier les manipulations de rĂ©putation (par les utilisateurs : SEO, faux avis, faux followers ; ou par les plateformes elles-mĂŞmes comme l’a mis en lumière la dĂ©cision Google Shopping rendue par la Commission EuropĂ©enne en 2017) qui sont mises en Ĺ“uvre Ă  grande Ă©chelle avec des outils algorithmiques.

L’identification et le traitement des manipulations n’est elle-mĂŞme possible qu’au moyen d’outils d’intelligence artificielle. Google procède ainsi Ă  un mĂ©canisme de dĂ©classement automatisĂ© des sites ne suivant pas ses lignes directrices, avec une possibilitĂ© de faire une demande de rĂ©examen par une procĂ©dure très sommaire entièrement menĂ©e par un algorithme. De son cĂ´tĂ©, Tripadvisor utilise un algorithme de dĂ©tection des faux avis Ă  partir d’une « modĂ©lisation de la fraude pour relever des constantes Ă©lectroniques indĂ©tectables par l’œil humain Â». Elle ne procède Ă  une enquĂŞte humaine que dans des cas limitĂ©s.

Cette juridictionnalitĂ© de la rĂ©putation prĂ©sente peu de caractères communs avec celle dĂ©finie par la jurisprudence de la Cour de Justice (origine lĂ©gale, procĂ©dure contradictoire, indĂ©pendance, application des règles de droit). Elle se caractĂ©rise, d’une part, par l’absence de transparence des règles et mĂŞme d’existence des règles Ă©noncĂ©es sous forme prĂ©dicative et appliquĂ©es par raisonnement dĂ©ductif. S’y substitue un modèle inductif probabiliste par l’identification de comportements anormaux par rapport Ă  des centroĂŻdes. Cette approche pose bien sĂ»r la problĂ©matique des biais statistiques. Plus fondamentalement, elle traduit une transition de la Rule of Law, non pas tant vers Code is Law (Laurence Lessig), mais Ă  Data is Law, c’est-Ă -dire Ă  une gouvernance des nombres (plutĂ´t qe “par” les nombres). Elle revient en outre Ă  une forme de juridictionnalitĂ© collective puisque la sanction provient d’une apprĂ©hension computationnelle des phĂ©nomènes de la multitude et non d’une apprĂ©ciation individuelle. Enfin, elle apparaĂ®t particulièrement consubstantielle Ă  la compliance puisqu’elle repose sur une dĂ©marche tĂ©lĂ©ologique (la recherche d’une finalitĂ© plutĂ´t que l’application de principes).

D’autre part, cette juridictionnalité se caractérise par la coopération homme-machine, que ce soit dans la prise de décision (ce qui pose le problème du biais d’automaticité) et dans la procédure contradictoire (ce qui pose notamment les problèmes de la discussion avec machine et de l’explicabilité de la réponse machine).

Jusqu’ici, l’encadrement de ces processus repose essentiellement sur les mĂ©canismes de transparence, d’une exigence contradictoire limitĂ©e et de l’accessibilitĂ© de voies de recours. La Loi pour une RĂ©publique NumĂ©rique, le Règlement Platform-to-Business et la Directive Omnibus) ont ainsi posĂ© des exigences sur les critères de classement sur les plateformes. La directive Omnibus exige par ailleurs que les professionnels garantissent que  les avis Ă©manent de consommateurs par des mesures raisonnables et proportionnĂ©es. Quant au projet de Digital Services Act, il prĂ©voit d’instaurer une transparence sur les règles, procĂ©dures et algorithmes de modĂ©ration de contenus. Mais cette transparence est souvent en trompe-l’œil. De la mĂŞme façon, les exigences d’une intervention humaine suffisante et du contradictoire apparaissent très limitĂ©s dans le projet de texte.

Les formes les plus efficientes de cette juridictionnalité ressortent en définitive du rôle joué par les tiers dans une forme de résolution de litiges participative. Ainsi, par exemple, FakeSpot détecte les faux avis Tripadvisor, Sistrix établit un indice de ranking qui a permis d’établir les manipulations de l’algorithme de Google dans l’affaire Google Shopping en détectant les artefacts en fonction des modifications de l’algorithme. D’ailleurs, le projet de Digital Services Act envisage de reconnaître un statut spécifique aux signaleurs de confiance (trusted flaggers) qui identifient des contenus illégaux sur les plateformes.

Cette configuration juridictionnelle singulière (plateforme juge et partie, situations massives, systèmes algorithmiques de traitement des manipulations) amène ainsi Ă  reconsidĂ©rer la grammaire du processus juridictionnel et de ses caractères. Si le droit est un langage (Alain SĂ©riaux), elle en offre une nouvelle forme grammaticale qui serait celle de la voie moyenne (mĂ©sotès) dĂ©crite par BenevĂ©niste. Entre la voie active et la voie passive, se trouve une voie dans laquelle le sujet effectue une action oĂą il s’inclut lui-mĂŞme. Or c’est bien le propre de cette juridictionnalitĂ© de la compliance que de poser des lois en s’y incluant soi-mĂŞme (nomos tithestai). A cet Ă©gard, l’irruption de l’intelligence artificielle dans ce traitement juridictionnel tĂ©moigne incontestablement du renouvellement du langage du droit.

____

đź“ť Consulter une prĂ©sentation gĂ©nĂ©rale du volume dans lequel l'article est publiĂ©.

 

les commentaires sont désactivés pour cette fiche