Si l'on pose la question ainsi, à un esprit innocent ou au contraire à un juriste solidement formé : "un algorithme peut-il être loyal ?", il répondrait tout à trac  : "quelle question stupide ... Bien sûr que non ! Comment un processus mathématique pourrait-il avoir une qualité de cette sorte, laquelle est de nature éthique, morale, et à ce titre n'est imputable qu'à des personnes ?". Peut-être la réponse viendra-t-elle avec condescendance : à question bête, réponse hautaine.

Effectivement, la loyauté est un comportement qui renvoie à une éthique, laquelle est en lien avec la morale.

Pourtant, l'on rencontre depuis quelque temps l'affirmation selon laquelle "les algorithmes doivent être loyaux". Cela fût affirmé par exemple dans le colloque du 23 octobre 2014 sur l'économie des plateformes numériques. Plus encore, c'est l'un des points forts du Rapport annuel du Conseil d'Etat 2014, Le numérique et les droits fondamentaux.

Comment peut-on avancer une telle affirmation, revenant à imposer à un processus mathématique un comportement moral ? En effet, pour imposer un devoir, encore faut-il que celui qui le subit en ait l'aptitude. Or, un processus mathématique n'a pas d'aptitude éthique. Ainsi, la formule n'a pas littéralement pas de sens.

En réalité, la formule est utilisée afin d'imputer à ceux qui conçoivent ou bénéficient des effets économiques des algorithmes, sur lesquels fonctionnent par exemple les moteurs de recherches ou les plateformes de rencontres et les réseaux sociaux, des obligations.

Ainsi, pour atteindre le régime, c'est-à-dire produire des obligations, l'on propose d'inventer par la seule force du droit la source d'obligation, laquelle serait "l'obligation de loyauté". Parce que le droit pourrait tout dire, l'on impute (au sens kelsénien du terme) cette obligation directement à une chose (ici les mathématiques).

Attention, les choses ne sont pas à ce point flexibles et la réalité n'est pas à ce point disponible au droit. Or, transformer les mathématiques en personnes, afin de pouvoir faire naître des obligations parce qu'on ne trouve pas d'autres pistes, c'est porter atteinte à la summa divisio que le droit établit entre les personnes et les choses.

Or, si l'on s'autorise à traiter des choses comme des personnes (ce que l'on fait ici), l'on ne doit pas s'étonner par ailleurs que beaucoup ne trouvent rien à redire - ni en droit, ni en morale --, lorsque l'on traite des personnes comme des choses;

Perdre la distinction entre les personnes et les choses fait perdre dans le droit non seulement son premier repère mais encore son premier garde-fou, contre sa tentation de disposer totalement de la réalité.