La réception de la fairness algorithmique par le droit - HAL-SHS - Sciences de l'Homme et de la Société
Pré-Publication, Document De Travail Année : 2022

Algorithmic fairness through the law

La réception de la fairness algorithmique par le droit

Résumé

Over the past years, the interdisciplinary movement called « Fair AI » has grown in popularity and members. Participating in this fight against algorithmic bias, legal experts have incorporate the concept into the law, often through the notion of algorithmic non-discrimination. Today this issue can be found in the European proposal for an artificial intelligence act. Its promising provisions still require clarification, but many issues can be identified already, especially on the means to comply with these obligations. The European text wants to evaluate the AI systems through statistical metrics, which exist in the scientific literature. However, their use as proof of compliance with legal requirements is not harmless. The paper addresses two difficulties, the coherence between metrics and their adequacy to non-discrimination law. Those problems must be solved before the use of these metrics by the law, otherwise the future European certification system will be ineffective against algorithmic discrimination.
Depuis plusieurs années, le mouvement interdisciplinaire visant à défendre la fairness algorithmique a gagné en popularité et en adeptes. En participant à cette lutte contre les biais algorithmiques, les juristes ont intégré ce concept au sein du droit, le plus souvent au travers de la notion de non-discrimination algorithmique. Désormais cette préoccupation se retrouve dans la proposition de règlement européen sur les systèmes d'IA. Ses dispositions prometteuses nécessitent encore des éclaircissements mais déjà de nombreux enjeux sont identifiables, notamment sur les modalités de satisfaction de ces obligations. Le texte européen souhaite évaluer les systèmes au travers de métriques statistiques, objets déjà existants dans la littérature scientifique. Cependant leur utilisation en tant que preuve du respect des exigences juridiques n'est pas sans risques. L'article aborde deux difficultés que sont la cohérence inter-métriques et leur adéquation au droit de la non-discrimination. Cesdernières devront être résolues avant l'exploitation de ces métriques par le droit, sous peine de priver le futur système de certification européen de toute efficacité contre la discrimination algorithmique.
Fichier principal
Vignette du fichier
La réception de la fairness algorithmique par le droit.pdf (321.68 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

halshs-03615783 , version 1 (21-03-2022)

Identifiants

  • HAL Id : halshs-03615783 , version 1

Citer

Ronan Pons. La réception de la fairness algorithmique par le droit. 2022. ⟨halshs-03615783⟩
509 Consultations
208 Téléchargements

Partager

More