Algorithmic fairness through the law
La réception de la fairness algorithmique par le droit
Résumé
Over the past years, the interdisciplinary movement called « Fair AI » has grown in popularity and members. Participating in this fight against algorithmic bias, legal experts have incorporate the concept into the law, often through the notion of algorithmic non-discrimination. Today this issue can be found in the European proposal for an artificial intelligence act. Its promising provisions still require clarification, but many issues can be identified already, especially on the means to comply with these obligations. The European text wants to evaluate the AI systems through statistical metrics, which exist in the scientific literature. However, their use as proof of compliance with legal requirements is not harmless. The paper addresses two difficulties, the coherence between metrics and their adequacy to non-discrimination law. Those problems must be solved before the use of these metrics by the law, otherwise the future European certification system will be ineffective against algorithmic discrimination.
Depuis plusieurs années, le mouvement interdisciplinaire visant à défendre la fairness algorithmique a gagné en popularité et en adeptes. En participant à cette lutte contre les biais algorithmiques, les juristes ont intégré ce concept au sein du droit, le plus souvent au travers de la notion de non-discrimination algorithmique. Désormais cette préoccupation se retrouve dans la proposition de règlement européen sur les systèmes d'IA. Ses dispositions prometteuses nécessitent encore des éclaircissements mais déjà de nombreux enjeux sont identifiables, notamment sur les modalités de satisfaction de ces obligations. Le texte européen souhaite évaluer les systèmes au travers de métriques statistiques, objets déjà existants dans la littérature scientifique. Cependant leur utilisation en tant que preuve du respect des exigences juridiques n'est pas sans risques. L'article aborde deux difficultés que sont la cohérence inter-métriques et leur adéquation au droit de la non-discrimination. Cesdernières devront être résolues avant l'exploitation de ces métriques par le droit, sous peine de priver le futur système de certification européen de toute efficacité contre la discrimination algorithmique.
Fichier principal
La réception de la fairness algorithmique par le droit.pdf (321.68 Ko)
Télécharger le fichier
Origine | Fichiers produits par l'(les) auteur(s) |
---|