Mais qui surveille les algorithmes ? Traquer les biais et les atteintes aux droits

Choisir un billet de train, acheter un produit en ligne, consulter un réseau social ou obtenir un crédit à la consommation : chaque jour, nos décisions sont influencées par des centaines de recommandations et des mécanismes algorithmiques, de plus en plus alimentés par l'intelligence artificielle.

Pourtant, ces systèmes restent souvent opaques et sont loin d'être toujours neutres. Sans que nous en ayons conscience, ils peuvent reproduire des biais, favoriser des pratiques déloyales ou conduire à des discriminations. Sur les réseaux sociaux ou au sein d'agents conversationnels, certaines défaillances algorithmiques peuvent même avoir des conséquences sur la santé mentale ou le fonctionnement de nos démocraties.

Comment identifier ces risques ? Comment vérifier que les systèmes d'IA respectent les règles et les droits fondamentaux ? Et surtout, qui est chargé de les contrôler ?

À partir de sept années d'expérience en audit des systèmes d'IA menées à l'Inria, cette conférence dévoilera les mécanismes à l'origine de ces biais récurrents et montrera comment chercheurs et autorités travaillent à rendre les algorithmes plus transparents, plus fiables et plus respectueux de nos droits.