En utilisant ce site, vous acceptez la Politique de confidentialité et les Conditions d'utilisation.
Accept
LeMuslimPostLeMuslimPost
Notification Afficher plus
Actualités
Comment le RN drague l’électorat musulman
A la une Actualité Politique
Décaler le Ramadan pour les Bleus musulmans, bonne ou mauvaise idée ?
A la une Actualité Société
Décorations, rupture du jeûne… L’exemple du Royaume-Uni
A la une Actualité International
Ramadan : supermarchés, consommation et produits halal
En pleine crise, à quel Ramadan faut-il s’attendre ?
A la une Actualité Société
Ramadan 2023 : où trouver les meilleures recettes ?
A la une Actualité Société
Aa
  • Accueil
  • A la une
    A la uneAfficher plus
    Comment le RN drague l’électorat musulman
    24 mars 2023
    Décaler le Ramadan pour les Bleus musulmans, bonne ou mauvaise idée ?
    23 mars 2023
    Décorations, rupture du jeûne… L’exemple du Royaume-Uni
    22 mars 2023
    Ramadan : supermarchés, consommation et produits halal
    En pleine crise, à quel Ramadan faut-il s’attendre ?
    21 mars 2023
    Ramadan 2023 : où trouver les meilleures recettes ?
    20 mars 2023
  • Actualité
    ActualitéAfficher plus
    Comment le RN drague l’électorat musulman
    24 mars 2023
    Décaler le Ramadan pour les Bleus musulmans, bonne ou mauvaise idée ?
    23 mars 2023
    Décorations, rupture du jeûne… L’exemple du Royaume-Uni
    22 mars 2023
    Ramadan : supermarchés, consommation et produits halal
    En pleine crise, à quel Ramadan faut-il s’attendre ?
    21 mars 2023
    Ramadan 2023 : où trouver les meilleures recettes ?
    20 mars 2023
  • International
    InternationalAfficher plus
    Décorations, rupture du jeûne… L’exemple du Royaume-Uni
    22 mars 2023
    Lutte contre l’islamophobie : si seulement l’ONU était écoutée
    15 mars 2023
    Arabie saoudite-Iran : les vrais Accords d’Abraham ?
    10 mars 2023
    Elon Musk et l’imaginaire racisme anti-Blancs
    2 mars 2023
    Israël veut remettre la peine de mort au goût du jour
    28 février 2023
  • Politique
    PolitiqueAfficher plus
    Comment le RN drague l’électorat musulman
    24 mars 2023
    Eric Zemmour, relaxé mais pas vraiment relax
    22 février 2023
    À quoi sert réellement le Forif ?
    16 février 2023
    Giroud ne veut plus être récupéré par les racistes
    15 décembre 2022
    Eric Ciotti en voyage en Israël
    Avec Ciotti, la droite se droitise encore
    5 décembre 2022
  • Société
    SociétéAfficher plus
    Décaler le Ramadan pour les Bleus musulmans, bonne ou mauvaise idée ?
    23 mars 2023
    Ramadan : supermarchés, consommation et produits halal
    En pleine crise, à quel Ramadan faut-il s’attendre ?
    21 mars 2023
    Ramadan 2023 : où trouver les meilleures recettes ?
    20 mars 2023
    Salah Hamouri, 1. Ministère de l’Intérieur, 0.
    17 mars 2023
    Contre le racisme, le club de football de Lille en fait-il assez ?
    16 mars 2023
En train de lire: Le monde de la tech a pris conscience du racisme des algorithmes
Partager
Aa
LeMuslimPostLeMuslimPost
  • Accueil
  • A la une
  • Actualité
  • International
  • Politique
  • Société
Search
  • Accueil
  • A la une
  • Actualité
  • International
  • Politique
  • Société
Vous avez un compte existant ? S\'identifier
Suivez-nous
LeMuslimPost > Blog > Live Post > Le monde de la tech a pris conscience du racisme des algorithmes
Live Post

Le monde de la tech a pris conscience du racisme des algorithmes

Radaction
Dernière mise à jour: 2019/08/30 at 4:15
Radaction Publié 30 août 2019
Partager
Partager

« Un algorithme n’est qu’une suite de chiffres, donc responsable de rien, le problème vient de l’humain, et si nous n’y sommes pas attentifs, nous donnons naissance à des algorithmes discriminatoires », accuse Salwa Toko, la présidente du Conseil national du numérique français, interrogée par l’AFP. Elle voit là un « enjeu de société, d’état de droit ».

L’OCDE, dans un rapport de juin dernier, pointait également « les risques de transposition des biais du monde analogique vers le monde numérique » et encourageait la création d’un environnement sain d’accès aux données.

L’intelligence artificielle (« IA ») est basée sur l’apprentissage automatisé à partir de données insérées par le concepteur, que la machine analyse. Si cette matière première est biaisée, le résultat ne peut qu’en être faussé.

« Une partie de l’IA est encore bête et méchante, sans conscience artificielle », estime auprès de l’AFP Jérôme Béranger, fondateur d’Adel, un label d’experts pluridisciplinaires qui évalue la conception et la mise en place des algorithmes d’un point de vue éthique.

Reproduction des inégalités

De la conception de l’algorithme et de la constitution de la base de données jusqu’aux décisions finales de la machine, les stéréotypes et biais de l’humain influencent le résultat, souvent vu, à tort, comme une solution mathématique infaillible.

« Il y a plus d’hommes que de femmes qui travaillent dans les nouvelles technologies, c’est statistiquement la réalité. Maintenant si on crée un algorithme à partir de ces données, sans aucune correction, on va amener un biais dans le programme », qui finira par reproduire les inégalités, explique par exemple à l’AFP Anne-Laure Thieullent, spécialiste en intelligence artificielle chez le géant français des services informatiques Capgemini.

Dans le secteur bancaire par exemple, un algorithme peut étudier des dossiers et proposer des montants de prêts. Mais si dans la base de données qu’on lui a fournie, les femmes empruntent moins que les hommes, l’algorithme va reproduire cette situation.

Aux Etats-Unis, le site de médias ProPublica a examiné les « notes de risque de récidive » octroyées il y a quelques années à des délinquants par un algorithme dans l’Etat de Floride, recherchant ceux d’entre eux qui ont été à nouveau condamnés ultérieurement pour évaluer l’exactitude de la prédiction. Les Afro-Américains étaient deux fois plus nombreux à avoir été jugés par erreur susceptibles de commettre un nouveau délit.

Quelles solutions?

« A chaque fois qu’on souhaite appliquer une IA pour résoudre une question, il faut regarder s’il y a des biais humains qui existent déjà et qui pourraient se retranscrire dans le jeu de données », conseille Mme Thieullent.

« Cela fait deux ans que l’on pose les constats. Maintenant on est à un stade où il est intéressant de voir ce que les acteurs commencent à mettre en place », souligne Régis Chatellier, chargé d’études au pôle innovation de la Cnil, le gendarme français de la protection des données.

Diverses initiatives tentent en effet de contrer ces biais, avec par exemple des labels d’audit des algorithmes et des bases de données comme Adel, ou encore des outils de correction des bases de données pour rééquilibrer la représentation des minorités.

En France, un rapport du mathématicien et député Cédric Villani proposait en 2018 la création d’un « corps d’experts publics assermentés ». Et la Cnil a envisagé une « plateforme nationale d’audit des algorithmes ».

Les principaux remèdes présentés pour éviter la reproduction du statu quo concernent la diversité: intégrer plus de femmes et rééquilibrer la diversité ethnique dans la tech, constituer des équipes pluridisciplinaires au sein des entreprises plutôt que de confier le développement d’une intelligence artificielle uniquement à des ingénieurs.

Chez Capgemini, Anne-Laure Thieullent commence à voir nombre de ses clients passer à « l’action » sur ces thématiques, notamment par peur d’une dégradation de leur image de marque.

Le mieux étant d’anticiper les biais éventuels en amont, avant que les couacs et décisions n’influencent le quotidien des utilisateurs. D’autant, souligne Jérôme Béranger, qu’à l’avenir l’intelligence artificielle est appelée à se passer de l’intervention humaine.

Vous pourriez aussi aimer

Le reportage de Zone Interdite, une production mensongère

Israël en quête de légitimité au sein de l’Union africaine

Mobilisation des Hijabeuses contre l’amendement du Sénat

Le Canada célèbre la première Journée nationale de commémoration de l’attentat à la mosquée de Québec

Radaction 30 août 2019
Partagez cet article
Facebook Twitter Email Print
LeMuslimPostLeMuslimPost
Suivez-nous

©2022 - LeMuslimPost. All Rights Reserved.

  • TENDANCE
  • ISLAMOPHOBIE
  • PALESTINE
  • HALAL

Supprimé de la liste de lecture

Annuler