ChatGPT est sexiste, et ce n’est finalement pas étonnant

L’affaire serait sans doute passée inaperçue, si elle n’était pas liée à OpenAI et ChatGPT. Au début de l’année, le ministère du travail autrichien a annoncé en grande pompe la création d’un nouvel outil dédié à la recherche d’emploi. Baptisé Berufsinfomat, l’agent conversationnel lancé par l’équivalent du France Travail (ex-Pôle Emploi) autrichien avait pour objectif de faciliter le travail des fonctionnaires du pays, en permettant l’orientation et l’aide à la recherche d’emploi des étudiants et des chômeurs.

Sans grande surprise pour un outil lancé cette année, le gouvernement autrichien a largement compté sur l’IA pour mener à bien son projet. Berufsinfomat profitait ainsi d’une collaboration avec OpenAI via ChatGPT, de quoi valoir à l’outil un rayonnement international à l’échelle de l’Europe.

Les femmes privées d’informatique

Dommage pour l’Autriche, le projet qui se voulait révolutionnaire a rapidement pris l’eau. Dans un article publié par le journal local DerStandard et relayé par Courrier International, on apprend que Berufsinfomat a subi de nombreux problèmes techniques à son lancement. Les plus importants s’articulent notamment autour d’importants biais sexistes de la part du chatbot.

Concrètement, de nombreux candidats masculins auraient été dirigés vers des emplois dans le domaine de l’informatique lorsque leurs compétences le permettaient. Rien de plus logique jusqu’ici, sauf qu’à CV et compétences identiques, l’enquête de DerStandard souligne que les candidates féminines étaient quant à elles plutôt orientées vers des études et des postes autour de la restauration, de la psychologie ou de la philosophie.

ChatGPT est sexiste, et c’est normal

Si les biais sexistes de ChatGPT vont devoir être rapidement corrigés pour permettre au chatbot d’OpenAI de gérer des situations sociales complexes comme celle du Pôle Emploi autrichien, la situation n’a finalement rien de surprenant. Comme tous les modèles de langage d’IA existants sur le marché actuellement, GPT-4 qui alimente ChatGPT se base sur des milliards d’informations déjà existantes sur le web. Difficile donc pour une IA d’échapper aux préjugés sexistes et racistes, alors même qu’elle base son apprentissage sur une société pétrie d’idées reçues sur certaines catégories de la population.

Face à la polémique, le directeur général du service public de l’emploi en Autriche Johannes Kopf a pris la parole sur X, en reconnaissant : “Il n’est pas facile d’éliminer complètement cette idée sur le secteur informatique“. Après les nombreuses promesses techniques offertes par ChatGPT et les IA génératives depuis l’année dernière, il convient désormais de se pencher sur leur aspect éthique. 

Et la protection des données ?

Outre ses biais sexistes, l’inquiétude des Autrichiens autour de l’outil Berufsinfomat concerne aussi la protection des données en ligne. Si le ministère autrichien est en charge des informations qui transitent sur sa plateforme, il conseille de ne fournir aucune donnée personnelle, sensible ou privée. En cause : le chatbot étant affilié à OpenAI, toutes les données qui lui sont fournies sont susceptibles d’être récupérées et utilisées par l’entreprise américaine. C’est sans doute pour cette raison que la France n’a jamais sauté le pas de l’intelligence artificielle générative pour booster ses propres services publics, alors même que l’idée a été plusieurs fois évoquée.

🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.

â nba 2k22 vc glitch 100k per
is there gift cards for shein
fire kirin free money credits
fire kirin distributors select
download war robots free for p
black mod share best site hack
free 10 play for riversweeps b
daily gift bigo live hack che
survivor io codes active febru
bingo blitz plus club welcome
8 ball pool free coins today
How to get 10,000 a-pass and g
nba 2k23 free 35k virtual curr
fire kirin app Free money and
How to get FREE UNLIMITED epis
download fire kirin money hack
THE BEST APPS TO GET COINS IN
survivor io hack mod unlock al
fire kirin free money and cred
livu free coins livu app unlim
fire kirin login go to your ph
FREE 100,000 money and credits
Get Free fire kirin money and
fire kirin Free money and cred
how to get platinum in war rob
episode app free pass and gems
how to get a shein gift card f
How To Get Episode Free Gems &
free shein gift card kaufen
how to get free gold in war ro