... Biais automatiques du langage, bulles algorithmiques... L'intelligence artificielle par son fonctionnement même d’apprentissage, renforce des biais de sexe, de genre, de culture, d’origine et de classe sociale. Comment prévenir et lutter contre ces biais ? Comment inventer des systèmes de test d’inclusivité des textes ? Enfin, comment agir pour plus de diversité parmi celles et ceux qui font l’IA ?
Alors que le développement de l'IA occupe de plus en plus l'espace médiatique, la prise de conscience de ces biais doit être le premier pas !
...
Les expertes

• Daphné Marnat, anthropologue et CEO de Unbias
• Audrey Baneyx, ingénieure de recherche en humanités numériques au médialab de SciencePo
• Isabelle Bloch, enseignante chercheure informatique, LIP6, CNRS, Sorbonne Université.

Alice Laisney, chargée de projet au Centre Hubertine Auclert, animera cette conférence en libre accès.
La vidéo aussi sur https://tools.immae.eu/Shaarli/ind1ju?s9II2g
Tr.: ... Définition de Marvin Minsky (1927-2016) : Science qui permet aux machines de faire ce qui serait qualifié d'intelligent si c'était fait par des êtres humains. ... 1956 Conférence de Dartmouth : les pères fondateurs de l'IA : John MacCarthy, Marvin Minsky, Claude Shannon, Ray Solommonoff, Alan Newell, Herbert Simon, Arthur Samuel, Oliver Selfridge, Nathaniel Rochester, Trenchard More. ... Deux paradigmes - rationalité de la déduction vs voie empiriste de la déduction :

• IA symbolique
  . Représentation des connaissances par des symboles.
  . Rôle majeur de la logique.
  . Axiomatique et modèles, raisonnement selon une théorie, conclusion non réfutables.
  . Exemples : raisonnement logique, règles, arbres de décision...
• Apprentissage (numérique, statistique)
  . Guidé par les données de l'expérience.
  . Garanties statistiques.
  . Conclusions potentiellement réfutables.
  . Engouement actuel pour l'IA.
  . Exemples : réseaux de neurones (profonds).

... Contrôle des biais ?

• Biais statistiques
  . Données utilisées, annotations
  . Représentativité
  . Évolution des données, mises à jour des modèles et algorithmes
  . Qu'est-ce qui est appris ?
• Biais cognitifs
  . Cadrage
  . Confirmation
  . Complaisance

... l'IA entretien des stéréotypes ... CV anonymisés ... produire des indicateurs d'éthique ... chatbots ... risques discriminatoires ... je suis pour les quotas de femmes ... égalité des chances ... logiciels de traduction ... rapport sur l'égalité homme-femme ... ChatGPT ... GPT_architecture.html ... Le problème des datasets et leurs biais Modèle FlauBERT, CNRS calculé sur le Jean Zay (GENCI)
Les hommes sont des hommes / Les femmes sont des victimes
...
Cité
Le problème de la couche d'apprentissage par renforcement ou des humains qui sont derrière
Les principaux visages derrière OpenAI : Elon Musk - Sam Altman - Greg Brockman - Peter Thiel - Reid Hoffman - Satya Nadella
...
agent conversationnel / bilan carbone, ce n'est pas neutre ... autre outil : You de Richard Socker ... open source ... projet de Oh My Voice ... mésutilisation des mots ...