Quotidien Shaarli
March 10, 2023
228 abonnés - 2+ - 40 vues - 0 commentaire 9 mars 2023 #AUF #ademe #changementclimatique
📼 Webinaire organisé par Alumni for the Planet.
🌟Intervention de Philippe Drobinksi, expert climatique dans la région méditerranéenne
🌟Témoignage de Mustapha Bennouna, conseiller au président de l'Université Euromed de Fès
Tr.: ... Frédéric de Dinechin ...
44,9 k abonnés - 39+ - 391 vues - 0 commentaire
Avec les algorithmes des intelligences artificielles reproduisent les biais de leurs concepteurs. Ces biais sont aujourd’hui étudiés dans de nombreux domaines – médecine, emploi, marketing... – car leurs conséquences sont alarmantes.
Biais automatique du langage, bulles algorithmiques, l’IA par son fonctionnement même d’apprentissage, renforce des biais de sexe, de genre, de culture, d’origine et de classe sociale... Alors comment lutter ? Inventer des systèmes de test de l’inclusivité des textes ? Agir pour plus de diversité parmi celles et ceux qui font l’IA ?
Prendre conscience de ces biais est le premier pas.
Avec Daphné Marnat, anthropologue et CEO de Unbias, Audrey Baneyx, ingénieur de recherche en humanités numériques au médialab de SciencePo, Isabelle Bloch, enseignante chercheure informatique, LIP6, CNRS, Sorbonne Université.
En partenariat avec le Centre Hubertine Aucler.
Crédits : EPPDCSI 2023
i à https://tools.immae.eu/Shaarli/ind1ju?N3RHhQ
... Biais automatiques du langage, bulles algorithmiques... L'intelligence artificielle par son fonctionnement même d’apprentissage, renforce des biais de sexe, de genre, de culture, d’origine et de classe sociale. Comment prévenir et lutter contre ces biais ? Comment inventer des systèmes de test d’inclusivité des textes ? Enfin, comment agir pour plus de diversité parmi celles et ceux qui font l’IA ?
Alors que le développement de l'IA occupe de plus en plus l'espace médiatique, la prise de conscience de ces biais doit être le premier pas !
...
Les expertes
- Daphné Marnat, anthropologue et CEO de Unbias
- Audrey Baneyx, ingénieure de recherche en humanités numériques au médialab de SciencePo
- Isabelle Bloch, enseignante chercheure informatique, LIP6, CNRS, Sorbonne Université.
Alice Laisney, chargée de projet au Centre Hubertine Auclert, animera cette conférence en libre accès.
La vidéo aussi sur https://tools.immae.eu/Shaarli/ind1ju?s9II2g
Tr.: ... Définition de Marvin Minsky (1927-2016) : Science qui permet aux machines de faire ce qui serait qualifié d'intelligent si c'était fait par des êtres humains. ... 1956 Conférence de Dartmouth : les pères fondateurs de l'IA : John MacCarthy, Marvin Minsky, Claude Shannon, Ray Solommonoff, Alan Newell, Herbert Simon, Arthur Samuel, Oliver Selfridge, Nathaniel Rochester, Trenchard More. ... Deux paradigmes - rationalité de la déduction vs voie empiriste de la déduction :
- IA symbolique
. Représentation des connaissances par des symboles.
. Rôle majeur de la logique.
. Axiomatique et modèles, raisonnement selon une théorie, conclusion non réfutables.
. Exemples : raisonnement logique, règles, arbres de décision... - Apprentissage (numérique, statistique)
. Guidé par les données de l'expérience.
. Garanties statistiques.
. Conclusions potentiellement réfutables.
. Engouement actuel pour l'IA.
. Exemples : réseaux de neurones (profonds).
... Contrôle des biais ?
- Biais statistiques
. Données utilisées, annotations
. Représentativité
. Évolution des données, mises à jour des modèles et algorithmes
. Qu'est-ce qui est appris ? - Biais cognitifs
. Cadrage
. Confirmation
. Complaisance
... l'IA entretien des stéréotypes ... CV anonymisés ... produire des indicateurs d'éthique ... chatbots ... risques discriminatoires ... je suis pour les quotas de femmes ... égalité des chances ... logiciels de traduction ... rapport sur l'égalité homme-femme ... ChatGPT ... GPT_architecture.html ... Le problème des datasets et leurs biais Modèle FlauBERT, CNRS calculé sur le Jean Zay (GENCI)
Les hommes sont des hommes / Les femmes sont des victimes
...
Cité
Le problème de la couche d'apprentissage par renforcement ou des humains qui sont derrière
Les principaux visages derrière OpenAI : Elon Musk - Sam Altman - Greg Brockman - Peter Thiel - Reid Hoffman - Satya Nadella
...
agent conversationnel / bilan carbone, ce n'est pas neutre ... autre outil : You de Richard Socker ... open source ... projet de Oh My Voice ... mésutilisation des mots ...