Dossier
Éclats de sciences

Malgré leur démocratisation, les modèles d’IA restent des « boîtes noires », dont même les spécialistes ne parviennent pas à expliquer précisément le fonctionnement. Pour garantir la sécurité des systèmes et limiter leurs biais, le domaine dit de « l’interprétabilité » suscite beaucoup d’intérêt.

Charlotte Mauger - 27 décembre 2025 à 08h27
...
ou comment rendre intelligibles les décisions produites par les modèles. Tels des neuroscientifiques, des spécialistes de l’IA étudient ces cerveaux artificiels afin d’en comprendre les rouages. Modèles de langage, reconnaissance d’images, traitement automatisé de données… Alors que ces systèmes, sous toutes leurs formes, se sont imposés dans notre quotidien, cet effort arrive presque tardivement.

La démarche a de quoi surprendre : l’humain ne maîtrise pas entièrement le fonctionnement des systèmes qu’il conçoit. Les modèles d’IA fondés sur des réseaux de neurones sont en effet des objets si complexes que même les expert·es peinent à en saisir pleinement les mécanismes internes. Ils demeurent des boîtes noires. C’est d’autant plus vrai que les modèles progressent.
...

Billet de blog 24 décembre 2025 / Lonesome cowboy

Les arguments imparables pour faire de n'importe quel interlocuteur un hater de l'IA générative, histoire d'aborder les fêtes de Noël avec les munitions nécessaires pour parer toute discussion pro-IA.
...
ces IA, basées sur les « Larges modèles de langage » (LLM)
...
ChatGPT et les autres agents conversationnels utilisés par le grand public sont explicitement conçus pour être addictifs et manipulateurs. Ils ont déjà poussé plusieurs personnes au suicide ou au meurtre et provoqué des accidents. Sans produire la moindre remise en question. Sam Altman (OpenAI) a récemment indiqué que les prochaines versions de son chatbot seront autorisées à entretenir des relations amoureuses ou érotiques. En parallèle, il recommande aux parents d’utiliser son IA pour apprendre à élever leurs enfants au quotidien. Tout est bon pour imposer l’usage de l’IA, malgré les risques qu’elle représente.

...
aucune régulation sérieuse n’a vu le jour. OpenAI et consorts continuent de piller les données privées et sous copyright, tout en provoquant la mort de certains de leurs utilisateurs, sans que cela provoque la moindre réaction. Même l’IA Act européen ne prévoit aucune disposition contraignante. Comme l’écrit Thibeaut Prévost dans son excellent ouvrage “Les prophètes de l’IA”
...
Les principaux acteurs de l’IA (les grands patrons et financiers de la Silicon Valley) ne cachent pas leurs intentions: mettre un maximum d’entre nous au chômage (tout en proposant de nous payer un revenu universel proche du RSA, qui serait financé par leurs profits colossaux) et nous rendre accros aux chatbots désormais conçus pour être nos amants virtuels et nous “décharger” de choses aussi intimes que l’éducation de nos enfants, la gestion de nos relations amoureuses et amicales, tout en nous empêchant de faire le deuil de nos proches.
...
L’IA générative produit pratiquement autant de gaz à effet de serre que le transport aérien. Et ça ne fait que trois ans que cette technologie est disponible pour le grand public
...
Les IA génératives ne fonctionnent pas (et elles ne vont pas vous remplacer) !

Je pourrais commencer par détailler le fonctionnement de ChatGPT et autres IA génératives pour démontrer qu’il s’agit de modèles statistiques visant à prédire, en interpolant les données avec lesquelles ils ont été entrainés, le mot le plus plausible à ajouter à la suite d’une phrase. La nature probabiliste implique la faillibilité du modèle. Et le fait qu’il cherche à produire la réponse la plus plausible signifie que le modèle ne cherche pas la vérité ou l’originalité, mais la proximité avec les données d’entraînement. Autrement dit, il est impossible de mettre au point une IA générative qui ne commettrait pas d’erreurs, raisonnerait ou comprendrait ce qu’elle fait, à partir des LLM.

Cette caractéristique indépassable explique pourquoi les IA génératives se trompent souvent, semblent dépourvues de sens commun et ne pourront pas devenir conscientes ou intelligentes.
...
Du côté des entreprises, nous disposons d’une pléthore de rapports et études qui pointent l’inefficacité des IA.

• La dernière étude du MIT, portant sur un large éventail d’entreprises, a conclu que le développement de l’IA générative n’a apporté des bénéfices que dans 5 % des cas. La principale raison identifiée est directement liée aux faibles capacités de l’IA générative . Je cite : « ce qui la freine réellement, c’est que la plupart des outils d’IA n’apprennent pas et ne s’intègrent pas bien dans les processus».
• Une enquête similaire du cabinet de conseil KPMG a conclu que seulement 2 % des entreprises canadiennes ayant adopté l’IA générative observent un retour sur investissement positif (deux cas sur cent !).
• Le rapport IA 2025 de McKinsey
  ...

Et les choses ne sont guère meilleures côté grand public.
...
Les mauvais chiffres d’OpenAI, leader incontesté du marché grand public, sont antérieurs à l’irruption de Gemini 3, le modèle de Google qui dépasse ChatGPT5. Ils pointent vers une tendance globale.
...
Certes, l’IA reposant sur les réseaux de neurones artificiels et le deep learning peut offrir quelques applications intéressantes. Le prix Nobel de chimie a été attribué à deux chercheurs de Google Deep Mind dont l’algorithme a permis de prédire les structures complexes des protéines. Leurs travaux devraient permettre d’accélérer la découverte des médicaments
...
les postes supprimés ne sont pas dus à la performance de l’IA, mais au fait que les dirigeants acceptent une qualité de production inférieure. Selon Merchant, une seule chose est certaine “Le patronat utilise l’IA comme il a toujours utilisé les technologies d’automatisation depuis la révolution industrielle, pour extraire un maximum de valeur de ses travailleurs tout en profitant de l’incertitude générée par les capacités de cette technologie”. Un point de vue qui rejoint en quelque sorte celui du sociologue Juan Sebastian Carbonel qui, dans “Un taylorisme augmenté”, montre bien que l’IA sert avant tout à dégrader les conditions de travail et exploiter davantage les employés, pas à les remplacer.
Les IA génératives ne vont pas devenir intelligentes, conscientes ou toutes puissantes (l’IApocalypse est de la science-fiction pour vous manipuler)
...
l’augmentation de la taille des modèles n’améliore plus significativement leur performance. Le rendement devient décroissant, puis négatif.

Il ne faut donc pas s’attendre à des sauts qualitatifs perpétuels
...
On est loin d’une IA générale, comme l’explique depuis des mois Yann Lecun, considéré comme un des pères du deep learning. Ancien directeur de la recherche chez Facebook, il affirme depuis quelque temps que l’approche actuelle reposant sur les LLM constitue un détour ou une voie de garage pour ceux qui espèrent aboutir à une IA égale ou supérieure à l’homme.
...
Cela témoigne davantage d’une vision réductrice de ce qui fait de nous des humains plutôt que d’une vision extensive de ce que les machines peuvent produire.
...
Nous sommes déjà face à des entités intelligentes dont le but est de maximiser l’accaparement d’une chose inutile (de l’argent) en épuisant les ressources de la planète.
...
investir des milliards de dollars dans des data centers destinés à servir les IA génératives tout en refusant de réguler le secteur, laissant les entreprises californiennes agir comme bon leur semble au nom de la course à l’IA, est une aberration. Non seulement ces logiciels sont dangereux et écologiquement désastreux, mais l’idée que cette fuite en avant serait nécessaire pour maintenir notre maigre avance sur la Chine est une vue de l’esprit. Les avances technologiques en matière d'IA ne durent pas, comme l’avait montré l’irruption de l’IA chinoise DeepSeek, qui rivalisait avec les meilleurs modèles d’OpenAI, elle-même désormais dépassé par Google.

Ensuite, la Chine a largement bloqué son marché aux technologies américaines (Google, Facebook, OpenAI, Amazon, NVIDIA…) tout en développant ses propres géants et produits phares (Baidu, Alibaba, Huawei, TikTok, DeepSeek).

En clair, la Chine va continuer de développer l’IA sans se faire coloniser par la technologie américaine, et les États-Unis vont continuer d’empêcher la Tech chinoise de s’exporter sur leur territoire. Seule l’Europe accepte d’être numériquement colonisée sans condition. Quant à la France, son secteur technologique est pratiquement entièrement lié à la Silicon Valley. Rappelons que Mistral, le champion français, a été créé par d’anciens employés de Facebook avec l’aide des capital-risqueurs de San Francisco, avant de signer un partenariat avec Microsoft…
...

...
dans un système informatique conventionnel, les données sont traitées de manière séquentielle ... l’informatique neuromorphique utilise des réseaux de neurones artificiels pour le traitement des données. Ces réseaux interconnectés sont inspirés de la structure et du fonctionnement des neurones du cerveau humain. L’une de ses caractéristiques les plus importantes est le traitement parallèle et simultané des informations
...
équipé de plus de 1 000 nouvelles puces ... appelées processeurs Loihi 2, fonctionnent de manière très efficace. Elles peuvent traiter les tâches d’intelligence artificielle 50 fois plus rapidement que les ordinateurs traditionnels. Pour vous donner une idée de sa puissance, Hala Point peut effectuer jusqu’à 20 quadrillions d’opérations par seconde.
En termes de structure, Hala Point est composé de 1,15 milliard de « neurones » artificiels et de 128 milliards de « synapses » artificielles
...
sa grande efficacité énergétique. Cet ordinateur peut en effet accomplir jusqu’à 15 000 milliards d’opérations avec seulement un watt d’énergie. C’est environ 100 fois plus économe en énergie que les systèmes plus traditionnels.
Intel prévoit d’utiliser Hala Point aux laboratoires nationaux Sandia au Nouveau-Mexique pour résoudre des problèmes complexes liés à la physique des appareils, à l’architecture informatique et à l’informatique. Cette utilisation initiale démontre ainsi l’engagement d’Intel à explorer les applications pratiques de cette technologie révolutionnaire dans des domaines critiques de la recherche et de l’innovation.

IA - Intelligence artificielle - Par Léa Salamé, Xavier Demagny - 14 min
...
on peut entraîner ces systèmes de "deep learning" (qui ont des réseaux de neurones artificiels de très grande taille et des milliards de paramètres, l'équivalent des connexions entre les neurones dans le cerveau), sur des quantités de texte absolument énormes, de l'ordre de 1000 milliards de mots, soit la totalité des textes qui résident sur Internet. Et ils finissent par apprendre certainement à manier la langue, mais aussi à faire un certain niveau de raisonnement et en tout cas d'adapter des choses qu'ils ont lues à la situation qu'on leur demande.
...
on interagira avec des assistants virtuels intelligents qui, à un certain moment auront une intelligence similaire à l'intelligence humaine, peut-être supérieure dans certains domaines et qui pourront nous aider dans nos vies de tous les jours
...

Dans ce chapitre, nous allons découvrir les cellules à mémoire interne : les LSTM et comprendre le mécanisme des portes de contrôle. Ensuite, nous allons assimiler l'utilisation des LSTM en couches et comprendre l'intérêt des LSTM bidirectionnels et multidimensionnels, et leur fonctionnement.
...
ensemble des poids wab sont appris lors de la phase d'apprentissage
...
Aller plus loin

• Alex Graves: Supervised sequence labelling with recurrent neural networks. Technical University Munich 2008, pp. 1-117.
• Alex Graves, Jürgen Schmidhuber: Offline Handwriting Recognition with Multidimensional Recurrent Neural Networks. NIPS 2008: 545-552.
• Kyunghyun Cho, Bart van Merrienboer, Çaglar Gülçehre, Fethi Bougares, Holger Schwenk, Yoshua Bengio: Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation. CoRR abs/1406.1078 (2014).
  ...

Les professeurs

• Romain Herault, Maître de conférences à l’INSA de Rouen-Normandie et membre de l’équipe apprentissage du LITIS.
• Clement Chatelain, Maître de conférences à l'INSA Rouen Normandie/Laboratoire LITIS : Deep Learning, Reconnaissance d'écriture, imagerie médicale, etc.

Sciences - Technologies et innovations - 97 min Version française

L'intelligence artificielle va-t-elle remplacer l'humanité ? Ce documentaire prend la mesure de l'emprise des algorithmes sur nos vies. Il donne la parole à ceux qui débattent de l'IA (sociologues, avocats des droits de l'homme, scientifiques ou journalistes d'investigation) et à ceux qui l'inventent, comme Jürgen Schmidhuber et Ilya Sutskever, à la posture ambivalente.

"La création d'une intelligence artificielle serait le plus grand événement de l'histoire de l'humanité. Mais il pourrait être aussi le dernier", disait Stephen Hawking. Le célèbre cosmologiste avait prévu la croissance infinie de l'informatique mais partageait avec certains pionniers la crainte qu'elle ne devienne incontrôlable. Aujourd'hui, l'IA promet d'aider à guérir des maladies, de faire face aux changements climatiques ou de combattre la pauvreté. Mais elle menace aussi d'influer insidieusement sur nos comportements, de mettre à mal l'idée même de sphère privée ou d'aider les dictatures à asseoir leur pouvoir. En proie à une surveillance algorithmique, notre identité peut dorénavant se réduire… à des données.

Toute-puissance
L'IA sera vite dépassée. On parle aujourd'hui d'une intelligence artificielle générale (IAG), capable de s'adapter et d’apprendre seule, qui égalerait, voire dépasserait les capacités humaines. De quoi allécher les firmes qui font commerce des données numériques (les célèbres Gafam). Le documentaire dresse l'état des lieux de l'IA en donnant la parole à ceux qui en débattent (sociologues, avocats des droits de l'homme, scientifiques ou journalistes d'investigation) mais aussi à ceux qui l'inventent, comme Jürgen Schmidhuber et Ilya Sutskever, deux grands chercheurs et initiateurs, à la posture ambivalente : conscients de la toute-puissance de leur création mais déterminés à poursuivre leurs travaux.
Réalisation : Tonje Hessen Schei Pays : Norvège Année : 2019
Tr.: ... LSTM ...
Ndlr : LSTM ? -> de la famille des réseaux de neurones récurrents "Un réseau Long short-term memory (LSTM), en français réseau récurrent à mémoire court et long terme ou plus explicitement réseau de neurones récurrents à mémoire court-terme et long terme, est l'architecture de réseau de neurones récurrents la plus utilisée en pratique qui permet de répondre au problème de disparition de gradient." selon https://fr.wikipedia.org/wiki/R%C3%A9seau_de_neurones_r%C3%A9currents

Publié le 31/01/2020 - Durée : 00:57:52
Intervenant(s) : Pascal Bourdon, Laboratoire XLIM - Université de Poitiers
Connue / https://twitter.com/mdrechsler/status/1228700189751488513
Transcription : ... 20:50 le modèle PAC( Probablement Approximativement Correct) ... réseau de neurones artificiel ... bioinspiration ... apprentissage profond ... pb d'opacité fait peur ... boîte noire ... agent rationnel ... biais cognitif ... aide au diagnostic ...