Dossier
Éclats de sciences
Malgré leur démocratisation, les modèles d’IA restent des « boîtes noires », dont même les spécialistes ne parviennent pas à expliquer précisément le fonctionnement. Pour garantir la sécurité des systèmes et limiter leurs biais, le domaine dit de « l’interprétabilité » suscite beaucoup d’intérêt.
Charlotte Mauger - 27 décembre 2025 à 08h27
...
ou comment rendre intelligibles les décisions produites par les modèles. Tels des neuroscientifiques, des spécialistes de l’IA étudient ces cerveaux artificiels afin d’en comprendre les rouages. Modèles de langage, reconnaissance d’images, traitement automatisé de données… Alors que ces systèmes, sous toutes leurs formes, se sont imposés dans notre quotidien, cet effort arrive presque tardivement.
La démarche a de quoi surprendre : l’humain ne maîtrise pas entièrement le fonctionnement des systèmes qu’il conçoit. Les modèles d’IA fondés sur des réseaux de neurones sont en effet des objets si complexes que même les expert·es peinent à en saisir pleinement les mécanismes internes. Ils demeurent des boîtes noires. C’est d’autant plus vrai que les modèles progressent.
...
