Une expérimentation menée dans le cadre des TraAM Documentation 2025-2026, pour articuler pratiques numériques, compréhension des outils et éducation aux médias et à l’information.

Pourquoi une IA représente-t-elle différemment un homme et une femme exerçant le même métier ? À partir des clichés observés dans leurs propres productions, les élèves sont invités à remonter des images aux mécanismes qui peuvent les expliquer. L’objectif est de construire un regard critique sur les contenus générés en passant par l’observation, la simulation et le jeu.

Partir des images produites pour interroger les représentations

Le scénario fait suite à une activité de génération d’images pour le concours « C’est pas juste ». Les productions font apparaître des stéréotypes de genre : association du rose et du bleu, représentation d’un mécanicien couvert de cambouis et d’une mécanicienne sexualisée, sans traces de travail. Ces écarts constituent le point de départ de la séance.

La question posée aux élèves porte sur l’origine de ces représentations. Comment expliquer que l’outil ajoute des caractéristiques qui ne correspondent pas nécessairement à la demande ? Le passage de la production à l’analyse transforme l’image en objet d’enquête. L’élève est amené à identifier ce qu’il voit, à formuler des hypothèses et à interroger le fonctionnement de l’outil.

Observer, simuler et mettre en commun

La séance alterne échanges collectifs, situations de simulation et activité ludique. La fiche prévoit plusieurs exemples, à sélectionner selon les réponses des élèves et le déroulement du débat :

• Faire émerger les représentations : les images du concours sont reprises pour identifier les clichés et recueillir les premières explications des élèves ;
• Interroger les données : une collecte de réponses avec Wooclap, à propos de la date de début de la Seconde Guerre mondiale, sert de simulation pour discuter la fiabilité des informations disponibles. Une autre proposition porte sur les pays alliés et la comparaison de réponses humaines avec celles de deux IAG ;
• Examiner les résultats générés : un abécédaire d’animaux permet de relever des incohérences entre lettres, mots et images. La représentation d’une lycéenne de 17 ans dans différents lieux, notamment Paris, Carcassonne et Rabat, ouvre une discussion sur les normes de beauté et les stéréotypes associés aux lieux ;
• Expérimenter par le jeu : environ vingt-cinq minutes sont prévues pour le parcours interactif « Les biais de l’IA », avant une mise en commun des observations. Un court test avec Compar:IA est également envisagé en fin de séance.

La mise en commun donne une portée explicative aux activités. Elle permet de relier les exemples aux choix de collecte et de sélection des données, à leur représentativité et à leur étiquetage, puis aux décisions prises lors de la conception et de l’utilisation des systèmes. L’enjeu est de comprendre à quelle étape une déformation peut apparaître et comment elle affecte le résultat.

Compétences travaillées (CRCN)

Les objectifs info-documentaires portent sur l’identification des biais et des limites de l’IAG, la compréhension des outils et l’évaluation de leurs enjeux éthiques. Les activités permettent de proposer les rattachements suivants au CRCN :

L’ancrage en EMI repose sur une démarche de questionnement : identifier les conditions de production d’un contenu, examiner sa fiabilité et prendre de la distance face à une représentation qui semble plausible.

Plus-value pédagogique et apports du numérique

Un engagement fondé sur la curiosité et l’expérimentation

La synthèse relève trois leviers : la curiosité des élèves, leur investissement dans les activités ludiques et leur intérêt pour la compréhension du fonctionnement de l’IA. Le recours à des images déjà rencontrées dans leur travail donne un point d’appui concret à la discussion. Les élèves cherchent à expliquer un résultat qui les a interpellés.

Le jeu pour rendre visibles les limites d’une généralisation

Le parcours « Les biais de l’IA », créé par Biljana Petreska, place l’utilisateur dans une situation de prédiction à partir d’observations partielles. Il aborde les biais des données, les biais sociétaux et les bulles de filtres. La manipulation permet d’éprouver les limites d’un jugement fondé sur un échantillon ou sur les caractéristiques supposées d’un groupe.

Dans le scénario, ce détour ludique prépare le retour aux images générées. Il fournit un support pour discuter les relations entre les exemples disponibles, les régularités observées et la diversité des situations réelles.

Une médiation enseignante déterminante

Il est important de noter que la durée du jeu dépend de la concentration des élèves. L’activité doit être encadrée, voire dirigée, pour maintenir le lien entre la manipulation et les notions visées. Des arrêts collectifs peuvent permettre de verbaliser les observations avant de poursuivre.

Un scénario mis en perspective avec la recherche

Perception des visages : les travaux de Renoult, Bovet et Raymond

Article de Lise Loumé consacré à une étude de Julien P. Renoult, Jeanne Bovet et Michel Raymond, publiée en 2016 dans Royal Society Open Science. Les chercheurs examinent le lien entre le codage visuel efficace et l’attractivité de visages féminins évaluée par des hommes. Leur modèle explique jusqu’à 17 % de la variation des évaluations : il met en évidence un facteur perceptif, sans rendre compte à lui seul des préférences.

Cette référence peut nourrir une discussion sur les jugements portés sur les visages. Elle ne constitue toutefois pas une explication directe des images produites par une IAG et ne démontre pas l’existence d’un modèle unique de beauté. Pour le scénario, son intérêt est de distinguer les mécanismes de perception humaine, les normes sociales et les représentations produites par un outil numérique.

Garder la main : un éclairage éthique complémentaire

Rapport de la CNIL Comment permettre à l’Homme de garder la main ?, publié en 2017. Ce rapport de réflexion éthique propose notamment un principe de vigilance et de réflexivité face aux systèmes algorithmiques. Il invite à entretenir un questionnement régulier sur leur fonctionnement et leurs effets.

Cette perspective rejoint la démarche de la séance : observer un résultat, interroger les conditions de sa production et discuter ses conséquences.

Leviers et freins

Limites et points de vigilance

• Conserver les exemples étudiés. L’enregistrement préalable des images permet de disposer d’un corpus commun. Conserver aussi la consigne et la date de génération faciliterait la contextualisation des observations.
• Distinguer erreur et biais. Une incohérence isolée dans un abécédaire ne suffit pas à établir un biais systématique. De même, quelques images peuvent susciter une hypothèse sur les représentations sans permettre de conclure sur l’ensemble du fonctionnement d’un modèle.
• Expliciter les limites des simulations. La collecte Wooclap constitue une analogie pédagogique, pas un entraînement réel d’IAG. Une modification de réponse au cours d’une conversation ne prouve pas non plus que le modèle a été ré entraîné.
• Analyser les stéréotypes sans les renforcer. Les échanges doivent porter sur les choix de représentation des outils. L’observation de visages générés ne doit pas devenir une évaluation de l’apparence des élèves ou une hiérarchisation des personnes.
• Documenter les enjeux environnementaux. La fiche prévoit une sensibilisation à ces enjeux. Les chiffres de consommation associés à une requête doivent être contextualisés et sourcés avant d’être utilisés ; ils ne sont pas repris ici comme des constantes.

BIBLIOGRAPHIE ET RÉFÉRENCES

• RENOULT, Julien P., BOVET, Jeanne et RAYMOND, Michel. Beauty is in the efficient coding of the beholder. Royal Society Open Science, 2016, vol. 3, n° 3, 160027. DOI : 10.1098/rsos.160027.
• LOUMÉ, Lise. La beauté universelle existe-t-elle ? Sciences et Avenir, 12 avril 2016, mis à jour le 27 août 2021.
• CNIL. Comment permettre à l’Homme de garder la main ? Rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle. 15 décembre 2017. Présentation du rapport.

RESSOURCES PÉDAGOGIQUES

• PETRESKA, Biljana. Les biais de l’IA. 2022. Parcours interactif mobilisé dans la séance.

• Compar:IA : outil de comparaison prévu dans le déroulement.