Manipuler pour mieux comprendre : l’IA face aux fake news

Résumé

Dans le cadre d’une formation à « l’éthique et à l'esprit critique dans l'usage des IA », des élèves de seconde et de terminale utilisent un robot conversationnel, pour se former à identifier les fausses informations. L'activité principale consiste à faire créer aux élèves une publication de fausse information sur le climat ou les pandémies, puis à la corriger factuellement et réaliser un guide de sensibilisation à déceler des fausses informations. Le robot conversationnel guide l’élève pour mettre en œuvre des ressorts de la désinformation, pour mieux pouvoir les déceler.
Cependant, le robot développe souvent les idées des élèves, limitant leur propre réflexion. L'activité, malgré les limites de l'outil, aide les élèves à déceler les techniques de manipulation.

Ce parcours s’inscrit dans le cadre de l’objectif de développement durable 4 de l’agenda 2030 de l’ONU « Veiller à ce que tous puissent suivre une éducation de qualité dans des conditions d’équité et promouvoir les possibilités d’apprentissage tout au long de la vie » 
Le document de référence propose p.28 de développer des « possibilités de faire progresser par l’IA l’inclusion et l’équité dans l’éducation ».
Ce projet s'inscrit pleinement dans les objectifs de l'Éducation aux médias et à l'information (EMI), une composante essentielle pour préparer les élèves à l'exercice de la citoyenneté en démocratie. L’activité vise à permettre aux élèves de s’approprier des outils pour évoluer de manière éclairée et responsable dans un « monde informationnel », marqué par la prolifération de désinformations.
En demandant aux élèves de créer une publication de fausse information puis de la corriger factuellement, cette activité leur permet d'appréhender concrètement les mécanismes et ressorts utilisés dans la désinformation et les techniques de manipulation.
Ils développent ainsi un esprit critique indispensable pour identifier ces techniques et essayer d’en évaluer la fiabilité.

Niveau :

Seconde et enseignement scientifique terminale

Compétences (BO)

• utiliser des outils et mobiliser des méthodes pour apprendre.
• utiliser des outils numériques.
• conduire une recherche d’informations sur internet en lien avec une question ou un problème scientifique, en choisissant des mots-clés pertinents, et en évaluant la fiabilité des sources et la validité́ des résultats.
   

Compétences du CRCN

• compétence 1.1 : Mener une recherche et une veille d’information.
• compétence 2.4 : S’insérer dans le monde numérique.
• compétence 4.2 : Protéger les données personnelles et la vie privée.
• compétence 5.2 : Évoluer dans un environnement numérique.

Connaissances et capacités associées

L’analyse scientifique combinant observations, éléments théoriques et modélisations numériques permet aujourd’hui de conclure que l’augmentation de température moyenne depuis le début de l’ère industrielle est liée à l’activité humaine.

Description de l’activité :

L’activité est proposée en début de thème, dans le cadre d’une réflexion sur la présence sur certains réseaux sociaux de publications climatosceptiques (terminale) et de fausses informations sur les pandémies (seconde).
Les élèves sont sensibilisés dans un premier temps au coût environnemental d’une requête effectuée par un modèle d’IA à l’aide du site institutionnel https://www.comparia.beta.gouv.fr .
Ils suivent ensuite une fiche d’activité, leur proposant de réaliser une publication de fausse information sur un sujet attenant au climat ou une future pandémie. Ils doivent ensuite réécrire de manière factuelle et sourcée un article sur la même thématique, puis produire un guide de sensibilisation aux fausses informations.

Fiche d'activité en terminale	Fiche d'activité en seconde

Outils et logiciels nécessaires :
L’enseignant doit au préalable demander l’autorisation parentale pour l’utilisation de MIZOU. Le jour de l’activité, il vérifie que les élèves ne se connectent pas à l’application avec des identifiants personnels, et les invite à utiliser des pseudonymes.
Ordinateur connecté, application en ligne MIZOU (https://mizou.com/bot ), l’outil de génération d’images de Vittascience (https://fr.vittascience.com/ia/image-generate.php ) traitement de texte, modèles d’IA proposés par le site https://duckduckgo.com/?q=DuckDuckGo+AI+Chat&ia=chat&duckai=1 agrégeant 4 modèles utilisables sans collecte de données personnelles
 

Paramétrage du robot conversationnel MIZOU :
Les fiches techniques de paramétrage de MIZOU :

• pour le climat : FT_Mizou_fake_climat.pdf
• pour la pandémie : FT_Mizou_fake_pandemie.pdf

Les règles pour le robot conversationnel sont les suivantes :
Une étoile est fournie à l’élève à chaque fois qu’un argument sensationnel, des chiffres scandaleux, des statistiques incorrectes, des sources douteuses ou un contenu à forte charge émotionnelle est proposé.
Le robot ne doit pas rédiger à la place de l’élève, et doit plutôt pousser son imagination.
Lorsque l’élève a recueilli 5 étoiles, il l’invite à rédiger son propre article.

Utilisation du robot conversationnel MIZOU par les élèves : 
Les élèves s’approprient facilement l’usage du robot.
L’exemple suivant montre l’engagement de l’élève avec le robot qui l’invite à développer son argument. Cependant, le robot indique des pistes le plus souvent développées qui ne poussent pas l’élève à chercher les éléments par lui-même. Mizou anticipe trop les réponses et n’agit pas comme « guide » pour l’élève.

Ce point est assez décevant, puisque le paramétrage de MIZOU précise que les réponses ne doivent pas être trop développées, ce qui est frustrant pour l’enseignant qui voit le travail de l’élève prémâché. Cet effet est souvent reproduit, comme dans cet exemple dans lequel l’élève de seconde rédige sa consigne de manière laconique et obtient un texte plutôt développé.

L’exemple suivant montre comment l’élève détourne l’activité pour faire rédiger son article par le robot.

Cet exemple montre comment le robot invite l’élève à utiliser des données qu’il n’a pas appelées : la réponse à une zoonose (transmise par le chat) invite à réfléchir à de nombreux autres points, dont la vaccination, qui n’est peut-être pas l’élément le plus utile à évoquer en début de conversation (risque de confusions).
 

Ce dernier exemple montre un élève interrogeant les sources qu’utilise le robot pour générer ses réponses. Le robot lui précise le champ d’utilisation de ces informations qui sont fictives et qui ne sont pas basées sur une ressource identifiable en particulier. Cela questionne sur la compréhension par l’élève du champ d’utilisation de l’outil.

L’utilisation du chatbot paramétré apporte des informations utiles pour former l’élève à comprendre les mécanismes utilisés par les publications de désinformation. Il n’engage toutefois pas assez la réflexion de l’élève en lui apportant des réponses déjà développées.
Il permet néanmoins d’engager les élèves dans l’activité et leur rend accessible, par des interactions avec le robot, la compréhension des techniques de manipulations utilisées dans les fausses informations.
En synthèse, l’enseignant trouve le robot de MIZOU intéressant a priori, mais à l’usage, celui-ci influence très fortement la rédaction de l’article, malgré les instructions qui le forcent à ne pas trop se substituer à l’élève.

Analyse d’une publication d’élève :
La première production correspond à l’arbre inventé « Galat » précédemment évoqué. Les élèves se sont appropriés le développement de leurs idées par le robot et ont produit une publication réaliste qui reprend les éléments de la conversation.
 

Publication 1 disponible ici : production1_arbres_CO2.pdf
 

L’analyse de la conversation de cette seconde publication montre que le groupe d’élèves a interagi avec le robot pour développer quelques idées, puis lui a ensuite demandé de corriger les erreurs scientifiques manifestes. Ils ne se sont pas laissés guider, mais avaient déjà en tête la structure de leurs publications.

Publication 2 disponible ici : Production2_explosion_Soleil.pdf

Publication disponible ici : publication3_pandemie.pdf

Le groupe d’élèves s’est laissé guider par le robot et a construit son argumentaire en respectant les consignes : sensationnalisme, jeu sur les émotions, faux chiffres et sources obscures. De ce point de vue, l’usage du robot a permis de révéler (d’exacerber) les ressorts utilisés par les manipulateurs d’information pour réaliser leur publication. 
 

Le groupe d’élèves a utilisé un robot conversationnel pour l’aider à rédiger l’information corrigée, qui reprend la thématique de la santé oculaire, toujours appliquée aux écrans, mais liée à l’exposition aux lumières des écrans.
 

Retours à l’issue de la formation, du point de vue de l’enseignant et du point de vue des élèves :

L’enseignant a utilisé en amont l’application MIZOU. Il s’est aidé de robots conversationnels pour rédiger des instructions en anglais.
Il s’est questionné sur les formes des productions, et a sélectionné la publication de type réseau social. Peu d’élèves ont respecté la consigne et ont réalisé une publication de type article.
L’enseignant n’a pas trouvé l’utilisation de l’application MIZOU satisfaisante pour aider l’élève à construire son idée. En effet, les instructions laconiques des élèves appellent une réponse souvent développée. Le robot n’engage pas l’élève à formuler plus précisément son idée, ce qui ne le pousse pas à développer son propre argumentaire. Il n’a qu’à se laisser guider par le robot qui lui indique assez facilement des idées qu’il s’appropriera ou non par la suite.
Les élèves ont réalisé un retour lors d’une présentation des productions.
Les échanges avec les élèves ont été riches sur la finalité de l’activité proposée.
Les notions de manipulations, l’idée d’être mieux armé pour identifier les ressorts utilisés par les manipulateurs de faits, et les différences entre faits et opinions ont été questionnées.
Ils ont apprécié l’originalité de l’activité et l’utilisation d’outils d’IA dans le cadre de la classe.
Ils ont bien compris que leur travail avec les robots conversationnels avait lui-même un impact environnemental non négligeable, notamment lors de la réalisation d’images générées à l’aide d’instructions génératives.

Poursuite du travail :
L’enseignant envisage d’utiliser un robot conversationnel utilisant une instruction générative détaillée qui fixe les règles de conversation en amont pour ne pas trop influencer l’élève dans l’écriture de son article.

L’instruction serait la suivante :
« Tu es un assistant pédagogique pour un exercice sur les fausses nouvelles. Ton rôle est de guider les élèves dans la création d’articles fictifs, mais crédibles. L’élève doit évoquer un agent pathogène, un mode de transmission, des stratégies de protection et des traitements. Attribue une étoile pour chaque élément sensationnel, chiffre exagéré, statistique erronée, source douteuse ou contenu émotionnel. Encourage la réflexion sans trop aider. Après 5 étoiles, demande à l’élève d’écrire son article. Limite tes réponses à 500 caractères, sois clair et amical. L’objectif est d’enseigner l’esprit critique face à la désinformation »

L’élève se verra ensuite proposer de tester sa publication au robot conversationnel pour déceler si la publication est vraie ou fausse.

Il pourra ainsi disposer d’un outil pour vérifier la recevabilité d’une publication avec l’aide du robot conversationnel.

Benjamin Vuadelle
Enseignant SVT, lycée Jules Guesde Montpellier
bvuadelle@ac-montpellier.fr