Les hallucinations de l'IA générative ne sont pas handicapantes
Cet argument est utilisé dans le débat Les IA génératives vont-elles détruire notre façon d'écrire ?.
Cet argument est une justification de Les IA génératives sont une opportunité pour développer l'enseignement.
Résumé
Le résumé de cet argument est trop long
Les IA type ChatGPT ne font pas tant d'hallucinations (réponses aberrantes) que ça, en particulier lorsqu'il s'agit justement de sujets de culture académique ou générale. Les hallucinations surviennent plutôt dans des tâches de "génération de texte structurés couplés à l'ajout d'éléments informés". Quand on essaie de lui demander d'écrire un poème et d'incorporer des faits qu'on n'a pas précisé nous mêmes.
On peut éviter grandement ces phénomènes, bien qu'ils soient déjà assez rares, en formant les élèves à poser leurs questions correctement.
On peut même profiter de ces hallucinations, lorsqu'elles surviennent (ou lorsqu'on les provoque dans un cadre éducatif) : c'est là l'occasion de prendre du recul en tant que professeur et à apprendre aux élèves à douter. Le professeur peut lui même exprimer son doute à un élève qui propose quelque chose, ou laisser un autre élève douter. Il s'agirait d'un doute naturel (= ça ne correspond pas à ma vision du monde), pas à un doute informé ou académique (j'ai déjà convaincu plein de gens qu'ils avaient tort sur ce sujet, tu seras le prochain ! Je m'y connais car je suis le prof !). Pour résoudre le doute naturel, il faudra alors vérifier le propos, avec des outils de recherches qu'on peut enseigner aux élèves (Le professeur doit par contre être compétent en recherche documentaire, esprit critique, et avoir une culture assez riche sur un sujet pour lui permettre de douter naturellement de manière assez consistante). On pourrait dynamiser les échanges et éventuellement récompenser les élèves qui présentent un travail de recherche additionnel, travail qui incorpore l'explication d'une démarche de recherche, la description des ressources qu'on a lu/vu, et une explication du raisonnement en lien avec ces ressources.
C'est l'occasion de préparer un élève à un quotidien où de toutes façons les gens se tromperont et hallucineront.
Je ne pense pas qu'en faisant apprendre par coeur des "vérités" (inutiles et abrutissantes) à des élèves (et éventuellement en leur présentant et en critiquant les anciennes théories de soi disant "scientifiques qui avaient tort") tout au long de leur scolarité qu'ils apprendront à douter.
