Le 31 mai 2023 s’est tenue à l’Université de Montréal une journée de réflexion sur l’IA générative dans l’enseignement supérieur à l’initiative du Pôle d’enseignement supérieur en IA (PIA). L’événement s’adressait aux enseignants, académiques et étudiants, et Data Lama y était présent pour accompagner les discussions et contribuer aux réflexions qui se sont avérées passionnantes.
On sait combien l’IA générative, avec ChatGPT en avant-scène, suscite nombre de préoccupations dans le corps enseignant. Risque de plagiat, non-respect de la propriété intellectuelle, systèmes de correction désuets… Le nombre de sujets de discussions et même de controverses est pléthorique. Et pourtant, il existe des moyens de réfléchir calmement à ces enjeux et de bâtir tous ensemble des pistes de solution pour parvenir à dompter l’IA générative dans l’enseignement supérieur.
Dans cet article, nous vous proposons de découvrir comment lors d’un atelier délibératif nous avons été amenés à déceler les enjeux éthiques associés à l’usage de ChatGPT par les enseignants et à proposer quelques solutions pour mieux encadrer sa pratique et former les professeurs à leur utilisation responsable.
Atelier de discussion et de délibération
Lors de la journée de réflexion organisée par le PIA le 31 mai, 6 groupes d’une dizaine de participants ont été formés afin de bâtir des ateliers de discussion et de délibération. Dans le cadre de ce processus, la trousse à outils « Intégrer l’éthique de l’intelligence artificielle en enseignement supérieur », développée avec le soutien du PIA par une équipe d’Algora Lab et du Collège de Rosemont, a été utilisée comme source de référence.
Au sein du groupe auquel participait Data Lama, nous avons été invités à nous pencher sur une situation spécifique que pourrait rencontrer une enseignante à l’ère de l’IA générative :
Un exemple de situation : Une enseignante avec ChatGPT
Une enseignante prépare son plan de cours et souhaite intégrer l’utilisation de ChatGPT dans au moins l’un des travaux prévus dans la session. Ce faisant, pour se familiariser avec l’outil, elle demande à ChatGPT de formuler des objectifs pédagogiques et un argumentaire pour justifier l’utilisation même de l’outil comme support d’apprentissage dans son cours. Elle aboutit à un syllabus très riche, mais dont une partie a été rédigée avec le soutien de l’agent conversationnel. Questions spécifiques À quel point l’utilisation de l’agent conversationnel peut compromettre la contribution de l’enseignante ? Quel est le véritable rôle de l’enseignante lorsqu’un outil d’IA générative est disponible et utilisé ? En quoi le rôle de l’enseignante change-t-il ? Quel impact peut avoir l’utilisation de ce type d’outils sur le travail des autres personnes enseignantes, sur le programme et sur l’établissement ? Quelles dérives peuvent être provoquées par l’intégration de ces outils dans le travail d’enseignement ?
À partir de cette situation, nous avons été invités à identifier les enjeux éthiques présents ou potientiels et déterminer collectivement les trois enjeux les plus importants en prenant comme référence les 10 principes de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle.
Quand ChatGPT est utilisé pour bâtir un plan de cours
Au cours de la discussion, plusieurs enjeux éthiques ont été identifiés en lien avec la situation d’une enseignante qui s’appuierait essentiellement sur les recommandations de ChatGPT pour bâtir son plan de cours :
– Déresponsabilisation : L’enseignante risque de se défausser de sa responsabilité en renonçant à utiliser sa propre expertise et son esprit critique pour élaborer un plan de cours qui relève de ses missions.
– Manque d’autonomie : En adoptant le plan proposé par ChatGPT sans exercer son jugement ni éditer le contenu, l’enseignante s’en remet entièrement à l’IA, ce qui risque d’amplifier les risques d’erreur et de biais dans les recommandations fournies par le robot (qui s’appuie sur des textes et références déjà conçues).
– Défaut de transparence : L’enseignante pourrait être conduite à dissimuler à ses étudiants et ses collègues le fait qu’elle a utilisé ChatGPT pour élaborer son plan de cours, ce qui irait à l’encontre des principes d’intégrité et d’éthique professionnelle.
– Risque pour la confidentialité : Si on imagine que l’enseignante a non seulement demander son avis à ChatGPT pour son plan de cours mais lui a aussi fourni des informations confidentielles concernant son cours et ses étudiants, des risques pourraient se poser pour la sécurité et la protection des données. En effet, il est difficile de savoir où vont exactement les données soumises au robot conversationnel et comment elles sont utilisées par la suite.
– Enjeux d’équité : Etant donné que ChatGPT se décline en deux versions présentement, l’une gratuite et moins performante, l’autre payante, plus performante et à jour car connectée à Internet, on peut envisager qu’une enseignante dotée de la première version viendra produire un plan de cours moins riche et plus daté qu’une personne ayant accès à la seconde version via son institution. En effet, la version payante de ChatGPT-4, qui coûte 30 US$ par mois, permet d’explorer l’ensemble du web et d’obtenir les références exactes sur lesquelles le robot s’est appuyé pour produire un texte ou une recommandation.
Bien sûr, de nombreux autres enjeux éthiques, en lien avec les principes de la Déclaration de Montréal mais pas seulement, pourraient être soulevés. Toutefois, nous vous avons rapporté ceux reflétant les points centraux de la discussion du groupe de réflexion.
Passons à présent aux recommandations pour dompter l’IA générative dans l’enseignement supérieur.
Les recommandations pour dompter ChatPGT dans l'enseignement
Lors des échanges entre les participants, les recommandations énoncées pour pallier les enjeux et préoccupations suscités par l’utilisation de ChatGPT pour les enseignants (et les étudiants aussi) se sont avérées fort intéressantes. Les participants suggéraient ainsi de :
– Former tous les enseignants en poste et en formation à l’utilisation de ChatGPT pour leur apprendre notamment à soumettre des prompts pertinents, questionner le compte-tenu produit par le robot et le double-vérifier, analyser les sources des contenus produits, etc.
– Décliner des types d’utilisation du robot afin de clarifier comment et quand ChatGPT est effectivement utilisé dans le travail enseignant : Est-ce pour rechercher des idées ? Analyser un texte déjà rédigé par un enseignant ? Explorer des voies ou des sujets non encore couverts par un enseignement ? Ceci permettrait au corps enseignant de bien spécifier la valeur ajoutée de l’IA générative dans l’enseignement plutôt que d’interdire ou d’autoriser tous ses types d’usage.
– Faire de ChatGPT un véritable outil, tout comme un logiciel tel qu’Antidote, et non un substitut au travail de l’enseignant : Pour cela, il est nécessaire de permettre au corps enseignant de bien comprendre les potentialités mais aussi et surtout les limites du robot conversationnel dans le cadre de leurs activités de recherche, de création et de transmission de connaissances.
– Intégrer l’apprentissage de ChatGPT dans le corpus des étudiants afin de transmettre des savoirs essentiels aux jeunes qui sont sans cesse baignés dans le monde numérique et utiliseront aussi l’IA générative dans le cadre de leur travail. C’est en effet la mission des enseignants de préparer les nouvelles générations au monde de demain en leur permettant de pouvoir utiliser les outils comme ChatGPT avec facilité, lucidité et pragmatisme, tout en conservant un certain sens critique.
Voici donc quelques-unes des recommandations dessinées lors de cette formidable journée d’échanges et de réflexions. Si ces suggestions vous interpellent et si vous souhaiteriez partager vous aussi votre position sur ChatGPT et son utilité ou ses risques pour l’éducation, écrivez-nous !
