Les répercussions de l’intelligence artificielle sur les travailleurs et travailleuses de l’éducation
Compte tenu de l’émergence fulgurante d’outils et de plateformes comme Curricumate AI et ChatGPT, la CTF/FCE a publié plus tôt cette année une note stratégique sur les avantages et risques possibles de l’intelligence artificielle (IA) générative.
Notre note stratégique de 2024 sur l’IA appelle une action urgente pour réglementer l’utilisation de l’IA dans les écoles canadiennes, de la maternelle à la 12e année. La présence accrue d’outils tels que l’IA générative soulève des inquiétudes quant aux répercussions que ces technologies peuvent avoir sur les élèves, le corps enseignant et les systèmes éducatifs. Si la note stratégique reconnaît que l’IA peut avoir des retombées positives (apprentissage personnalisé pour les élèves, amélioration des techniques d’enseignement et simplification des tâches administratives), elle souligne également qu’en l’absence de politiques adéquates, ces avantages pourraient être occultés par les risques d’atteinte à la vie privée, d’exploitation indue des données et de résultats biaisés.
Pour le moment, la législation en matière d’IA est très inégale d’une région à l’autre du Canada et ne prévoit pas de processus clair et contrôlé de déploiement de cette technologie dans les écoles publiques. Le projet de loi fédéral C-27, qui traite de la protection des données de manière générale, ne comprend pas de disposition spécifique pour contrer les risques particuliers que présente l’utilisation de l’IA dans le secteur de l’éducation, notamment pour les élèves d’âge mineur. La CTF/FCE souligne que le gouvernement fédéral et le Conseil des ministres de l’Éducation (Canada) [CMEC] doivent élaborer de meilleures politiques pour préserver les droits des élèves et du personnel de l’éducation.
Obstacles : Le paysage incertain des lois et des politiques relatives à l’IA
Les principaux risques signalés sont les suivants :
- Atteinte au respect de la vie privée, à la sécurité et au bien-être
- Exploitation commerciale
- Discrimination et préjugés
- Déprofessionnalisation de l’enseignement
La CTF/FCE appelle à une série d’actions passant notamment par le renforcement de la législation sur la protection des données, la formation du personnel de l’éducation sur l’utilisation de l’IA, ainsi que la révision des programmes d’études pour y inclure la littératie numérique et l’utilisation éthique de l’IA.
La CTF/FCE demande au gouvernement fédéral et au CMEC d’adopter en priorité des politiques qui prévoient et réduisent au minimum les risques que les systèmes d’IA présentent pour les élèves et le personnel de l’éducation. Avec des politiques qui garantissent le caractère sûr et fiable des systèmes d’IA utilisés dans les écoles, les enseignantes et enseignants sauront exploiter au mieux ces systèmes pour répondre aux besoins d’apprentissage de leurs élèves et prendre les bonnes décisions pédagogiques. Consciente de la rapidité à laquelle les systèmes d’IA évoluent, la CTF/FCE continue de surveiller leurs effets possibles sur l’éducation publique et de préconiser des politiques qui font passer l’intérêt des éducateurs et éducatrices et des élèves avant tout le reste.
