L'intelligence artificielle (IA) évolue rapidement, avec des implications considérables pour l'éducation. Les étudiants n'ont plus besoin de consulter des livres de bibliothèque, de fouiller sur Internet pour trouver des informations, ni même de rédiger leurs propres dissertations : l'IA peut gérer tout cela en quelques secondes.
Mais, bien sûr, cela soulève également d’énormes questions sur la sécurité d’une telle technologie et sur la manière dont elle pourrait encourager des comportements contraires à l’éthique et nuisibles.
En tant qu'éducateur, dirigeant ou chercheur en éducation, il peut être difficile de s'y retrouver, d'autant plus que le contexte évolue constamment. Nous avons élaboré ce guide sur l' utilisation éthique de l'IA dans l'éducation pour vous aider à comprendre ce sujet complexe, à susciter des discussions nuancées et à élaborer des lignes directrices adaptées à votre contexte.
Principaux points à retenir
- L’IA peut offrir de grands avantages à la salle de classe, mais elle pose également une série de défis éthiques.
- Certains outils peuvent manquer de transparence, fournir des informations biaisées, utiliser du matériel de formation non autorisé et potentiellement endommager l’environnement.
- La perte de l’intégrité académique et de la vie privée des étudiants sont également des préoccupations majeures.
- Encouragez une approche éthique en éduquant le personnel et les étudiants, en utilisant des outils d’IA avec des objectifs réfléchis à l’esprit et en partageant les meilleures pratiques au fil du temps.
Principaux défis éthiques dans l'éducation améliorée par l'IA
L'utilisation de l' IA générative à des fins éducatives soulève plusieurs préoccupations. Parmi celles-ci, on peut citer :
Manque de transparence
Les grands modèles de langage (MLL) tels que ChatGPT d'OpenAI, Llama de Meta, Claude d'Anthropic ou Gemini de Google sont souvent conçus et contrôlés par de grandes entreprises technologiques. Le matériel utilisé pour les former et les règles de comportement peuvent être opaques, et les entreprises peuvent les modifier à tout moment. Cela représente un défi pour les enseignants qui souhaitent choisir des outils développés de manière éthique et éviter les interactions potentiellement trompeuses.
Préjugés et discrimination
Depuis que l'IA générative a pris de l'importance, les exemples de biais sont fréquents. Cela peut être dû aux données d'entraînement utilisées (qui peuvent souvent reproduire des biais réels) ou à la manière dont le modèle filtre l'information. Prenons par exemple la prévalence des résultats racistes ou sexistes des générateurs d'images. Les tentatives de correction par programmation peuvent produire des résultats trompeurs .
D'autres formes d'IA, comme les outils d'analyse de données utilisés pour identifier les élèves à risque, pourraient également engendrer des biais, car le système ne prend en compte que les chiffres bruts et risque de passer à côté de nuances contextuelles. Par exemple, une IA entraînée sur un ensemble de données biaisées pourrait sur-identifier les élèves issus de minorités comme nécessitant des interventions, ce qui pourrait affecter leur confiance ou leur donner le sentiment d'être ciblés.
Matériel non autorisé
Certaines entreprises utilisent de vastes ensembles de données pour entraîner leurs modèles, qui peuvent inclure des éléments protégés par le droit d'auteur, récupérés sans autorisation ni rémunération des créateurs. Par exemple, Meta est critiquée pour son utilisation de livres piratés , tandis que les artistes visuels s'inquiètent de l'utilisation de leurs œuvres dans des générateurs d'images . Cela soulève des questions récurrentes quant à la loyauté et à l'éthique d'une IA utilisant des œuvres créatives « volées ».
Impact environnemental
L'IA générative consomme de grandes quantités d'eau et d'électricité , même pour des tâches apparemment simples. Compte tenu des taux actuels de production d'énergie et de l'utilisation de technologies de stockage et de systèmes de refroidissement, l'IA générative contribue à l'augmentation des émissions de carbone et aux pénuries d'eau, ce qui peut nuire aux écosystèmes locaux et mondiaux.
fracture numérique
Il semble évident que les compétences en IA seront essentielles pour les études et le travail futurs des étudiants. Cependant, lors de l'intégration de l'IA dans votre classe ou votre établissement scolaire, il est important de prendre en compte que tout le monde ne dispose pas des appareils, des abonnements et des connexions internet nécessaires pour en tirer pleinement parti.
Intégrité académique
Bien que les outils d'IA puissent accélérer les tâches courantes, de nombreuses raisons peuvent nous inciter à ne pas les utiliser. L'utilisation de l'IA peut contourner des processus importants comme la pensée critique, la lecture approfondie, l'évaluation et l'entraînement à l'écriture. Permettre aux élèves d'abuser de l'IA pourrait ralentir leurs progrès dans des domaines clés et, à terme, les désavantager à l'avenir.
Les élèves qui utilisent l'IA pour leurs devoirs et leurs évaluations peuvent également masquer leurs faiblesses, ce qui complique la tâche pour corriger leurs idées fausses et leur fournir un retour pertinent. Les enseignants peuvent devoir consacrer davantage de temps à la détection des réponses générées par l'IA , réduisant ainsi le temps disponible pour le soutien aux élèves.
Confidentialité et protection des données
Lorsque les étudiants interagissent avec les LLM, ils peuvent saisir ou partager des données personnelles, y compris les adresses e-mail utilisées lors de l'inscription. Certaines entreprises peuvent avoir des politiques de confidentialité autorisant la vente des données des utilisateurs à des tiers ou autorisant l'utilisation des réponses des utilisateurs pour former le LLM (ce qui pourrait susciter des inquiétudes quant au partage libre d'informations personnelles par le modèle à l'avenir).
Lignes directrices et cadres pour une utilisation responsable de l'IA
Plusieurs organisations de premier plan ont déjà élaboré des lignes directrices pour l'éthique de l'IA générative dans l'éducation, qui pourraient constituer un excellent point de départ pour vous et vos collègues. Parmi celles-ci :
- UNESCO ( Organisation des Nations Unies pour l'éducation, la science et la culture ) . Recommandations sur l'éthique de l'intelligence artificielle (2021).
- JISC UK ( Joint Information Systems Committee) . Vers une IA responsable et éthique (2021)
- IEEE SA ( Institute of Electrical and Electronics Engineers Standards Association) . Les avantages d'une approche multidisciplinaire pour l'éthique des systèmes d'intelligence artificielle : Guide pour un leadership éclairé en éducation (2023).
- Université Harvard. Directives d'utilisation de ChatGPT et d'autres outils d'IA générative à Harvard (2025)
- ENAI (Réseau européen pour l'intégrité académique). Recommandations sur l'utilisation éthique de l'intelligence artificielle dans l'éducation (2023)
Les points communs entre ces cadres incluent l’importance de sensibiliser le personnel et les étudiants à l’éthique de l’IA avant d’introduire la technologie de l’IA dans la salle de classe ; de fixer des objectifs clairs pour l’utilisation de l’IA ; de garantir la confidentialité des données des étudiants ; de donner la priorité aux systèmes inclusifs ; et de maintenir une surveillance humaine.
Équilibrer l'innovation et l'intégrité en classe
Les possibilités offertes par l’IA sont passionnantes et il est tentant de s’y lancer sans tarder. Mais il est sans doute important de trouver un équilibre entre l’innovation que l’IA libère et l’intégrité de votre offre éducative.
L'un des principaux moyens d'y parvenir est de définir clairement vos objectifs d'utilisation de l'IA, qui doivent être cohérents avec les objectifs généraux de votre établissement. Par exemple, l'IA peut contribuer de plusieurs manières à la progression des étudiants grâce à une personnalisation accrue de l'apprentissage, des retours en temps réel, la création de contenu personnalisé et des moyens simplifiés de créer des supports accessibles.
Il faut toutefois veiller à mettre en place des garde-fous. Bien que l'évaluation numérique puisse aider les enseignants à dispenser des tests à grande échelle et à un rythme soutenu, tout en réduisant la charge de travail, elle peut être source de tricherie , par exemple si les élèves ont la possibilité d'utiliser l'IA générative pour créer leurs réponses.
Réfléchir à la conception de votre évaluation peut atténuer ces risques. Par exemple, vous pourriez introduire des questions plus créatives, axées sur la résolution de problèmes et sans réponse prédéfinie, ou utiliser des tests formatifs à moindre enjeu.
Mise en œuvre éthique de l'IA en classe
Compte tenu des risques et des défis, il y a certaines considérations importantes à garder à l'esprit lors de la mise en œuvre de l'IA en classe :
Offrir une formation explicite sur l'éthique de l'IA
Le personnel et les étudiants auront besoin d'une formation, non seulement sur l'utilisation des outils d'IA, mais aussi sur leur approche critique et éthique. Par exemple, il faudra sensibiliser les étudiants au mode d'apprentissage des outils d'IA (et aux biais inhérents à celui-ci) ou leur poser une série de questions pour les aider à réfléchir aux réponses de l'IA (« Comment savez-vous que c'est vrai ? Comment pourrions-nous vérifier ces résultats ? Notre formulation a-t-elle influencé le résultat ? »).
Choisissez vos outils avec soin ou concevez les vôtres
Assurez-vous de rechercher les outils que vous souhaitez utiliser, y compris leurs structures de gouvernance, leur financement, leurs politiques de confidentialité et leur utilisation des données.
Certains districts scolaires, comme le Département de l’Éducation de la ville de New York , conçoivent même leurs propres outils pour s’assurer qu’ils correspondent à leurs objectifs et à leurs directives.
Restez concentré
Utiliser l'IA pour chaque tâche peut augmenter votre empreinte carbone et rendre les élèves trop dépendants de la technologie. Assurez-vous de bien réfléchir aux domaines dans lesquels l'IA peut réellement bénéficier aux élèves et de savoir comment utiliser cette opportunité pour leur enseigner des compétences de pensée critique ou de créativité, en plus des connaissances disciplinaires.
Par exemple, vous pourriez demander aux étudiants d'utiliser un générateur d'images pour créer un univers fantastique qu'ils transformeront ensuite en leur propre histoire. Les étudiants pourraient également demander à un LLM de générer une série de questions d'examen auxquelles ils répondront eux-mêmes, ou de rédiger une dissertation historique qu'ils critiqueront et amélioreront ensuite.
Vous devriez également réfléchir aux moyens par lesquels l'IA peut alléger la charge de travail du personnel au bénéfice des élèves. Par exemple, l'utilisation d'un outil d'évaluation comme TAO pour développer le contenu des examens grâce à l'IA générative peut libérer du temps et permettre aux enseignants de mieux accompagner les élèves individuellement.
Protéger la confidentialité
La protection des données des étudiants peut impliquer de créer de nouvelles adresses e-mail pour les connexions (non liées aux noms des étudiants, par exemple) ou de conserver un identifiant unique et partagé pour votre établissement. Vous pouvez également créer un code à suivre par les étudiants lorsqu'ils utilisent les outils pour leur rappeler de ne pas partager leurs informations personnelles.
Construire une culture de sensibilisation à l'IA éthique dans les écoles
Utiliser l'IA de manière éthique nécessite sans doute un changement culturel : passer d'une simple exploitation de l'IA comme technologie utile à une utilisation réfléchie et consciente des risques. Pour intégrer cette approche, vous pouvez essayer :
- Développer une communauté de pratique : réunir les enseignants et les autres membres du personnel qui peuvent partager leurs expériences et leurs apprentissages liés à l’utilisation de l’IA en classe.
- Créez un pool de ressources partagées : partagez des recherches, des idées d’enseignement et de nouveaux outils via une communauté d’apprentissage en ligne.
- Mettre en œuvre une approche multidisciplinaire : vos lignes directrices en matière d’éthique de l’IA doivent être utilisées et renforcées dans toutes les matières et dans tous les domaines de la pastorale.
Conclusion
L'IA est très prometteuse pour l'éducation, notamment pour réduire les frictions liées aux tâches courantes. Elle libérera du temps pour les élèves et les enseignants, favorisera la personnalisation et ouvrira de nouvelles formes de créativité.
Cependant, il existe également des risques potentiels, notamment éthiques. Il est important de les examiner attentivement et de collaborer pour convenir de lignes directrices éthiques, ainsi que d'enseigner explicitement aux enseignants et aux étudiants à réfléchir attentivement et de manière critique à l'utilisation de l'IA à des fins éthiques.
Pour en savoir plus sur la manière de garantir un accès équitable aux technologies, consultez notre guide « Réduire la fracture numérique », qui aborde les inégalités potentielles et les moyens de les surmonter. Et n'oubliez pas que l'IA n'est pas la seule tendance éducative nécessitant une approche réfléchie.
Découvrez les tests numériques avec TAO
Si cet article vous donne envie d'intégrer davantage de technologie dans votre classe avec les conseils d'une entreprise leader dans le domaine, notre équipe peut vous aider à intégrer l'évaluation en ligne à votre pratique pédagogique. TAO propose également des outils performants de création d'éléments et d'IA générative pour vous aider à concevoir des évaluations en toute simplicité.
Pour découvrir comment sa plateforme personnalisable et évolutive pourrait soutenir les progrès de vos élèves, planifiez une démonstration .
FAQ
L’IA peut-elle remplacer les enseignants ?
Les outils d'IA peuvent fournir un retour rapide, proposer des exercices et même aider les élèves à résoudre leurs problèmes. Cependant, le risque d'erreurs, de biais et d'« hallucinations » rend imprudent, pour l'instant, de s'y fier pleinement si l'on veut garantir aux élèves des informations précises. L'IA ne peut pas non plus (encore) évaluer et comprendre des aspects plus complexes de la progression des élèves, comme leurs compétences créatives.
Pourquoi l’IA ne devrait-elle pas être interdite dans les écoles ?
Face aux nombreuses préoccupations éthiques entourant l'IA dans l'éducation, il est tentant de prétendre qu'interdire ces outils simplifierait la vie. Cependant, cela reviendrait à passer à côté d'avantages potentiels, comme un apprentissage plus personnalisé, des retours plus rapides, une charge de travail réduite pour le personnel et des supports pédagogiques plus variés. Il est possible d'intégrer l'IA de manière équilibrée, tout en tenant compte des risques.
