Faut-il avoir peur de l'IA à l'école ?
Dario Amodei, fondateur d'Anthropic, qualifie l'IA de « risque existentiel ». Geoffrey Hinton, l'un des pères fondateurs du deep learning, estime que le danger est réel si le développement de l'IA n'est pas encadré. Ce ne sont pas des voix marginales : ce sont ceux qui construisent ces technologies. Alors, cette peur doit-elle changer notre manière de penser l'IA en éducation ?
Ce que disent précisément ces alertes
Les craintes exprimées par Amodei et Hinton portent sur trois points précis. D'abord, une perte de contrôle : des systèmes capables de s'améliorer eux-mêmes au point d'échapper à la compréhension humaine. Ensuite, des usages malveillants facilités par l'IA : désinformation massive, cyberattaques automatisées. Enfin, un bouleversement du marché du travail, qui touche désormais des métiers intellectuels et créatifs, pas seulement des tâches répétitives.
Ces risques sont documentés, pris au sérieux par les chercheurs eux-mêmes, et discutés au niveau international, avec des appels à ralentir le développement de l'IA et à instaurer des traités comparables à ceux encadrant le nucléaire.
Une échelle différente de celle de la classe
Il est essentiel de ne pas confondre deux niveaux de risque. Le risque existentiel décrit par Amodei et Hinton se situe à l'échelle mondiale : gouvernance des grands modèles, régulation internationale, sécurité des laboratoires de recherche. Ce sont des enjeux qui dépassent largement une salle de classe et qui relèvent des États et des grandes entreprises technologiques.
Le risque auquel l'éducation est confrontée est différent, plus immédiat, mais bien réel : des élèves qui utilisent l'IA sans recul critique, une triche facilitée, un risque d'affaiblissement du raisonnement autonome si les usages ne sont pas encadrés.
Ces deux niveaux ne s'opposent pas, ils coexistent. Mais les confondre revient soit à paniquer inutilement sur des scénarios qui ne dépendent pas de l'école, soit à minimiser les enjeux réels du quotidien scolaire sous prétexte que « le vrai danger est ailleurs ».
Ce que cela signifie concrètement pour l'éducation
Une société mal préparée à comprendre l'IA sera d'autant plus vulnérable si les alertes de Hinton ou Amodei se confirment. Former des citoyens capables d'esprit critique, de vérification des sources et de compréhension des limites d'un système d'IA n'est donc pas une réponse déconnectée du risque existentiel : c'est une condition pour qu'une société puisse un jour peser sérieusement sur les décisions de régulation à venir.
L'école n'a pas vocation à résoudre les grands enjeux de gouvernance mondiale de l'IA. Mais elle a la responsabilité de préparer des générations capables de comprendre ces enjeux plutôt que de les subir. C'est là que se rejoignent, sans se confondre, l'alerte des experts et la mission de l'éducation : donner aux jeunes les outils pour naviguer avec lucidité dans un monde où l'IA occupe une place croissante, aussi bien à l'échelle individuelle qu'à l'échelle collective.
Il n'est pas anodin que ces alertes rappellent, par certains aspects, des scénarios longtemps cantonnés à la science-fiction, de HAL 9000 à Skynet. Mais là où le cinéma imaginait une bascule spectaculaire vers une machine consciente et hostile, les propos d'Amodei et Hinton décrivent une réalité plus sobre : des systèmes puissants, déployés trop vite, sans supervision humaine suffisante. Ce n'est pas la fiction qui doit guider notre lecture de ces alertes, mais elle peut servir de point de départ pédagogique, à condition de revenir rapidement à ce que ces experts affirment réellement, pour éviter toute confusion entre fantasme narratif et enjeu concret.