Cette table-ronde « auto-gérée », c’est-à-dire sans animateur fixe, a commencé par une intervention d’Aurélie Jean et s’est poursuivie par une discussion entre les participants. Après avoir défini le sujet de façon un peu précise afin que chacun ait bien la même représentation de ce qu’est l’intelligence artificielle, les intervenants ont évoqué sa place à tous les niveaux de l’éducation, le rôle que peuvent prendre les intelligences artificielles, et les enjeux qu’elles soulèvent.
Mercredi 21 août 2019 – 18h-19h30
Participants : Aurélie Jean – docteur en sciences et entrepreneur, Jean-Marc Merriaux – directeur de la DNE, Catherine de Vulpillières – co-fondatrice de EvidenceB et IVAN OSTROWICZ, Directeur des Opérations chez Hachette.
De quoi parle-t-on ?
Aurélie Jean utilise la définition du Larousse pour définir le terme d’intelligence artificielle. « Ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence humaine », dit le dictionnaire.
Aurélie Jean dirait plutôt qu’une IA simule « UNE » intelligence ». C’est ce que suggère aussi le thème de Ludovia#16 : « Intelligences et représentations du numérique en éducation ».
On distingue deux sortes d’intelligences artificielles :
– l’intelligence artificielle explicite dans laquelle toutes les hypothèses et la logique algorithmique sont explicitement définies. Ce sont des modèles calibrés sur les données.
– l’intelligence artificielle implicite qui désigne les algorithmes qui apprennent sur les données.
Les données sont donc le poumon de l’IA. Ce n’est pas nouveau mais aujourd’hui les capacités de collecte de stockage et de traitement sont beaucoup plus importantes. L’IA est partout, quotidienne, dans tous les domaines pour travailler communiquer, se soigner enseigner et apprendre. La quantité de données disponibles dans un domaine présage des avancées de l’IA dans ce domaine.
Aurélie Jean, qui travaille à la fois en France et aux Etats-Unis, voit dans notre pays un lieu important pour la recherche et le développement des Intelligences artificielles grâce à des laboratoires mondialement connus du CNRS et de l’INRIA par exemple. Ces centres de recherche qui travaillent dans différents domaines ont tout intérêt à développer la transversalité entre les disciplines. Faire l’analogie entre des domaines différents permet à chaque domaine de bénéficier des avancées de chacun.
Les IA dans l’éducation
En termes d’éducation, il est nécessaire de former des citoyens qui comprennent le fonctionnement des outils. Ils seront alors à même de donner un avis éclairé sur les outils, de défendre leurs droits, de participer au débat sur ces outils. Cela permettrait également de susciter des vocations, à l’heure où le besoin en talents de tous niveaux dans tous les domaines de l’informatique devient criant.
Par ailleurs, puisque l’IA est désormais présente dans tous les domaines, il va devenir nécessaire pour les professionnels de tous les domaines de comprendre l’IA pour mieux l’intégrer dans leur métier. L’introduction de l’informatique et de la programmation dans les programmes du lycée est un moment important pour élargir le recrutement et aussi pour féminiser ce métier. Du côté des développeurs d’IA, pour lesquels la collaboration avec des gens du métier est primordiale, il est important de pouvoir compter sur des collaborateurs non spécialistes mais éclairés pour collaborer de manière efficace.
Pour ce qui concerne la gouvernance de l’éducation nationale, le Conseil Scientifique de l’Education nationale présidé par Stanislas Dehaene comprend un groupe de travail spécifique sur les IA, comportant des membres de milieux professionnels très différents. Le Comité d’éthique présidé par Claudie Haigneré réfléchit aux tenants et aboutissants liés à la data, à partir des questions amenées par les recteurs, les professeurs, les parents etc…
Mais il faut continuer à s’ouvrir, aller chercher dans les sciences humaines, aller voir ce qui se passe à l’étranger, et surtout laisser à l’école la liberté d’expérimenter, tout en respectant le RGPD évidement. Des projets utilisant les intelligences artificielles sont financés par le ministère de l’état : Skillogs pour une formation adaptative, un chatbot tuteur intelligent en anglais etc…. Le Plan d’Investissement Avenir dont les résultats sont en train de tomber va dans ce sens.
Il est très important dans ces projets de travailler avec les enseignants qui connaissent le terrain. Catherine de Vulpillières présente EvidenceB, qui développe des logiciels nourris par les sciences cognitives et l’IA pour renforcer les apprentissages individuels. Ils utilisent un algorithme de tri qui permet de catégoriser finement les élèves en fonction de leurs savoir-faire et de leurs blocages, et un algorithme de renforcement pour proposer des remédiations pertinentes.
L’enseignant ne disparaît pas : il utilise l’application à des moments précis et est plus efficace dans sa présence physique, développer la confiance de chacun des élèves etc.
A quoi sert l’IA ? Quelle est la place de l’IA ?
Pour commencer, évacuons une question qui revient à chaque fois qu’une technologie entre à l’école : non, l’IA ne va pas remplacer le professeur. L’IA va nous libérer de certaines tâches simples. Aurélie Jean par exemple a créé pour Bloomberg, service d’analyse financière, une IA qui écrit de courts articles informatifs à partir de la data financière. Cela libère du temps que les journalistes peuvent dédier à écrire des articles d’analyse plus profonds et qui de ce fait, étaient davantage lus.
Dans le domaine de l’enseignement, la création d’une classe virtuelle a permis de lutter contre l’échec scolaire. Dans le cas de l’expérience décrite, les élèves de licence I ne venaient plus en cours et ne se réinscrivaient pas en 2eme année de cette option. Les cours magistraux ont été éliminés, remplacés par une classe virtuelle. Les heures de cours ont été transformés en travaux dirigés. Les élèves lisent les cours et se soumettent à un test avant la classe. L’enseignant revoit les points qui ont posé problèmes. Les élèves éloignés peuvent suivre le cours en direct à distance grâce à un dispositif technique. Résultat : les élèves ont adoré. Les défections ont diminué et les inscriptions en 2ème année ont augmenté. Cela démontre que le numérique permet de redévelopper l’appétence et faire que la classe redevienne un lieu d’apprentissage.
Les enjeux de l’intelligence artificielle
Dans la conclusion de sa conférence, Aurélie Jean rappelle que les enjeux sont nombreux dans l’intelligence artificielle : ils sont éthiques, sociétaux, économiques. Il faut rendre l’école plus inclusive, former les professionnels de demain, comme le suggère le rapport de Cédric Villani.
Pour Jean-Marc Merriaux, directeur du Numérique pour l’Éducation, les enjeux sont aussi politiques : les IA développées notamment par les Chinois sont très puissantes, permettent d’agréger des données et de tout connaitre d’un individu. Si on voit bien le potentiel de ces IA dans l’éducation, on voit aussi le danger. Il faut donc parler d’éthique mais plus encore, définir cette éthique de manière collective, être fermes sur les valeurs qui nous rassemblent. Les enjeux en matière de gouvernance des données, de transparence sont également importants. Le RGPD est un outil pour penser tout cela, en s’appuyant aussi sur la loi Informatique et liberté de 1978 parmi d’autres textes dont nous disposons. Il est nécessaire de penser collectivement un cadre de confiance sur les données.
L’un des enjeux est celui de l’anonymisation des données. Bien sûr les données sont anonymisées, mais la désanonymisation est très facile pour qui s’en donne les moyens. Il faut réfléchir à la minimisation : de quelle donnée a-t-on précisément besoin pour nourrir nos algorithmes (au contraire de la massification), de façon à protéger les utilisateurs des recoupements qui permettent la réattribution.
Le développement des 4 C, ou 4 compétences pour le 21ème siècle (Créativité, pensée critique, Communication, Coopération), est indispensable pour intégrer les IA de manière pertinente et apprendre aux citoyens à les utiliser.
Ivan Ostrowicz donne une image : comme un couteau peut servir à couper la viande ou à tuer, il faut apprendre à se servir des outils puissants. Il faut éduquer à la data.
Il faut aussi apprendre à comprendre les limites des IA et de la data : les algorithmes, en fonction des données, peuvent faire preuve de discrimination, renforcer des stéréotypes. Par exemple un algorithme pour aider au recrutement va délaisser les profils féminins parce qu’il y a eu peu de femmes employées dans le passé dans le domaine.
Il faut donc toujours prendre le temps d’analyser l’IA, et dans le cadre de la classe ce travail de prise de distance avec les résultats d’un algorithme doit être développé : observer la « discrimination technologique », analyser les causes de cette discrimination (choix de la donnée etc.).
Synthèse réalisée par Caroline Jouneau-Sion et Mila SaintAnne.
Illustration : CIRE
