Éthique et intelligence artificielle – documents de cours dispensés à Centrale Nantes

L’option « Informatique pour l’Intelligence Artificielle » de Centrale Nantes a été créée à la rentrée 2022. Elle s’adresse à des élèves-ingénieur.e.s de 2e et 3e année, soit un équivalent M1/M2. 

Cette spécialisation compte 12 unités d’enseignement. J’ai la responsabilité de l’une d’entre elle, intitulée « informatique durable ». 

Parmi les enjeux associés à un tel cours (impacts environnementaux du numérique, état de l’art de la législation, etc.), il m’avait semblé indispensable d’intégrer une dimension liée à « éthique et intelligence artificielle ». 

Avec Jean-Pierre Elloy, nous avons ainsi construit une séquence pédagogique que nous avons affinée au fil des années et qui, désormais, a atteint une certaine maturité. Conscients que d’autres personnes, soucieuses de traiter ces sujets, pourraient être à la recherche de ressources pédagogiques, nous avons décidé de mettre à disposition le contenu produit sous une licence Creative Commons by-nc-sa. De manière associée, la présente page synthétise l’organisation pédagogique derrière. Les liens vers les diaporamas des différents chapitres du cours apparaissent entre crochets [ ].

Pour donner un ordre d’idée de l’évolution de cette action, il faut savoir que la toute première version, de 2022, se déclinait en une conférence unique de 2h. C’était à la fois trop dense et trop court pour rentrer dans la finesse nécessaire à ce sujet. 

Désormais, ce bloc se décline en 13h d’activités pédagogiques qui se décomposent de la manière suivante : 

(Séquence 1) La première partie de l’intervention est une introduction dédiée à contextualiser et à questionner pourquoi l’IA génère autant de réactions (en caractérisant ces dernières) [chapitre 0]. Cette première partie se termine par la mise en place d’une première analyse « grosses mailles » de toute application de l’intelligence artificielle selon trois volets : (i) les avantages attendus de l’application ; (ii) l’apport de l’IA dans l’application (iii) les tensions identifiées. À l’issue de cette présentation, nous appliquons cette première démarche d’analyse sur un ou plusieurs exemples, en interaction directe avec les étudiant.e.s [chapitre 1]. 

(Séquence 2) La seconde partie d’intervention revient d’abord sur les fondamentaux de l’éthique en rappelant la diversité des principes éthiques en fonction du contexte culturel. Cette partie s’appuie notamment sur les penseurs et philosophes majeurs qui ont écrit sur ce sujet [chapitre 2].

(Séquence 3) Afin d’arriver, au bout du « voyage », à une démarche éthique pour l’IA, il est nécessaire de s’attarder d’abord sur la science [chapitre 3], notamment sur la question de savoir ce qu’est un questionnement éthique en science [chapitre 4]. La démarche en entonnoir que nous proposons vise ensuite à se focaliser sur le numérique d’une part, la bioéthique d’autre part. Cette dernière s’avérera une source d’inspiration pour la finalisation de la démarche. 

(Séquence 4) Mais avant la dernière étape du cours, il nous semblait indispensable de confronter les étudiant.e.s à des textes et de les inciter ainsi à mûrir leur propre réflexion. Dès lors, nous proposons une sélection de textes aux étudiant.e.s en leur proposant d’en choisir un à lire et analyser en binôme [proposition de textes à analyser en lien avec “éthique et IA”]. Nous leur demandons ensuite de faire une restitution orale de leur étude de texte en 5 minutes devant l’ensemble du groupe. Sur cette partie, nous insistons sur le fait que chaque binôme est libre de se focaliser sur une partie seulement du texte, pourvu que celle-ci leur semble, personnellement, d’intérêt. 

(Séquence 5) Enfin, la dernière partie s’attaque aux questions éthiques de l’IA, qui se déclinent en des principes éthiques généraux et en une éthique des données, du développement et des usages [chapitre 5]. L’ensemble de ces considérations aboutit à une démarche globale de construction d’un rapport éthique pour toute application à base d’IA [chapitre 6], processus qui passe notamment par la formalisation : 

  • d’une matrice des impacts négatifs sur les principes éthiques pour chaque partie prenante et
  • d’une matrice des exigences représentant ce qu’il faut faire pour atténuer ou supprimer chaque impact négatif identifié.

(Séquence 6) Pour finir, et désormais « outillés », les étudiant.e.s se voient proposer de construire leur propre analyse éthique sur la base des projets d’intelligence artificielle qu’ils ont à traiter dans le cadre de leur option (ces projets sont faits par les étudiant.e.s par groupe de 3 ou 4), projets encadrés par des enseignant.e.s-chercheur.se.s de différents domaines. Lors de la dernière séance de cours, chaque groupe est alors invité à présenter son analyse éthique sur la base de la démarche méthodologique donnée précédemment. 

Pour finir, le découpage horaire des séances est le suivant : 

  • 2h pour les séquences (1) et (2) 
  • 1h30 pour la séquence (3) et 30 minutes pour laisser aux étudiant.e.s le temps de décider le texte de leur choix traité en partie (4) 
  • 2h de travail des étudiant.e.s sur le texte choisi pour la séquence (4), en interaction avec nous (assimilable à un mode « TP »)
  • 2h pour la restitution attendue de la séquence (4) 
  • 2h pour la séquence (5) 
  • 1h de travail de réflexion des étudiant.e.s sur les enjeux éthiques de leur projet d’option, puis 2h de restitution finale du travail effectué dans la séquence (6) 

Sans oublier, évidemment, la [bibliographie] !

Retour d’expérience sur l’utilisation de mQlicker, application web de vote électronique, pendant un cours en amphi

Afin de renforcer les interactions en cours en amphithéâtre, de plus en plus d’établissements recourent à des boîtiers de vote électronique (aussi baptisés télévoteurs, ou clickers) : chaque étudiant présent en amphi se voit prêter un boîtier, sur lequel il est régulièrement invité à répondre à des questions posées par l’enseignant. Ce dernier dispose ainsi d’une vue globale, immédiatement consultable, sur la bonne – ou mauvaise – compréhension des concepts qu’il vient de présenter. Il peut ainsi revenir sur des notions d’évidence mal comprises. Ce système, particulièrement pertinent pour gérer de grosses promotions (au-delà de 50 étudiants), vient renforcer les possibilités d’interactions entre le professeur et les élèves.

Mais ces boîtiers sont chers, et la tendance actuelle nous fait constater que de plus en plus d’élèves viennent déjà en cours avec un ordinateur, une tablette ou un smartphone. C’est la raison pour laquelle je suis attentif, depuis plusieurs mois, à l’essor des applications web de vote électronique (j’avais par exemple précédemment expérimenté Socrative, malheureusement limité à un maximum de 50 connexions simultanées).

Lors de mon cours magistral sur les problématiques légales liées aux systèmes d’information et bases de données, j’ai testé en situation l’application web de vote électronique mQlicker.

Vue générale sur l'application web par l'enseignant, avec la possibilité de définir de nouvelles questions, de visualiser en direct les résultats d'une session, etc.

Vue générale sur l’application web par l’enseignant, avec la possibilité de définir de nouvelles questions, de visualiser en direct les résultats d’une session, etc.

Pour commencer, quelques mots d’abord sur cette application :

  • elle est gratuite ;
  • elle n’impose pas de limitations a priori du nombre de participants aux sondages ;
  • elle permet le suivi des résultats en direct à mesure que les étudiants répondent aux questions qui leur sont soumises ;
  • elle est accessible via un simple navigateur web (donc utilisable avec un ordinateur quel que soit son système d’exploitation, une tablette, un smartphone, etc.) ;
  • elle est assez puissante en termes de gestion des différentes sessions de question (possibilité de questions ouvertes, questions à réponses multiples, questions avec une unique réponse attendue, etc.) ;
  • elle permet d’exporter les résultats pour une réutilisation ultérieure ;
  • par contre, l’application n’impose pas aux étudiants de s’identifier, ce qui signifie que certains pourraient biaiser les résultats en votant plusieurs fois.

Cela dit, le dernier inconvénient n’est pas majeur dans le cas d’un amphi, où l’on souhaite surtout avoir un instantané des réponses des élèves.

Accès par un étudiant à une session de questions (ici, via une tablette)

Accès par un étudiant à une session de questions (ici, via une tablette numérique iPad)

Les modalités de mon usage de l’application étaient les suivantes :

  • j’avais demandé aux élèves de venir, s’ils le pouvaient, avec un ordinateur portable, une tablette ou un smartphone pour pouvoir réagir en direct ;
  • en amont de la séance, j’avais préparé huit séries de 2/3 questions, réparties sur les deux heures de mon cours (cela correspondait sans doute à un peu trop de questions pour deux heures de cours). Celles-ci visaient surtout à contextualiser et introduire mon propos, à différents moments clefs de la séance.

En pratique :

  • les étudiants se sont bien prêtés au jeu même si tous ne disposaient pas d’un périphérique leur permettant de prendre part aux sondages ;
  • je vidéo-projetais, via mon ordinateur, les résultats obtenus à chaque question quand j’avais recueilli suffisamment de réponses. Je discutais ensuite des résultats observés. Il bien faut penser à clore la session de vote avant de commencer à discuter des résultats car, sinon, certains étudiants votent massivement pour compenser les réponses a priori fausses (ils ont un comportement très scolaire sur ce point, alors même qu’on ne cherche pas à tracer leurs résultats individuels aux différentes questions).
  • j’ai eu l’impression que ce dispositif permettait de “réveiller” certains étudiants. Quand certains commençaient à s’endormir après un monologue de 20-25 minutes de ma part, ils étaient “obligés” de redevenir actifs quand je donnais une nouvelle session de questions à l’audience.
  • les moments où les étudiants étaient invités à répondre à une session de question me permettaient de souffler et de profiter d’une ou deux minutes de répit pendant l’amphi (les cours en amphithéâtre sont bien connus pour être énergivores).

À la fin du cours, j’ai ouvert aux étudiants un sondage pour recueillir leurs impressions à chaud. Je vais maintenant tirer profit de ces réponses pour améliorer l’intégration de ce type de dispositif dans le scénario de mes cours magistraux. En tout cas, cette première expérience “grandeur nature” et le retour des élèves me confortent dans l’idée que les télévoteurs peuvent, dans certaines configurations, renforcer la motivation des étudiants à suivre un cours en amphithéâtre.

Visualisation par l'enseignant des résultats à une question ouverte

Visualisation par l’enseignant des résultats à une question ouverte

Aperçu du blog de veille technologique des étudiants en informatique de Centrale Nantes

Réactivation du blog de veille technologique en TIC par les étudiants de l’option Informatique de Centrale Nantes

Je crois fermement à l’intérêt des blogs comme outils de partage et de valorisation des travaux menés par les étudiants dans le cadre de leurs différents projets. C’est pourquoi, lorsque j’ai récupéré la responsabilité des projets de veille technologique en informatique à Centrale Nantes, j’avais proposé de nouvelles modalités pédagogiques :

  • l’écriture de compte-rendus bi-mensuels sur un blog dédié. Ce blog est volontairement ouvert sur l’extérieur de manière à favoriser les interactions non seulement entre les groupes d’élèves, mais aussi avec les acteurs extérieurs (professionnels du secteur, anciens élèves, etc.). Et nous avons effectivement constaté plusieurs d’échanges de ce type grâce aux commentaires du blog. C’est ainsi que les élèves ont été amenés à discuter avec des spécialistes du sujet qu’ils traitaient, ou se sont vus indiquer de nouvelles références bibliographiques pour approfondir leur étude.
  • la rédaction d’un rapport final conçu comme un document autonome et complet, ne se contentant pas d’être la concaténation des articles de blogs ;
  • une « soutenance » de 5 minutes pour inciter les élèves à être concis, précis et efficaces.

L’objectif d’un tel projet est d’habituer les élèves-ingénieurs à bâtir une veille technologique sur un sujet scientifique, c’est-à-dire : savoir rechercher l’information, faire preuve de discernement et d’esprit critique, synthétiser et partager l’information efficacement en fonction de la cible et du médium. Le fait que le blog soit complètement ouvert force les élèves à se responsabiliser sur la nécessité d’un travail personnel d’analyse, le respect du droit d’auteur, et plus généralement les règles de base de la communication écrite sur le web. Là où nous avions, auparavant, un certain nombre de rapports “plagiés”, nous avons constaté un regain d’intérêt de la part des élèves qui peuvent se servir de leur production comme un moyen d’illustrer, auprès des recruteurs, leur connaissance de tel ou tel domaine.

Le résultat des dernières années est toujours accessible en ligne, et je vous renvoie vers les articles que j’avais écrits à ce sujet en 2010 et en 2011.

Cette année, ce sont plus de 15 sujets qui vont être explorés au fil des semaines.

Aperçu de la plate-forme du MOOC ITyPA

Lancement du 1er MOOC francophone : “Internet, tout y est pour apprendre” (ITyPA)

Les possibilités d’Internet sont telles que, désormais, des cours complets sont proposés en ligne et gratuitement. Les MOOC (cours en ligne ouverts multi-apprenants) se multiplient.

J’ai la chance de participer en tant qu’animateur à l’aventure du MOOC baptisé « Internet, tout y est pour apprendre » (ITyPA), qui se déroulera du 4 octobre au 13 décembre 2012. Il s’agira du premier cours francophone de ce type. Il est accessible à tous gratuitement. Il ne vise pas que les enseignants et/ou chercheurs, mais concerne tous ceux qui sont amenés à utiliser Internet au quotidien, dans leur activité professionnelle ou extra-professionnelle.
Ce cours est axé autour de la question : « comment apprendre en ligne ? ».

Il balaiera un large panel de techniques, outils et méthodes pour repérer les sources d’information les plus intéressantes sur la toile, et contribuer à son tour à l’augmentation du savoir partagé dans un ou plusieurs domaines. Semaine après semaine, il abordera des thèmes tels que :

  • Comment gérer l’abondance des ressources disponibles sur Internet et s’assurer de la validité des sources ?
  • Comment gérer l’ensemble de ses ressources bibliographiques et annoter, commenter ou synthétiser ses recherches ?
  • Pourquoi intégrer ou créer une communauté en ligne pour apprendre ensemble ?
  • Comment utiliser les réseaux sociaux pour apprendre ?

Au cours de ces 10 semaines, les participants seront impliqués dans un apprentissage actif grâce à des échanges avec les animateurs et les autres inscrits. Ils seront invités à lire, commenter et publier eux-mêmes des ressources. Ainsi, à l’issue de ce cours, chacun aura été en mesure de construire son « environnement personnel d’apprentissage ».

Ce MOOC est animé par Anne-Céline Grolleau (ingénieure pédagogique à l’École Centrale de Nantes en charge du dispositif de formation inter-établissements “PedaTice“), Jean-Marie Gilliot (enseignant-chercheur à Telecom Bretagne), Christine Vaufrey (formatrice, rédactrice en chef de Thot Cursus) et moi-même. Le MOOC accueillera de nombreux invités, experts de leur domaine, au fil des semaines.

Pour en savoir plus, il suffit de vous rendre sur le site support de ce MOOC où vous trouverez :

Je vous conseille également de consulter le message annonçant l’ouverture de ce cours sur le site Thot Cursus.

N’hésitez pas à rejoindre cette aventure, comme l’ont déjà fait les 600 personnes d’ores et déjà inscrites à ce cours totalement ouvert !

Exemple d'échanges sur Twitter pendant la matinée du e-learning

Les réseaux sociaux en enseignement supérieur. Exposé à la Matinée du E-Learning.

Voilà plusieurs années que je mène différentes expériences autour de l’usage des réseaux sociaux à des fins pédagogiques. Il faut dire que je suis passionné de longue date par les potentialités qu’Internet a ouverte en termes de communication, d’échanges et de co-construction de ressources.

Faisant suite à ces expérimentations, j’ai eu le plaisir d’être invité à intervenir lors de la Matinée du E-learning du 3 février 2012, organisée à l’EM Lyon. L’événement avait pour thème “Twitter dans l’enseignement supérieur“.

Au cours de ma présentation, j’ai dressé le bilan des initiatives intégrant  l’usage de réseaux sociaux (notamment Twitter) dans des dispositifs pédagogiques déployés à l’École Centrale de Nantes depuis 2009. Mon diaporama peut être consulté (et téléchargé) en ligne. Mon exposé était relativement similaire à celui que j’avais donné, deux semaines auparavant, dans le cadre de la réunion des responsables TICE de la région Pays de la Loire. Si vous avez raté mon intervention à Lyon, je vous invite donc à découvrir mon propos dans la vidéo qui suit.

Ma conférence était suivie d’un exposé de Yann Bergheaud, juriste et responsable du e-learning à l’Université de Lyon 3. Il a apporté un regard complémentaire sur les enjeux légaux liés à l’usage d’un réseau social tel que Twitter en pédagogie. Il a notamment évoqué :

  • le droit d’auteur sur un tweet : dès qu’un tweet témoigne de la personnalité de l’auteur, il est protégé par le droit d’auteur. Il en découle que, dans une application stricte de la loi, l’auteur d’un tweet pourrait exiger de contrôler toute copie (retweet) ou modification de son propos initial de 140 caractères.
  • la question de la propriété d’un compte Twitter d’institution géré par un community manager contractuel. Cela ne semblerait pas poser de problème dans le cas d’un compte Twitter institutionnel tenu par un agent contractuel dont la principale mission inscrite à son contrat serait l’animation de l’identité numérique de l’établissement sur les réseaux sociaux. Ce serait moins évident dans le cas où l’animation du compte ne figurerait pas dans le contrat (avec une possibilité pour l’animateur du compte d’en revendiquer la propriété ?). En tout cas, le sujet paraît chaud aux Etats-Unis.
Après un certain nombre de mises en garde, Yann Bergheaud a modulé son discours en expliquant que le travail d’un juriste, c’est de montrer le pire, autrement dit tout ce qui peut arriver. Après, en tant qu’utilisateur, il s’agit de faire une analyse du risque. Et, dans le contexte de l’enseignement supérieur, le risque est modéré.
Il reste toutefois important de sensibiliser les étudiants au problème de la maîtrise de leurs données. Et de réfléchir, pour un passage à l’échelle de ces expérimentations, aux moyens logistiques et techniques qui permettraient aux établissements d’enseignement supérieur de proposer des solutions maîtrisables et traçables (telle l’installation, par exemple, de solutions libres sur leurs serveurs).

L’auditoire, composé d’une soixantaine de personnes, s’est en tout cas emparé avec passion de ces sujets. La matinée fut largement live-tweetée. De plus, certains participants ont réalisé une synthèse collaborative des échanges que je vous recommande.

Pendant les exposés, le public a partagé ses impressions en direct sur Twitter. Cela a contribué à la visibilité des échanges auprès d'un large public intéressé par les TICE, et pas uniquement envers l'auditoire présent à Lyon.

Pendant les exposés, le public a partagé ses impressions en direct sur Twitter. Cela a contribué à la visibilité des échanges auprès d'un large public intéressé par les TICE, et pas uniquement envers l'auditoire présent à Lyon.