ELEARNINGLETTER
ACTUALITE & STRATEGIES DIGITAL LEARNING
ÉVÉNEMENTS OFFRES D'EMPLOIS COMMUNIQUÉS DE PRESSE ANNUAIRE DES PREMIUM
Leaders du Digital Learning
CONTRIBUTEURS S'ABONNER
À la newsletter
L’IA : la vérité si elle ment !
25 JANVIER 2024 / ia générative
Florent Grisaud Verrier
head of digital learning & innovation
mbda
Jean-Roch Houllier
head of operations, learning & digital
groupe safran
Trop heureux de gagner du temps lorsque l’on utilise des IA génératives, on prend souvent les résultats soufflés par la machine pour argent comptant : copier-coller : gain de 30 minutes… À quel prix ? Celui de la vérité peut-être ? On sait que 30 % des réponses données par ChatGPT sont fausses ou incorrectes ! Parce que l’IA n’est pas un deus ex machina : elle produit des résultats depuis sa base des données qu’elle considère la plus proche de votre requête. Prudence de rigueur !

Les savoirs ubiquistes : la puissance de l’IA pour exploiter un énorme volume de savoirs

Avec une base de données de 300 milliards de mots (extraits du web, de Wikipédia, de nombreux livres…), ChatGPT est plus gorgé de « savoirs » que n’importe quelle autre technologie. Ces contenus ne sont plus simplement accessibles à l'instar des articles d’une encyclopédie. Les algorithmes et l'apprentissage profond permettent aux IA génératives de générer des résultats extrêmement précis et fiables : textes cohérents et informatifs, images et œuvres d'art, musique qui respecte des styles spécifiques. Les savoirs n’ont jamais été aussi ubiquistes, à portée d’un simple clic de souris !

La précision des résultats donnés par les IA suffit dans de nombreux domaines, avec parfois même plus de précision que les résultats donnés par les Humains . Par exemple, dans le domaine de l’oncologie (interprétation de radios ou analyse cancéreuse des mélanomes) ou de l’architecture (où elles permettent de voir des designs complexes, procurant de nouvelles perspectives créatives). Appliquées à la formation, elles fournissent du contenu personnalisé aux apprenants, pour un apprentissage plus interactif et adaptatif, aussi bien dans le champ des technologies au cœur de certaines plateformes de formation (pour procurer un contenu adapté aux besoins des apprenants) que dans celui des outils auteurs (création quasi instantanée de contenu e-learning sur la base d’un prompt ou d’un corpus de sources). 

Les IA génératives, par leur fiabilité technique, permettent d’exploiter plus de données que n’importe quel être humain, avec une rapidité d’exécution et une précision qui en font un outil précieux à utiliser en formation.

La fiabilité des IA génératives : limites et risques associés

Cependant, ne pas confondre quantitatif et qualitatif : les indéniables avantages des IA génératives ne doivent pas nous faire oublier leurs limites ni les risques pris à les utiliser.

Certes capable de générer des informations sur presque tous les sujets, l’IA s'appuie toutefois sur un corpus de données et de contenus non qualifiés : informations erronées, dépassées, « fake news », etc. Le problème est de taille : les résultats produits par une IA générative sont parfois faux ; les réponses de ChatGPT doivent être maniés avec des pincettes, si précis semblent-ils.

Outre la qualité interrogeable des sources, le fonctionnement inductif et probabiliste des algorithmes est aussi en cause. En effet, l’IA se comporte comme un perroquet : incapable de comprendre réellement le sens des mots, elle se contente de copier le style et la structure des phrases en sélectionnant les mots les plus probables. Or, le plus probable n’est pas forcément vrai ! Les hallucinations algorithmiques débouchent sur un taux de résultats erroné de 30 % (ChatGPT)… Ce n’est pas rien ! On se souviendra de la mésaventure d’un avocat radié du Barreau de New York pour avoir cru bon de rédiger sa plaidoirie à l’aide de ChatGPT sans vérifier la véracité des jurisprudences utilisées par l’IA. On n’oubliera pas, non plus, les biais de l’IA résultant de la façon dont elle a été entraînée et habilitée à répondre, en particulier sur des terrains sensibles…

Deux pistes pour une utilisation raisonnée des productions des IA génératives

Pour que l’IA puisse devenir un assistant pertinent dont on aura réduit les risques d’hallucinations et de faux, deux pistes restent à explorer.

Puisqu’un des facteurs de la génération de « faux véridiques » relève de la véracité et de la qualification des sources, il vaut mieux privilégier les IA utilisant des corpus de données définis, à l’instar d’entreprises (par exemple, Safran, L’Oréal ou Axa) disposant déjà de leur propre GPT interne. D’autres entreprises y viennent : MBDA, Thales… Ces IA d’entreprise ou GPT internes produiront plus probablement des résultats pertinents. Mais, nous n’en sommes pas toujours protégés des hallucinations liées à la production probabiliste de résultats.

Seconde piste : puisqu’il est impossible d’obtenir des résultats « absolument » vrais, vigilance et sens critique doivent fortement être mobilisés dans l’usage des IA génératives. Ne rien prendre pour exact, sans qu’aient été préalablement recoupées et analysée les sources : c’est à l’Humain de décider de la véracité des réponses fournies par les IA génératives. Douter, ne considérer comme vrai que ce qui est certain. Cette posture requiert du temps, une éducation, un effort véritable (nous y reviendrons dans le dernier opus de cette série d’articles). Descartes reste plus que jamais d’actualité !

Déjà parus :

5 mythes de l’Intelligence Artificielle (en formation, comme ailleurs)

L’IA : destruction créatrice des métiers de formation ?

L’IA : pour tous ? Sous réserve…

Les IA génératives en formation : il faudrait toutes les tester !

ARTICLES RÉCENTS DANS LA MÊME RUBRIQUE | ia générative
L’IA : école de paresse pour la fonction formation ? •SUITE L’IA : la vérité si elle ment ! •SUITE
La gestion unifiée de la formation et des compétences : plus que jamais impérative •SUITE Les IA génératives en formation : il faudrait toutes les tester ! •SUITE
L’IA : pour tous ? Sous réserve… •SUITE Les conversations simulées à base d’IA pour confronter et valider les savoirs •SUITE
Intelligence Artificielle et Big Data dans la formation : pour le meilleur et… pour le pire ! •SUITE Au-delà du "Self Learning" et du "Learning on demand" propulsé par l'IA… •SUITE
L’IA : destruction créatrice des métiers de formation ? •SUITE L’Intelligence Artificielle transforme la formation asynchrone : testé et approuvé par MBDA Group ! •SUITE
page précédente retour à l'accueil tous les articles
À LIRE CETTE SEMAINE
L’inclusion des personnes en situation de handicap passe... •SUITE
Apple Vision Pro : quel impact sur la formation ? •SUITE
Moodle ? Le village à visiter ! •SUITE
Les priorités du Digital Learning à l’horizon 2024-2025 •SUITE
Réinventer la formation en entreprise en développant... •SUITE
Quand les « micro credentials » viennent dynamiser les... •SUITE
OFFRES D'EMPLOI
Directeur/Directrice de l'Education
EDUNAO
Business Developer digital learning
INGENIUM DIGITAL LEARNING
ILS INFORMENT
ISTF : ISTF sera présent au salon eLearning Expo du 19 au 21 mars 2024
EXPERQUIZ : Du nouveau sur ExperQuiz !
PROCHAINS ÉVÉNEMENTS
Digitalisez les process administratifs de vos formations
29 FÉVRIER 2024 / ISTF
Deux scénarios pratiques pour développer la compétence de vos équipes !
07 MARS 2024 / XPERTEAM
LES PLUS LUS
Évaluer et cartographier les compétences : l’endossement,... •SUITE
L’IA : pour tous ? Sous réserve… •SUITE
Les IA génératives en formation : il faudrait toutes les... •SUITE
Vivement demain ! •SUITE
Quel avenir pour les technologies numériques appliquées à... •SUITE
E-learning Boulevard : Simplifiez vous la recherche de... •SUITE
• SUIVRE ELL
INSCRIPTION NEWSLETTER CONTACTEZ NOUS PUBLIEZ OFFRE D'EMPLOI PUBLIEZ ACTUALITÉ MENTIONS LÉGALES CENTRE DE PRÉFÉRENCES
www.e-learning-letter.com - © copyright e-learning Media 2024 - tous droits réservés - déclaration CNIL n°1717089 - email : informations@e-learning-letter.com - création : Fair Media ®