Les savoirs ubiquistes : la puissance de l’IA pour exploiter un énorme volume de savoirs

Avec une base de données de 300 milliards de mots (extraits du web, de Wikipédia, de nombreux livres…), ChatGPT est plus gorgé de « savoirs » que n’importe quelle autre technologie. Ces contenus ne sont plus simplement accessibles à l'instar des articles d’une encyclopédie. Les algorithmes et l'apprentissage profond permettent aux IA génératives de générer des résultats extrêmement précis et fiables : textes cohérents et informatifs, images et œuvres d'art, musique qui respecte des styles spécifiques. Les savoirs n’ont jamais été aussi ubiquistes, à portée d’un simple clic de souris !

La précision des résultats donnés par les IA suffit dans de nombreux domaines, avec parfois même plus de précision que les résultats donnés par les Humains . Par exemple, dans le domaine de l’oncologie (interprétation de radios ou analyse cancéreuse des mélanomes) ou de l’architecture (où elles permettent de voir des designs complexes, procurant de nouvelles perspectives créatives). Appliquées à la formation, elles fournissent du contenu personnalisé aux apprenants, pour un apprentissage plus interactif et adaptatif, aussi bien dans le champ des technologies au cœur de certaines plateformes de formation (pour procurer un contenu adapté aux besoins des apprenants) que dans celui des outils auteurs (création quasi instantanée de contenu e-learning sur la base d’un prompt ou d’un corpus de sources). 

Les IA génératives, par leur fiabilité technique, permettent d’exploiter plus de données que n’importe quel être humain, avec une rapidité d’exécution et une précision qui en font un outil précieux à utiliser en formation.

La fiabilité des IA génératives : limites et risques associés

Cependant, ne pas confondre quantitatif et qualitatif : les indéniables avantages des IA génératives ne doivent pas nous faire oublier leurs limites ni les risques pris à les utiliser.

Certes capable de générer des informations sur presque tous les sujets, l’IA s'appuie toutefois sur un corpus de données et de contenus non qualifiés : informations erronées, dépassées, « fake news », etc. Le problème est de taille : les résultats produits par une IA générative sont parfois faux ; les réponses de ChatGPT doivent être maniés avec des pincettes, si précis semblent-ils.

Outre la qualité interrogeable des sources, le fonctionnement inductif et probabiliste des algorithmes est aussi en cause. En effet, l’IA se comporte comme un perroquet : incapable de comprendre réellement le sens des mots, elle se contente de copier le style et la structure des phrases en sélectionnant les mots les plus probables. Or, le plus probable n’est pas forcément vrai ! Les hallucinations algorithmiques débouchent sur un taux de résultats erroné de 30 % (ChatGPT)… Ce n’est pas rien ! On se souviendra de la mésaventure d’un avocat radié du Barreau de New York pour avoir cru bon de rédiger sa plaidoirie à l’aide de ChatGPT sans vérifier la véracité des jurisprudences utilisées par l’IA. On n’oubliera pas, non plus, les biais de l’IA résultant de la façon dont elle a été entraînée et habilitée à répondre, en particulier sur des terrains sensibles…

Deux pistes pour une utilisation raisonnée des productions des IA génératives

Pour que l’IA puisse devenir un assistant pertinent dont on aura réduit les risques d’hallucinations et de faux, deux pistes restent à explorer.

Puisqu’un des facteurs de la génération de « faux véridiques » relève de la véracité et de la qualification des sources, il vaut mieux privilégier les IA utilisant des corpus de données définis, à l’instar d’entreprises (par exemple, Safran, L’Oréal ou Axa) disposant déjà de leur propre GPT interne. D’autres entreprises y viennent : MBDA, Thales… Ces IA d’entreprise ou GPT internes produiront plus probablement des résultats pertinents. Mais, nous n’en sommes pas toujours protégés des hallucinations liées à la production probabiliste de résultats.

Seconde piste : puisqu’il est impossible d’obtenir des résultats « absolument » vrais, vigilance et sens critique doivent fortement être mobilisés dans l’usage des IA génératives. Ne rien prendre pour exact, sans qu’aient été préalablement recoupées et analysée les sources : c’est à l’Humain de décider de la véracité des réponses fournies par les IA génératives. Douter, ne considérer comme vrai que ce qui est certain. Cette posture requiert du temps, une éducation, un effort véritable (nous y reviendrons dans le dernier opus de cette série d’articles). Descartes reste plus que jamais d’actualité !

Déjà parus :

5 mythes de l’Intelligence Artificielle (en formation, comme ailleurs)

L’IA : destruction créatrice des métiers de formation ?

L’IA : pour tous ? Sous réserve…

Les IA génératives en formation : il faudrait toutes les tester !