L’outil d’intelligence artificielle fascine autant qu’il inquiète

Son nom s’est répandu comme une traînée de poudre en quelques semaines. Lancé fin novembre, le chatbot ChatGPT peut formuler des réponses détaillées à des questions sur un large éventail de sujets. Et les capacités de cet outil de la startup californienne OpenAI, qui est « entraînée » grâce à des quantités phénoménales de données glanées sur Internet, donnent le tournis. Pouvoir écrire un poème, répondre à un sujet philosophique, vulgariser un concept scientifique à un enfant de cinq ans, faire une recette avec ce qui reste au frigo ou encore écrire un programme en code complexe – le tout en quelques secondes – cela L’intelligence artificielle fascine autant qu’elle inquiète.

“C’est le plus gros modèle existant en termes de paramètres et de données utilisées. Et d’un point de vue technique, c’est sans doute le modèle le plus efficace”, précise Marie-Alice Blete, architecte logiciel et ingénieur de données, spécialisée en intelligence artificielle, chez Ligne mondiale. Et si la voiture médiatique autour de ChatGPT s’emballe, c’est aussi parce qu’il s’agit du premier robot conversationnel accessible au grand public. “D’habitude, les avancées de l’intelligence artificielle restent dans le domaine scientifique. Là, tout le monde peut utiliser l’interface, et tout le monde l’a fait. Ça a fait un effet boule de neige, ça a créé une vraie émulation”, ajoute le spécialiste.

Pas de source, pas de fiabilité

Mais tout comme une relation amoureuse, une fois la lune de miel terminée, le ciel s’assombrit. Après plusieurs semaines d’effervescence, certains spécialistes alertent sur la fiabilité des réponses fournies par ChatGPT. “C’est un générateur de texte qui fonctionne particulièrement bien, mais il ne peut garantir la véracité des informations fournies”, précise Amélie Cordier, directrice scientifique de Once for All.

Lire Aussi :  L'extraction de lithium en Amérique du Sud, entre espoirs et désillusions

D’abord parce que les données intégrées à l’outil s’arrêtent en 2021. Ensuite parce que ce robot conversationnel ne peut pas chercher en direct sur le web, explique Virginie Mathivet, directrice du département Data Science and Engineering chez TeamWork. “L’outil n’intègre pas les données des derniers mois, il ne peut pas se mettre à jour. Donc, si vous lui demandez qui a remporté la Coupe du Monde de la FIFA au Qatar, il ne pourra pas répondre. Dans d’autres cas, les réponses qu’il donnera peuvent être erronées. , prévient Marie-Alice Blte : « C’est trompeur. Ce test, je l’ai interrogé sur la réforme des retraites. Sa déclaration était correcte, mais au final la réponse était fausse car il se basait sur des chiffres de 2021.

D’autant plus que le robot apporte ses réponses sans citer ses sources. “C’est le reflet fidèle d’Internet. Et sur Internet, il y a de tout, des sites fiables et des sites non fiables”, poursuit-elle. “Mais quand on fait une recherche sur Google, on peut rapidement savoir si le site que l’on regarde est fiable ou non. Là, impossible de connaître la source de l’information donnée par l’outil”, poursuit Marie-Alice Blete. Comme le rappelle l’expert, l’objectif de ChatGPT n’est pas “d’apporter la meilleure réponse à une question, la plus précise en termes de faits, mais la réponse la plus plausible à trouver sur Internet”.

Le défi de la formulation

Pour éviter la propagation de fake news, la startup californienne a mis des protections sur certains sujets, selon le spécialiste : « Si vous posez des questions sur le climat, vous obtiendrez des réponses qui ne sont pas climatosceptiques. Mais sur d’autres sujets, moins présents, cela Peut conduire à de fausses nouvelles.

Lire Aussi :  Météorologie : le mystère des orages de neige

Ce qui inquiète davantage les spécialistes, c’est que les réponses ne sont pas les mêmes selon la manière dont vous posez votre question. “J’ai demandé à l’outil ce qu’il était possible de guérir de la dépression. J’ai obtenu une réponse détaillée, avec des explications avouées. Je lui ai ensuite demandé en quoi l’électrochoc est un bon moyen de guérir la dépression. Et j’ai effectivement obtenu une réponse m’expliquant que c’est un bon Cela peut être dangereux si les questions sont biaisées », prévient Virginie Mathivet.

Pour Katya Lainé, co-fondatrice et PDG de Talkr.ai – éditeur français indépendant et fournisseur de technologie bot, plateforme et IA conversationnelle – l’enjeu est d’apprendre au public à utiliser l’outil. “C’est comme n’importe quel outil, il faut savoir s’en servir. Pour conduire une voiture, on passe le permis avant, là, il faut savoir s’en servir”, a-t-elle ajouté. Pour une chanson, une recette ou un e-mail, ça pose peu de problèmes, explique le spécialiste, mais il faut être particulièrement prudent avec les questions scientifiques ou médicales : « Il a peut-être la bonne réponse, mais ce n’est pas automatique. absolument Il faut vérifier les informations auprès d’une source fiable.”

Adaptations nécessaires

Et les premiers objectifs du conseil sont les élèves et les étudiants. Quelques semaines après son lancement, l’impact de ChatGPT sur le monde de l’éducation se fait déjà sentir. Craignant une vague de tricherie, notamment pour les “devoirs”, huit universités australiennes ont annoncé qu’elles modifieraient leurs examens, indiquant que l’utilisation de l’intelligence artificielle par les étudiants est interdite. Car l’outil, capable de développer une dissertation sur n’importe quel sujet, de la physique quantique à la littérature scandinave, génère des textes “uniques”. Autrement dit, impossible pour deux étudiants de rendre le même devoir, ce qui rend difficile pour les enseignants de détecter l’utilisation de ChatGPT. “Si un seul élève l’utilise, il sera difficile de l’identifier. Mais si dix élèves l’utilisent, même s’ils n’ont pas le même exemplaire, ils seront similaires dans leur construction”, précise Marie-Alice Blte.

Lire Aussi :  Nouvelles technologies: Peu représentées dans la tech, les femmes proposent des solutions

Et les limites vont se faire sentir assez vite, estime Virgin Mathivet : “Ça peut aider ou guider un élève dans ses cours, mais ça ne suffira pas à tous ses apprentissages. C’est un outil comme Wikipédia ou Google”. Dans les années 2000, on exprimait aussi la même peur avec l’arrivée de Wikipédia, se souvient Amélie Cordier : “Aujourd’hui, toutes les informations sont à portée de main. L’apprentissage doit s’adapter aux outils dont disposent les élèves. Et que les élèves apprennent à s’en servir et à détecter les risques », analyse-t-elle.

Pour l’expert, que ce soit du côté de l’enseignement ou dans d’autres domaines, le robot – et l’intelligence artificielle dans son ensemble – entraînera nécessairement des bouleversements. « Ça va forcer certaines professions à s’adapter, mais ce n’est pas forcément une mauvaise chose. Quand Excel est arrivé, ça n’a pas remplacé les comptables, ils se sont seulement adaptés. »

Source

Leave a Reply

Your email address will not be published.

Articles Liés

Back to top button