Quels sont les impacts des grands modèles de langage (LLM) et leurs hallucinations sur les monopoles du savoir ? 

 

 Ecrit par : Emma Crettenand, Mike Gutierrez, Sophia Ouhnana, Antoine Barone

 L’émergence de l’IA

 L’IA n’est pas du tout un sujet nouveau.

Dès les années 1950, Alan Turing a expliqué comment détecter l’intelligence dans les machines (test de Turing), ce qui a suscité les premières réflexions sur le concept.

Cependant, son utilisation est de plus en plus répandue depuis le milieu des années 2010 avec l’expansion des processus d’apprentissage automatique qui ont été favorisés par le développement d’un matériel, d’une architecture, de techniques et de données plus puissants disponibles pour l’entraînement à l’IA.

Alexa, Siri, les chatbots ainsi que les algorithmes de recommandation de contenu ou de publicité sont des formes d’IA.

En raison de son succès, l’IA générative, qui peut générer des informations en utilisant du texte, de l’audio ou des images par exemple, gagne une popularité exponentielle.

Les GAFA (Google, Apple, Facebook, Amazon) ne sont pas en reste avec cette nouvelle technologie. Dans ces grands groupes, l’IA est utilisée pour développer des technologies avancées telles que les moteurs de recherche alimentés par des grands modèles de langage (LLM), améliorant ainsi la pertinence des résultats et la personnalisation des expériences en ligne. L’innovation demeure la clé de leur succès, la richesse de données dont ils disposent étant une conséquence de cette innovation, plutôt qu’une cause première. Les GAFA n’ont pas acquis leur statut de géants simplement en accumulant d’énormes volumes de données. Leur ascension fulgurante résulte de leur capacité à exceller à l’échelle mondiale.

  • Google a surpassé Yahoo! dans l’algorithme de recherche sur internet.
  • Apple a offert la meilleure expérience utilisateur.
  • Facebook a créé une nouvelle forme de lien social.
  • Amazon a révolutionné le modèle de vente au détail et le service client en ligne.

Le véritable atout des géants du net réside non seulement dans le volume de données, mais surtout dans leur capacité financière à investir massivement, notamment dans l’IA, où la qualité des data scientists façonnant et éduquant les intelligences artificielles est cruciale.

Prise de conscience du grand public

L’arrivée de ChatGPT déclenche une véritable ruée vers l’or dans le secteur de l’IA. Accompagnée d’un gain d’intérêt par le grand public sans précédent. Ça amène énormément de discussion autour du sujet mais il est important de garder en tête que l’IA n’a pas encore de conscience au sens d’un être vivant. Evidemment, cela peut être amené à changer dans un futur plus ou moins proche. 

ChatGPT a établi un record en tant qu’application la plus rapide à atteindre 100 millions d’utilisateurs actifs, atteignant ce cap en seulement deux mois. OpenAI projette que ChatGPT rapportera 200 millions de dollars cette année et 1 milliard de dollars en 2024.

C’est ainsi qu’apparaissent ses nombreux concurrents tels que Bard de Google, Bing Chat, Perplexity, etc.

Certains croient dans la promesse que l’IA puisse développer une éthique qui permettra aux chercheurs de trouver une vérité impartiale pour le bien de l’humanité. D’autres ne sont pas du tout d’accord : <<Ce saint apathique est cependant cognitivement faillible : il est sujet à des erreurs 

Malheureusement, nous voyons déjà apparaître les failles, les problèmes et autres inquiétudes qu’apporte l’IA. Cependant, cette nouvelle technologie apporte son lot d’avantages non négligeables. Ces avantages et inconvénients ont besoin d‘être connus au mieux pour que les utilisateurs des outils qui utilisent l’IA  aient toutes les cartes en mains dans le cadre de l’utilisation de ces outils.

Pour trouver les défauts et les qualités d’une personne, quoi de mieux que de lui poser la question directement ? Il nous a donc paru intéressant de questionner ChatGPT 3.5 pour analyser les informations rendues et constater si celles-ci collent à nos recherches. 

En synthétisé, voici les points forts que ChatGPT nous propose :

  • L’aide à la production grâce à la capacité de calcul de l’IA et la réalisation rapide de tâches peu complexes.
  • Sa capacité d’apprentissage qui lui permet de s’améliorer constamment et de s’adapter à de nouveaux scénarios sans l’intervention humaine.
  • Enfin, il aborde son application dans le domaine médical et sa capacité d’assistant virtuel, mais ces points se retrouvent déjà dans l’aide à la production mentionnée en premier.

En ce qui concerne ses points faibles, ChatGPT nous en propose bien plus, ce qui peut déjà nous donner un indice sur les inquiétudes du monde face à l’IA :

  • Les biais, l’IA est en effet victime de biais par un manque de contexte ou un contexte mal interprété. Cela mène à des erreurs et des hallucinations. Point sur lequel nous reviendrons lors du développement.
  • Un manque de créativité par rapport à la capacité humaine qui voit l’IA être encore complètement dépassée dans sa capacité à résoudre une variété de tâches complexes.
  • La sécurité est aussi un point soulevé avec des données pas toujours bien sécurisées.
  • L’IA pourrait aussi avoir un effet de dépendance technologique dont nous ne pourrions pas nous passer avec en plus de cela, un coup en développement très élevé. Cependant ce point est mitigé car c’est le cas pour une grande majorité des anciennes technologies découvertes au cours de l’histoire qui jouent aujourd’hui un rôle dont nous pouvons difficilement nous passer.
  • Enfin, ChatGPT soulève le manque d’éthique et de réglementation autour de cette nouvelle technologie qui pourrait amener et amène déjà à des abus.

Loin de nous proposer encore un scénario à la « Terminator », les résultats que nous retourne ChatGPT collent sans surprise avec les articles qui abordent le sujet : Les 20 menaces les plus dangereuses de l’intelligence artificielle et Intelligence artificielle : opportunités et risques, etc.

Bien entendu, cette émulsion entourant l’intelligence artificielle suscite l’imagination de nombreux artistes, auteurs et cinéastes.

Dans le cas de l’IA, sa capacité simulée d’imagination conduit à des hallucinations, ce qui n’est pas exactement un défaut mais une caractéristique qui peut être utile dans la création d’art de l’IA mais qui peut être très défectueuse lorsqu’elle est employée à d’autres fins.

Quel sera l’effet de l’IA lorsqu’elle sera intégrée dans des systèmes de moteurs de recherche à caractère monopolistique ?

Les GAFA et l’IA

Dans le contexte des GAFA, ces entreprises exercent un contrôle assez centralisé sur l’accès à la connaissance. Par exemple, Google concentre 90% des recherches  

 

Image tirée du livre :  Le Nouveau Western de Olivier Bomsel et Rémi Devaux (2022)

Les résultats de recherche qui comportent des publicités, du contenu sponsorisé et des liens souvent consultés (comme Wikipédia dans le cas des recherches Google) apparaissent en tête de liste.

En raison du mode de fonctionnement du LLM, l’IA, comme ChatGPT, apprend en récupérant de grandes quantités de données sur des sites web tels que wikipedia, commoncrawl ainsi que des livres, y compris ceux qui n’ont jamais été publiés.

Le type d’hallucinations le plus courant est la contradiction par laquelle l’IA répond à une requête avec des phrases qui s’opposent les unes des autres. Il peut également s’agir d’une contradiction directe à la demande de l’utilisateur où l’IA fait le contraire de ce qui lui est demandé. Des contractions factuelles ainsi que des hallucinations absurdes peuvent se produire ce qui pourrait poser problème, par exemple :

  • Sydney de Microsoft a admis être tombé amoureux des utilisateurs et avoir espionné les employés de Bing.
  • Bard de Google a affirmé que le télescope spatial James Webb avait pris les premières images au monde d’une exoplanète n’appartenant pas à notre système solaire.
  • LLM Galactica de Meta a fourni à ses utilisateurs des informations erronées et un faux article.

Cela peut être dû en partie à la qualité des données, étant donné que les LLM se basent sur le matériel avec lequel ils ont été formés, ce n’est pas toujours des ressources exactes.

Dans les cas où les données sont exactes mais où la demande peut être nuancée ou complexe, les LLM doivent généraliser pour faire une affirmation prédictive basée sur les données disponibles sans être en mesure de vérifier leur pertinence ni leur validité.

Image tirée du livre- Rebooting AI : Building Artificial Intelligence We Can Trust (2019) – Gary Marcus and Ernest Davis

Exemple d’inférences qu’une IA peut faire au sujet des restaurants

Les réglages peuvent être réduits (nous parlons ici de température) pour diminuer les hallucinations. L’utilisateur doit également apprendre à donner des instructions claires et précises au système.

Dans un sens, l’utilisateur forme l’IA autant que l’IA le forme. L’usager peut développer une certaine pensée critique s’il est conscient que l’IA peut halluciner et être non fiable. Ceci incite à l’utilisateur responsable de prendre de bonnes habitudes en matière de recherche d’information.

Cela peut être prometteur, les monopoles de la connaissance peuvent être remis en question par la création d’une base d’utilisateurs plus engagés et critiques.

L’infrastructure sur laquelle repose l’IA est très dépendante des GAFA ainsi que d’autres grands acteurs tels que Nvidia, leader des fabricants des GPU . L’utilisation de l’IA accroît les masses de données accumulées par les GAFA et est basée sur ces dernières.

L’IA nécessite une quantité incroyable d’énergie et d’argent pour fonctionner : <<l’économie digitale, qui regroupe l’univers internet, les réseaux, les crypto-monnaies, la technologie blockchain et les centres de stockage pèsera d’ici 2020 pour 20% dans la consommation électrique mondiale ! >>. Avec 10% de croissance de besoin énergétique par année, Internet va bientôt être le plus grand consommateur d’électricité sur la planète.

Le coût de fonctionnement de ChatGPT est estimé d’aller jusqu’à 700 000 $ USD par jour. C’est probablement pour cette raison qu’il est hébergé sur le cloud Azure de Microsoft.

Néanmoins, serait-il possible pour les utilisateurs d’utiliser l’IA pour la décentraliser des fondations monopolistiques dont elle est issue ?



Citer ce billet
Benoît Epron (2023, 5 décembre). Quels sont les impacts des grands modèles de langage (LLM) et leurs hallucinations sur les monopoles du savoir ? . Architecture de l'Information. Consulté le 24 mai 2024, à l’adresse https://doi.org/10.58079/be2g

Vous aimerez aussi...

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search