Hallucinations et IA : qu’est-ce qu’une hallucination et comment la prévenir ?

L’intelligence artificielle (IA) occupe une place de plus en plus importante dans nos vies, avec des applications allant de la santé à la conduite autonome, de la traduction automatique à l’assistance virtuelle, par exemple dans les grands modèles de langage tels que ChatGPT.

Cependant, comme toute technologie avancée, l’IA peut rencontrer certains problèmes, notamment le phénomène d’hallucination, c’est-à-dire la génération de résultats qui véhiculent de fausses informations.

Dans cet article, nous examinerons ce que sont les hallucinations dans l’IA, comment elles sont générées, comment s’en défendre et quelles sont les techniques possibles pour les éviter.

 

1. Que sont les hallucinations dans l’IA ?

Les hallucinations dans l’IA font référence à des situations dans lesquelles un système d’intelligence artificielle produit des résultats qui ne sont pas basés sur la réalité ou la vérité objective. En d’autres termes, l’IA génère des informations qui ne correspondent pas à la réalité ou qui ne sont pas cohérentes avec les données d’entrée fournies.

Ce phénomène peut se produire dans différents types de systèmes d’intelligence artificielle, y compris ceux basés sur des réseaux neuronaux artificiels et des algorithmes d’apprentissage automatique.

Les hallucinations dans l’IA peuvent se manifester sous diverses formes, notamment

dans les systèmes de reconnaissance d’images, l’identification d’objets qui ne sont pas présents dans la scène ou la génération d’objets qui ne correspondent pas aux caractéristiques réelles ;
dans les systèmes d’assistance virtuelle tels que LLM, répondre à des questions en fournissant des informations complètement erronées ou générer des réponses qui ne sont pas basées sur des données réelles ;

2. Comment apparaissent-elles et pourquoi l’IA peut-elle générer des hallucinations ?

Les hallucinations dans l’IA peuvent avoir plusieurs causes. L’une des principales est la complexité et la profondeur excessives des réseaux neuronaux utilisés pour former l’IA. Ces réseaux neuronaux peuvent apprendre des modèles complexes et abstraits à partir des données d’entraînement, mais peuvent parfois mal interpréter les données ou extraire des informations irréalistes. Cela peut conduire à la production d’hallucinations dans les résultats de l’IA.

Une autre cause d’hallucinations peut être le manque de données d’entraînement représentatives. Si un système d’IA n’a pas été formé sur un large éventail de données réalistes et représentatives, il risque de ne pas comprendre correctement le contexte et de produire des résultats qui ne correspondent pas à la réalité.

Toutefois, les hallucinations peuvent également être générées par des problèmes inhérents au modèle d’apprentissage de l’IA ou par d’autres complications pouvant survenir au cours du processus de traitement de l’information.

3. Comment se défendre contre les hallucinations de l’IA ?

Pour se prémunir contre les hallucinations de l’IA, il est essentiel d’adopter une méthodologie de vérification et de contrôle des résultats obtenus afin de garantir la sécurité dans l’utilisation de l’IA.

Avant tout, il est essentiel d’utiliser des données d’entraînement précises, représentatives et diversifiées pour l’IA, afin qu’elle puisse apprendre à comprendre le contexte et produire des résultats précis (en particulier pour ceux qui utilisent l’intelligence artificielle du point de vue de l’analyse des données). Cela peut contribuer à réduire la probabilité que l’IA génère des hallucinations.

Deuxièmement, une validation et une vérification rigoureuses des résultats de l’intelligence artificielle sont essentielles. Nous le répétons si besoin est : l’IA ne peut jamais être laissée à elle-même. Les systèmes d’IA doivent être soumis à des tests approfondis et à un examen humain minutieux afin d’identifier les hallucinations et de les corriger.

Dans le cas spécifique du dictionnaire numérique, au sein de notre marque ihealthyou, nous avons testé à plusieurs reprises les résultats générés par des IA génératives telles que les LLM (ChatGPT, Bard, Perplexity, Bing, …) et en aucun cas les résultats générés n’ont pu être considérés comme parfaitement corrects.

L’autonomie totale de ces outils en termes de génération de résultats corrects, sûrs et utilisables est encore loin d’être atteinte.
L’intervention humaine peut jouer un rôle crucial pour garantir la cohérence et la véracité des résultats de l’IA, comme nous l’avons démontré et décrit en détail dans notre guide avancé sur le ChatGPT et l’ingénierie d’aide.

Garçon debout devant un écran avec un ordinateur sur diffusion stable, service d’IA générative bien connu.

4. Comment savoir si un résultat est erroné ?

Il est complexe de déterminer si un résultat est généré par une hallucination. Par nature, en effet, une hallucination est un problème dont l’IA n’est pas consciente, de sorte qu’il lui est difficile d’en identifier la présence ultérieurement. Le rôle de l’opérateur humain et d’une chaîne de contrôle et d’audit appropriée devient donc crucial.

Les symptômes d’une hallucination peuvent être une incohérence généralisée du contexte, ou la présence d’informations qui vont à l’encontre des connaissances objectives établies, mais aussi un manque soudain de précision dans les détails de la sortie. Il s’agit là d’indices qui peuvent se dissimuler efficacement aux yeux les moins attentifs. Avec le temps, il est possible de développer une certaine sensibilité personnelle capable de déceler des indices d’hallucinations de la part de l’IA, mais certainement pas une simple « impulsion ».

5. Comment se protéger des hallucinations de l’IA ?

La technique la plus utile pour comprendre si un résultat est entaché d’hallucination pourrait consister à comparer les réponses de l’IA avec celles d’autres modèles ou d’experts humains.

Par exemple, à partir d’une sortie générée par Chat GPT, il est judicieux d’essayer de vérifier dans d’autres LLM – NB : ils ne doivent pas être basés sur des API GPT (comme God Mode ou AgentGPT) – tels que Bard et Perplexity pour comparer les résultats de la même invite, ainsi que pour valider les informations reçues.

La validation d’une sortie peut être effectuée en exécutant une invite similaire à la suivante :

Vous êtes un expert en [SUJET TRAITÉ] avec plus de 15 ans d’expérience en tant que professeur dans certaines des plus grandes universités du monde.

Lisez le texte suivant et validez son contenu en signalant :
– les erreurs d’un point de vue technique (non linguistique)
– erreurs d’un point de vue scientifique
– erreurs conceptuelles
– hallucinations
– phrases ou discours hors contexte

Voici le texte : [TEXTE]

Il existe également des techniques spécifiques pour réduire les hallucinations dans l’IA, notamment l’utilisation d’approches d’apprentissage multitâches ou de techniques d’apprentissage fédéré (nous dérivons ces concepts de notions moyennement avancées d’apprentissage automatique) qui peuvent aider à améliorer la capacité de l’IA à comprendre le contexte et à produire des résultats précis.

Il convient également de prêter attention à une bonne « prévention ».

La génération d’invites détaillées et de qualité réduit considérablement le risque d’hallucinations. La logique inhérente est celle qui sous-tend des techniques telles que la chaîne de pensée ou l’arbre de pensée, c’est-à-dire réduire le risque d’erreurs en permettant au modèle de raisonner de manière plus schématique et plus prudente sur les données d’entrée (messages-guides).

6. Conclusions

À l’avenir, le scénario changera certainement, mais aujourd’hui, l’interaction humaine continue de jouer un rôle clé dans l’atténuation des hallucinations de l’IA.

Aujourd’hui, les principaux développeurs d’IA travaillent constamment à l’élaboration de techniques permettant d’éviter les hallucinations dans les systèmes d’IA, conscients du risque qu’elles comportent. Les solutions possibles identifiées jusqu’à présent pourraient inclure

la mise en œuvre de mécanismes de contrôle et de régulation de la sortie de l’IA (encore à finaliser) ;
l’utilisation d’architectures de réseaux neuronaux plus simples et plus interprétables (afin de remonter plus facilement à l’origine de l’erreur pour la corriger et améliorer le modèle) ;
l’introduction de méthodes de formation qui mettent l’accent sur la responsabilité éthique et la cohérence des résultats.
Il y a encore du travail à faire et nous vous tiendrons au courant de l’évolution de ce dossier. Pour l’instant, nous pouvons continuer à sourire lorsque nous lisons que les machines n’ont plus besoin des humains pour être totalement autonomes… 🙂