Le paradoxe de l'IA : potentiel extraordinaire et erreurs grossières
Dans l'actualité technologique récente, Google I/O a présenté un assistant IA capable de voir et d'entendre le monde, tandis qu'OpenAI a lancé un chatbot semblable à Her. Microsoft devrait dévoiler ses propres nouvelles innovations en matière d'IA et Apple viens de la faire grâce à son partenariat avec OpenAI. Le message est clair : l'IA n'est plus un concept futuriste, elle est bien là et elle redéfinie notre réalité. l’IA, selon ses apôtres, promet des changements monumentaux bien supérieurs à la révolution industrielle ou à l'avènement d'Internet. Ces avancées passent de plus en plus rapidement des laboratoires de recherche aux appareils quotidiens des utilisateurs non spécialistes, promettant commodité et opportunités économiques. Mais tout n’est pas parfait …
L'un des problèmes majeurs qui affectent l'IA est sa tendance à "halluciner", un terme utilisé pour décrire la propension de l'IA à générer des informations fausses ou trompeuses. Un article savoureux intitulé "ChatGPT is bullshit", publié par des chercheurs de l'université de Glasgow, propose que le terme "hallucinations" soit remplacé par "bullshit", et tout ceci est tout à fait scientifique. En psychologie, l'hallucination est définie comme le fait de voir ou de percevoir quelque chose qui n'existe pas. Or, les grands modèles de langage ne voient ni ne perçoivent rien. Lorsqu’ils racontent des fadaises, « leur inexactitude n'est pas due à une perception erronée ou à une hallucination. Ils racontent simplement des conneries. »
Reprenant les travaux du philosophe Harry Frankfurt dans On Bullshit, les chercheurs de Glasgow s’appuient sur une définition du bullshit comme étant « un énoncé produit par un locuteur indifférent à la vérité de l'énoncé ». Le bullshit se divise alors en deux catégories : le bullshit « dur », prononcé avec une intention d'induire en erreur, et le bullshit « mou », prononcé sans intention de nuire. Pour les chercheurs, la conclusion est sans appel, plus qu’un hallucinateur heureux sous substances hallucinogènes, « ChatGPT et ses comparses sont au minimum un bullshitter doux ».
Ces erreurs et ces "conneries" reflètent une réalité troublante : malgré les avancées technologiques, l'IA peine à fournir des informations précises (pour rappel, les IA génératives fournissent la réponse la plus probable en totale indépendance de ce qui pourrait être juste). Des entreprises comme Google et OpenAI incluent des avertissements rappelant aux utilisateurs de vérifier les informations générées par l'IA. Cette approche montre une acceptation des limitations actuelles de l'IA plutôt qu'un engagement à les résoudre.
Le PDG d'OpenAI, Sam Altman, a défendu ces inexactitudes, suggérant que viser une précision de 100% diminuerait la "magie" de l'IA. Cette perspective privilégie la nouveauté de l'IA au détriment de sa fiabilité, ce qui est problématique pour les utilisateurs non avertis qui comptent sur ces outils pour des informations et des conseils précis. Evidemment une connaissance ces faiblesses permet de minimiser le risque d’hallucination de façon considérable mais dans tous les cas, il faut vérifier. L’hallucination est aussi très pratique pour certains exercices créatifs.
Le développement rapide de l'IA est certes magique, mais cette magie est entachée par ses erreurs fréquentes. L'état actuel de la technologie IA nécessite des améliorations significatives en matière de précision. À mesure que l'IA continue d'évoluer, il est crucial de résoudre ses défauts fondamentaux et cela passera certainement par de nouveaux algorithmes. Tout en admirant les innovations technologiques, nous devons exiger que les systèmes d'IA priorisent la précision pour vraiment améliorer nos vies. Sans cet engagement, la révolution de l'IA risque d'être un exercice de célébration de la médiocrité plutôt que d'atteindre des progrès significatifs sauf pour des utilisateurs avertis qui sauront tirer leur épingle du jeu.
Les tics de langage des IA génératives
Les IA génératives comme ChatGPT ont tendance à utiliser de façon récurrente certains mots ou expressions. Parfois, c’est tellement fréquent qu’ils peuvent être assimilés à des "tics de langage". Nous sommes loin des “en fait”, “du coup”, “en vrai” bien humain.
Le chercheur Fareed Khan a répertorié une liste de plus de 70 mots dont l'usage a explosé depuis l'apparition de ChatGPT, avec une augmentation de +654% pour "delve" (approfondir, explorer en profondeur) dans les publications scientifiques. D'autres mots comme "intricacies" (complexités), "exemplify" (illustrer) ou "culmination" (point culminant) sont également devenus très courants dans les textes générés par ChatGPT.
Bien que ces tics de langage puissent sembler anodins, ils soulèvent des questions sur la capacité des IA génératives à produire du contenu véritablement naturel et diversifié. Des efforts sont en cours pour développer des techniques permettant de détecter et de corriger ces biais linguistiques, afin d'améliorer la qualité et l'authenticité des textes générés par les IA. Voici le palmarès complémentaire des augmentations :
"Intricacies" (complexités) : Augmentation de +1200% dans les publications scientifiques
"Exemplify" (illustrer) : +800%
"Culmination" (point culminant) : +700%
"Nuances" : +600%
"Paradigm" (paradigme) : +500%
"Salient" (saillant) : +400%
"Elucidate" (élucider) : +300%
Ces mots plutôt formels et littéraires semblent être privilégiés par les IA pour produire un style d'écriture soigné et académique. AU passage, leur utilisation excessive crée des tics de langage reconnaissables qui trahissent le texte comme étant généré par une IA, et comme vous pouvez le constater, son usage est en forte croissance ... Les raisons de ces tics sont multiples : biais dans les données d'entraînement, préférences internes des modèles pour un certain vocabulaire, et stratégies de génération de texte visant un style formel. Ce phénomène induit des questions légitimes sur la capacité des IA à produire un langage véritablement naturel et diversifié.
Pour contrer ce phénomène et rendre les textes générés par les IA indétectables, certains outils comme ByPassGPT proposent de les "humaniser". Voici quelques techniques utilisées :
Remplacer les mots caractéristiques des IA par des synonymes plus naturels et varier le vocabulaire.
Ajouter des erreurs mineures comme des fautes d'orthographe, de grammaire ou de syntaxe pour imiter l'écriture humaine imparfaite.
Insérer des expressions idiomatiques et un style plus familier pour rendre le texte moins formel.
Intégrer des incohérences mineures pour reproduire les légères contradictions présentes dans les écrits humains.
Modifier la structure des phrases pour casser les patterns récurrents des IA et varier la longueur des phrases.
L'objectif est évidemment de rendre le texte "100% indétectable" comme étant généré par une IA. Le hic et il y en a un gros, c’est que ces techniques posent des questions éthiques car elles visent à tromper délibérément les détecteurs d'IA et donc les humains.
A quand un label ?
Remous suite au partenariat entre Apple & OpenAI
...
