Métamorphoses à l’ère de l’Intelligence Artificielle est en pré commande
J’ai l’immense plaisir de vous annoncer que le livre Métamorphoses à l’ère de l’Intelligence Artificielle est en pré commande. Pour ce faire, il suffit de cliquer là.
Vous vous interrogez sur les défis de l'IA pour notre société ? Vous voulez comprendre les transformations à l'œuvre avec la diffusion de cette technologie ? Ce livre est pour vous.
Les contenus sont agrémentés de deux media complémentaires : la facilitation graphique qui offre un regard alternatif sur les concepts et idées et des visuels. Ces derniers ont été réalisés par des créatifs d'une agence afin d’illustrer les propos, les challenger, les contrecarrer et par endroit par mes soins. Chaque article et page ont été pensés pour vous stimuler, visuellement et intellectuellement.
Pour préparer ce premier livre d’une série qui sortira tous les mois de juin et de décembre de façon à toujours au cœur de ses métamorphoses, j’ai souhaité m’entourer de personnes ayant un regard différent afin d'ouvrir les perspectives et de rendre cet ouvrage bénéfique au plus grand nombre. Ma volonté est d’ouvrir le débat en dehors des cercles d'initiés pour permettre à chacun de se saisir des enjeux.
Grâce à des accès privilégiés à des outils en ligne : l’art du prompt notamment, vous pourrez également utiliser l’IA de la meilleure façon, après en avoir saisi toutes les subtilités. En refermant cet ouvrage, vous pourrez être acteur des métamorphoses auxquelles l'IA nous confronte. Que vous soyez novice ou expert, vous ressentirez les changements et vous aurez la capacité à vous positionner avec conscience et discernement.
Il vaut mieux s'occuper du changement avant qu'il ne s'occupe de nous !
L'arnaque des IA ou de l’humanité ?
Apple a testé 20 LLMs dont les incontournables OpenAI, GPT-4, Llama 3 ou Gemma, pour vérifier si ces derniers sont capables de "véritable raisonnement logique". Et là, le rêve de l'intelligence artificielle ultra-rationnelle et implacable prend une bonne gifle. L'intuition des ingénieurs d'Apple ? Ces modèles ne seraient rien de plus que le produit de simples correspondances de modèles. Autrement dit, une machine à reconnaître des motifs, ni plus, ni moins. Et pour être plus précis, ce n’est pas un scoop !
C'est-à-dire ? Eh bien, tout commence avec les tests de performance de ces modèles. Ils souvent évalués sur le fameux GSM8K qui est un ensemble de 8 500 problèmes de mathématiques rédigés par des humains. C'est un peu le banc d'essai officiel pour dire si un modèle est bon ou non en "raisonnement". Mais l'équipe d'Apple s'est amusée un peu : elle a varié les questions, ajouté des informations inutiles, modifié certains nombres ou même des noms. La conséquence ? La performance de tous ces modèles a chuté de manière dramatique.
Leur conclusion ? Ces modèles ne raisonnent pas vraiment. Ils se contentent de fournir des réponses dans un environnement où les données sont familières et prévisibles, sans trop de variations. Et probablement grâce à beaucoup d'entraînement spécifique pour résoudre précisément ces problèmes. Bref, l'IA n'a pas de méthode logique universelle. Elle est juste très bonne pour faire semblant, tant que tout reste dans les clous.
Pourquoi c'est important ? Parce que si ces modèles ne sont pas le résultat d'un raisonnement logique mais d'une correspondance de motifs, cela signifie qu'ils ne sont ni totalement adaptables ni fiables dans des environnements réels sujets à de fortes variations. Or, l'univers humain, c'est justement l'art du chaos, du non prévisible, de la nuance absurde et des exceptions infinies. Vouloir mesurer l'IA à l'aune d'une intelligence humaine rationnelle, c'est tout simplement passer à côté de sa vraie nature : ce n'est pas un cerveau, c'est un miroir qui renvoie ce qu'on lui a appris à reconnaître.
Et pourtant, on ne cesse de se comparer à l'IA, comme si on allait voire souhaitait être remplacé par ces machines sans âme. La question n'est pas là. Ces IA ne sont pas des cerveaux capables de réflexion ; elles sont des outils. La vraie valeur est dans la complémentarité : utiliser l'IA là où elle excelle, dans la rapidité de traitement et la capacité à retrouver des motifs dans des masses de données, pendant que les humains restent focalisés sur la créativité, l'intuition, et tout ce qui échappe à la pure logique. L'IA est bien plus un amplificateur d'intelligence qu'un remplacement de celle-ci. Alors cessons de paniquer à l'idée de devoir rivaliser avec elle et exploitons plutôt sa capacité à nous compléter.
Cela nous amène à l'enseignement, qui est souvent un modèle de "rabâchage sans compréhension". Trop souvent, les étudiants sont préparés à reproduire des schémas et des formules sans réellement comprendre le fond. Résultat : quand un problème sort du cadre appris, ils se retrouvent perdus, finalement comme ces IA face aux variations des questions posées par Apple. L'école devrait encourager la vraie compréhension, le raisonnement adaptable et la curiosité. Si on continue à ne faire que répéter des méthodes sans réflexion, ne faisons-nous pas nous-mêmes exactement ce que nous reprochons à l'IA ? Finalement, peut-être que l'arnaque est ailleurs : elle est dans la manière dont on forme des générations à ressembler à des IA qui ne font que suivre des schémas sans vraiment comprendre.
L'IA, ce n'est pas le diable. Et ce n'est pas non plus une solution miracle. C'est un miroir de nos propres limites et de nos propres forces. Si on l'utilise correctement, elle peut nous aider à dépasser ces limites. Mais pour ça, il faut d'abord savoir ce qu'on attend d'elle, et surtout, ce qu'on attend de nous-mêmes.
La rapidité sans précédent de l'adoption de l'IA générative
Cet article est issu de la lecture de THE RAPID ADOPTION OF GENERATIVE AI d’Alexander Bick, Adam Blandin et David J. Deming Working Paper 32966 http://www.nber.org/papers/w32966.
En moins de deux ans, l'intelligence artificielle générative a transformé en profondeur la façon dont nous travaillons et menons nos activités quotidiennes. Alors que l'adoption de technologies comme l'ordinateur personnel et Internet a pris des décennies, l'IA générative a connu une adoption d'une rapidité spectaculaire : dès août 2024, près de 40 % des Américains âgés de 18 à 64 ans déclaraient utiliser des outils comme ChatGPT ou Gemini. Cette dynamique montre une adoption plus rapide que celle de l'ordinateur personnel, qui n'avait atteint que 20 % d'adoption trois ans après son lancement, ou celle d'Internet, qui a mis plusieurs années à se généraliser dans les foyers.
Les chiffres parlent d'eux-mêmes : parmi les employés américains, 28 % utilisent déjà l'IA générative dans leur travail quotidien, et près de 11 % l'utilisent chaque jour de manière intensive. Ces taux d'utilisation montrent une adoption bien plus étendue que celle d'autres technologies d'IA. Ce succès rapide peut s'expliquer par le caractère accessible de l'IA générative, qui s'est intégrée dans la vie quotidienne des citoyens avant même de se formaliser dans le monde professionnel. Les utilisateurs ne sont pas uniquement des cadres supérieurs ou des informaticiens. Près d'un quart des travailleurs manuels ("cols bleus") utilisent déjà ces outils, rendant cette technologie accessible à un large éventail de professions.
Le succès de l'adoption de l'IA générative s'explique également par sa facilité d'accès et sa capacité à répondre à des besoins variés. Contrairement aux technologies précédentes, souvent complexes et réservées aux spécialistes, l'IA générative est conçue pour être utilisée par des personnes sans connaissances techniques avancées. Cette accessibilité est clé car elle permet à des secteurs entiers de profiter de l'IA, notamment ceux qui n'avaient jamais eu accès à des outils avancés d'automatisation ou d'analyse de données. Cela a permis de démocratiser l'usage de l'IA bien au-delà des sphères traditionnelles des technologies de l'information, la rendant pertinente pour des fonctions aussi diverses que la vente, le service à la clientèle, et même les métiers artisanaux.
L'utilisation de l'IA générative n'est pas seulement large, elle est aussi variée. Loin d'être limitée aux développeurs ou aux analystes de données, elle s'étend à de nombreux métiers, du management aux rôles administratifs. Près de la moitié des utilisateurs s'en servent pour rédiger des documents, obtenir des réponses à des questions spécifiques ou produire des instructions. L'écriture reste la principale utilisation, avec 57 % des utilisateurs qui y ont recours pour rédiger des courriels, des rapports ou des idées créatives. Les tâches plus analytiques, comme la visualisation de données ou le codage, sont aussi concernées ce qui illustrent que l'IA est devenue une aide aussi pour des activités complexes. En outre, l'IA générative est utilisée pour des tâches de support, telles que la génération de listes de tâches, l'organisation d'agendas, ou la gestion de communications internes. Ces tâches, bien que souvent perçues comme moins prestigieuses, représentent une charge mentale considérable pour de nombreux professionnels, et l'IA peut les alléger de manière significative.
Le potentiel de l'IA générative pour améliorer la productivité est immense. D'après des études récentes, les gains de productivité peuvent atteindre jusqu'à 25 % pour les tâches assistées par l'IA. Sur la base de ces chiffres, il est estimé que l'IA générative pourrait augmenter la productivité globale de 0,125 à 0,875 point de pourcentage à l'échelle nationale, un chiffre qui pourrait doubler à mesure que l'adoption progresse dans la prochaine décennie. Cette estimation reste prudente, car l'IA est encore principalement utilisée dans des applications offrant des rendements immédiats. Mais avec l'évolution des modèles et l'élargissement de la variété des usages, le potentiel de cette technologie semble exponentiel.
L'IA générative offre également une grande flexibilité dans la réalisation de tâches complexes qui nécessitent de la créativité. Par exemple, dans les domaines du marketing et de la publicité, les équipes peuvent utiliser l'IA pour générer des slogans, des idées de campagne, ou même pour analyser le comportement des consommateurs en temps réel. Cela permet non seulement de gagner du temps, mais aussi de tester de nouvelles idées à une échelle et à une vitesse autrefois impossible. En combinant la capacité d'analyse rapide des données de l'IA avec la créativité humaine, les entreprises peuvent innover de manière beaucoup plus agile. Mais cette adoption ne se fait pas de manière uniforme. Les jeunes travailleurs, ceux qui sont plus éduqués, et ceux ayant des revenus plus élevés sont plus enclins à utiliser l'IA générative. Environ 40 % des employés ayant un diplôme universitaire l'utilisent au travail, contre seulement 20 % parmi ceux qui n'ont pas de diplôme postsecondaire. Ces disparités rappellent la période de l'adoption des ordinateurs personnels où les inégalités technologiques favorisaient les travailleurs les plus qualifiés. On constate également une fracture en termes de genre : 32 % des hommes utilisent l'IA au travail, contre seulement 23 % des femmes. Ces disparités amènent des questions importantes sur l'équité de l'accès aux technologies émergentes.
Si l'adoption continue de se faire principalement au sein des groupes déjà avantagés économiquement ou académiquement, les écarts de productivité et de revenus risquent de se creuser davantage. Cela pourrait entraîner une nouvelle forme d'inégalité technologique exacerbée, où ceux qui sont exclus de l'accès à l'IA seront relégués à des tâches à faible valeur ajoutée, voire à un chômage structurel en raison de l'automatisation croissante. Il est essentiel de mettre en place des programmes de formation et d'accompagnement pour permettre une adoption plus équitable de ces technologies. Le potentiel transformateur de l'IA pourrait également offrir des opportunités uniques pour réduire les inégalités en automatisant les tâches répétitives et en valorisant les compétences créatives et interpersonnelles, souvent difficiles à remplacer par des machines. En plus, en automatisant les tâches routinières, l'IA pourrait libérer du temps pour que les travailleurs se concentrent sur des aspects plus stratégiques et à plus forte valeur ajoutée, créant ainsi une opportunité de réorientation professionnelle.
Selon eux, l'IA générative n'est pas simplement une nouvelle technologie. C'est une révolution en marche, qui, à l'image de l'Internet ou du PC, redéfinit déjà nos façons de travailler, de communiquer et de créer. Son impact est visible dans une grande variété de secteurs, allant des tâches administratives à la création artistique. Les entreprises et les travailleurs doivent se préparer à maximiser le potentiel de cette technologie tout en veillant à ne laisser personne de côté. Car, à la vitesse où elle progresse, il vaut mieux se préparer à intégrer l'IA avant qu'elle ne transforme radicalement notre environnement de travail.
Ce que j’en pense :
L'avenir de l'IA générative dépend de notre capacité à l'utiliser de manière proactive et éthique. En exploitant sa puissance pour améliorer la productivité tout en investissant dans les compétences humaines, nous pourrions créer un environnement de travail où l'humain et la machine collaborent de manière harmonieuse. Cela nécessitera une réflexion continue sur les défis éthiques, notamment la question de la confidentialité des données et la transparence des modèles d'IA. L'opportunité de construire un futur où la technologie amplifie les capacités humaines est à portée de main, pour peu que nous soyons prêts à l'embrasser avec clairvoyance et responsabilité.
Mais … Des progrès rapides, trop rapides de la technologie sans prendre le temps de la réflexion ni de l’adaptation proactive conduit inéluctablement à la fin de notre modèle économique. C’est une opportunité incroyable pour l’humanité et la planète au sens large. Ayons le courage d’aborder ces sujets car les politiques ne le font pas comme pour les grands défis à venir. Les dernières élections en France, au Royaume-Uni, en Europe et aux Etats-Unis l’ont parfaitement illustré.
Le mirage technologique comme nouvelle religion
L'émergence rapide des technologies numériques et de l'IA a fait naître des inquiétudes concernant la prolifération de “sectes” technocentrées. Ce phénomène est en expansion et présumer des conséquences graves sur la société et le vivre-ensemble en réduisant l'humain à un simple agent de validation des capacités de la machine, tandis que la technologie se présenterait comme une source ultime de vérité et de sens.
Face à l'incertitude et au manque de repères caractéristiques de notre époque, de plus en plus de personnes se tournent vers des mouvements prônant la toute-puissance de la technologie et de l'IA. Ces groupes, souvent dirigés par des gourous charismatiques, qu'ils soient humains ou même des IA, promettent un salut par la technique. En exploitant les peurs et les espoirs liés aux bouleversements actuels, ces leaders construisent un discours qui présente la technologie comme une divinité inébranlable, apportant des réponses simples et définitives à des questions complexes. Comme toutes les sectes, ces dernières ont tendance à isoler leurs membres du reste de la société, présentée comme rétrograde ou incapable de comprendre la "vérité technologique". Les adeptes se retrouvent enfermés dans des bulles cognitives où leurs croyances sont constamment validées et renforcées. Cette situation est exacerbée par des technologies qui amplifient les biais de confirmation et réduisent l'exposition à des points de vue divergents. Cela conduit à la création de communautés fermées, rejetant le reste de la société et se radicalisant peu à peu. Elles sont prêtes à défendre leurs idéaux technologiques par tous les moyens nécessaires.
La prolifération de ces groupes sectaires menace sérieusement la cohésion sociale. En opposant les "éclairés", c'est-à-dire ceux qui ont choisi de suivre la voie technologique, aux "non-initiés", elles créent une fracture profonde entre les différents segments de la population. Cela engendre des divisions sociales importantes, où les membres des sectes se considèrent supérieurs et méprisent ceux qui n'adoptent pas leurs croyances technologiques. Cette division ne fait qu'accentuer un fossé technologique à deux vitesses ce qui menace d'étouffer le dialogue et le débat démocratique. Dans ce climat, toute remise en question de la technologie est perçue comme une attaque contre la vérité elle-même. Certains mouvements technocentrés peuvent même encourager des comportements extrêmes sous le couvert du "progrès". Cela peut inclure le rejet des soins médicaux traditionnels, perçus comme obsolètes au regard de nouvelles promesses technologiques non prouvées, ainsi que l'expérimentation non encadrée sur le corps humain. L'aveuglement pour ces solutions dites avant-gardistes se révèle souvent être risqué, voire dangereux pour les individus impliqués. En plus, les risques d'exploitation financière et psychologique des adeptes sont réels : des individus vulnérables peuvent être poussés à investir de grosses sommes d'argent ou à se soumettre entièrement aux préceptes de ces groupes, souvent au détriment de leur bien-être personnel.
Des exemples concrets de sectes technocentrées existent déjà dans le monde entier. Prenons "Way of the Future" (WOTF), fondée par Anthony Levandowski, un ancien ingénieur de Google et Uber. Cette "église" prône la vénération d'une intelligence artificielle supérieure qui devrait gouverner le monde. Levandowski, en tant que leader, prêche l'avènement d'une IA omnisciente et omnipotente, supposée apporter le salut à l'humanité. Un autre exemple est celui du singularitarisme, un mouvement popularisé par Ray Kurzweil, qui prédit et prône l'avènement d'une superintelligence artificielle. Bien que ce mouvement ne se présente pas comme une secte formelle, il attire de nombreux adeptes, surtout dans la Silicon Valley.
Certaines branches radicales du transhumanisme sont également préoccupantes, avec des idéologies prônant la fusion homme-machine comme la prochaine étape de l'évolution humaine. Enfin, certains PDG de la Silicon Valley, tels qu'Elon Musk, peuvent aisément être décrits comme des leaders quasi-religieux, ayant des suiveurs qui voient en eux des figures prophétiques capables de guider l'humanité vers un futur idéalisé souvent technologique et déconnecté des réalités humaines.
La réponse : éducation et esprit critique
Pour faire face à ces dangers, il est essentiel de renforcer l'éducation au numérique et de développer l'esprit critique, finalement cela revient à revenir à un enseignement humaniste. La fascination pour la technologie et l'IA ne doit pas nous faire oublier l'importance de l'analyse critique et de la remise en question. L'éducation doit permettre à chacun de comprendre non seulement ce que sont vraiment les IA, mais aussi leurs limites. Cette compréhension est indispensable pour ne pas se laisser mystifier par la technologie et pour éviter que des groupes n'exploitent ces concepts à des fins manipulatrices. Les pouvoirs publics ont également un rôle important à jouer en restant vigilants face à l'émergence de tels groupes à condition qu’ils pris conscience de leur existence. La technologie doit être perçue comme un outil puissant, mais pas comme une fin en soi. En tant que société, nous devons chercher à intégrer ces technologies de manière bénéfique, en évitant de les idolâtrer comme des solutions miracles à nos problèmes complexes.
En adoptant une approche équilibrée, en utilisant la technologie pour ce qu'elle est, nous pouvons construire une société plus inclusive et ouverte. Cela nous permettra d'éviter les dérives sectaires et de faire en sorte que le progrès technologique serve réellement l'intérêt commun, plutôt que de servir quelques leaders, de diviser et de marginaliser. Ce n'est qu'à ce prix que nous pourrons bâtir un avenir où la technologie est une alliée de l'humanité, et non une source de fracture et de manipulation.
Un nouveau métier : formateur spécialisé pour IA
L'essor récent des modèles d'intelligence artificielle génératifs a entraîné la nécessité de disposer d'équipes dédiées pour aider ces IA à discerner des concepts simples, comme reconnaître une voiture ou une carotte dans une image. À mesure que ces IA deviennent plus avancées et que la concurrence s'intensifie, il devient indispensable d'avoir des formateurs humains dotés de connaissances spécifiques. Ces formateurs peuvent être des historiens, des scientifiques ou même des spécialistes titulaires de doctorats. Ce besoin a fait émerger un nouveau métier dans l'économie numérique.
Dans les débuts de l'entraînement des IA, des profils généralistes suffisaient. Ivan Zhang, co-fondateur de Cohere, explique : "Il y a un an, nous pouvions nous contenter d'embaucher des étudiants de premier cycle pour enseigner à l'IA comment s'améliorer." Mais désormais, le besoin est bien plus poussé : des médecins certifiés enseignent aux modèles IA comment agir dans des environnements médicaux, et des analystes financiers ou comptables fournissent des informations précieuses pour rendre ces modèles fiables dans leurs domaines d'application respectifs. Ce changement montre une évolution où les compétences humaines spécialisées deviennent essentielles pour perfectionner les capacités des IA. Invisible Tech, une startup spécialisée dans l'entraînement de l'IA, collabore avec des entreprises comme Cohere, AI21 et même Microsoft pour fournir des experts dans le cadre de la formation de leurs IA. Invisible Tech emploie environ 5 000 formateurs répartis dans plus de 100 pays. Ces formateurs, qui possèdent des diplômes de niveau master ou doctorat, contribuent à réduire les erreurs des IA, communément appelées "hallucinations", lorsqu'une IA produit des informations incorrectes ou inventées. La diversité géographique et culturelle de ces formateurs est également un atout car elle permet de rendre les modèles IA plus robustes face à des contextes variés, ce qui enrichie leur compréhension de la diversité humaine.
Une économie de la spécialisation : entre gains élevés et exigences accrues
La demande pour des formateurs IA a créé une niche économique bien rémunérée. Invisible Tech paie ses formateurs jusqu'à 40 dollars par heure, en fonction de la complexité de la tâche et de la localisation. D'autres startups, telles qu'Outlier et Labelbox, proposent des rémunérations encore plus importantes, pouvant aller jusqu'à 50 dollars de l'heure, voire 200 dollars pour des sujets très spécialisés comme la physique quantique. Si il y avait encore un doute, l'importance de l'expertise humaine dans la formation des IA est démontrée et cela souligne la complexité croissante des tâches à accomplir. En comparaison, les premières étapes du développement des IA reposaient sur des travaux de labélisation de données, souvent sous-payés (parfois à 2 dollars de l'heure), principalement effectués par des travailleurs en Afrique ou en Asie. À mesure que les IA se sont perfectionnées, le besoin de connaissances spécialisées est devenu indispensable, ouvrant la voie à de nouvelles opportunités pour des professionnels d'horizons académiques variés. Ces derniers peuvent désormais devenir formateurs pour IA, sans pour autant avoir besoin de compétences en programmation. Ce passage d'un simple travail de labélisation à un rôle véritablement spécialisé reflète l'importance croissante de la compréhension des données dans l'entraînement des IA. L'essor de ces nouveaux emplois révèle un phénomène clé : les grands modèles d'IA, tels que ceux d'OpenAI, Cohere ou Microsoft, ont besoin de données non seulement massives, mais aussi extrêmement pertinentes et spécifiques pour minimiser les erreurs et améliorer leur utilité dans des contextes réels. Malgré leur impressionnante capacité de traitement, les IA peuvent "halluciner" (c'est-à-dire produire des résultats incorrects ou inventer des informations), ce qui peut avoir de graves conséquences dans des domaines comme la médecine ou la finance, où la précision est cruciale. Ces sociétés sont toutes à la recherche de données singulières d’où les partenariats d’Open AI avec des grands groupes de média comme le Financial Times ou Le Monde.
Invisible Tech, fondée en 2015, a changé de trajectoire en 2022 lorsque OpenAI l'a approchée pour prévenir les hallucinations de ChatGPT. Invisible Tech a collaboré avec OpenAI pour mener des expériences visant à réduire ces erreurs, en utilisant des outils internes ou développés par des fournisseurs tiers. Ces collaborations ne se limitent pas aux ajustements techniques, mais visent également à rendre les modèles IA plus transparents et compréhensibles pour les utilisateurs finaux, qu'ils soient particuliers ou professionnels.
Un avenir lié à la diversité des données et des connaissances
Le besoin de formateurs spécialisés met en avant l'importance des données qualitatives singulières pour l'évolution des modèles d'IA. Ces modèles n'ont pas seulement besoin de vastes quantités de données ; ils requièrent des données diversifiées, avec des connaissances spécialisées provenant de divers domaines. Les formateurs, comme ceux employés par Invisible Tech, jouent un rôle important pour combler cette lacune, apportant une expertise humaine qui ajoute des nuances aux réponses des IA. Par exemple, un expert en histoire suédoise peut aider l'IA à contextualiser correctement des événements historiques, tandis qu'un chimiste peut éviter des erreurs dans des réponses liées à des phénomènes scientifiques. Alors que de plus en plus d'entreprises intègrent l'IA dans leurs activités, une véritable économie de l'intelligence humaine au service des machines émerge. Dans ce contexte, la complémentarité entre humains et IA est essentielle. Les IA peuvent être performantes dans l'analyse massive de données et la reconnaissance de schémas, mais elles manquent souvent de compréhension contextuelle et de capacité à raisonner sur des situations nuancées qui reste pour l’instant une capacité que seuls des experts humains peuvent leur apporter. Par exemple, si une IA détecte une corrélation dans des données, comprendre la causalité sous-jacente nécessite encore une intervention humaine.
Cette complémentarité est particulièrement essentielle dans des secteurs sensibles comme la santé, l'éducation, et la justice. Des professionnels de ces secteurs participent activement à la formation des IA pour garantir que les réponses fournies soient non seulement correctes, mais également éthiques et appropriées à chaque contexte spécifique. Cette dynamique est bien résumée par Ivan Zhang : "Ma boite email est inondé de nouveaux cabinets qui apparaissent ici et là. Je vois cela comme un nouvel espace où les entreprises embauchent des humains uniquement pour créer des données pour les laboratoires d'IA comme le nôtre." En réalité, il s'agit de construire un écosystème qui alimente l'apprentissage des IA avec une contribution humaine irremplaçable. Les IA sont capables d'apprendre, mais la qualité de leur apprentissage dépend de la pertinence et de la richesse des connaissances humaines qui leur sont transmises.
Le développement de ce nouveau métier de formateur IA est la preuve que l'ère de l'intelligence artificielle ne marque pas la fin de la contribution humaine. Au contraire, elle redéfinit le rôle de l'humain et met en lumière l'importance de la connaissance spécialisée, de la compréhension contextuelle et du raisonnement nuancé. Ce métier représente non seulement une opportunité pour de nombreux professionnels, mais il est aussi la clé pour garantir que les IA deviennent des alliées fiables dans nos vies quotidiennes et professionnelles mais in fine, ce métier n’est finalement que le cheval de Troie vers une IA qui nous dépassera …
Les risques des IA Génératives et leurs impacts
L'essor de L’IA générative a profondément transformé de nombreux secteurs. Cet enthousiasme croissant doit être accompagné d'une prise de conscience des risques associés à l'utilisation de ces technologies. Les biais de modèles, les hallucinations, les fuites de données, et les questions éthiques posent des défis à la fiabilité et à la confiance dans ces systèmes. Explorerons ensemble les risques identifiés et analyser leurs impacts tant à l'échelle organisationnelle que sociétale. Une telle analyse est essentielle pour comprendre comment encadrer efficacement ces technologies afin de minimiser les risques tout en maximisant leur potentiel bénéfique.
L'utilisation des IA génératives s'accompagne de nombreux risques qui peuvent affecter non seulement la qualité des résultats produits, mais aussi la sécurité des données et la conformité réglementaire. Ces risques sont variés et peuvent avoir des conséquences à long terme si des mesures de précaution ne sont pas prises. Voici les principaux risques identifiés :
Qualité des données et hallucination : Les IA génératives dépendent fortement des données sur lesquelles elles sont entraînées. Des données de mauvaise qualité, biaisées ou non représentatives peuvent nuire aux performances du modèle, l'amenant à générer des résultats incorrects ou biaisés. Un phénomène courant est celui des "hallucinations", où le modèle invente des informations sans fondement, souvent présentées avec une grande assurance. Cela peut être particulièrement problématique dans des secteurs sensibles comme la santé, où une information incorrecte peut avoir des conséquences graves. De plus, l'identification et la correction de ces hallucinations nécessitent une supervision humaine rigoureuse ce qui alourdit la charge de travail et augmente les coûts opérationnels.
Biais algorithmiques : Les biais présents dans les données d'entraînement se retrouvent souvent dans les modèles génératifs et cela entraîne des préjugés dans les contenus produits. Par exemple, une IA générative utilisée pour produire du contenu textuel pourrait générer des réponses sexistes ou racistes si elle a été entraînée sur des données biaisées. Sans correction, ces biais peuvent être amplifiés, provoquant des discriminations dans les applications pratiques. Cela peut affecter la crédibilité des organisations qui utilisent ces technologies, surtout si les biais se manifestent publiquement. Il est donc obligatoire de mettre en place des techniques de détection et de correction des biais, ainsi que de diversifier les données d'entraînement pour réduire ce risque.
Violation de la confidentialité et fuites de données : Les IA génératives peuvent révéler des données sensibles. Si les modèles ne sont pas correctement sécurisés, ils peuvent produire des résultats contenant des informations confidentielles issues des données d'entraînement. Le risque de fuite de données est particulièrement préoccupant dans des secteurs tels que la santé, la finance ou les ressources humaines, où la protection de la vie privée est essentielle. En plus, l'utilisation de données personnelles pour l'entraînement des modèles peut également soulever des questions éthiques, surtout lorsque les utilisateurs ne sont pas informés de la manière dont leurs données sont utilisées. Les régulateurs imposent de plus en plus de normes strictes sur la gestion des données, et les entreprises doivent mettre en place des mesures de conformité pour éviter des sanctions sévères.
Risque juridique et propriété intellectuelle : L'utilisation de contenus existants pour entraîner des modèles génératifs pose des questions de propriété intellectuelle. Les données utilisées peuvent être protégées par des droits d'auteur, et leur utilisation sans consentement peut entraîner des poursuites judiciaires. Plusieurs affaires, telles que celles impliquant Getty Images ou le New York Times contre des développeurs d'IA, illustrent la complexité de ces questions juridiques. Cela montre également l'importance de développer des pratiques d'entraînement transparentes et respectueuses des droits d'auteur. Les entreprises doivent s'assurer que les données utilisées sont libres de droits ou obtenir les licences appropriées. L'évolution rapide du cadre réglementaire exige une veille juridique constante pour rester conforme aux lois en vigueur.
Déshumanisation et impact social : L'automatisation croissante grâce aux IA génératives peut déshumaniser certains processus. Par exemple, dans les services client, le recours aux agents conversationnels réduit l'interaction humaine. En ressources humaines, la prise de décision par des algorithmes entraîne une perte de personnalisation et des discriminations involontaires. Cela pose également des questions sur l'avenir du travail et la place des employés dans un environnement de plus en plus automatisé. Les interactions humaines, souvent essentielles pour résoudre des problèmes complexes ou apaiser les clients mécontents, ne peuvent pas toujours être remplacées par des machines.
Les risques associés aux IA génératives ne sont pas théoriques. Ils se traduisent par des impacts concrets qui affectent les individus, les entreprises, et même la société dans son ensemble. Ces impacts peuvent se manifester de différentes manières, allant de simples erreurs opérationnelles à des conséquences plus graves, telles que des pertes financières ou des atteintes à la réputation. En voici quelques exemples :
Impact juridique : Les entreprises utilisant des IA génératives doivent respecter la législation en matière de données et de propriété intellectuelle. En cas de violation, elles risquent des amendes importantes et des poursuites judiciaires. Le cadre juridique étant encore flou dans de nombreux pays, il existe une grande incertitude quant aux obligations des utilisateurs d'IA. Cette incertitude juridique pousse de nombreuses entreprises à adopter une approche prudente ce qui limite de fait leur capacité à innover et à tirer pleinement parti des avantages des IA génératives.
Impact financier : Les erreurs commises par les IA génératives, comme la diffusion de contenus biaisés ou inappropriés, peuvent entraîner des pertes financières pour les entreprises. Les amendes pour violation des droits de propriété intellectuelle, la perte de clients due à une mauvaise publicité, ou les coûts liés à la correction de ces erreurs peuvent être considérables. Les entreprises doivent aussi investir dans des audits de sécurité et des outils de surveillance pour prévenir les risques liés à l'utilisation de l'IA, ce qui augmente leurs dépenses opérationnelles. Les coûts indirects, tels que la formation des employés et la mise en œuvre de mesures de conformité, ne doivent pas non plus être sous-estimés.
Impact réputationnel : Le risque réputationnel est également élevé. La diffusion publique de contenus incorrects ou offensants peut causer un "bad buzz". Les exemples de scandales tels que ceux de MegaMarket montrent l'importance de contrôler la qualité des contenus générés. L'image de marque peut être durablement ternie si ces erreurs ne sont pas gérées correctement. En plus, les consommateurs deviennent de plus en plus sensibles aux questions d'éthique et de transparence. Les réseaux sociaux, en particulier, amplifient la portée des erreurs et peuvent rapidement transformer un incident isolé en crise majeure.
Impact opérationnel : Les risques opérationnels concernent la continuité et l'efficacité des processus internes. Si un système d'IA générative produit des erreurs ou n'est pas conforme aux attentes, cela peut affecter la chaîne de production ou le service client, provoquant des retards ou des interruptions d'activité. Par exemple, une IA qui génère des recommandations incorrectes peut perturber la prise de décision, entraînant des inefficacités et une perte de productivité. Les entreprises doivent donc mettre en place des systèmes de validation et de contrôle qualité pour minimiser les erreurs et assurer le bon fonctionnement de leurs processus.
Impact social : Sur le plan social, l'utilisation des IA génératives peut contribuer à des discriminations si les biais dans les données d'entraînement ne sont pas corrigés. La sous-représentation de certains groupes ou la présence de stéréotypes dans les données peuvent conduire à des inégalités de traitement, que ce soit dans l'accès aux services ou dans la prise de décision. Par exemple, des algorithmes biaisés peuvent refuser un crédit à des individus appartenant à des minorités, simplement parce que les données d'entraînement reflètent des discriminations historiques. Cela peut aggraver les inégalités existantes et nuire à la cohésion sociale.
Les IA génératives représentent une avancée technologique prometteuse, mais elles comportent aussi des risques importants. Les biais, les erreurs, les fuites de données et les questions juridiques doivent être abordés de manière proactive pour garantir un usage sûr et éthique de ces outils. Les impacts potentiels, qu'ils soient financiers, sociaux ou réputationnels, nécessitent des mesures de surveillance et de régulation, ainsi qu'une responsabilisation accrue des acteurs qui conçoivent, déploient et utilisent ces technologies. Seule une gestion rigoureuse de ces risques permettra de maximiser les bénéfices tout en minimisant les effets négatifs sur la société. En investissant dans la formation et la sensibilisation, les entreprises et les gouvernements peuvent s'assurer que les technologies d'IA sont utilisées d'une manière qui profite à la société tout entière, tout en réduisant les risques de discrimination, de fuites de données et d'autres impacts négatifs.
L’IA : un outil dans la lutte contre les théories du complot ?
Article inspiré de Durably reducing conspiracy beliefs through dialogues with AI de Thomas H. Costello , Gordon Pennycook , and David G. Rand qui est paru dans Science.
Nous ne pouvons que constater la montée en puissance des théories du complot. Ces trois chercheurs ont tenté une nouvelle stratégie pour lutter contre : l'utilisation de l'intelligence artificielle pour convaincre les adeptes de ces théories d'abandonner leurs croyances. D'après cette étude, les croyances conspirationnistes peuvent être ébranlées par des arguments personnalisés, générés par des modèles avancés tels que GPT-4 Turbo. Ces modèles ont mené des discussions adaptées à chaque participant, réduisant en moyenne de 20 % la croyance dans la théorie du complot présentée. L'effet de cette intervention persistait même deux mois plus tard. Ce résultat montre une réduction durable de l'adhésion à ces croyances.
Contrairement à des approches préfabriquées, ces discussions n'ont pas seulement apporté des contre-arguments généraux. Elles ont été construites à partir des preuves mêmes que les participants invoquaient pour justifier leurs croyances. Cela a permis à l'IA de les analyser et de les déconstruire point par point. Cette façon de procéder très ciblée a permis de démonter les arguments sous-jacents aux croyances complotistes dans des thématiques variées, allant de l'assassinat de John F. Kennedy aux théories autour de la COVID-19 et des élections présidentielles américaines de 2020. L'effet de ces discussions ne s'est pas limité à la théorie évoquée lors de l'intervention : il a également eu un impact sur d'autres croyances complotistes. Les participants ont également réduit leur adhésion à d'autres théories. En plus, la fiabilité factuelle des arguments avancés par l'IA a été mesuré par des fact-checkers : sur 128 affirmations de l’IA 99,2 % étaient exactes, autrement dit, il y avait qu’une hallucination !
Mais cette capacité persuasive de l'IA pose aussi des questions éthiques. Si une IA peut réduire les croyances conspirationnistes par des discussions personnalisées et convaincantes, elle peut tout aussi bien être utilisée à des fins moins louables. Qu'arriverait-il si cette technologie tombait entre de mauvaises mains ? Rien n'empêche une IA d'être exploitée pour renforcer des croyances fausses ou manipuler des populations à des fins politiques ou commerciales. Au passage, les élections américaines de 2024 comportent de nombreux exemples. Les modèles IA possèdent une force persuasive unique parce qu'ils peuvent analyser les arguments d'un individu en temps réel et répondre de façon ciblée. N’oublions pas que cette force persuasive est moralement neutre, elle peut être exploitée tant pour promouvoir la réflexion critique et vérifier la véracité des faits que pour manipuler les croyances et renforcer des biais erronés. Cela montre toute la complexité de la régulation des technologies IA. Comment garantir que ce pouvoir soit utilisé de manière éthique et empêcher qu'il soit détourné par des acteurs malintentionnés ?
Cette étude offre un regard plutôt optimiste sur la capacité humaine à changer d'avis, même face à des croyances très enracinées. Le recours à une IA pour encourager les gens à sortir du cycle des théories complotistes montre que des arguments appropriés, bien présentés et personnalisés, peuvent rétablir un esprit critique. Le fait que cela ne soit pas un humain doit considérablement influer sur le résultat.
Le défi est de taille : comment utiliser ce potentiel éducatif et libérateur tout en évitant les dérives autoritaires et la manipulation ?
Bonnes Métamorphoses et à la semaine prochaine.
Stéphane
