L'ultime défi de l'humanité face à l'IA
L'initiative "Humanity's Last Exam" (Le dernier examen de l'humanité) lancée récemment par le Center for AI Safety et Scale AI symbolise le début d’une prise de conscience concernant notre relation avec l'IA. Ce projet a pour objet de créer le test d'IA le plus difficile au monde, un défi intellectuel qui permettra de mesurer précisément les progrès des systèmes d'IA et surtout leur proximité avec les capacités cognitives humaines de haut niveau. Cette démarche intervient arrive au bon moment. Les benchmarks traditionnels, autrefois considérés comme des références solides, sont désormais obsolètes eu égard à la qualité des modèles d'IA les plus avancés. Ils sont devenus trop faciles et ne permettent plus la mesure des progrès de l’IA. L'examen proposé ne sera pas un simple QCM. Cette initiative invite des experts du monde entier à soumettre des questions dans des domaines tels que la planification stratégique, le raisonnement abstrait, l'innovation et les décisions éthiques. Certaines de ces questions resteront privées afin d’éviter que les IA puissent simplement mémoriser les réponses. L'initiative cherche à tester la capacité des IA à résoudre des problèmes complexes qui nécessitent une véritable compréhension, et pas seulement une performance basée sur des données d'entraînement. Il s'agira d'un test exigeant, nécessitant un raisonnement abstrait et des connaissances expertes dans divers domaines. Les questions seront soigneusement sélectionnées pour leur complexité et leur originalité. Le niveau de difficulté devrait en toute logique défier les esprits humains les plus brillants. Les contributions les plus réussies seront examinées par des pairs et les auteurs auront la possibilité de co-signer les publications scientifiques associées, voire de gagner des prix allant jusqu’à 5000 $ pour les meilleures questions. L’objectif est de continuer à évaluer les IA de manière robuste, même à mesure que leurs capacités se développent.
Ce projet sera très utile pour différentes raisons :
Il permettra de mesurer avec précision l'écart entre l'IA et l'intelligence humaine experte et même absolue.
Il maintiendra une frontière claire entre les capacités de l'IA et celles de l'homme, préservant ainsi notre "unicité cognitive en tant qu’espèce".
Pour les partisans d’une IA toujours plus puissante, il stimulera la recherche en IA en posant des défis toujours plus poussés aux développeurs.
Il alimentera de façon factuelle le débat éthique sur le développement de l'IA et ses implications pour l'humanité.
Il semble évident qu’en plus d’experts scientifiques et techniques il faut absolument une participation active de philosophes contemporains. Les premiers noms qui viennent sont Bruno Latour (anthropocène et la crise écologique. Il propose de repenser nos relations avec la nature et les non-humains), Catherine Larrère (Elle s'intéresse aux questions de justice environnementale et aux nouveaux rapports entre l'homme et la nature), Bernard Stiegler (Il s'est intéressé à la question de la technique comme pharmakon - à la fois remède et poison), Peter Sloterdijk (transhumanisme et biotechnologies. Il interroge les limites de l'humain face aux avancées technologiques.), Martha Nussbaum (Elle réfléchit sur la justice sociale et les conditions d'une vie digne pour tous), Axel Honneth (il s'intéresse aux conditions de réalisation de soi dans nos sociétés), Jürgen Habermas (Il réfléchit sur l'avenir de la démocratie et de l'Europe face à la mondialisation) et Nancy Fraser (Elle analyse les questions de justice sociale à l'échelle globale, notamment les inégalités et l'exploitation). Ces penseurs contemporains, parmi d'autres, proposent des réflexions complexes pour appréhender les grands défis auxquels l'humanité est confrontée aujourd'hui : crise écologique, révolution numérique, inégalités mondiales, avenir de la démocratie, .... Leurs travaux permettraient d'éclairer ces enjeux sous un angle philosophique.
Sans prétention d’exhaustivité ni de pertinence, vous trouverez ci-dessous vingt problématiques qu’il me semble opportun d’aborder dans ce test :
Tester les réponses de l'IA dans des dilemmes éthiques complexes pour évaluer sa capacité à gérer des situations moralement ambiguës.
Evaluer la capacité des IA à proposer des solutions innovantes, dans des situations où l'imagination humaine est généralement requise.
Mesurer l'aptitude des IA à prévoir les conséquences de leurs décisions sur une longue durée, avec des scénarios impliquant des variables multiples.
Tester les IA sur leur capacité à reconnaître et interpréter des motifs complexes, en particulier dans des environnements visuels
Mettre en place des scénarios impliquant des informations incomplètes ou incertaines pour évaluer la résilience et la flexibilité des IA.
Tester la capacité des IA à comprendre des expressions idiomatiques, des références culturelles et à naviguer dans des conversations ambiguës
Évaluer la capacité des IA à produire des œuvres artistiques dans divers domaines, tels que la musique, la peinture et la littérature, tout en comparant la qualité avec des œuvres humaines.
Tester la capacité des IA à identifier et corriger les biais dans leurs algorithmes pour garantir des décisions équitables et non discriminatoires
Évaluer comment les IA interagissent avec les humains dans des tâches collaboratives, y compris leur capacité à comprendre les émotions et les signaux sociaux.
Mesurer la capacité des IA à optimiser leurs propres ressources en matière de consommation énergétique et de durabilité, contribuant ainsi à réduire leur empreinte écologique.
Tester les IA dans des scénarios de gestion de crises ou de cybersécurité pour évaluer leur capacité à anticiper et gérer des menaces
Analyser comment les IA priorisent les décisions lorsque des contraintes opposées existent (temps, ressources, valeurs éthiques).
Tester la capacité d'une IA à s'adapter rapidement à des environnements changeants et à réajuster ses stratégies en conséquence.
Évaluer dans quelle mesure une IA peut maintenir un raisonnement clair et logique même face à des interruptions ou des obstacles.
Tester la capacité des IA à répondre rapidement et efficacement à des interactions en direct, sans délai, dans des contextes variés, comme des conversations complexes.
Voir comment les IA peuvent combiner des informations provenant de différentes disciplines (sciences, arts, économie, etc.) pour offrir des solutions holistiques.
Tester la capacité des IA à anticiper des événements futurs et à proposer des scénarios plausibles basés sur des données actuelles.
Mettre l'IA dans des situations où elle doit optimiser l'utilisation de ressources limitées, que ce soit en termes de temps, d'énergie, ou de matériel.
Évaluer la capacité des IA à résoudre des conflits interpersonnels ou politiques, en analysant divers facteurs humains et sociaux.
Tester la capacité des IA à proposer des innovations ou des technologies disruptives avant même qu'elles ne soient conceptualisées par les humains.
Au-delà de ce projet nécessaire du fait de la rapidité d’évolution des capacités des IA, nous ne pouvons que nous interroger. Sommes-nous en train de créer la dernière limite de la supériorité intellectuelle humaine à ne pas dépasser ? Ou s'agit-il simplement d'une étape dans une course sans fin avec des machines toujours plus intelligentes ? Quoi qu'il en soit, "Humanity's Last Exam" représente bien plus qu'un simple test. C'est un miroir tendu à notre propre intelligence, un défi lancé à nos capacités cognitives les plus avancées. C'est certainement aussi, l'ultime affirmation de ce qui nous rend humains face à l'inexorable montée en puissance de l'IA à savoir notre capacité à poser des questions profondes et à repousser sans cesse les limites de notre compréhension du monde.
Microsoft, premier GAMAM nucléaire !
Microsoft et Constellation Energy ont signé un accord d’une durée de 20 ans pour relancer la centrale nucléaire de Three Mile Island. La réouverture d'un réacteur sur le site tristement célèbre de Three Mile Island soulève inévitablement des inquiétudes en matière de sécurité. Même si le réacteur concerné n'a pas été impliqué dans l'accident de 1979, ce projet devra dépasser les réticences du public et démontrer que les leçons du passé ont été tirées. La transformation du site en "Crane Clean Energy Center" (c’est le nom du projet) vise clairement à tourner la page, mais l'acceptabilité sociale restera un défi majeur. 2028 verra normalement les premiers électrons envoyés dans le réseau pour Microsoft.
L'explosion de l'IA génère une demande colossale en électricité. Cette gloutonnerie pose et posera de nombreux problèmes : flambée des prix, empreinte carbone, arbitrages de consommation, … Les grands acteurs de la technologie n’ont pas d’autre choix que d’assurer sur le long terme un approvisionnement en énergie. En ajoutant la contrainte environnementale et en gardant leurs objectifs de croissance exponentielle de l’usage de l’IA, le nucléaire est une solution aisée car il est impossible à date de se reposer uniquement sur les énergies renouvelables intermittentes. Microsoft est le premier mais d’autres suivront. Rappelons que la plupart ont investi dans des start-ups travaillant dans le nucléaire. L’énergie et l’empreinte carbone sont deux dépendances pouvant influer sur un avenir moins florissant de l’IA. Ces entreprises, souvent plus riche que les Etats, anticipent cette fragilité et la gomment.
Ce premier partenariat servira de modèle pour la réhabilitation d'autres centrales nucléaires vieillissantes d’autant plus que les géants de la tech sont capables de financer la modernisation de ces infrastructures. Mais ensuite, si la demande augmente encore et encore, il est probable que ces entreprises deviennent aussi des énergéticiens ce qui les rendra plus puissant que jamais. En tirant la ficelle, il est facile d’imaginer qu’ils fassent de même avec d’autres dépendances comme les données et des biens très physiques comme les minerais dont ils ont besoin et les puces.
A suivre …
L'impact caché des centres de données sur notre planète
Les grandes entreprises technologiques ont souvent mis en avant leurs engagements envers la neutralité carbone, mais la réalité derrière les centres de données qui alimentent cette (r)évolution numérique est bien plus sombre. Avec l'explosion de l'IA et des besoins énergétiques colossaux qui en découlent, il devient de plus en plus difficile pour l’industrie de masquer les véritables coûts environnementaux associés.
Source The Guardian
Entre 2020 et 2022, les émissions réelles des centres de données de Google, Microsoft, Meta et Apple seraient environ7,62 fois plus élevées que les chiffres officiellement rapportés, selon une analyse du Guardian alors imaginez pour 2023 et 2024. La consommation électrique des centres de données représentait déjà entre1% et 1,5% de la consommation mondiale en 2022, avant même que l’IA ne prenne son essor. Cette tendance ne peut qu’inquiéter, d’autant plus que l’IA est bien plus gourmande en énergie que les applications traditionnelles. Selon Goldman Sachs, une requête ChatGPT consomme 10 fois plus d'électricité qu'une recherche traditionnelle avec Google, et la demande en électricité des centres de données devrait augmenter de160% d'ici 2030.
Face à cette montée en puissance, les grandes entreprises technologiques continuent de clamer leur neutralité carbone. Cette prétendue neutralité repose largement sur des artifices comptables, tels que l'achat de certificats d'énergie renouvelable, qui permettent de compenser les émissions, même si l'énergie renouvelable achetée peut être produite à des milliers de kilomètres du lieu où elle est consommée. En réalité, les émissions basées sur l’emplacement (celles réellement produites sur le lieu de consommation) révèlent des écarts gigantesques par rapport aux chiffres officiels. Par exemple, Meta a déclaré en 2022 des émissions "officielles" de 273 tonnes de CO2, mais en tenant compte des émissions basées sur l’emplacement, ce chiffre grimpe à plus de 3,8 millions de tonnes, soit une augmentation de plus de 19 000 fois. Microsoft, de son côté, a rapporté 280 782 tonnes de CO2 pour ses centres de données, alors que les émissions réelles atteignent 6,1 millions de tonnes, un chiffre 22 fois plus élevé.
L’essor de l’IA pousse également les infrastructures énergétiques à leurs limites. Le Digital Bridge, un des plus grands opérateurs de centres de données au monde, estime que l’industrie pourrait manquer d’énergie d’ici deux ans … Je vous laisse faire le lien avec l’article précèdent ! Les géants de la technologie sont divisés sur la manière de comptabiliser les émissions. D’un côté, Amazon et Meta souhaitent maintenir l'utilisation des mêmes mesures, même délocalisés. De l’autre, Google et Microsoft plaident pour un modèle plus transparent basé sur une correspondance temporelle et géographique entre production et consommation d’énergie renouvelable, avec des objectifs ambitieux de neutralité d’ici 2030.
Le défi est immense. Si l'on ne parvient pas à mieux réguler ces pratiques, les ambitions environnementales de ces entreprises ne seront qu'un écran de fumée derrière lequel se cachent des impacts bien réels sur notre planète. La transparence totale doit prendre le pas sur les pratiques de comptabilité actuelle et que les innovations doivent s'accompagner d'une responsabilité environnementale native.
Sources : Guardian, 2023 /International Energy Agency, 2022 /Goldman Sachs, 2023 /Morgan Stanley, 2023
Réalités économiques des acteurs de l'IA
L'IA générative, fer de lance de l'innovation technologique, vit une période charnière marquée au fer rouge par des défis économiques croissants et une consolidation du marché. Les chiffres de ce marché sont révélateurs de cette mutation.
Ce secteur est témoin d'une vague de rachats et de débauchages par les géants technologiques. En l'espace de quelques mois, Google, Amazon et Microsoft ont absorbé des talents clés de start-up prometteuses comme Character AI, Adept AI et Inflection AI. Il est de plus difficile de payer les salaires des stars de l’IA pour les start-ups, et moins cher d’embaucher les principaux talents plutôt que de racheter les sociétés, donc …
Les start-ups d'IA font face à une réalité économique existentielle : leur durée de vie sans nouvelle levée de fonds est estimée à 1 à 2 ans maximum et de nombreuses structures cherchent à se faire racheter car leur avenir s’assombrit.
Même OpenAI, la star du secteur, présente des chiffres certes impressionnants mais avec leur part d’ombre : revenus annuels dépassant 3 milliards de dollars, doublés en un an. Déficit atteignant 5 milliards de dollars. Coûts de calcul informatique s'élevant à 4 milliards de dollars. Un million d'utilisateurs professionnels payants, contre 600 000 en avril 2024 et doublement de l'utilisation de son API par les entreprises depuis juillet 2024. La société cherche à lever plus de 5 milliards de dollars supplémentaires, ce qui pourrait la valoriser à 150 milliards de dollars.
Anthropic, autre acteur majeur, présente un profil similaire : dépenses annuelles estimées à 2 milliards de dollars. Revenus entre 150 et 200 millions de dollars. Valorisation approchant les 20 milliards de dollars après avoir levé plus de 6 milliards.
En Europe, la situation est tout aussi complexe : Aleph Alpha, fleuron allemand, fait face à des gros doutes sur sa pérennité. Mistral AI, champion français, affirme avoir triplé ses revenus depuis le premier trimestre, sans communiquer de chiffres précis donc ….
L'enthousiasme pour l'IA persiste. La récente levée de fonds d'1 milliard de dollars par SafeAI, fondée par l'ex-ingénieur d'OpenAI Ilya Sutskever, pour des recherches sur la "superintelligence", montre la confiance persistante des investisseurs dans le potentiel à long terme de l'IA.
La situation économique des start-up d'IA est devenue un sujet de préoccupation politique à Paris, Bruxelles et Washington où es discussions portent sur : des mesures de soutien aux start-ups ce qui risque d’accentuer le phénomène de bulle, la régulation des grands groupes technologiques en sachant que eux s’y opposent fortement et utilisent leur puissance financière et la préservation de la souveraineté technologique devient un enjeu majeur comme rachat de Preligens par Safran dans le domaine de l'IA de défense.
2025 s'annonce déterminante non pas pour la viabilité économique de ces technologies car les grands gagnants de cet état de marché sont les GAMAM mais sur la structuration du marché. Les start-ups n’ont pas d’autres choix que d’établir des modèles économiques viables et pérennes, tout en maintenant l'innovation technologique qui a fait le succès de ces entreprises. Ce challenge est d’une complexité extrême.
Contre-pied
Selon de nombreux experts, l'IA représente une menace existentielle pour l'humanité car selon eux ces machines vont devenir exponentiellement plus performantes, atteindre un niveau de conscience pratique et surpasser l'intelligence humaine au point où nous deviendrons une simple gêne à éliminer. Mais l'IA pourrait-elle vraiment se transformer en une sorte de "Skynet" ? Ou s'agit-il d'une exagération liée au battage médiatique autour de l'IA ? Une nouvelle étude dirigée par Iryna Gurevych de l'Université technique de Darmstadt en Allemagne et Harish Tayyar Madabushi de l'Université de Bathna pris le temps de tester cette hypothèse et a conclu qu'elle est complètement fausse…. Comment ont-ils abouti à cette conclusion et quelles en sont les implications pour l'industrie de l'IA ?
Commençons par comprendre pourquoi certains ont cru que l'IA pourrait devenir une menace. Un programme d'IA ne fait que reconnaître des motifs dans des données et les reproduire lorsqu'il est sollicité. Il fonctionne purement sur des statistiques et ne "pense" pas réellement, ni n'a de conscience de ce qu'il fait. Mais certains prédisaient que cela pourrait changer à mesure que l'IA serait alimentée par plus de données et développerait des « propriétés émergentes ». L'idée derrière cette prédiction était qu'une fois que le modèle d'IA devenait suffisamment grand, des parties imprévisibles du logiciel changeraient, permettant à l'IA de résoudre des problèmes qui n'étaient pas dans ses données d'entraînement. Cela reviendrait à passer d'une simple reconnaissance de motifs à une véritable compréhension du monde, capable de fonctionner au-delà de ses paramètres initiaux. Si une IA devenait suffisamment avancée et connectée, elle pourrait, selon ces prédictions, déclencher les scénarios apocalyptiques imaginés la science-fiction.
L'“émergence” est un phénomène notoirement difficile à prédire, dérivé de la théorie du chaos. Ainsi, personne ne savait vraiment si l'IA pourrait développer ou non des propriétés émergentes, ni si ces propriétés conduiraient à une forme de compréhension plus consciente. Ces prédictions reposaient donc sur un scénario hautement spéculatif, plus que sur une base scientifique solide. De nos jours, de nombreux modèles d'IA, en particulier les grands modèles de langage (LLM) comme GPT-4, sont suffisamment vastes pour être testés pour leurs propriétés émergentes. C’est précisément ce que les chercheurs ont fait. Ils ont pris quatre modèles d'IA identifiés comme ayant des propriétés émergentes et les ont testés. Les résultats ont montré que la capacité des IA à suivre des instructions, à mémoriser et à démontrer une compétence linguistique, tout cela faisait partie de leur programmation initiale et de leur entraînement. En bref, aucune des IA n'a montré de véritables propriétés émergentes. Les auteurs de l'étude ont donc conclu que l'IA est en fait beaucoup trop limitée par sa programmation et incapable d'acquérir de nouvelles compétences sans instruction humaine. Peu importe la quantité de données qu'on leur fournit, elles ne développent pas de nouvelles capacités pour comprendre ces données de manière autonome. L'IA reste donc sous contrôle humain, et les scénarios catastrophes d'une IA échappant à tout contrôle ne sont tout simplement pas possibles avec la technologie d’aujourd’hui.
En y réfléchissant bien, cela fait sens. L'IA est très différente de l'intelligence organique, qui est une propriété émergente. Les IA ont besoin de vastes quantités de données et de multiples révisions pour résoudre un problème qu'un chimpanzé pourrait résoudre en quelques secondes sans connaissance préalable. De plus, un chimpanzé peut apprendre de ses erreurs et adapter sa résolution de problèmes en fonction d'un cadre de compréhension en constante évolution. Même les IA les plus avancées ne peuvent espérer atteindre aujourd’hui une telle flexibilité. La seule raison pour laquelle l'idée de propriétés émergentes de l'IA a pu recevoir un quelconque crédit est à cause de son nom trompeur. « Intelligence artificielle » est une expression brillante sur le plan du marketing, mais elle ne reflète pas la réalité technologique. L'IA n'est pas intelligente au sens où nous l'entendons ; c'est un système de modélisation statistique qui n'a rien à voir avec une forme d'intelligence réelle. Si cela avait été appelé « analyse prédictive basée sur des nœuds », qui décrit mieux ce que la technologie fait, cette notion d'émergence n’ait jamais été prise au sérieux.
Cela dit, cela ne signifie surtout pas que l'IA est totalement sans danger. Elle peut toujours être utilisée par des humains à des fins destructrices y compris en la rendant autonome. Ces discours anxiogènes des PDG du secteur peuvent être vus pour ce qu'ils sont : des manœuvres de relations publiques. Ce point de vue peut rapidement devenir obsolète en fonction de nouvelles théories mathématiques permettant de dépasser les limites actuelles. o1 d’OpenAI a fait des progrès conséquents juste en introduisant dans l’IA des étapes de raisonnement très humaines alors demain …
Art et IA
Le rapport intitulé «Hiscox Art & IA 2024» examine en détail l’avenir de la production artistique et de la collection d’œuvres générées par l’IA.
En 2024, l'IA s'impose plu que jamais comme un acteur clé dans la création artistique qui bouleverse les frontières traditionnelles de l'art. Selon ce rapport, 40 % des collectionneurs envisagent d'acquérir des œuvres générées par l'IA, ce qui est en hausse significative. Ils souhaitent aussi une clarification sur le créateur : 82 % des collectionneurs et 76 % des amateurs d’art souhaitent une distinction plus nette entre les œuvres d’art générées par IA et celles créées par des humains. De plus, 69 % des collectionneurs plus âgés et 67 % des jeunes estiment que l’art généré par IA a une valeur inférieure à celle de l’art humain. L'IA, loin de remplacer les artistes, amplifie leur créativité, permettant l'exploration de nouveaux territoires. Cette évolution s'accompagne d'une croissance économique rapide, avec des ventes atteignant 22 millions de dollars en 2024.
Rapport Hiscox Art & IA 2024
L'un des aspects les plus fascinants est la démocratisation de l'art rendue possible par l'IA. Cet outil rend la création plus accessible, donnant à un plus grand nombre de personnes la possibilité de s'exprimer artistiquement avec certes plus ou moins de talent, tout en diversifiant les perspectives et les voix au sein de l'art contemporain.
Cette mixité grandissante interroge sur l'authenticité et l'émotion humaine. Comment définir l'originalité dans un monde où les machines créent ? Quelle place pour l'artiste humain dans cette nouvelle ère ? L'IA nous pousse à redéfinir notre conception de l'art et à envisager des formes d'expression inédites ce qui à mon sens est une excellente nouvelle. Plutôt que de la voir comme une menace, cette métamorphose doit être embrassée car elle offre un potentiel extraordinaire pour enrichir le monde artistique. Cela doit s’accompagner d’une transparence totale des méthodes créatives. La photographie, le cinéma, l’art digital ont décuplé la créativité, c’est le tour de l’IA avec un potentiel bien supérieur, à vos prompts …
Bonnes métamorphoses.
Stéphane
