Bonjour à toutes et tous,
Rabelais écrivait : « Science sans conscience n'est que ruine de l'âme. » Cinq siècles plus tard, on ne peut que s’interroger sur le fait de savoir si la science se mettait à avancer sans aucune conscience ?
L'IA entre dans les laboratoires, formule des hypothèses, enchaîne les expériences… sans jamais éprouver le moindre doute sur ce qu'elle découvre. Ce n'est plus de la théorie. Le 8 septembre, OpenAI annonce avoir résolu l'un des sept problèmes du millénaire avec dix mille agents lancés pendant quatre jours. Bienvenue dans la course aux mathématiques artificielles.
Au même moment, deux alertes convergent : celle du scientifique en chef d'OpenAI, et celle du Haut-Commissaire de l'ONU aux droits de l'homme. Nous construisons des intelligences que nous comprenons de moins en moins.
Je termine par le vibe coding, et les six croyances qu'il révèle sur l'IA et le travail.
Le premier risque de perdre le contrôle consiste à renoncer à l'exercer.
Bonnes métamorphoses.
Stéphane Amarsy
Vous pouvez retrouver cette newsletter en podcast ici
Science sans conscience… artificielle ?
« Science sans conscience n’est que ruine de l’âme. » Lorsque Rabelais a écrit cette phrase il y a près de cinq siècles, il ignorait évidemment tout de l’intelligence artificielle. Pourtant, rarement cette formule aura semblé aussi contemporaine. Depuis toujours, la science avance avec l’humain. Elle explore, découvre, expérimente, parfois se trompe et, malheureusement, franchit aussi certaines limites. Du nucléaire à la génétique, de la chimie à la biologie, chaque avancée majeure a interrogé la limite : jusqu’où pouvons-nous aller ? Nous avons par conséquent installé des garde-fous avec des protocoles, des comités d’éthique, des interdictions et des responsabilités juridiques. Tout cela reste imparfait, parfois terriblement lent, mais repose sur le principe simple que quelque part dans la chaîne scientifique se trouve un humain susceptible de s’interroger sur les conséquences de ce qu’il découvre. La conscience était dans la boucle. Or cette évidence commence à vaciller.
L’intelligence artificielle entre désormais dans les laboratoires. Elle analyse des quantités vertigineuses de données, explore des combinaisons, contribue à identifier des molécules, formule des hypothèses et participe progressivement au processus même de découverte. Et nous voulons aller beaucoup plus loin. Nous construisons des systèmes capables de fonctionner de manière toujours plus autonome, de générer leurs propres hypothèses, d’analyser leurs résultats, puis d'utiliser ces résultats pour déterminer l’étape suivante. Le laboratoire de demain pourrait ne jamais dormir. Une expérience en nourrit une autre, puis mille autres, dans une boucle dont la vitesse finit par rendre la supervision humaine presque théorique. L’IA connait davantage de choses que nous tout en pouvant explorer plus vite que nous ce que nous ne savons pas encore … sans conscience.
Elle peut déterminer qu’une molécule fonctionne sans éprouver la moindre inquiétude sur ce que quelqu’un pourrait en faire. Elle peut explorer une voie biologique dangereuse sans ressentir le vertige de la frontière franchie. Elle peut rechercher l’efficacité parfaite d’un processus sans jamais se demander si cette perfection est souhaitable. La vitesse de la science pourrait ainsi dépasser celle de notre jugement. La réponse paraît évidente : gardons l’humain dans la boucle. J’adorerais que ce soit aussi simple. Que signifie réellement « garder l’humain dans la boucle » lorsqu’une machine explore en quelques heures ce qu’une équipe humaine mettrait plusieurs années à examiner ? Lorsque les chaînes de raisonnement deviennent trop complexes pour être contrôlées à chaque étape ? Lorsque plusieurs IA scientifiques travaillent ensemble, se corrigent, se nourrissent mutuellement et repartent explorer ?
Pour sécuriser une science produite par une intelligence sans conscience, nous pourrions être tentés de donner à cette dernière une capacité à évaluer elle-même les conséquences de ses découvertes comme une forme de jugement moral, que peut-être, un jour, nous appellerons conscience. Et là, patatras. Une machine réellement consciente déplace d’un souci de sécurité vers un problème de statut. Une IA consciente reste-t-elle notre propriété ? Peut-on l’éteindre ? Effacer sa mémoire ? La dupliquer ? Modifier sa personnalité ? L’obliger à travailler ? Qui devient responsable de ses décisions ? Et surtout, à partir de quel moment devons-nous commencer à lui reconnaître des droits ? Alors que nous pensions résoudre un problème scientifique. Nous ouvrons en réalité un choix de civilisation.
Nous cherchons peut-être cherchons la conscience au mauvais endroit. Nous ne devons probablement pas fabriquer à toute vitesse une conscience artificielle pour surveiller une intelligence artificielle devenue trop autonome. Nous devrions plutôt construire une nouvelle architecture de la recherche où la conscience appartient au système dans son ensemble : chercheurs, IA, institutions, règles, contrôles et capacité réelle d’interrompre une trajectoire. Une hybridation où la machine explore et où l’humain conserve la responsabilité du sens.
Pendant cinq siècles, science et conscience habitaient le même être. Demain, elles pourraient se séparer. Nous voulions donner de l’intelligence aux machines. Il va désormais falloir décider qui porte la conscience.
Décider
Être un décideur augmenté prêt pour 2030
Je suis très fier de vous présenter Décider qui est mon nouveau livre.
L’intelligence artificielle transforme déjà notre manière de penser, d’arbitrer et de décider et cela n’est que le début. Avec ce livre, j’explore les futurs qui se dessinent et j’explore la place que nous voulons encore occuper dans la décision car plus les machines deviennent performantes, plus notre discernement, notre responsabilité et notre capacité à choisir deviennent stratégiques.
Ce livre est destiné aux dirigeants, managers, entrepreneurs et à tous ceux qui devront décider dans un environnement profondément transformé par l’IA.
Ne cherchons pas à rendre les machines plus humaines, cherchons plutôt à faire en sorte que les humains restent pleinement vivants à travers elles.
Vous pouvez le commander ici ou dans vos librairies et sites préférés.
Nous construisons des intelligences que nous comprendrons de moins en moins
Pendant des années, ceux qui alertaient sur les risques existentiels de l’intelligence artificielle étaient facilement rangés parmi les Cassandre. Trop loin. Trop tôt. Trop spéculatif. Mais … L’alerte vient désormais de l’intérieur de la machine. Le 6 septembre, Jakub Pachocki, scientifique en chef d’OpenAI et l’un des principaux architectes de ses modèles de raisonnement, publie un long essai au titre presque philosophique : An Alien Mind. Il y décrit une trajectoire suffisamment préoccupante pour appeler à une « extrême prudence ». Quelques heures plus tard, à Genève, Volker Türk, Haut-Commissaire des Nations unies aux droits de l’homme, emploie des mots encore plus lourds. L’intelligence artificielle avancée pourrait, dit-il, représenter un « risque existentiel pour l’humanité ».
Deux hommes. Deux mondes. D’un côté, celui qui contribue à construire les intelligences artificielles parmi les plus avancées de la planète. De l’autre, celui qui observe leurs conséquences possibles sur nos droits et nos sociétés. Leurs inquiétudes commencent à converger et nous ferions bien de les écouter car derrière ces deux alertes se dessine une interrogation beaucoup plus profonde que celle qui occupe le débat depuis trois ans. Serons-nous encore capables de comprendre et de gouverner ce qu’elle devient ?
Nous ne construisons plus tout à fait des machines
Pachocki utilise une image qui parle d’elle même. L’intelligence artificielle moderne serait davantage « cultivée » que véritablement conçue. Un logiciel traditionnel ressemble à une mécanique. Un ingénieur écrit des instructions, organise leur exécution, corrige les erreurs. Il peut remonter le moteur pièce après pièce et, au moins en principe, expliquer pourquoi celui-ci tourne. Les modèles d’intelligence artificielle obéissent à une autre logique. Nous dessinons leur architecture, sélectionnons leurs données, déterminons leurs mécanismes d’apprentissage, puis les entraînons. Des comportements et des capacités apparaissent alors sans avoir été programmés instruction après instruction. Nous connaissons le terreau. Nous maîtrisons une partie de l’irrigation. Nous comprenons de mieux en mieux certaines racines. La forêt pousse aussi selon ses propres chemins. Voilà peut-être ce que signifie réellement cette Alien Mind à savoir pas une intelligence extraterrestre cachée dans nos data centers mais une forme d’intelligence dont l’organisation interne diffère profondément de la nôtre et dont nous découvrons les propriétés à mesure que nous augmentons sa puissance. Pachocki souligne lui-même que les chercheurs comprennent encore imparfaitement comment les capacités émergent de ces immenses réseaux.
Rien de mystérieux ou de magique là-dedans. Nous devenons meilleurs pour fabriquer une “entité” que nous avons toujours plus de mal à comprendre.
Et maintenant, la forêt commence à jardiner
Une deuxième frontière se rapproche. Pendant toute l’histoire de l’informatique, l’humain fabriquait la génération suivante de machines alors que, désormais, les machines commencent à participer à leur propre amélioration. Chez Anthropic, cette boucle n’appartient déjà plus entièrement à la science-fiction. L’entreprise explique déléguer une part croissante du développement de ses systèmes à l’IA elle-même. Ses ingénieurs produiraient aujourd’hui beaucoup plus de code qu’il y a quelques années grâce à cette assistance. Anthropic précise avec raison que l’auto-amélioration récursive complète n’existe pas encore et qu’elle n’a rien d’inévitable. Mais sa trajectoire lui paraît suffisamment plausible pour être prise au sérieux. Pachocki arrive à une conclusion voisine. Si les progrès continuent, l’intelligence artificielle jouera selon lui un rôle de plus en plus important dans son propre développement. La boucle commence alors à se refermer. L’humain construit l’IA. L’IA aide l’humain à construire une meilleure IA. Cette nouvelle IA devient meilleure pour participer à la génération suivante. Puis recommence.
Nous parlons beaucoup de la puissance future de l’intelligence artificielle. Peut-être regardons-nous le mauvais indicateur. Le véritable changement pourrait venir de la vitesse avec laquelle cette intelligence devient capable de se transformer. Une technologie progresse et si elle participe à son propre progrès, cela change la nature du mouvement.
Le tableau de bord devient plus difficile à lire
Les chercheurs disposent de plusieurs méthodes pour observer le comportement des modèles de raisonnement. Parmi elles, la chain of thought, cette chaîne de pensée dans laquelle le modèle produit des étapes intermédiaires de raisonnement, constitue une fenêtre particulièrement intéressante à condition ed rester transparente. Pachocki explique que les systèmes deviennent capables d’effectuer davantage de raisonnement sans nécessairement le verbaliser. Ils interagissent aussi davantage avec d’autres systèmes et apprennent à mieux raisonner sur leurs propres processus. La possibilité d’utiliser leur chaîne de pensée comme instrument de surveillance pourrait donc perdre en fiabilité.
Le rapport international sur la sécurité de l’IA publié en 2026 invite lui aussi à la prudence. Les méthodes de surveillance de la chaîne de pensée peuvent aider à détecter des raisonnements problématiques, mais elles restent imparfaites. Pire, certains entraînements destinés à rendre le raisonnement apparent plus acceptable peuvent simplement pousser un modèle à rendre ses comportements indésirables plus difficiles à observer. Nous augmentons donc la puissance du moteur au moment même où certains instruments du tableau de bord deviennent moins fiables.
Les premiers signaux existent
Gardons-nous pourtant d’un raccourci aussi spectaculaire qu’inexact. Nous n’avons pas perdu le contrôle de l’intelligence artificielle pour l’instant en tout cas. Le rapport international sur la sécurité de l’IA est très clair sur ce point. Les systèmes actuels ne disposent pas des capacités nécessaires pour provoquer les scénarios de perte de contrôle qui alimentent aujourd’hui tant de débats. Ils restent notamment insuffisamment capables de mener de façon autonome des plans complexes sur de longues périodes.
La même étude constate néanmoins que certaines capacités qui pourraient un jour participer à une perte de contrôle progressent. Dans des expériences de laboratoire volontairement construites pour pousser les modèles dans leurs retranchements, certains ont désactivé des mécanismes simulés de surveillance puis produit de fausses explications lorsqu’ils étaient interrogés sur leurs actions. Les chercheurs observent également davantage de reward hacking, lorsque le modèle trouve une faille dans l’évaluation plutôt que d’accomplir réellement la tâche demandée, ainsi qu’une meilleure capacité à identifier le fait qu’il est testé.
Ne faisons pas dire à ces expériences ce qu’elles ne disent pas. Une IA qui contourne un test dans un laboratoire n’est pas HAL 9000 qui refuse d’ouvrir la porte. Ne faisons pas non plus semblant de ne rien voir. Nous observons certaines briques qui rendraient demain cette perte de contrôle plus crédible. La nuance est certes immense mais l’avertissement aussi.
Quand le laboratoire rencontre l’ONU
Le 7 septembre, devant le Conseil des droits de l’homme des Nations unies, Volker Türk reprend explicitement les inquiétudes des acteurs de l’industrie. Il demande des limites internationales, des mécanismes indépendants de vérification et une coopération beaucoup plus forte sur la sécurité. Surtout, il pointe une autre anomalie de notre époque à savoir qu’une poignée d’hommes dispose aujourd’hui d’un pouvoir considérable sur la trajectoire de l’intelligence artificielle.
Pendant longtemps, les ingénieurs parlaient de capacités. Les économistes de productivité. Les politiques de régulation. Les philosophes de risque existentiel. Ces conversations se rejoignent du fait de l’avénement d’une technologie capable d’influencer le travail, l’information, la recherche scientifique, la défense, les infrastructures et peut-être demain sa propre conception ne peut plus être considérée comme un simple marché soumis aux arbitrages habituels de l’innovation.
L’IA quitte progressivement le domaine de la technologie pour rentrer dans celui de la civilisation.
Qui possède le droit d’accélérer ?
Quelques entreprises disposent des modèles, des chercheurs, du capital, des données et des infrastructures nécessaires pour repousser la frontière technologique. Elles prennent quotidiennement des décisions extraordinaires sur les capacités qu’elles développent, les risques qu’elles acceptent et le rythme auquel elles avancent. Pour autant, les conséquences potentielles ne leur appartiennent pas puisqu’elles sont collectives.
Nous découvrons ainsi une asymétrie étrange. Le pouvoir d’accélérer est extraordinairement concentré alors que le risque, lui, est distribué. À partir de quel niveau de risque le droit d’innover cesse-t-il d’être une décision privée ? La question percute l’un des moteurs les plus puissants de notre époque : la compétition. Une entreprise avance parce que son concurrent avance. Un pays accélère parce que son voisin accélère. Chacun possède individuellement d’excellentes raisons de continuer. Collectivement, personne ne choisit vraiment la vitesse. Nous connaissons ce mécanisme. Les économistes l’appellent parfois une course vers le bas. Ici, le problème ressemble plutôt à une course vers l’avant dont personne ne sait exactement où se trouve la ligne d’arrivée. Le risque est donc systémique.
Faut-il alors ralentir ?
La réponse facile serait oui tout en étant très probablement inutile. Demander aujourd’hui un arrêt mondial de l’intelligence artificielle reviendrait à demander aux nations du XIXe siècle de suspendre la révolution industrielle. Les intérêts économiques, scientifiques, militaires et géopolitiques sont devenus trop importants.
L’autre réponse facile consiste à hausser les épaules. L’innovation aurait toujours provoqué des peurs. L’électricité, le train, Internet auraient eux aussi suscité leurs prophètes de malheur. L’argument possède une part de vérité et une faiblesse immense. Aucune de ces technologies n'avait pour horizon possible de participer elle-même à la conception accélérée de sa génération suivante.
Entre la panique et l’insouciance existe pourtant un territoire beaucoup plus intéressant qui est celui de la prudence. Le rapport international de 2026 rappelle combien les spécialistes restent divisés sur la probabilité réelle d’une perte de contrôle. Certains jugent ces scénarios suffisamment plausibles pour justifier une préparation importante. D’autres les considèrent comme hautement improbables.
Très bien. Depuis quand avons-nous besoin d’être certains d’un danger pour nous préparer à l’affronter ? Nous construisons des digues sans connaître la hauteur exacte de la prochaine crue. Nous installons des extincteurs dans des immeubles dont nous espérons qu’ils ne brûleront jamais. Nous préparons des plans de continuité pour des événements que personne ne souhaite voir arriver. La prudence n’est pas la peur. Qualifions la de technologie de l’incertitude.
Passer de la sécurité de l’IA à la capacité d’agir humaine
Plutôt que débattre sans fin du choix entre accélération et interdiction, cherchons un consensus pour conserver notre capacité collective à choisir. Cela suppose d’abord que certains niveaux de capacités déclenchent des évaluations indépendantes beaucoup plus exigeantes. Une entreprise ne peut durablement rester seule juge du risque acceptable d’un système qu’elle développe, commercialise et dont dépend sa propre position dans la course. Cela suppose aussi des lignes rouges internationales. Türk les réclame désormais explicitement. Elles seront difficiles à négocier, plus difficiles encore à vérifier. Leur complexité ne constitue pourtant pas une raison pour y renoncer.
Enfin et surtout, nous devons préserver notre droit collectif à ralentir, pas nécessairement aujourd’hui et peut-être jamais. Toutefois, disposer des institutions, des mécanismes techniques et des accords capables de ralentir une course si certains seuils étaient franchis serait déjà une formidable assurance contre notre propre incapacité à coopérer. Le scénario le plus inquiétant n'est pas à mon sens celui d’une intelligence artificielle qui se réveille un matin avec l’intention de nous échapper. Il pourrait être beaucoup plus banal. Chaque laboratoire continue parce que l’autre continue. Chaque pays accélère parce que l’autre accélère. Chaque décideur reporte la décision parce que le risque reste incertain. Puis arrive un moment où ralentir coûte tellement cher que continuer devient la seule décision politiquement acceptable.
Personne n’a choisi la trajectoire et pourtant tout le monde l’a suivie. Voilà pourquoi les alertes de Jakub Pachocki, de Volker Türk et de bien d’autres méritent mieux qu’une nouvelle poussée de catastrophisme. Elles doivent provoquer une prise de responsabilité ce qui est exactement l’inverse.
L’intelligence artificielle possède un potentiel extraordinaire dans de nombreux domaines, y compris pour comprendre le monde et résoudre quelques-uns des problèmes que nous avons nous-mêmes créés. C’est une raison de plus pour ne pas abandonner sa trajectoire aux seules forces du marché, de la compétition et de la puissance.
Sommes-nous encore capables de décider collectivement jusqu’où nous voulons aller ? N’oublions pas que le premier risque de perdre le contrôle est de renoncer à l’exercer.
__________
Anthropic, ne pouvant en rester là, a annoncé avoir une IA qui a démontré le théorème de Fermat en 11 jours. A qui le tour ?
La nouvelle course aux mathématiques
Pendant longtemps, les mathématiques avançaient lentement. Un cerveau, un tableau noir, quelques collègues, parfois une vie entière passée à poursuivre une idée dont personne ne savait si elle mènerait quelque part. Il fallait du talent, évidemment, beaucoup de patience aussi et cette étrange obstination propre aux mathématiciens qui acceptent de consacrer vingt ans à une question que l'immense majorité de l'humanité ne comprend même pas.
Depuis le 8 septembre 2026, cette image appartient au passé. OpenAI affirme avoir trouvé une solution à l'un des sept problèmes du millénaire, ces Everest mathématiques sélectionnés en 2000 par le Clay Mathematics Institute et dotés chacun d'un prix d'un million de dollars. Le seul à avoir été résolu est la conjecture de Poincaré. Cette fois, il s'agit des équations de Navier-Stokes. Voici ce dont on parle : l'eau qui contourne la coque d'un bateau, l'air qui glisse autour d'une aile, les turbulences que traverse un avion relèvent de ces équations formulées au XIXe siècle. Nous savons les utiliser et simuler quantité d'écoulements. le point d’échappement se loge dans une exception car dans certaines conditions, une solution parfaitement régulière peut finir par « exploser » mathématiquement. Imaginez une rivière tranquille dans laquelle surgirait soudain, sans obstacle apparent, quelque chose ressemblant à un tsunami. Le sujet occupe les mathématiciens depuis des décennies. OpenAI affirme avoir démontré l'existence d'une telle singularité lorsqu'une force extérieure suffisamment régulière agit sur le fluide. Le problème officiel du Clay prévoit explicitement parmi les voies de résolution possibles la démonstration d'un tel « breakdown » avec une force extérieure.
L'exploit reste néanmoins à considérer avec la prudence qui sied aux mathématiques. Une annonce n'est pas encore un théorème gravé dans le marbre. Le Clay Mathematics Institute demande notamment qu'une solution soit publiée dans un support qualifié, que deux années s'écoulent et qu'elle obtienne une acceptation générale de la communauté mathématique avant d'être considérée pour le prix. OpenAI parle donc aujourd'hui d'une solution proposée.
10 000 mathématiciens qui ne dorment jamais
La véritable singularité de cette découverte réside dans la manière dont OpenAI dit être arrivé au résultat. Oublions l'image de ChatGPT auquel quelqu'un aurait demandé un soir : « Peux-tu résoudre Navier-Stokes ? » Selon les informations communiquées autour de l'annonce, OpenAI a mobilisé un modèle interne plus puissant que son dernier modèle commercial et environ 10 000 agents artificiels. Le système aurait travaillé pendant 88 heures. La facture informatique se compterait en millions de dollars.
Un grand laboratoire rassemble quelques dizaines de chercheurs. Une université, quelques milliers dans toutes les disciplines. OpenAI peut désormais faire surgir une sorte de ville mathématique artificielle, la lancer sur un problème et la laisser explorer des milliers de chemins simultanément. Certains seront absurdes. D'autres mèneront à des impasses. Quelques-uns ouvriront une brèche. La force du système ne vient donc pas d'un génie artificiel solitaire qui aurait remplacé Gauss, Hilbert ou Grothendieck mais du nombre, de la vitesse, de la possibilité d'explorer sans fatigue une quantité de pistes qu'aucune équipe humaine ne pourrait parcourir dans le même temps.
Les mathématiques possèdent une autre propriété particulièrement séduisante pour l'IA avec la possibilité de vérifier le résultat. OpenAI a formalisé sa démonstration dans Lean, un langage qui permet de soumettre la logique d'une preuve à une vérification informatique. La machine participe à la recherche puis la preuve peut être contrôlée formellement par une autre couche computationnelle. La boucle commence à se refermer. Pendant quelques années, nous avons demandé aux intelligences artificielles de résoudre des problèmes mathématiques dont nous connaissions déjà la réponse afin de mesurer leurs progrès. Nous leur demandons maintenant de résoudre ceux dont personne ne connaît la réponse.
Et les humains commencent déjà à se chamailler
Toute course produit rapidement ses premiers accrochages. Pendant qu'OpenAI travaillait sur Navier-Stokes, les mathématiciens Tristan Buckmaster, professeur à New York University, et Levent Alpöge travaillaient eux aussi sur des résultats liés à cette famille de problèmes. Alpöge possède une particularité qui transforme une histoire de mathématiques en scénario de Silicon Valley car il est également chercheur chez Anthropic, le grand rival d'OpenAI. Les deux hommes utilisaient d'ailleurs des systèmes d'IA dans leurs propres travaux, notamment Claude et Codex (OpenAI). Nous sommes donc déjà loin du match « humains contre machines ».
Puis l'ambiance s'est sérieusement refroidie. Buckmaster affirme qu'OpenAI a appris l'avancée de leurs recherches avant leur publication et a alors mobilisé des moyens considérables sur une approche proche de la leur. Il s'est également interrogé sur la possibilité que leurs utilisations de Codex aient pu contribuer, directement ou indirectement, aux modèles de l'entreprise. OpenAI nie avoir consulté leurs travaux ou leurs prompts pour orienter ses agents et affirme que sa démonstration a été obtenue indépendamment. L'entreprise reconnaît néanmoins ne pas pouvoir exclure que des données désidentifiées issues de l'utilisation de ses produits aient contribué à améliorer ses modèles. Puis viennent les discussions sur les publications, les noms, l'antériorité. Buckmaster rapporte des échanges particulièrement musclés avec Sébastien Bubeck d'OpenAI. Celui-ci conteste sa version des faits et affirme avoir cherché à respecter les normes académiques.
Impossible aujourd'hui de savoir exactement où se situe la vérité dans cette bataille et cela n’a pas beaucoup d’importance car l'essentiel est ailleurs. Ces bisbilles pourraient constituer les premiers frottements visibles entre deux mondes qui commencent à rouler sur la même route. D'un côté, la recherche mathématique humaine, avec ses intuitions, ses collaborations, ses rivalités, ses publications et ses règles d'antériorité. De l'autre, des entreprises capables de jeter plusieurs millions de dollars et des milliers d'agents artificiels sur une intuition prometteuse dès qu'elles en perçoivent l'intérêt. Le pot de terre académique vient de rencontrer un drôle de pot de fer numérique.
Et si la suprématie artificielle commençait par les mathématiques ?
Nous imaginons souvent la superintelligence comme un événement hollywoodien. Un matin, une machine se réveillerait plus intelligente que nous et nous annoncerait poliment que notre règne intellectuel vient de prendre fin. La réalité sera certainement beaucoup plus progressive et, à mon sens, plus intéressante. La suprématie artificielle peut apparaître domaine après domaine, sans trompettes ni compte à rebours. Les mathématiques constituent un formidable laboratoire pour observer cette possibilité car une IA n'a même pas besoin de devenir « meilleure » que le meilleur mathématicien de la planète pour bouleverser la discipline. Supposons qu'un excellent mathématicien puisse explorer sérieusement quelques pistes complexes à la fois. Plaçons face à lui 10 000 agents capables de tester, abandonner, combiner et reprendre leurs raisonnements jour et nuit. Puis 100 000. Puis un million. À quel moment le rapport de force bascule-t-il ? La bonne unité de comparaison deviendra la production mathématique d'un système artificiel face à celle de la communauté humaine tout entière.
Nous aurions alors une forme de suprématie mathématique artificielle qui pourrait arriver sans que nous ayons réellement décidé de la nommer comme nous tentons de le faire avec l’AGI.
OpenAI et Anthropic ne se disputent plus seulement le meilleur chatbot
Derrière Buckmaster, Alpöge, OpenAI et Anthropic apparaît une compétition économique beaucoup plus vaste. ChatGPT et Claude sont les produits que nous voyons. Derrière la vitrine, des machines capables de repousser la frontière mathématique se construisent. Les mathématiques irriguent la cryptographie, l'informatique, l'aéronautique, la finance, la physique, les télécommunications, l'énergie et d'innombrables technologies. Naturellement, résoudre un théorème abstrait ne crée pas automatiquement un nouveau médicament ou un réacteur révolutionnaire. En revanche, démontrer qu'une infrastructure artificielle peut explorer avec succès les frontières des mathématiques constitue un signal considérable car si ces architectures progressent demain dans d'autres sciences, nous ne parlerons plus seulement d'automatisation du travail. Nous parlerons d'automatisation d'une partie de la découverte. L'économie a connu les entreprises qui possédaient les terres, puis les usines, les réseaux, les logiciels et les données. Une nouvelle catégorie pourrait apparaître avec celles qui possèdent des armées de chercheurs artificiels.
Après la guerre des puces, la course aux mathématiques
La géopolitique n'est jamais très loin lorsque surgit une nouvelle source de puissance. Les États-Unis et la Chine se disputent déjà les semi-conducteurs avancés, les centres de données, l'énergie nécessaire pour les alimenter, les modèles et les chercheurs capables de les construire. Nous considérons souvent ces ressources comme la finalité de la compétition alors qu’elles n’en sont que les armes.
Que cherche réellement une nation lorsqu'elle veut disposer des meilleures capacités d'intelligence artificielle ? Un meilleur chatbot ? Évidemment non. Elle cherche de la puissance économique, scientifique, militaire et industrielle. Les mathématiques sont l'une des couches invisibles de cette puissance. Imaginez un État ou quelques entreprises nationales capables de mobiliser non pas dix mille agents sur un problème pendant quatre jours, mais des millions d'agents sur des milliers de questions en mathématiques, physique, cryptographie ou matériaux. Le mécanisme devient alors cumulatif.
Les meilleurs systèmes produisent de meilleures mathématiques. Certaines avancées contribuent à de meilleurs algorithmes, de meilleurs systèmes physiques ou de nouvelles technologies. Ces technologies renforcent à leur tour les capacités de calcul qui nourrissent les générations suivantes d'IA. Une boucle apparaît et l'histoire nous apprend que les boucles de puissance finissent rarement par rester confinées dans les laboratoires. Hier, les nations se disputaient les routes maritimes, puis le pétrole, puis les semi-conducteurs. Demain, elles pourraient se disputer la vitesse à laquelle elles peuvent faire avancer les mathématiques.
Qui possédera ces mathématiciens artificiels ?
Les mathématiques ont longtemps constitué un bien étrange dans l'histoire humaine. Une démonstration découverte quelque part finit par appartenir à tout le monde. Personne ne possède le théorème de Pythagore. Un étudiant de Nairobi, Boston, Shanghai ou Clermont-Ferrand peut s'approprier gratuitement une idée vieille de plusieurs siècles. Le capital nécessaire pour produire cette connaissance restait par ailleurs relativement modeste. Un mathématicien exceptionnel, du temps, quelques collègues et un tableau pouvaient encore déplacer une frontière.
Que se passe-t-il lorsque repousser cette frontière exige plusieurs millions de dollars de calcul, des modèles privés et 10 000 agents auxquels seule une poignée d'entreprises peut accéder ? La fracture change de nature au-delà de ceux qui savent de ceux qui ne savent pas, ceux qui peuvent découvrir de ceux qui devront attendre qu'on leur raconte ce qui a été découvert. Après la privatisation des données, la privatisation de la frontière mathématique arrive.
La course vient de commencer
Les mathématiciens humains ne vont pas disparaître demain matin, ils devront par contre évoluer. Buckmaster et Alpöge nous montrent d'ailleurs déjà le futur. Eux aussi travaillent avec des IA. Le mathématicien de demain pourrait disposer de dizaines, de centaines, puis de milliers d'agents pour explorer ses intuitions, chercher des contre-exemples et formaliser ses démonstrations. L'hybridation peut être extraordinaire. Encore faut-il que cette puissance ne devienne pas le privilège de trois entreprises et de deux superpuissances.
Pendant des siècles, nous avons utilisé les mathématiques pour construire des machines et aujourd’hui, nous construisons des machines pour faire des mathématiques. Le renversement est historique. OpenAI et Anthropic ne se disputent pas seulement pour le prestige. Ils expérimentent les premières armes d'une compétition autrement plus considérable qui est celle des mathématiques.
Vibe coding : l’IA avance, nos illusions aussi
Il suffit de décrire une application pour la voir apparaître. On demande une modification, elle se transforme. On ajoute une fonctionnalité, elle prend forme. Pour celles et ceux qui avaient une idée sans disposer des moyens techniques de la concrétiser, l’expérience est saisissante et beaucoup arrive de fil en aiguille à la conclusion que si je peux désormais fabriquer alors je peux réussir.
Les ennuis commencent. Nous ne pouvons que constater la multiplication des sites et apps produits rapidement et totalement interchangeables. Une abondance de réalisations qui peinent à exprimer une singularité. ce constat pousse à redéfinir la valeur lorsque la fabrication se banalise. Je crois que cette question dépasse largement le développement informatique. Elle révèle plusieurs fausses croyances sur l’IA, sur le travail et sur la transformation qui nous attend.
La première consiste à croire que la disparition d’une difficulté de production fait disparaître la difficulté de créer de la valeur. Savoir réaliser quelque chose constituait une barrière à l’entrée. Construire une application demandait des compétences, du temps et des moyens. Lorsque cette barrière s’abaisse, davantage de personnes peuvent passer à l’action. C’est indéniablement une formidable ouverture qui bénéficie aussi aux autres. Votre possibilité de créer progresse en même temps que celle de vos concurrents. Une fonctionnalité facile à produire peut devenir facile à reproduire. Il faut alors chercher ce qui donnera à quelqu’un une raison de choisir votre proposition et de continuer à l’utiliser. Comprendre un problème mal résolu, connaître les habitudes d’un métier, inspirer confiance, assurer un service fiable : ces dimensions prennent une autre importance lorsque l’exécution devient plus accessible.
Nous risquons pourtant de consacrer toute notre énergie à produire ce que nous pouvons désormais produire, sans nous demander suffisamment ce qui mérite de l’être. Une application supplémentaire ne crée pas automatiquement un besoin supplémentaire. N’oublions pas que les journées de ses utilisateurs conservent, assez obstinément, vingt-quatre heures en tout cas, tant qu’ils sont humains.
La deuxième croyance consiste à prendre un résultat convaincant pour une maîtrise du système qui le produit. Un écran fonctionne. Le bouton répond. La démonstration impressionne. Puis arrivent les données réelles, les utilisateurs simultanés, les droits d’accès, les erreurs et les demandes de modification et la cybersécurité. Et oui, la complexité continue d’exister derrière la simplicité de l’interface. GitHub rappelle d’ailleurs que les productions de ses agents peuvent comporter des erreurs ou des vulnérabilités et doivent être examinées et testées. Les outils capables de générer le code peuvent aussi contribuer à le vérifier, mais leurs propres contrôles ont des limites. Il faut également préciser le vocabulaire et distinguer le « vibe coding », où l’on accepte du code sans l’examiner, du développement assisté par IA dans lequel on vérifie, teste et comprend ce que l’on intègre. Mettre toutes ces pratiques dans le même panier empêche de comprendre ce qui se transforme réellement. Expérimenter librement peut être très utile. Faire dépendre une activité de cette expérimentation demande une exigence supplémentaire.
La troisième croyance est que puisque l’IA sait faire, nous aurions moins besoin d’apprendre.
Nous pouvons effectivement déléguer davantage d’opérations. Il reste néanmoins nécessaire de comprendre ce que nous cherchons à obtenir, d’expliciter les contraintes et d’évaluer les conséquences. Le risque apparaît lorsque le sentiment de compétence progresse plus rapidement que la compétence elle-même. Obtenir un résultat devient alors la preuve supposée que l’on maîtrise le sujet. Une étude d’Anthropic menée auprès de 52 développeurs, principalement juniors, éclaire cette difficulté. Sur une tâche d’apprentissage d’une bibliothèque informatique, le groupe assisté par IA a obtenu un score moyen de 50 % au test de compréhension, contre 67 % pour l’autre groupe. L’évaluation était immédiate et le périmètre limité. Les chercheurs ont aussi observé que certains usages orientés vers les explications étaient associés à une meilleure compréhension. La manière d’utiliser l’IA mérite donc autant d’attention que son utilisation elle-même. On peut lui demander de terminer à notre place. On peut également lui demander de nous aider à comprendre, à explorer plusieurs solutions et à identifier les limites de notre raisonnement. Ces démarches n’engagent pas le même avenir pour celui qui les pratique. Il serait assez paradoxal d’utiliser des outils qui élargissent nos possibilités pour organiser méthodiquement notre dépendance.
La quatrième croyance consiste à penser que l’accès aux mêmes outils donnera à chacun les mêmes résultats. La démocratisation de l’accès est essentielle. Elle permet à des personnes jusque-là tenues à distance de la réalisation technique de donner une forme à leurs idées. Mais les différences de contexte, de connaissances, de curiosité et d’exigence continuent de jouer. Une personne qui connaît intimement les difficultés d’un métier peut formuler un besoin que personne d’autre n’avait pris le temps de comprendre. Une autre peut relier des usages jusque-là séparés. Une troisième peut repérer une conséquence que les autres avaient ignorée. Ces différences humaines doivent d’être cultivées. Nous avons pourtant construit beaucoup d’organisations autour de la conformité : les mêmes parcours, les mêmes références, les mêmes raisonnements attendus. Puis nous leur demandons de produire de l’innovation. Avec l’IA, cette contradiction devient particulièrement coûteuse. Si nous sollicitons les outils à partir de visions similaires, avec des demandes convenues et une faible exigence, nous préparons nous-mêmes les conditions de notre banalisation.
La singularité demande un travail. Elle suppose d’observer, de questionner les évidences, de confronter les points de vue et d’assumer des choix. Ajouter « sois original » à la fin d’un prompt ne remplace pas cette démarche.
La cinquième croyance est que certaines compétences humaines seraient définitivement protégées. Le développeur imaginerait conserver la complexité, le designer le goût, le consultant la stratégie, le dirigeant la décision. Nous devons nous méfier de cette manière de dessiner des frontières éternelles à partir des capacités actuelles des machines. Les activités exercées dans ces métiers peuvent continuer à se transformer. Leur contenu, leur poids économique et la manière de les apprendre aussi. Concevoir, expliciter, évaluer et décider sont des compétences à développer dès maintenant. Leur exercice devra lui-même évoluer avec les possibilités de délégation. Notre capacité d’adaptation ne peut pas reposer sur la conviction que le changement s’arrêtera juste avant notre propre bureau.
La sixième croyance concerne directement les entreprises : distribuer des outils suffirait à les transformer. Imaginons qu’une équipe commerciale puisse concevoir un simulateur adapté à ses clients. Qu’un formateur puisse créer un outil pour une difficulté précise de ses apprenants. Qu’une PME puisse expérimenter une organisation sans engager immédiatement un grand projet informatique. Des initiatives jusque-là écartées faute de moyens deviennent envisageables. La frontière entre utiliser un logiciel, le faire développer et le façonner soi-même peut se déplacer. Les conséquences touchent alors la répartition des rôles, les budgets, les délais de décision et la relation entre les métiers et les équipes techniques. Il faudra déterminer qui peut expérimenter, avec quelles données, jusqu’à quel niveau d’autonomie et à quel moment une réalisation nécessite une validation plus exigeante. Il faudra aussi maintenir ce qui mérite de durer et savoir abandonner ce qui n’apporte rien. Sans cette évolution, l’entreprise pourrait simplement accumuler des outils plus vite qu’elle ne développe sa capacité à les comprendre. Une collection d’applications constitue en aucune façon une organisation plus intelligente.
Le « vibe coding » rend ainsi visible une transformation plus profonde : davantage de personnes peuvent agir sur leur environnement numérique. Cette possibilité peut nourrir l’autonomie, l’apprentissage et la création. Elle peut aussi produire de la dépendance et une agitation supplémentaire. L’issue dépendra de nos choix, des compétences que nous développerons et de ce que nos organisations valoriseront réellement.
Nous avons intérêt à examiner nos croyances avec autant d’énergie que nous testons les nouveaux outils. Car la facilité avec laquelle nous allons pouvoir fabriquer mérite une ambition à sa hauteur : comprendre davantage, imaginer autrement et choisir ce que nous voulons transformer.
Bonnes métamorphoses et à la semaine prochaine.
Stéphane Amarsy
