Singularité technologique : mythe ou réalité à venir
La singularité technologique est l'hypothèse selon laquelle l'avènement de l'intelligence artificielle forte déclencherait un emballement de la croissance technologique qui induirait des changements imprévisibles sur la société humaine. Au-delà de ce point hypothétique, le progrès ne serait plus l'œuvre que d'IA dont l'intelligence s'amplifierait de manière exponentielle. De nouvelles générations d'IA de plus en plus intelligentes apparaissant de plus en plus rapidement, créant une "explosion d'intelligence" et par le fait même une puissante superintelligence qui dépasserait qualitativement de loin l'intelligence humaine. Certains prédisent que cela mène à l'atteinte de l'immortalité et conférant aux humains par hybridation un statut quasi divin. En un sens, c'est presque une forme de religion technologique. L'un des principaux partisans de la singularité technologique est Ray Kurzweil.
Ray Kurzweil, cofondateur de la Singularity University, est l'un des principaux défenseurs de l'hypothèse de la singularité technologique. Selon lui, la singularité deviendrait réalité approximativement en 2045 . Il considère que les progrès technologiques, notamment en IA, suivent une courbe exponentielle. Cette croissance exponentielle conduirait inévitablement à l'émergence d'une superintelligence dépassant l'entendement humain.
Le problème est que les “singularistes” confondent les fonctions sigmoïdes avec les fonctions exponentielles car cette fonction commence par une tendance exponentielle, mais la croissance ralentit ensuite et se stabilise.
C'est comme une tendance exponentielle suivie d'une tendance logarithmique. En réalité, les fonctions sigmoïdes sont plus en adéquation avec le fonctionnement du monde. Les fonctions exponentielles infinies seraient impossibles car elles enfreindraient les lois de la physique : une croissance exponentielle infinie serait théoriquement impossible car elle violerait les lois fondamentales de la physique, comme la conservation de l'énergie et de la matière. Aucun système physique ne peut croître indéfiniment de manière exponentielle en raison des contraintes de ressources limitées. A titre d’illustration, il n'y a pas d'espace ou d'énergie infinis à exploiter en tout cas pour un long moment. Il est toujours possible de penser que notre espace disponible n’est plus juste la terre mais notre galaxie voir plus et pour l’énergie, que nous aillons la maitrise totale de celle issue du soleil. J’insiste, ce n’est pas pour demain …
Voici quelques exemples de réalité sigmoïde :
La croissance démographique est un exemple biologique où une fonction exponentielle atteint ses limites. La population a augmenté très rapidement, étant multipliée par huit depuis 1800. Cette tendance n'est pas infinie et les taux de natalité baissent maintenant rapidement. Les familles deviennent plus petites et les humains réalisent qu'ils doivent vivre de manière plus durable. La population devrait se stabiliser autour de 10 milliards. Nous n'aurons pas une autre croissance exponentielle de 8 milliards à 64 milliards.
Les records de vitesse des avions montrent également une fonction sigmoïde. Au début de l'aviation, les ingénieurs pouvaient rapidement établir de nouveaux records. Cependant, depuis 1976, aucun nouveau record n'a été établi. En raison de la chaleur, de la friction et des limites dans la réduction de la traînée, les nouvelles améliorations des avions ne peuvent apporter que des améliorations mineures. Personne n'a essayé de battre le record établi en 1976.
Et la célèbre loi de Moore ? Elle décrit le doublement régulier de la densité des transistors sur les puces et elle commence à montrer ses limites physiques et économiques.
La puissance de calcul semble pour beaucoup être véritablement exponentielle, mais en réalité, nous atteignons un point où il devient difficile de réduire encore la taille des transistors. Cela est dû à des problèmes de dissipation de chaleur et au “tunneling” quantique des électrons lorsque les transistors deviennent trop petits. La taille des transistors est également limitée par la taille de l'atome de silicium. En attendant l’ordinateur quantique, les ordinateurs ne s'améliorent plus au rythme suggéré par la loi de Moore et les coûts de production de puces semi-conductrices plus avancées augmentent au lieu de diminuer. Si les vitesses de traitement suivent encore de près la loi de Moore dans certains cas, c'est simplement parce que les entreprises dépensent beaucoup plus en recherche et développement. Les prix des nouvelles cartes graphiques et des processeurs montrent que celle loi n’existe plus concernant les prix. Par le passé, le coût pour doubler la puissance de traitement après une certaine période était presque constant, mais ces temps sont révolus. De nouvelles technologies ont été suggérées pour continuer à innover, comme l'utilisation de germanium ou de transistors à lumière, mais ces innovations suivront in fine leurs propres courbes basées sur la fonction sigmoïde.
Les singularistes ont tendance à croire trop facilement que tout peut être résolu avec plus de puissance de calcul, alors qu'en regardant le monde physique, il est clair que ce n'est pas le cas. Nous vivons mieux qu'en 1965, mais pas des trillions de fois mieux (augmentation de la puissance de calcul) : la santé, l'éducation, les transports, urbanisme et les infrastructures. Les progrès dans ces domaines ont été plus lents et inégaux, entravés par des facteurs sociaux, économiques et réglementaires.
Et l’IA Générale ?
L'intelligence artificielle générale (IAG) arrivera probablement mais cela ne signifie pas qu'elle va inaugurer la singularité. Cela voudrait simplement dire que les ordinateurs ont des capacités cognitives supérieures aux animaux et aux humains. Ce serait certes une grande avancée, mais rien de comparable à une puissance exponentielle infinie. Les humains ont déjà leur propre intelligence générale artificielle, et notre intelligence s'est améliorée progressivement au fil des générations, pas par des bonds énormes. Le cerveau humain fonctionne également beaucoup plus efficacement que le matériel en silicium. Il est difficile de comparer directement le cerveau à un ordinateur, mais en termes informatiques, on pense que le cerveau peut résoudre certains problèmes avec une performance de un exaflop par seconde (un quadrillion d'opérations) tout en utilisant seulement 20 watts de puissance. Un superordinateur fonctionnant à 0,2 exaflop utilise environ 13 000 000 watts. En conséquence, il est possible qu'il ne soit même pas efficace d'utiliser des ordinateurs pensés comme aujourd’hui pour l'IAG. Il serait peut être préférable de laisser l'IAG aux structures biologiques. Nous devrions créer des structures matérielles similaires aux cerveaux organiques en utilisant des réseaux de neurones biologiques plutôt qu’artificiels.
Plutôt qu'une singularité soudaine, il est plus probable que l'innovation technologique continue comme elle l'a toujours fait : des découvertes et des avancées majeures suivies de périodes de ralentissement à mesure que nous maîtrisons ces nouveaux domaines. Ce cycle de progrès et de consolidation est inhérent au processus d'innovation. Bien que l'hypothèse de la singularité technologique soit séduisante, de nombreux experts remettent en question sa plausibilité et ses fondements théoriques. Les progrès technologiques continueront certes à un rythme soutenu, mais il est peu probable qu'ils suivent une courbe exponentielle infinie en violation des lois de la physique. Une perspective plus nuancée semble s'imposer, reconnaissant les avancées majeures tout en admettant les limites et les ralentissements inévitables dans certains domaines. La singularité n'arrive peut-être pas, mais en travaillant ensemble, nous pouvons continuer à innover et à rendre notre monde meilleur pour tous.
Scarlett Johansson et OpenAI : un amour de voix non réciproque
Scarlett Johansson a récemment accusé OpenAI d'avoir utilisé une voix pour ChatGPT qui ressemble étrangement à la sienne. L‘entreprise a en conséquence suspendu temporairement l'utilisation de cette voix appelée "Sky". Scarlett Johansson a déclaré qu'OpenAI avait utilisé sa voix sans son consentement suite à son refus à une demande de licence de la part de Sam Altman (PDG d'OpenAI). Elle a déclaré qu'elle avait été approchée par Sam Altman en septembre 2023 pour prêter sa voix au modèle ChatGPT 4o, une offre qu'elle a déclinée pour des raisons personnelles. Suite à la sortie de la voix "Sky", des amis et des membres de sa famille ont remarqué une ressemblance frappante avec sa propre voix, ce qui a conduit Johansson à exprimer son choc et sa colère. OpenAI a catégoriquement nié avoir intentionnellement imité la voix de Johansson.
L'entreprise a expliqué que la voix de "Sky" appartenait à une autre actrice professionnelle utilisant sa propre voix naturelle. L’entreprise a précisé que la sélection des voix pour ChatGPT avait été réalisée à partir de plus de 400 soumissions et que les acteurs avaient été choisis pour leurs qualités vocales spécifiques, sans intention de copier l’actrice. OpenAI a quand même décidé de suspendre l'utilisation de la voix "Sky". L'entreprise a également mentionné qu'elle ne pouvait pas divulguer les noms des acteurs pour protéger leur vie privée.
Cette controverse met en lumière les défis juridiques et éthiques liés à l'utilisation de voix clonées par l'IA avant celle des avatars. Les questions de droits d'auteur, de protection de la vie privée et de droits de la personnalité sont au cœur de ce débat, surtout avec l’explosion des deepfakes.
Pour la petite histoire, Sam Altman est totalement fan du film Her et en particulier de la vois de l’IA dont le personnage principal tombe amoureux. Et qui a prêté sa voix à cette IA ? Scarlett Johansson évidemment …
IA : la bataille des données
Google, Meta, et d'autres entreprises bénéficient d'un avantage compétitif notable par rapport à OpenAI, Mistral et Microsoft en raison de leur accès à des ensembles de données propriétaires uniques et vastes. Cet avantage est crucial pour le développement et l'entraînement des modèles d'intelligence artificielle générative et leurs performances.
Google possède un avantage concurrentiel majeur grâce à son intégration verticale et à ses vastes ensembles de données exclusives. Google a accès à des données provenant de son moteur de recherche, de YouTube, et d'autres services, ce qui lui permet d'entraîner ses modèles de langage à grande échelle de manière plus efficace et plus riche que ses concurrents. Par exemple, YouTube héberge environ 14 milliards de vidéos, fournissant un ensemble unique de contenus vidéo pour l'entraînement des modèles d'IA.
Meta, de son côté, a choisi une approche différente en ouvrant le code de son modèle Llama 2, ce qui lui permet de bénéficier de contributions de la communauté open source tout en maintenant un certain contrôle sur les données utilisées pour l'entraînement. Cette stratégie permet à Meta de combiner les avantages de l'open source avec l'accès à ses propres données propriétaires issues de ses plateformes sociales comme Facebook et Instagram.
D'autres entreprises comme Amazon et Anthropic ont accès à des ensembles de données propriétaires qui leur permettent de développer des modèles d'IA générative performants. Amazon peut utiliser les données de ses plateformes de commerce électronique et de ses services cloud pour entraîner ses modèles.
La performance des modèles d'IA générative du futur dépendra principalement de la qualité et de la singularité des données utilisées pour leur entraînement. Ces modèles apprennent à partir de données existantes pour créer de nouveaux contenus, et la richesse de ces données influence directement la capacité de ces derniers à générer des résultats réalistes et pertinents. dans ce contexte, les données propriétaires offrent un avantage compétitif car elles sont souvent plus riches et plus spécifiques que les données accessibles publiquement. Evidemment, l'utilisation de données propriétaires pose des défis en termes de gouvernance et de respect de la confidentialité. Les entreprises doivent s'assurer que les données utilisées sont de haute qualité et conformes aux réglementations en vigueur pour éviter des biais et des erreurs.
OpenAI tout comme Mistral n’accède pas nativement à un corpus de données singulières. C’est la raison pour laquelle cette entreprise intensifie ses efforts pour signer des accords avec divers médias afin d'accéder à des données singulières et de haute qualité. En accédant aux archives et aux contenus actuels des médias, OpenAI peut enrichir ses modèles avec des informations vérifiées et diversifiées, ce qui est essentiel pour maintenir des standards élevés de qualité et d'intégrité.
Voici l’historique des accords signés :
Associated Press (AP) - Juillet 2023
OpenAI a signé un accord de deux ans avec l'Associated Press pour accéder à des contenus sélectionnés et à la technologie des archives d'AP datant de 1985. Cet accord permet à OpenAI d'améliorer ses modèles tout en offrant à AP l'accès à la technologie propriétaire d'OpenAI.
Axel Springer - Décembre 2023
OpenAI a conclu un accord avec le groupe de médias allemand Axel Springer, permettant l'utilisation des articles de Business Insider et Politico pour entraîner ses modèles d'IA. Cet accord a été signé sans consultation préalable des journalistes, ce qui a suscité des débats sur l'impact de tels partenariats sur le journalisme.
Financial Times - Début 2024
Un accord similaire a été signé avec le Financial Times, permettant à OpenAI de licencier le contenu du FT pour développer ses modèles d'IA. Les utilisateurs de ChatGPT peuvent accéder à des résumés attribués, des citations et des liens enrichis vers le journalisme du FT.
Le Monde - 13 Mars 2024
Le Monde a signé un accord historique avec OpenAI, permettant à ce dernier d'utiliser le corpus du journal pour améliorer la fiabilité de ses réponses. Cet accord inclut des références explicites aux articles de Le Monde, accompagnées de logos, de liens hypertextes et de titres des articles utilisés comme références.
Prisa Media - 14 Mars 2024
OpenAI a également signé un partenariat avec Prisa Media, incluant des publications comme El País, Cinco Días et El Huffpost. Ce partenariat vise à permettre aux utilisateurs de ChatGPT d'accéder à des résumés de contenu et à des liens vers les articles originaux des éditeurs.
News Corp - 22 Mai 2024
Un accord majeur a été signé avec News Corp, permettant à OpenAI d'accéder aux contenus actuels et archivés de publications telles que The Wall Street Journal, Barron’s, MarketWatch et le New York Post. Cet accord, d'une valeur de plus de 250 millions de dollars sur cinq ans, vise à enrichir les produits d'OpenAI avec du journalisme de haute qualité.
Les accords de partenariat entre OpenAI et divers médias s’accélèrent et ce n’est pas fini. Ils n’ont nullement besoin de disposer d’un accord avec tous les médias. Ils choisissent leurs partenaires avec beaucoup de soin quand à l’apport potentiel de contenu. Et évidemment, ces contrats sont une aubaine pour les médias qui sont tous dans une situation économique complexe. Par contre, le futur s’assombrit pour les groupes de média non signataires de tels accords.
A suivre…
...
