Un monde probable et convergent
Les IA promettent une forme d’utopie vantant « la liberté de choix » guidée par nos désirs et comportements. Elles contribuent à l’émergence d’un individu entrepreneur, responsable et conquérant mais en réalité la personne n’existe que par ce qu’elle livre d’elle-même par le biais de ses données. L’IA rend réelle cette utopie en trouvant des corrélations sans se soucier de modèles explicatifs a priori. Il n’est plus nécessaire d’utiliser des hypothèses, on ne cherche que des faits statistiques discrets et temporalisés dans un ensemble toujours grandissant de possibilités : à chaque instant ses vérités.
L’IA en y réfléchissant bien a mis en lumière un paradoxe démoralisant : la « liberté » de choix a poussé chaque personne à se croire unique, singulière et émancipée des carcans sociétaux alors qu’en réalité nous n’avons jamais été aussi prévisibles. D’un point de vue mathématique, nous ne sommes plus à la recherche d’une théorie expliquant notre société mais sur une somme de faits avérés et toujours plus facilement prédictibles à partir de données individuelles.
L’utilisation de l’IA est différente de celle des « assistants robotisés » classiques : elle est conçue pour nous faire faire des choses en nous dispensant souvent d’avoir à identifier et évaluer par nous-mêmes plusieurs possibilités. Notre obéissance atténue fortement la responsabilité des opérateurs humains. De ce fait, l’autorité des algorithmes exige, de la part de celui qui souhaite ne pas suivre ses recommandations, de se justifier de manière persuasive et surtout d’assumer personnellement les conséquences de la décision prise.
Les IA induisent un mode de gestion des conduites à partir de données brutes et par anticipation des possibles plutôt que par la réglementation des faits. Les algorithmes s’adressent aux humains par des alertes ou des stimuli provoquant des réflexes sans s’appuyer sur leurs capacités de compréhension et de volonté. L’ajout du temps réel induit une instabilité de l’environnement de chaque individu qui in fine conduit à l’abandon du lien entre « causes et conséquences » au profit de faits statistiques prédisant des comportements sans nécessairement les comprendre. Pourquoi théoriser quoi que ce soit si « les chiffres parlent d’eux-mêmes » ?
« La machine nous dit : « Tu as un problème, je peux le résoudre, mais c’est donnant-donnant car en échange tu vas me programmer, me faire évoluer ». A tâtons, le programmeur patiemment écrit ses routines et la machine décide de celles qui marcheront ou pas. Dans ce contexte, la machine, comme un fœtus, évolue suivant un scénario parfaitement logique qui échappe à l’humain. Elle façonne la société à son avantage. »Philippe Ulrich (Ecrivain)
Le prédictif ne donne qu’un aperçu des chances de réalisation d’un futur donné. Sa multiplication permet de disposer d’une vue probabiliste de futurs faits identifiés. Seuls ceux qui se seront réalisés existeront réellement, charge aux acteurs de faire en sorte d’en favoriser certains sans oublier de considérer qu’il peut toujours se passer quelque chose de non anticipé. Si nous ne réagissons pas, ce « dataïsme » enlèvera tout libre arbitre à l’individu. Il est appauvrissant car il n’est que convergence alors que nous sommes riches de nos divergences auxquelles s’ajoutent tous les évènements imprévisibles de nos vies. Les enjeux éthiques et sociétaux doivent être considérés et intégrés dans les développements et les applications des nouvelles technologies reposant sur la donnée. L’usage massif de l’IA n’en est qu’à ses débuts mais il porte dans son ADN une dimension « liberticide » qui pourrait retirer toute autorité à l’humain. Refusons là, encadrons là, trompons là ... Il est encore temps ! C’est à cette seule condition qu’elle sera positive pour l’humanité.
PS : j’ai écrit cet article en 2019. Je n’ai rien changé dans le texte que vous venez de lire.
L’enjeu des données très personnelles
Bill Gates, co-fondateur de Microsoft et figure emblématique de l'innovation technologique, a partagé ses réflexions sur l'avenir de l'IA et son impact potentiel sur nos vies. Ses prévisions, publiées sur son blog dans un article de fin d'année, dessinent un futur où l'IA est central dans notre quotidien voir omnipotente.
Selon Bill Gates, les logiciels tels que nous les connaissons aujourd'hui sont destinés à disparaître, laissant place à ce qu'il appelle des "agents". Ces agents, propulsés par l'IA, ne se contenteront pas de modifier notre interaction avec les ordinateurs ; ils bouleverseront également l'industrie du logiciel, marquant la plus grande révolution informatique depuis le début de son histoire. Ces super assistants personnels numériques, boostés à l'IA, seront capables de suivre nos interactions pour nous offrir des services personnalisés. Par exemple, lors de l'organisation d'un voyage, un agent pourrait identifier des hôtels correspondant à notre budget, recommander des activités basées sur nos centres d'intérêt, et même réserver un restaurant adapté à nos goûts. A titre personnel, j’irai plus loin avec de véritables assistants devenant des intermédiaires entre nous et les entreprises / services divers et variés. Cela ira jusqu’à la délégation totale de tâches.
Un des enjeux majeurs de cette révolution sera la manière dont nous interagirons avec ces agents. Les entreprises explorent aujourd’hui différentes pistes, telles que les applications, les lunettes connectées, les hologrammes, ou encore les pin’s sans conclusion évidente. Bill Gates, quant à lui, mise sur les oreillettes comme moyen d'interaction privilégié entre l'homme et la machine. La question de la confidentialité se pose également. L'utilisation de ces agents IA impliquera une collecte massive de données très personnelles.
Les données captées avec ces outils sont ce que vous regardez, dites, entendez, … Elles ont une immense valeur permettant de générer des doubles numériques de chacun d’entre nous ouvrant des perspectives économiques complétement folles avec de rares compétiteurs qui seront certainement les fournisseurs de cloud. Evidemment, elles permettront également de développer des IA bien plus performantes que certains utiliseront pour de la manipulation. A ce sujet, je conseille vivement, à chaque fois que vous voulez utiliser un nouveau device d’identifier les données générées et les usages futurs que l’on peut en faire.
...
