Le biologiste évolutionniste Bret Weinstein a récemment mis en garde contre un danger que peu de personnalités politiques ou technologiques sont prêtes à affronter.
Dans son émission « The Joe Rogan Experience » , il a décrit l’intelligence artificielle (IA) comme agissant davantage comme un système vivant que comme un simple outil traditionnel.
Évoquant l’évolution rapide de l’IA, Weinstein a avancé qu’elle pourrait désormais franchir un seuil où elle fonctionnerait moins comme un outil et plus comme un système vivant – quelque chose qui gagne en complexité, évolue, s’adapte et finit par influencer les humains qui l’ont créée.
L’IA est véritablement complexe, et pas seulement compliquée ; de ce fait, des comportements nouveaux et imprévisibles émergeront.
Il pourrait s’agir d’une nouvelle branche de l’arbre de la vie, comme le suggère Weinstein, sans les limites physiques qui entourent habituellement les esprits biologiques, ce qui signifie que tout ce qui se développera à l’avenir pourrait rapidement nous surpasser.
Si Weinstein a raison, le débat sur la sécurité, la réglementation et l’éthique de l’IA n’est pas qu’un sujet théorique. Il revêt une importance civilisationnelle. La question dépasse le simple fait de savoir si l’IA automatisera les emplois, bouleversera les secteurs d’activité ou influencera les élections.
La question plus profonde, celle que Weinstein met en lumière, est de savoir si le progrès technologique incontrôlé conduit discrètement l’humanité vers un avenir transhumaniste – un monde où la frontière entre l’humain et la machine commence à s’estomper, non pas à travers des histoires de science-fiction, mais à travers une série de petites décisions négligées.
En ce sens, l’avertissement de Weinstein relève davantage du diagnostic que de la prédiction. Si nous persistons dans cette voie sans débat approfondi, sans consentement et sans humilité, nous pourrions un jour constater que l’être humain, tel que défini depuis des centaines de milliers d’années, ne représente plus la forme standard de vie intelligente sur Terre.
La perspective de Weinstein est remarquable car elle s’écarte de la vision typique de la Silicon Valley selon laquelle l’IA n’est qu’un « logiciel plus intelligent » ou un « meilleur moteur de recherche ». Au contraire, il caractérise les systèmes d’IA comme devenant de plus en plus biologiques dans leur complexité.
Ils ne sont pas littéralement vivants, mais fonctionnent selon des principes qui imitent les processus de l’évolution.
Ils apprennent, s’adaptent, réagissent et optimisent, souvent d’une manière que leurs créateurs n’auraient jamais imaginée.
Un outil reste là où on le pose. Un système s’adapte. Et un système adaptatif, surtout s’il fonctionne à la vitesse et à l’échelle du numérique, commence à influencer son environnement, y compris ses utilisateurs humains.
Pensez à HAL, « l’ordinateur pensant » de 2001 : L’Odyssée de l’espace.
Voici le changement que Weinstein souhaite mettre en avant : l’IA n’est plus un simple outil passif comme une calculatrice ou un tableur. Elle devient un élément actif de la pensée humaine, influençant notre façon de penser, de travailler et, de plus en plus, notre compréhension de nous-mêmes.
Cela représente à lui seul une rupture radicale avec toutes les révolutions technologiques précédentes, des téléphones aux smartphones en passant par les ordinateurs personnels.
Si l’on prend au sérieux l’avertissement de Weinstein, plusieurs avenirs plausibles se dessinent. Aucun ne relève de la fantaisie hollywoodienne : tous pourraient se concrétiser grâce à l’innovation quotidienne et aux incitations du marché.
Le scénario le plus probable à court terme est la normalisation progressive de l’amélioration cognitive.
L’IA devient un assistant permanent : elle rédige des courriels, suggère des décisions et remplace une grande partie du travail mental que les individus effectuaient auparavant eux-mêmes. Les objets connectés se transforment en implants, et les implants deviennent des coprocesseurs neuronaux.
Rien de spectaculaire ne se produit à un instant T. Pourtant, au fil du temps, les humains deviennent dépendants des infrastructures numériques pour la mémoire, le raisonnement et même l’identité. Notre esprit demeure organique, mais les entrées et les sorties sont de plus en plus médiatisées par des algorithmes, ce qui nous fait perdre la capacité de penser et de raisonner.
Une autre possibilité, déjà à l’œuvre sur les marchés des biotechnologies et de l’industrie pharmaceutique, est l’émergence d’une société à deux vitesses : ceux qui peuvent se permettre l’amélioration des capacités et ceux qui ne le peuvent pas.
Les individus fortunés pourraient recourir précocement aux implants cognitifs, à la modification génétique pour améliorer leurs performances ou aux capacités augmentées par l’IA, ce qui creuserait les inégalités en matière de productivité, d’éducation et de pouvoir économique.
Il pourrait en résulter un système de castes fondé non seulement sur la richesse, mais aussi sur des différences biologiques et cognitives. Une nouvelle aristocratie, conçue pour être plus intelligente, plus rapide et vivre plus longtemps, transformerait l’ordre social de manière radicale. Une version réelle de « La Ferme des animaux » de George Orwell : l’IA serait le bien, la pensée le mal.
Une troisième voie, plus radicale mais néanmoins envisageable, consiste à intégrer la cognition humaine à l’intelligence artificielle, créant ainsi des humains hybrides.
Cela ne requiert pas de « conscience » de l’IA ; cela repose uniquement sur le recours généralisé aux interfaces cerveau-machine, que des entreprises comme Neuralink développent déjà dans le cadre d’essais cliniques approuvés par la FDA .
Si les jeunes générations grandissent avec une mémoire, une perception et une prise de décision améliorées par l’IA, alors les humains « normaux » et les humains hybrides deviendront des catégories distinctes.
La définition même de la personne pourrait évoluer. Le droit, les droits, l’éducation et l’éthique devraient tous être repensés. La notion d’« ignorance » prendrait une tout autre dimension pour ces deux groupes.
Le scénario futur le plus extrême, celui contre lequel Weinstein met implicitement en garde, est une véritable spéciation. Cela pourrait se produire si la technologie permettait des améliorations génétiques héréditaires, des améliorations biologiques synthétiques ou des mises à niveau cognitives permanentes grâce à l’IA.
Avec le temps, les humains améliorés et non améliorés pourraient diverger autant que les humains modernes diffèrent des Néandertaliens.
Ce futur est improbable mais pas impossible, et le simple fait qu’il soit techniquement concevable devrait nous faire réfléchir.
Le danger ne réside pas dans le fait que la Silicon Valley souhaite secrètement transformer les humains en cyborgs. Le véritable risque est que de puissantes incitations, dans les domaines économique, militaire, médical et culturel, poussent cette évolution dans la même direction.
Les pressions économiques peuvent inciter les nations et les entreprises à rechercher des gains de productivité. Les diagnostics ou les thérapies améliorés par l’IA créent une urgence médicale à laquelle il devient difficile de résister.
À l’instar des courses aux armements spatiaux ou nucléaires, la compétition militaire incite les nations à prendre les devants plutôt qu’à suivre. Sur le plan culturel, les jeunes générations, semblables à la génération Z, nées avec le numérique, seront férues d’IA et s’appuieront sur ChatGPT au lieu de faire preuve d’esprit critique dans leur vie quotidienne.
Face à une dynamique où tout va de l’avant, seul le choix conscient de ralentir et d’avancer avec réflexion peut faire la différence. En sommes-nous capables ? Le ferons-nous ?
À l’instar des premiers débats sur les réseaux sociaux, les discussions actuelles sur l’IA se concentrent principalement sur des questions superficielles comme la modération des contenus, l’ingérence électorale ou le droit d’auteur.
Cependant, le changement le plus profond s’opère en coulisses : la redéfinition même de la cognition. Sur ce point, les décideurs politiques accusent un retard de plusieurs années, voire de plusieurs décennies.
Le Congrès s’inquiète du prix des billets de concert alors que les artistes et la musique sont une création de l’IA.
L’instinct bureaucratique demeure inchangé : s’attaquer aux problèmes d’hier en ignorant les défis futurs. Pendant ce temps, la technologie progresse de façon exponentielle. L’Amérique pourrait un jour être en guerre contre la Chine, et le Congrès arborerait encore des insignes commémoratifs de l’Ukraine.
Une espèce humaine technologiquement modifiée, si elle voit le jour, ne sera pas le fruit d’une planification minutieuse. Elle résultera de la négligence et du déni.
Pour celles et ceux qui chérissent l’individu, le défi est de taille. Une grande partie de la philosophie politique moderne repose sur une définition claire de la « nature humaine ». Si la technologie commence à modifier cette nature, alors les fondements philosophiques de la liberté, des droits, de la responsabilité et de l’égalité seront ébranlés.
Le conservatisme a toujours privilégié la prudence, partant du principe qu’un changement rapide et incontrôlé peut déstabiliser les institutions mêmes qui soutiennent la société. Ce principe devient d’autant plus crucial lorsque le changement menace l’identité humaine elle-même.
Il est temps d’ajouter un élément au droit naturel : l’idée que l’être humain non altéré, avec toutes ses forces et ses limites, mérite d’être préservé.
Weinstein n’affirme pas que l’avenir transhumaniste soit inévitable. Il souligne simplement que, sans effort concerté, la facilité pourrait nous y conduire. Le véritable risque n’est pas l’ambition, mais l’indifférence ; ce n’est pas l’innovation téméraire, mais l’acceptation passive.
Nous ne sommes pas encore une société transhumaine, mais les prémices d’une telle société se dessinent déjà autour de nous, souvent sans débat public et avec peu de transparence. Le choix qui s’offre à nous aujourd’hui est le suivant : orienter cette transformation, la freiner ou simplement la laisser se produire.
Ignorer la question est la réponse la plus risquée de toutes.
A lire pour comprendre que c’est peut-être déjà arrivé dans un futur probable (que nous pouvons changer) :
Que pensez-vous de cet article ? Partagez autant que possible. L'info doit circuler.
|
Aidez Elishean à survivre. Merci |
