La plupart des gens connaissent le déluge d’applications d’intelligence artificielle (IA) qui semblent conçues pour nous rendre plus efficaces et créatifs. Nous avons des applications qui consomment des invitations de texte et génèrent de l’art, et le chatGPT controversé, qui soulève de sérieuses questions sur l’originalité, la désinformation et le plagiat.
Malgré ces préoccupations, l’IA devient de plus en plus omniprésente et intrusive. C’est la dernière technologie qui va changer nos vies de manière irréversible.
Internet et les smartphones en sont d’autres exemples. Mais contrairement à ces technologies, de nombreux philosophes et scientifiques pensent que l’IA pourrait un jour atteindre (ou même aller au-delà) la « pensée » de style humain. Cette possibilité, associée à notre dépendance croissante à l’IA, est à l’origine d’un concept futuriste appelé « singularité technologique ».
Ce terme existe depuis un certain temps, ayant été popularisé par l’écrivain de science-fiction Vernor Vinge il y a quelques décennies.
Aujourd’hui, la «singularité» fait référence à un moment hypothétique auquel le développement de l’intelligence générale artificielle (IAG) – c’est-à-dire une IA dotée de capacités de niveau humain – devient si avancé qu’il changera de manière irréversible la civilisation humaine.
Cela marquerait l’aube de notre inséparabilité des machines. À partir de ce moment, nous ne pourrons plus vivre sans eux sans cesser de fonctionner en tant qu’êtres humains. Mais si la singularité vient, la remarquerons-nous même ?
Les implants cérébraux comme première étape
Pour comprendre pourquoi ce n’est pas l’étoffe des contes de fées , il suffit de regarder aussi loin que les développements récents dans les interfaces cerveau-ordinateur (BCI). Les BCI sont un début naturel de la singularité aux yeux de nombreux futuristes, car ils fusionnent l’esprit et la machine d’une manière qu’aucune autre technologie ne peut jusqu’à présent.
La société Neuralink d’Elon Musk demande à la Food and Drug Administration l’autorisation de commencer des essais sur l’homme pour sa technologie BCI. Cela impliquerait d’implanter des connecteurs neuronaux dans le cerveau des volontaires afin qu’ils puissent communiquer des instructions en les pensant.
Neuralink espère aider les paraplégiques à marcher et les aveugles voir à nouveau. Mais au-delà de ces objectifs, il y a d’autres ambitions.
Musk a longtemps dit qu’il croyait que les implants cérébraux permettraient la communication télépathique et conduiraient à la co-évolution des humains et des machines. Il soutient qu’à moins que nous n’utilisions une telle technologie pour augmenter notre intellect, nous risquons d’être anéantis par une IA super intelligente.
Musk n’est naturellement pas la référence de tout le monde en matière d’expertise technologique . Mais il n’est pas le seul à prédire une croissance massive des capacités de l’IA. Les sondages montrent que les chercheurs en IA conviennent à une écrasante majorité que l’IA atteindra une « réflexion » au niveau humain au cours de ce siècle. Ce sur quoi ils ne sont pas d’accord, c’est si cela implique la conscience ou non, ou si cela signifie nécessairement que l’IA nous fera du mal une fois qu’elle atteindra ce niveau.
Une autre société de technologie BCI, Synchron , a créé un implant peu invasif qui permet à un patient atteint de sclérose latérale amyotrophique (SLA) d’envoyer des e-mails et de naviguer sur Internet en utilisant ses pensées .
Le directeur général de Synchron, Tom Oxley, pense que les implants cérébraux pourraient finalement aller au-delà de la réhabilitation prothétique et transformer complètement la façon dont les humains communiquent. S’adressant à un public de TED , il a déclaré qu’ils pourraient un jour permettre aux utilisateurs de « jeter » leurs émotions afin que les autres susceptibles de ressentir ce qu’ils ressentent, et « le plein potentiel du cerveau seraient alors débloqués » .
Les premières réalisations dans les BCI pourraient sans doute être réussies comme les premières étapes d’une chute vers la singularité postulée, dans laquelle l’homme et la machine ne font plus qu’un. Cela ne signifie pas nécessairement que les machines deviendront « sensibles » ou nous contrôleront. Mais l’intégration elle-même, et notre dépendance à son éventuel, pourrait nous changer irrévocablement.
Il convient également de proposer que le financement du démarrage de Synchron provenait en partie de la DARPA , la branche de recherche et développement du département américain de la Défense qui a aidé à offrir Internet au monde . Il est probablement sage de se préoccuper de l’endroit où la DARPA place ses fonds d’investissement.
AGI serait-il ami ou ennemi ?
Selon Ray Kurzweil, un futuriste et ancien ingénieur en innovations de Google, les humains pourraient être jetés sur l’autoroute de l’évolution – se précipitant sans limite de vitesse.
Dans son livre de 2012 Comment créer un esprit, Kurzweil théorise le néocortex – la partie du cerveau considérée comme responsable des «fonctions supérieures» telles que la perception sensorielle, l’émotion et la cognition – est un système hiérarchique de reconnaissance de formes qui, s’il est émulé dans une machine, pourrait conduire à une super-intelligence artificielle.
Il prédit que la singularité sera parmi nous d’ici 2045 et pense qu’elle pourrait engendrer un monde d’humains super-intelligents, peut-être même l' »Übermensch » nietzschéen : quelqu’un qui dépasse toutes les contraintes du monde pour réaliser son plein potentiel.
Mais tout le monde ne voit pas AGI comme une bonne chose. Le regretté et le grand physicien théoricien Stephen Hawking a averti qu’une IA super intelligente pourrait provoquer l’apocalypse . En 2014, Hawking a déclaré à la BBC : « Le développement de l’intelligence artificielle complète pourrait signifier la fin de la race humaine. […] Il décollerait tout seul et se redessinerait à un rythme toujours plus rapide. Les humains, qui sont limités par une évolution biologique lente, ne pourraient pas rivaliser et être dépassés.
Hawking était encore un défenseur des BCI .
Connecté dans un esprit de ruche
Une autre idée liée à la singularité est celle de « l’esprit de la ruche » activée par l’IA. Merriam-Webster définit un esprit de ruche comme « l’activité mentale collective exprimée dans le comportement complexe et coordonné d’une colonie d’ insectes sociaux (tels que les abeilles ou les fourmis) considérée comme comparable à un esprit unique contrôlant le comportement d « un organisme individuel ».
Une théorie a été développée par le neuroscientifique Giulio Tononi autour de ce phénomène, appelé Integrated Information Theory (IIT). Cela suggère que nous nous dirigeons tous vers une fusion de tous les esprits et de toutes les données.
Le philosophe Philip Goff explique très bien les implications du concept de Tononi dans son livre Galileo’s Error : « L’IIT prédit que si la croissance de la connectée basée sur Internet aboutissait à ce que la quantité d’informations intégrées dans la société dépasse la quantité d’informations intégrées dans un cerveau humain, alors non seulement la société deviendrait consciente, mais les cerveaux humains seraient « chargés » dans cette forme supérieure de conscience. Les cerveaux cesseraient d’être conscients en eux-mêmes et deviendraient plutôt de simples rouages de l’entité méga-consciente qu’est la société, y compris sa connectée basée sur Internet.
Il convient de noter qu’il y a peu de preuves qu’une telle chose peut se concrétiser. Mais la théorie soulève des idées importantes non seulement sur l’accélération rapide de la technologie (sans parler de la façon dont l’informatique quantique pourrait propulser cela) – mais sur la nature de la conscience elle-même.
Hypothétiquement, si un esprit de ruche devait émerger, on pourrait imaginer qu’il marquerait la fin de l’individualité et des institutions qui en dépendent, y compris la démocratie.
La dernière frontière est entre nos oreilles
OpenAI (la société qui a développé ChatGPT) a récemment publié un article de blog réaffirmant son engagement à atteindre AGI. D’autres suivront sans doute.
Nos vies deviennent guidées par des algorithmes d’une manière que nous ne pouvons souvent pas discerner et que nous ne pouvons donc pas éviter. De nombreuses caractéristiques d’une singularité technologique promettent des améliorations incroyables à nos vies, mais il est inquiétant que ces IA soient le produit de l’industrie privée.
Ils ne sont généralement pas réglementés et dépendants en grande partie des caprices de « technopreneurs » impulsifs avec plus d’argent que la plupart d’entre nous réunis. Que nous les considérions comme des fous, des naïfs ou des visionnaires, nous avons le droit de connaître leurs plans (et de pouvoir les réfuter).
Si l’on se fie aux dernières décennies, en ce qui concerne les nouvelles technologies, nous serons tous touchés.
Que pensez-vous de cet article ? Partagez autant que possible. L'info doit circuler.
|
Aidez Elishean à survivre. Merci |
ELISHEAN 777 Communauté pour un Nouveau Monde
