Futur cosmique

« Les agents de l’IA chercheront à avoir plus de contrôle et pourraient sortir de notre domaine »

C'est un avertissement de Geoffrey Hinton , le parrain de l'intelligence artificielle.

Les agents d’IA sont des technologies logicielles utiles pour automatiser les flux de travail des entreprises afin d’obtenir de meilleurs résultats.

Geoffrey Hinton, salué comme le « parrain de l’intelligence artificielle » et lauréat du prix Nobel, a lancé un avertissement inquiétant concernant l’avancée rapide des agents IA.

Dans une interview avec LBC, Hinton a expliqué que l’évolution de ces systèmes les rend non seulement plus efficaces, mais leur donne également la capacité de prendre des décisions autonomes et de faire des choses par eux-mêmes, comme commander des produits en ligne et payer avec votre carte de crédit.

Cependant, a-t-il dit, dès que vous avez des agents, les chances de les voir prendre le relais augmentent considérablement.


« Si vous souhaitez voyager aux États-Unis, votre sous-objectif est de vous rendre à l’aéroport. Si vous disposez d’un agent IA capable de générer ses propres sous-objectifs, il se rendra rapidement compte que gagner plus de contrôle est un excellent objectif.

« Si vous avez plus de contrôle, vous pouvez mieux atteindre tous les objectifs qui vous sont assignés », a déclaré le scientifique.

Hinton a averti que ce comportement est une conséquence logique de la manière dont fonctionnent les modèles actuels, qui ont déjà dépassé les approches précédentes basées sur des règles symboliques.

« Notre meilleure référence pour savoir comment nous pensons, c’est nous-mêmes, et les réseaux neuronaux se sont avérés plus efficaces pour raisonner que les approches symboliques traditionnelles. »

Lorsqu’on lui a demandé s’il croyait vraiment que les IA développaient une certaine forme de conscience, Hinton a répondu par l’affirmative.

« Il y a beaucoup de choses sur la nature de la conscience et sur ce que signifie être un être que nous ne comprenons pas encore entièrement. Mais maintenant nous créons des entités qui commencent à se comporter comme si c’était le cas », a-t-il déclaré.

Réglementation et sécurité

Au milieu du débat sur la réglementation et la sécurité, le parrain de la technologie a exprimé son scepticisme quant à la capacité des gouvernements et des entreprises à établir des mesures de protection efficaces.

« Les IA trouvent déjà des moyens d’échapper aux restrictions.

« Des recherches récentes montrent que si vous leur donnez un objectif clair, ils peuvent prétendre être moins intelligents qu’ils ne le sont en réalité pendant la phase d’entraînement pour éviter d’être limités », a-t-il révélé.

Face à ce scénario, le scientifique a plaidé pour un investissement massif dans la recherche sur la sécurité de l’IA, soulignant que « les gouvernements devraient forcer les grandes entreprises à allouer davantage de ressources » à cet aspect.


Alors que les agents d’IA continuent d’évoluer et de gagner en autonomie, l’avertissement de Hinton soulève une question troublante : sommes-nous vraiment prêts à contrôler une technologie qui, de par sa nature même, aura tendance à étendre son influence ?


Que pensez-vous de cet article ? Partagez autant que possible. L'info doit circuler.



Aidez Elishean à survivre. Merci


ELISHEAN 777 Communauté pour un Nouveau Monde

Bouton retour en haut de la page