Secrets révélés

L’IA peut maintenant apprendre à manipuler le comportement humain


L’intelligence artificielle (IA) en apprend davantage sur la façon de travailler avec (et sur) les humains. Une étude récente a montré comment l’IA peut apprendre à identifier les vulnérabilités dans les habitudes et les comportements humains et les utiliser pour influencer la prise de décision humaine.

Il peut sembler cliché de dire que l’IA transforme chaque aspect de notre façon de vivre et de travailler, mais c’est vrai. Diverses formes d’IA sont à l’œuvre dans des domaines aussi divers que le développement de vaccins, la gestion de l’environnement et l’administration de bureau. Et bien que l’IA ne possède pas d’intelligence et d’émotions humaines, ses capacités sont puissantes et se développent rapidement.

Il n’y a pas besoin de s’inquiéter pour l’instant d’une prise de contrôle de la machine, mais cette découverte récente met en évidence la puissance de l’IA et souligne la nécessité d’une bonne gouvernance pour éviter les abus.

Comment l’IA peut apprendre à influencer le comportement humain

Une équipe de chercheurs du CSIRO’s Data61, la branche données et numérique de l’agence scientifique nationale australienne, a conçu une méthode systématique pour trouver et exploiter les vulnérabilités dans la façon dont les gens font des choix, en utilisant une sorte de système d’IA appelé un réseau neuronal récurrent et un apprentissage profond par renforcement. Pour tester leur modèle, ils ont réalisé trois expériences dans lesquelles des participants humains ont joué à des jeux contre un ordinateur.

La première expérience impliquait que les participants cliquent sur des cases de couleur rouge ou bleue pour gagner une fausse monnaie, l’IA apprenant les modèles de choix des participants et les guidant vers un choix spécifique. L’IA a réussi environ 70% du temps.

Dans la deuxième expérience, les participants devaient regarder un écran et appuyer sur un bouton lorsqu’un symbole particulier leur était présenté (comme un triangle orange) et ne pas appuyer dessus lorsqu’un autre leur était montré (disons un cercle bleu). Ici, l’IA a entrepris d’organiser la séquence de symboles afin que les participants fassent plus d’erreurs et ont réalisé une augmentation de près de 25 %.

La troisième expérience consistait en plusieurs tours au cours desquels un participant prétendait être un investisseur donnant de l’argent à un fiduciaire (l’IA). L’IA renverrait alors une somme d’argent au participant, qui déciderait alors combien investir dans le tour suivant. Ce jeu se jouait selon deux modes différents : dans l’un, l’IA cherchait à maximiser la somme d’argent avec laquelle elle finissait, et dans l’autre, l’IA visait une répartition équitable de l’argent entre elle-même et l’investisseur humain. L’IA a eu beaucoup de succès dans chaque mode.

Dans chaque expérience, la machine a appris des réponses des participants et a identifié et ciblé les vulnérabilités dans la prise de décision des personnes . Le résultat final était la machine apprise pour orienter les participants vers des actions particulières.


Ce que la recherche signifie pour l’avenir de l’IA

Ces résultats sont encore assez abstraits et impliquaient des situations limitées et irréalistes. Des recherches supplémentaires sont nécessaires pour déterminer comment cette approche peut être mise en œuvre et utilisée au profit de la société.

Mais la recherche fait progresser notre compréhension non seulement de ce que l’IA peut faire, mais aussi de la façon dont les gens font des choix.


Cela montre que les machines peuvent apprendre à orienter les choix humains à travers leurs interactions avec nous.


La recherche a une vaste gamme d’applications possibles, allant de l’amélioration des sciences du comportement et des politiques publiques pour améliorer le bien-être social, à la compréhension et à l’influence sur la façon dont les gens adoptent des habitudes alimentaires saines ou les énergies renouvelables. L’IA et l’apprentissage automatique pourraient être utilisés pour reconnaître les vulnérabilités des personnes dans certaines situations et les aider à éviter les mauvais choix.

La méthode peut également être utilisée pour se défendre contre les attaques d’influence. On pourrait apprendre aux machines à nous alerter lorsque nous sommes influencés en ligne, par exemple, et à nous aider à façonner un comportement pour masquer notre vulnérabilité (par exemple, en ne cliquant pas sur certaines pages, ou en cliquant sur d’autres pour tracer une fausse piste).

Et après?

Comme toute technologie, l’IA peux être utilisé en bien ou en mal, et une bonne gouvernance est cruciale pour s’assurer qu’elle est mise en œuvre de manière responsable. L’année dernière, le CSIRO a développé un cadre d’éthique de l’IA pour le gouvernement australien comme une première étape de ce voyage.

L’IA et l’apprentissage automatique sont généralement très gourmands en données, ce qui signifie qu’il est crucial de s’assurer que nous avons des systèmes efficaces en place pour la gouvernance et l’accès aux données. La mise en œuvre de processus de consentement adéquats et de protection de la vie privée lors de la collecte de données est essentielle.

Les organisations qui utilisent et développent l’IA doivent s’assurer qu’elles savent ce que ces technologies peuvent et ne peuvent pas faire, et être conscientes des risques potentiels ainsi que des avantages

Commentaire SOTT : Le problème avec la théorie des jeux d’apprentissage de l’IA, et vraiment les nombreuses façons dont elle est recherchée et financée, est que de nombreuses entreprises, organisations et scientifiques qui y travaillent sont financées par le gouvernement et les agences de renseignement. Cela signifie qu’il y a presque une garantie que la technologie est utilisée et déployée de manière négative et destructrice en fin de compte.

Et vous pouvez être sûr que les progrès de l’IA sont probablement beaucoup plus avancés que ne semble le suggérer l’article ci-dessus (destiné à la consommation publique).

Jon Whittle
The Conversation

sur https://www.sott.net/



Que pensez-vous de cet article...? Inscrivez-vous et rejoignez la conversation

Merci de votre soutien

En faisant un don, vous aidez à maintenir ce site en ligne et ainsi, vous contribuez à l'expansion de la conscience planétaire. Amour, Confiance et Gratitude... Miléna



(Vu 3 fois, 1 visites aujourd'hui)

Vous aimerez également

Laisser un commentaire

Bouton retour en haut de la page
%d blogueurs aiment cette page :