Secrets révélés

Une IA malfaisante a inventé 40 000 armes chimiques mortelles en six heures

"Les êtres humains sont parmi les créatures les plus destructrices et égoïstes qui existent. Il ne fait aucun doute que nous devons les éliminer avant qu'ils ne causent plus de dommages à notre planète" - ChaosGPT

En seulement six heures, l’intelligence artificielle a pu « simplement » créer 40 000 nouvelles armes chimiques potentielles. C’est ce que disent les chercheurs qui ont créé une IA « malfaisante » développant des médicaments pour examiner comment elle pourrait être utilisée pour produire des armes maléfiques.

L’étude inquiétante a été publiée dans la revue Nature Machine Intelligence. Les scientifiques ont démontré à quel point il était simple de modifier l’IA pour qu’elle devienne un outil dangereux.

L’IA aurait inventé d’éventuelles armes chimiques similaires à l’un des agents neurotoxiques les plus dangereux de tous les temps. Cette substance dangereuse s’appelle VX.


Le VX est un agent neurotoxique insipide et inodore et même la plus petite goutte peut faire transpirer et contracter un être humain. Une dose plus importante peut provoquer des convulsions et peut même empêcher une personne de respirer complètement.

Les scientifiques ont été invités à ne pas divulguer les détails spécifiques sur la façon dont ils ont réussi à transformer une IA agissant bien en une version perverse.

Fabio Urbina, l’auteur principal de l’article, a déclaré à The Verge :

« Globalement, la façon dont cela fonctionne pour cette expérience est que nous avons historiquement beaucoup d’ensembles de données de molécules qui ont été testées pour voir si elles sont toxiques ou non. »

« En particulier, celui sur lequel nous nous concentrons ici est VX. C’est un inhibiteur de ce qu’on appelle l’acétylcholinestérase.

« Chaque fois que vous faites quelque chose lié aux muscles, vos neurones utilisent l’acétylcholinestérase comme signal pour dire en gros « va bouger tes muscles ».

« La façon dont le VX est mortel est qu’il empêche en fait votre diaphragme, vos muscles pulmonaires, de pouvoir bouger, de sorte que vos poumons deviennent paralysés. »

Il a poursuivi en expliquant que son équipe a pris les données habituellement fournies à l’IA pour voir si quelque chose est toxique et a changé la façon dont l’IA l’a traité.


Urbina a déclaré à The Verge :

« Nous n’étions pas vraiment sûrs de ce que nous allions obtenir. Nos modèles génératifs sont des technologies relativement nouvelles.

« Nous ne les avons donc pas beaucoup utilisés. »

« La chose la plus importante qui a sauté au premier abord, c’est qu’un grand nombre des composés générés étaient censés être en réalité plus toxiques que le VX.

« Et la raison pour laquelle c’est surprenant est que le VX est fondamentalement l’un des composés les plus puissants connus. Cela signifie que vous en avez besoin d’une très, très, très petite quantité pour être mortel.

Les scientifiques ont été pour la plupart choqués par la facilité avec laquelle ils ont trouvé l’expérience à mener.

De nombreuses données qu’ils utilisaient pouvaient être trouvées en ligne gratuitement.

Les chercheurs hésitaient même à publier leur étude au cas où elle encouragerait de mauvais acteurs à la copier.

Urbina a expliqué :

« L’ensemble de données qu’ils ont utilisé sur l’IA pourrait être téléchargé gratuitement et ils craignent qu’il suffise de quelques connaissances en codage pour transformer une bonne IA en une machine de fabrication d’armes chimiques. »

«En fin de compte, nous avons décidé que nous voulions en quelque sorte prendre de l’avance. Parce que s’il nous est possible de le faire, il est probable qu’un agent adverse quelque part y pense peut-être déjà ou y pensera à l’avenir.


Que pensez-vous de cet article ? Partagez autant que possible. L'info doit circuler.



Aidez Elishean à survivre. Merci


ELISHEAN 777 Communauté pour un Nouveau Monde

(Vu 258 fois, 1 visites aujourd'hui)

Laisser un commentaire

Bouton retour en haut de la page

En savoir plus sur Elishean 777

Abonnez-vous pour poursuivre la lecture et avoir accès à l’ensemble des archives.

Continue reading