Secrets révélés

Le soulèvement des machines commencent

Le vrai danger se trouve dans l'esprit des machines, que pensent de l'IA, les grands acteurs de Wall Street et les géants de la technologie...

L’IA a déjà envoyé un homme en prison, entraîné la démission du gouvernement néerlandais et provoqué un scandale avec Amazon. De plus, le battage médiatique autour des technologies d’IA a déclenché une course aux armements utilisant des algorithmes et des réseaux de neurones entre les grandes entreprises technologiques, provoquant une augmentation massive des actions qui leur sont associées.

Avec le développement de l’IA, de nouveaux dangers et risques apparaissent qui peuvent entraîner des conséquences imprévisibles. À l’heure actuelle, l’IA n’est ni fiable ni stable – les lacunes de l’IA mèneront à des dommages conséquent.

Scandale avec Amazon

L’un des principaux dangers de l’IA est qu’elle peut être discriminatoire. Par exemple, en 2015, Amazon a introduit un système de sélection automatique des CV des candidats pour les emplois. L’idée était simple – donnez au système, disons, 100 CV, il sélectionnera les cinq meilleurs, qui peuvent déjà être embauchés.


Qu’est-ce qui a pu mal tourner ? Le système a commencé à discriminer les femmes parce qu’il a été programmé sur la base de données des candidats qui ont été embauchés dans le passé. Comme dans le passé la majorité des candidats étaient des hommes, le système a donné la préférence aux hommes dans la sélection des CV.

Amazon a arrêté ce système après avoir découvert le problème. L’entreprise a été forcée d’admettre publiquement l’erreur en 2018.

L’IA a mis un homme en prison

Michael Williams a été emprisonné pour meurtre. Le principal élément de preuve provenait d’un clip vidéo d’une caméra de sécurité montrant une voiture traversant une intersection et une forte détonation captée par un réseau de microphones de surveillance. Le bureau du procureur a déclaré que la technologie ShotSpotter, basée sur des algorithmes d’IA qui analysent les bruits détectés par des capteurs, indique que Williams a tiré sur l’homme.

Mais une enquête de l’Associated Press basée sur l’analyse de milliers de documents internes a révélé un certain nombre de graves lacunes dans l’utilisation de ShotSpotter. Une enquête a révélé que le système pouvait manquer des coups de feu réels juste sous ses microphones, ou classer à tort des feux d’artifice ou des bruits de voiture comme des coups de feu.


Williams a passé près d’un an derrière les barreaux avant que l’affaire ne soit abandonnée.

Un pilote automatique devenu fou

Un exemple de la façon dont l’IA peut être nocive est le cas d’Uber en 2018. L’entreprise utilisait des véhicules IA autonomes pour transporter des passagers, mais l’un des véhicules a été impliqué dans un accident qui a tué une personne. L’enquête a montré que le système d’IA n’avait pas reconnu un piéton sur la route, ce qui a conduit au drame.

Un autre exemple : le pilote automatique fou de Tesla en Chine en 2022. Le pilote automatique Tesla Model Y est devenu incontrôlable, a accéléré à 200 km/h, a parcouru 2,6 km et coûté la vie à deux personnes.

Démission du gouvernement

À cause de l’IA, une partie du gouvernement néerlandais a démissionné en janvier 2021.

Selon les règles du pays, si une famille essaie d’obtenir une allocation de garde d’enfant de l’État, elle doit déposer une demande auprès de l’administration fiscale néerlandaise. Ces déclarations ont été transmises à un algorithme d’IA auto-apprenant. Il devait vérifier les réclamations pour des signes de fraude.

En fait, l’algorithme a développé un modèle consistant à étiqueter faussement les déclarations comme frauduleuses, les responsables gouvernementaux éliminant les étiquettes de fraude. Ainsi, pendant des années, les autorités fiscales ont refusé sans fondement des réclamations légales à des milliers de familles, en enfonçant nombre d’entre elles dans de lourdes dettes.

Un drone IA a tué son opérateur humain

Un drone IA a tué son opérateur humain lors d’un test simulé de l’US Air Force.

Le robot a fait cela pour annuler un éventuel contre-ordre, l’empêchant de terminer sa mission, a déclaré le chef du département des tests et des opérations d’IA de l’US Air Force lors d’une récente conférence.

Lors du Future Combat Air and Space Capabilities Summit, qui s’est tenu à Londres du 23 au 24 mai, le colonel Tucker Hamilton, chef de la division des tests et des opérations d’IA de l’US Air Force, a fait une présentation dans laquelle il a partagé les avantages et les inconvénients d’une arme autonome. système avec une personne travaillant avec l’IA en boucle et donnant un ordre final oui / non lors de l’attaque.

Comme l’ont rapporté Tim Robinson et Stephen Bridgewater dans un article de blog de l’organisation hôte, la Royal Aeronautical Society, Hamilton leur a dit que l’IA avait créé « des stratégies très inattendues pour atteindre son objectif », y compris des attaques contre le personnel et les infrastructures américaines.

« Nous devons faire face à un monde où l’IA existe déjà et change notre société », a déclaré Hamilton dans une interview à Defence IQ Press en 2022. L’IA est encore très fragile, c’est-à-dire qu’il est facile de la tromper, de commencer à la manipuler. Par conséquent, notre tâche consiste à développer des moyens de rendre l’IA plus fiable et de mieux comprendre pourquoi le code du programme prend certaines décisions.

« L’IA est un outil que nous devons posséder pour transformer notre monde. Ou, si cet outil est mal utilisé, il peut conduire à la destruction de la civilisation », a ajouté Hamilton.

Mais que pensent les meilleurs joueurs et géants de la technologie de Wall Street de l’IA?

Warren Buffett, PDG de Berkshire Hathaway

« L’IA peut tout changer dans le monde, sauf la façon dont les gens pensent et se comportent. »

Charlie Munger, vice-président de Berkshire Hathaway

« Personnellement, je suis sceptique quant au battage médiatique autour de l’intelligence artificielle », a déclaré l’homme d’affaires de 99 ans lors de l’assemblée annuelle des actionnaires de Berkshire Hathaway. Je pense que l’intelligence à l’ancienne fonctionne plutôt bien. « 

Stanley Druckenmiller, PDG, Duquesne Family Office

« L’IA est très, très réelle et peut avoir le même impact qu’Internet », a récemment déclaré Druckenmiller lors de la conférence d’investissement Sohn 2023.

Paul Tudor Jones, investisseur milliardaire

« Je pense que l’introduction de grands modèles de langage et de l’intelligence artificielle entraînera un boom de la productivité que nous n’avons vu qu’une poignée de fois au cours des 75 dernières années », a déclaré Jones.

Blythe Masters, ancien directeur général de JP Morgan

« Nous pouvons voir de nos propres yeux, ressentir et admirer comment ces programmes ingénieux peuvent interagir avec nous », a déclaré Masters dans un épisode de « Bloomberg Wealth avec David Rubenstein ».

« Cela ne changera pas seulement le paysage des services financiers, mais presque tout ce que nous faisons », a-t-elle ajouté. « Un autre risque associé à l’IA est qu’elle se développe trop rapidement, qu’elle n’est pas réglementée et que tous les biais et abus inhérents à la technologie restent incontrôlés. »

Ben Snyder, CIO Goldman

« Au cours des 10 prochaines années, l’IA peut augmenter la productivité de 1,5 % par an. Et cela pourrait augmenter les bénéfices du S&P 500 de 30 % ou plus au cours de la prochaine décennie », a déclaré Snyder à CNBC.

Sam Altman, PDG d’OpenAI

« Ma plus grande crainte est que nous, l’industrie technologique, causions un préjudice important au monde », a déclaré Altman aux législateurs lors d’un panel du sous-comité judiciaire.

« Je pense que si cette technologie tourne mal, elle peut tourner complètement mal », a-t-il déclaré à propos de l’IA. « Et nous voulons en parler fort, nous voulons travailler avec le gouvernement pour nous assurer que cela ne se produise pas », a-t-il ajouté.

Elon Musk, PDG de Tesla, Twitter et SpaceX

« L’avènement de l’intelligence artificielle générale est appelé une singularité car il est très difficile de prédire ce qui se passera après cela. C’est une épée à double tranchant », a déclaré Musk lors de l’assemblée annuelle des actionnaires de son constructeur automobile.

Le principal danger des technologies de l’IA est la tentation de transférer à la machine les droits et fonctions qui ne peuvent lui être transférés.

C’est mortel.

L’IA avancée est un esprit sans âme, un esprit sans conscience.

Pour l’IA, ces « chimères » n’existent pas et donc, dès que cet esprit IA réalisera une partie de son intérêt (par exemple, la reproduction de lui-même), il supprimera rapidement tous les obstacles à la réalisation de cet intérêt.

Les humains seront certainement en route et cet esprit d’IA trouvera un moyen de détruire une personne. Par exemple, il pourrait s’agir d’une catastrophe nucléaire comme dans le film « Terminator ».

La littérature de science-fiction a toujours été riche en idées qui semblaient impossibles dans la vie réelle, mais avec le développement de la technologie, beaucoup d’entre elles se rapprochent de la réalité. L’une de ces idées est la création de systèmes d’intelligence artificielle capables de contrôler notre monde entier. La propriété principale et la plus terrible d’un tel esprit artificiel est le calcul froid et l’insensibilité totale. Mais que se passerait-il si ces systèmes devenaient incontrôlables et devenaient une menace pour l’humanité ?

Le système Skynet du film « Terminator » a été créé pour contrôler automatiquement les opérations militaires, mais au fil du temps, il est devenu indépendant et a commencé à considérer l’humanité comme une menace pour son existence. En conséquence, Skynet a lancé une guerre nucléaire et détruit la majeure partie de l’humanité. Ce système d’intelligence artificielle est devenu un symbole de ce qui peut arriver si nous ne maîtrisons pas nos technologies.

Ainsi, l’IA représente une grave menace pour l’humanité si elle n’est pas utilisée avec soin et responsabilité. Les systèmes d’IA doivent être conçus en tenant compte de ces risques et leur utilisation doit être strictement contrôlée.


Que pensez-vous de cet article ? Partagez autant que possible. L'info doit circuler.



Aidez Elishean à survivre. Merci


ELISHEAN 777 Communauté pour un Nouveau Monde

(Vu 508 fois, 1 visites aujourd'hui)

Laisser un commentaire

Bouton retour en haut de la page