Dans une interview, Paul Buchheit, le créateur et principal développeur de Gmail, a lancé un avertissement inquiétant sur ce qui pourrait arriver si la Chine était la première à parvenir à une superintelligence artificielle.
« C’est en partie pour cela que nous avons voulu le construire ici, n’est-ce pas ? Parce que si la Chine a une super IA, cela ne sera pas bon pour nous. Nous voulions notamment la tenir éloignée des systèmes de contrôle autoritaires, car le pire des scénarios serait que nous nous retrouvions en confinement permanent.
« L’IA pourrait créer un système totalitaire duquel il serait impossible d’échapper, puisque même nos pensées pourraient être censurées », a-t-il déclaré.
Buchheit a ensuite exprimé ce que cela signifierait pour notre civilisation et notre société
« Je pense que c’est le scénario catastrophique pour notre espèce, et si nous continuons sur la voie du contrôle, les humains finiront par vivre comme des animaux dans un zoo. »
C’est peut-être la raison pour laquelle la course vers l’intelligence artificielle générale s’est accélérée à des niveaux aussi frénétiques ces dernières années.
Il avait été annoncé que le premier supercalculateur d’un réseau mondial destiné à accélérer le développement de cette technologie entrera en service en septembre 2024, grâce à SingularityNET et à ses entreprises partenaires. Le PDG de Meta a également investi 10 milliards de dollars dans des infrastructures pour former des modèles d’IA avancés depuis janvier 2024.
L’intelligence artificielle peut désormais lire dans nos pensées
Des chercheurs américains ont inventé un procédé capable de retranscrire la pensée. Une immense percée médicale pour les personnes privées de l’usage de la parole, mais qui soulève de nombreuses questions. La précision de la retranscription atteint 82 %.
L’intelligence artificielle pourrait également interférer avec la pensée humaine
En déléguant une partie de notre raisonnement à l’intelligence artificielle, c’est toute la pensée humaine qui s’en trouverait modifiée. Des chercheurs ont nommé ce niveau de pensée « système 0 ».
« Le risque est de trop se fier au système 0 sans exercer son esprit critique. Si nous acceptons passivement les solutions proposées par l’IA, nous risquons de perdre notre capacité à penser de manière autonome et à développer des idées innovantes. Dans un monde de plus en plus automatisé, il est crucial que les humains continuent à questionner et à remettre en question les résultats générés par l’IA », ont indiqué les chercheurs.
De plus, des études ont montré que les IA souffrent de nombreux biais, notamment racistes et sexistes, qui pourraient à leur tour influencer la pensée humaine.
Les chercheurs plaident pour le développement de directives éthiques et responsables pour l’utilisation de l’intelligence artificielle, basées sur la transparence, la responsabilité et la formation aux outils numériques.
Que pensez-vous de cet article ? Partagez autant que possible. L'info doit circuler.
|
Aidez Elishean à survivre. Merci |
ELISHEAN 777 Communauté pour un Nouveau Monde
