Des voitures autonomes aux ordinateurs qui peuvent gagner des jeux télévisés, les humains ont une curiosité et un intérêt naturels pour l’intelligence artificielle (IA).
Alors que les scientifiques continuent à rendre les machines plus intelligentes et plus intelligentes, certains se demandent « que se passe-t-il lorsque les ordinateurs deviennent trop intelligents pour leur propre bien? »
De « The Matrix » à « The Terminator », l’industrie du divertissement a déjà commencé à se demander si les futurs robots menaceraient un jour la race humaine.
Maintenant, une nouvelle étude conclut qu’il n’y a peut-être aucun moyen d’arrêter la montée en puissance des machines.
Une équipe internationale affirme que les humains ne pourraient pas empêcher la super intelligence artificielle de faire ce qu’elle veut.
Les scientifiques du Center for Humans and Machines de l’Institut Max Planck ont commencé à imaginer à quoi ressemblerait une telle machine. Imaginez un programme d’IA avec une intelligence bien supérieure aux humains. À tel point qu’il pourrait apprendre par lui-même sans nouvelle programmation.
Si elle était connectée à Internet, les chercheurs affirment que l’IA aurait accès à toutes les données de l’humanité et pourrait même prendre le contrôle d’autres machines dans le monde.
Les auteurs de l’étude demandent que ferait une telle intelligence avec tout ce pouvoir?
Cela fonctionnerait-il pour améliorer toutes nos vies? Consacrerait-il sa puissance de traitement à la résolution de problèmes comme le changement climatique? Ou la machine chercherait-elle à prendre le contrôle de la vie de ses voisins humains?
Contrôler l’incontrôlable? Les dangers de la super intelligence artificielle
Les programmeurs informatiques et les philosophes ont étudié s’il existe un moyen d’empêcher une IA super intelligente de se retourner contre ses créateurs humains; veiller à ce que les futurs ordinateurs ne puissent pas nuire à leurs propriétaires. La nouvelle étude révèle, malheureusement, qu’il semble pratiquement impossible de maintenir une IA super intelligente en ligne.
« Une machine super-intelligente qui contrôle le monde ressemble à de la science-fiction. Mais il existe déjà des machines qui exécutent certaines tâches importantes de manière indépendante sans que les programmeurs comprennent pleinement comment ils l’ont appris. La question se pose donc de savoir si cela pourrait à un moment donné devenir incontrôlable et dangereux pour humanité, » dit le co-auteur de l’étude Manuel Cebrian, chef du groupe de mobilisation numérique au Center for Humans and Machines, dans un communiqué universitaire .
L’équipe internationale a examiné deux façons différentes de contrôler l’ intelligence artificielle.
Le premier a limité la puissance de la superintelligence en la murant et en l’empêchant de se connecter à Internet. Il ne pouvait pas non plus se connecter à d’autres appareils techniques dans le monde extérieur. Le problème avec ce plan est assez évident; un tel ordinateur ne pourrait rien faire pour réellement aider les humains.
Être gentil avec les humains ne se calcule pas
La deuxième option s’est concentrée sur la création d’un algorithme qui donnerait au supercalculateur des principes éthiques. J’espère que cela forcera l’IA à prendre en compte les meilleurs intérêts de l’humanité.
L’étude a créé un algorithme de confinement théorique qui empêcherait l’IA de nuire aux gens en toutes circonstances.
Dans les simulations, l’IA cesserait de fonctionner si les chercheurs jugeaient ses actions nuisibles.
Bien que l’IA n’ait pas atteint la domination mondiale , les auteurs de l’étude disent que cela ne fonctionnerait tout simplement pas dans le monde réel.
« Si vous décomposez le problème en règles de base issues de l’ informatique théorique, il s’avère qu’un algorithme qui ordonnerait à une IA de ne pas détruire le monde pourrait interrompre par inadvertance ses propres opérations. Si cela se produisait, vous ne saurez pas si l’algorithme de confinement analyse toujours la menace ou s’il s’est arrêté pour contenir l’IA nuisible. En effet, cela rend l’algorithme de confinement inutilisable », déclare Iyad Rahwan, directeur du Center for Humans and Machines.
L’étude conclut que contenir l’intelligence artificielle est un problème incomparable. Aucun programme informatique ne peut trouver un moyen infaillible d’empêcher l’IA d’agir si elle le souhaite.
Les chercheurs ajoutent que les humains ne se rendent peut-être même pas compte à quel moment des machines super-intelligentes arrivent réellement dans le monde de la technologie. Alors, sont-elles déjà là?
L’étude apparaît dans le Journal de recherche sur l’intelligence artificielle .
Que pensez-vous de cet article ? Partagez autant que possible. L'info doit circuler.
|
Aidez Elishean à survivre. Merci |
ELISHEAN 777 Communauté pour un Nouveau Monde
