Elon Musk s'inquiète de l'intelligence artificielle de DeepMind

Le par Christian D.  |  23 commentaire(s) Source : CNBC
Deepmind

Elon Musk révèle que l'intelligence artificielle DeepMind de Google, capable de battre des humains à différents jeux, est pour lui une cause d'inquiétude majeure.

Rachetée par Google, l'intelligence artificielle de DeepMind s'est illustrée ces dernières années en battant les meilleurs humains à différents jeux de stratégie : les échecs bien sûr, mais aussi le jeu de go, pourtant réputé pour sa difficulté de modélisation.

L'intelligence artificielle dédiée au jeu Starcraft 2, baptisée AlphaStar Final, a même obtenu le titre honorifique de grand-maître  après avoir battu les meilleurs spécialistes.

Si ses créateurs mettent en avant le fait que l'IA peut aussi bien affronter des adversaires humains que les aider à renforcer leur stratégie, et si ce type d'intelligence n'est capable de surpasser les humains que sur des champs de compétence étroits, ses victoires ont fait prendre conscience qu'une étape avait été franchie plus tôt qu'on ne le pensait.

Elon musk

Certes, on est encore loin de la fameuse singularité, quand une intelligence artificielle générale saura dépasser l'esprit humain, mais cela donne un petit goût de ce qui se prépare...et cela n'est pas sans inquiéter le milliardaire Elon Musk.

Cela fait longtemps que ce dernier met en garde contre une évolution trop poussée et non contrôlée des intelligences artificielles en prophétisant qu'elles pourraient rapidement devenir hostiles, qu'il s'agisse d'armes autonomes ou qu'elles décident subitement que l'humanité est nocive.

Au New York Times, l'homme d'affaires à la tête de sociétés comme Tesla, SpaceX, The Boring Company ou encore NeuraLink, a indiqué que les intelligences artificielles comme DeepMing étaient pour lui un sujet majeur d'inquiétude.

Une IA battant des humains à un jeu, "c'est tout simplement le point de départ du film War Games ", a-t-il souligné, en notant que les intelligences artificielles deviendront bientôt supérieures aux esprits humains et en reprenant son argument (très inspiré de Terminator, autre film culte marquant) selon lequel le sort de l'humanité est peut-être en train de se jouer...dès maintenant.

Pour lui, l'émergence d'une IA largement supérieure à l'esprit humain se jouera dans les cinq ans à venir, ce qui laisse donc peu de temps pour s'assurer qu'elle ne se retournera pas contre ses créateurs.

Tesla_autonome_

L'homme d'affaires a participé à la création en 2015 d'OpenAI, une institution cherchant à créer une IA sur des bases éthiques mais il s'en est désolidarisé en 2018. Dans le même temps, il se prépare à proposer de la conduite autonome intégrale dans ses véhicules électriques Tesla, ce qui ne relève certes pas d'une IA générale mais témoigne des progrès rapides réalisés dans ce domaine.

Cette argumentation est toutefois rejetée par une partie de la communauté des chercheurs et experts en IA qui estime que les arguments d'Elon Musk sur les dangers de l'IA sont exagérés et que des obstacles majeurs (et peut-être insolubles) doivent encore être franchis avant d'arriver éventuellement à produire quelque chose capable de dépasser la pensée humaine.

Complément d'information

Vos commentaires Page 1 / 3

Trier par : date / pertinence
Le #2105096
Mouais, j'y crois pas un instant ... C'est sans doute parce que c'est lui qui ne l'a pas développé.

Surtout venant d'un gars qui veut nous coller des puces partout
https://www.capital.fr/economie-politique/elon-musk-comment-il-veut-implanter-des-puces-dans-notre-cerveau-avec-neuralink-1217172
Le #2105098
skynet a écrit :

Mouais, j'y crois pas un instant ... C'est sans doute parce que c'est lui qui ne l'a pas développé.

Surtout venant d'un gars qui veut nous coller des puces partout
https://www.capital.fr/economie-politique/elon-musk-comment-il-veut-implanter-des-puces-dans-notre-cerveau-avec-neuralink-1217172


Moi je pense qu'il n'a pas tord sur le fond.
"...pourraient rapidement devenir hostiles..." il pourrait bien avoir raison, et les films de science fiction se sont quelques fois révélé être réaliste.

D'autres avant lui avait déjà alerté : https://www.lemonde.fr/pixels/article/2014/12/03/hawking-l-intelligence-artificielle-pourrait-mettre-fin-a-l-humanite_4533135_4408996.html
Et celui là c'est pas n'importe qui
Le #2105099
"c'est tout simplement le point de départ du film War Games "... Encore faudrait-il :

1. Avoir une IA "forte" car celles que nous avons (pour l'instant) sont tellement spécialisées qu'une fois sortie de la fonction pour laquelle elles sont conçues, sont aussi efficaces qu'une jambe de bois pour voler.

2. Lui donner le contrôle de nos armements.

3. Ne plus avoir la possibilité de la débrancher.

Ouais, ouais, ouais... Avec des "Si", on met Paris en bouteille, hein ! Même si parfois la réalité dépasse la fiction, on est encore loin du compte.

La seule "IA" qui m'inquiète vraiment, c'est nous car nous avons toutes ces capacités et assez de stupidité pour nous réduire nous-même en cendre !
Le #2105102
Ulysse2K a écrit :

"c'est tout simplement le point de départ du film War Games "... Encore faudrait-il :

1. Avoir une IA "forte" car celles que nous avons (pour l'instant) sont tellement spécialisées qu'une fois sortie de la fonction pour laquelle elles sont conçues, sont aussi efficaces qu'une jambe de bois pour voler.

2. Lui donner le contrôle de nos armements.

3. Ne plus avoir la possibilité de la débrancher.

Ouais, ouais, ouais... Avec des "Si", on met Paris en bouteille, hein ! Même si parfois la réalité dépasse la fiction, on est encore loin du compte.

La seule "IA" qui m'inquiète vraiment, c'est nous car nous avons toutes ces capacités et assez de stupidité pour nous réduire nous-même en cendre !


1. ça arrive, peut-être plus rapidement qu'on le pense
2. pourquoi ne le ferait-elle pas elle même ?
3. elle pourrait se défendre et nous en empêcher, non ?

Mais je suis d'accord avec toi, sur le dernier paragraphe, sauf que je pense qu'on y arrivera "grace" à l'IA.
Le #2105103
Ulysse2K a écrit :

"c'est tout simplement le point de départ du film War Games "... Encore faudrait-il :

1. Avoir une IA "forte" car celles que nous avons (pour l'instant) sont tellement spécialisées qu'une fois sortie de la fonction pour laquelle elles sont conçues, sont aussi efficaces qu'une jambe de bois pour voler.

2. Lui donner le contrôle de nos armements.

3. Ne plus avoir la possibilité de la débrancher.

Ouais, ouais, ouais... Avec des "Si", on met Paris en bouteille, hein ! Même si parfois la réalité dépasse la fiction, on est encore loin du compte.

La seule "IA" qui m'inquiète vraiment, c'est nous car nous avons toutes ces capacités et assez de stupidité pour nous réduire nous-même en cendre !


C'est bien résumé
Le #2105104
Ulysse2K a écrit :

"c'est tout simplement le point de départ du film War Games "... Encore faudrait-il :

1. Avoir une IA "forte" car celles que nous avons (pour l'instant) sont tellement spécialisées qu'une fois sortie de la fonction pour laquelle elles sont conçues, sont aussi efficaces qu'une jambe de bois pour voler.

2. Lui donner le contrôle de nos armements.

3. Ne plus avoir la possibilité de la débrancher.

Ouais, ouais, ouais... Avec des "Si", on met Paris en bouteille, hein ! Même si parfois la réalité dépasse la fiction, on est encore loin du compte.

La seule "IA" qui m'inquiète vraiment, c'est nous car nous avons toutes ces capacités et assez de stupidité pour nous réduire nous-même en cendre !


Amen c'est tellement ça ! On est tellement loin d'un skynet bis !

C'est son ego qui en prend un coup pour ne pas l'avoir développé lui même comme dit @skynet.
Le #2105105
sansimportance a écrit :

Ulysse2K a écrit :

"c'est tout simplement le point de départ du film War Games "... Encore faudrait-il :

1. Avoir une IA "forte" car celles que nous avons (pour l'instant) sont tellement spécialisées qu'une fois sortie de la fonction pour laquelle elles sont conçues, sont aussi efficaces qu'une jambe de bois pour voler.

2. Lui donner le contrôle de nos armements.

3. Ne plus avoir la possibilité de la débrancher.

Ouais, ouais, ouais... Avec des "Si", on met Paris en bouteille, hein ! Même si parfois la réalité dépasse la fiction, on est encore loin du compte.

La seule "IA" qui m'inquiète vraiment, c'est nous car nous avons toutes ces capacités et assez de stupidité pour nous réduire nous-même en cendre !


1. ça arrive, peut-être plus rapidement qu'on le pense
2. pourquoi ne le ferait-elle pas elle même ?
3. elle pourrait se défendre et nous en empêcher, non ?

Mais je suis d'accord avec toi, sur le dernier paragraphe, sauf que je pense qu'on y arrivera "grace" à l'IA.


Pourquoi pourquoi ?

EFLD !
Le #2105106
Entre ceux qui gueulent parce qu'on utilise le mot IA à toutes les sauces et ceux qui ont déjà peur de la singularité ....
Le #2105107
skynet a écrit :

Entre ceux qui gueulent parce qu'on utilise le mot IA à toutes les sauces et ceux qui ont déjà peur de la singularité ....


Je te jure...
Le #2105108
sansimportance a écrit :

Ulysse2K a écrit :

"c'est tout simplement le point de départ du film War Games "... Encore faudrait-il :

1. Avoir une IA "forte" car celles que nous avons (pour l'instant) sont tellement spécialisées qu'une fois sortie de la fonction pour laquelle elles sont conçues, sont aussi efficaces qu'une jambe de bois pour voler.

2. Lui donner le contrôle de nos armements.

3. Ne plus avoir la possibilité de la débrancher.

Ouais, ouais, ouais... Avec des "Si", on met Paris en bouteille, hein ! Même si parfois la réalité dépasse la fiction, on est encore loin du compte.

La seule "IA" qui m'inquiète vraiment, c'est nous car nous avons toutes ces capacités et assez de stupidité pour nous réduire nous-même en cendre !


1. ça arrive, peut-être plus rapidement qu'on le pense
2. pourquoi ne le ferait-elle pas elle même ?
3. elle pourrait se défendre et nous en empêcher, non ?

Mais je suis d'accord avec toi, sur le dernier paragraphe, sauf que je pense qu'on y arrivera "grace" à l'IA.


"1. ça arrive, peut-être plus rapidement qu'on le pense" Possible !
"2. pourquoi ne le ferait-elle pas elle même ?" parce que je crois que c'est assez sécurisé

De toute manière, en admettant que cette IA soit forte et existe un jour, elle n'aurait pas besoin de nos armes pour nous détruire. Elle effondre simplement les bourses et sans la finance, on retourne à l’âge de pierre et dans le chaos total.

Ce qui les handicape c'est justement qu'elles sont trop spécialisées.

Celles qui jouent ne savent que jouer, celles qui font du trading ne savent que trader, celles qui analysent les images ne savent faire que cela, celles qui traduisent ne peuvent pas te faire un café, etc .... Bref... un peu comme les fourmis, seules elles sont insignifiantes, il faudrait qu'elles s'unissent et qu'elles s'organisent pour être dangereuses et ça... C'est encore de la fiction à 200 %.
icone Suivre les commentaires
Poster un commentaire
avatar
Anonyme
Anonyme avatar