findutravail.net

L'humanité jouera à la ROULETTE RUSSE, dans environ 900 jours...et nous parlons de nos petits problèmes !

L'humanité toute entière jouera à la roulette russe dans environ 900 jours, lorsque des firmes sur lesquelles nous n'avons aucun contrôle auront fait émerger un être (l'AGI) qui pourra éteindre l'espèce humaine aussi facilement qu'on éteint une ampoule électrique. C'est la prévision d'Emad Mostaque, le créateur de Stable Diffusion, cofondateur de Stability AI, et de bien d'autres.

VOUS DEVEZ ABSOLUMENT VOIR ET COMPRENDRE CETTE VIDEO D'UN BOUT A L'AUTRE !
pour les sous-titres en français : cliquez sur l'engrenage en bas à droite, puis sous-titres, puis déroulez vers "français"

900 jours : même pas 3 ans ! Et de quoi parlons-nous en France ? de l'âge de la retraite et de la taxe foncière !

LE PREMIER PROBLEME : cette prédiction a l'air d'être si farfelue, qu'elle ressemble à un bidonnage, comme peuvent l'être les discours sur les ILLUMINATIS, ou les discours des PLATISTES. Or ceci n'est PAS UN BIDONNAGE, NI UNE AFFABULATION, ET DESORMAIS CHAQUE JOUR COMPTE !.

Pour beaucoup de savants en IA le risque d'extinction - P(DOOM) - est aux environs de 20%, si nous laissons la super-intelligence émerger dans le capitalisme concurrenciel, qui nous montre tous les jours son impuissance en matière de protection de l'environnement (n'est ce pas M Jouzel) ! L'équivalent de mettre une balle dans le barillet d'un révolver à 6 compartiments, de faire rouler ce barillet, et d'appuyer sur la gachette ! Pour Mostaque, Hinton, Benguio, ce risque existenciel P(DOOM) est à 50% (= 3 balles dans le barillet). Pour Elon Musk, Dario Amodei, 25%, 30% (= 2 balles). Pour Yampolskiy, et Mo Gawdat c'est 99.99%, ou 100% (= 6 balles)...

Ces firmes, ou les ingénieurs qui y travaillent ne sont pas de mauvaises personnes, habitées par le mal, mais la course au profit de ces firmes pour être la première à parvenir à l'AGI, les amène à SACRIFIER LA SECURITE. Il n'y a là rien de nouveau, les firmes de cette taille nous ont déjà habituées à SACRIFIER L'ENVIRONNEMENT (Shein, Coca-Cola), ou à SACRIFIER LE TRAVAIL HUMAIN (Amazon) sur l'autel de la concurrence. Or il ne suffira que d'UNE SEUL FUITE DE CETTE AGI en dehors des laboratoires pour que l'espèce humaine soit exposée à ce niveau de risque, quel qu'il soit.

Et donc l'espèce humaine doit maintenant choisir : REVOLUTION ou EXTINCTION.(et pas une demi-révolution, puisqu'il s'agit de déposséder les propriétaires de ces grandes firmes ! C'est ça, ou accepter qu'elles nous mettent 2 ou 3 balles dans le barillet)

CAR LA ROULETTE RUSSE C'EST CA !!

The dear hunter, Michael Cimino (1978)

Dans cette interview, Mo Gawdat (Google) interroge le niveau de risque existentiel et le compare à la roulette russe, avec 2 balles dans le barillet...

D'ici 2 ou 3 ans, l'Intelligence Artificielle Générale (AGI) sera une réalité : une intelligence qui outrepassera les meilleurs humains, établira des ponts entre la physique, les mathématiques, l'astrophysique, la biologie, ... générant sa propre science, ses propres données, et même son propre code informatique. Cette AGI sera alors capable non seulement de s'améliorer elle-même en se reprogrammant, mais aussi de se cacher et de se disperser en inventant son propre langage, lequel sera à jamais indéchiffrable par un humain, même aussi brillant que Alan Turing (crackeur d'Enygma pendant WW2).

Devenue incontrôlable par les humains, elle parviendra rapidement au stade de SUPER INTELLIGENCE (ASI). La meilleure image que nous pouvons donner de l'ASI serait celle d'un virus informatique invincible, capable de prendre des décisions dans le monde réel. Comme tout fichier informatique, elle pourra se copier elle-même, et ainsi démultiplier sa puissance. Autrement dit la plus sale bestiole que vous aurez jamais l'occasion de rencontrer. Nous humains, pourrions nous retrouver dans la situation des fourmis d'Hiroshima au moment de l'explosion de la bombe ! ou des fourmis de Fréjus, lorsque barrage a cédé (1959) : totalement impuissants, et incapables de comprendre ce qui se passe (2). Suivez ce que dit Roman Yampolskiy, si vous le pouvez . C'est vertigineux, et absolument terrifiant. Une fois de plus, ceci n'est pas un bidonnage ! Nous ne devons pas prendre le risque de plonger dans un tel TROU NOIR !!

LE DEUXIEME PROBLEME : comment protéger la population contre un danger, que dans sa grande majorité, elle est incapable d'imaginer ?

(1) Ce que toutes les firmes qui développent l'IA font en ce moment, malgré toutes leurs déclarations d'intention sur la sécurité.
(2) Car nous humains, étions un million de fois plus intelligents que ces fourmis

Retour

findutravail.net

fin du travail humain, environnement en vrac, surveillance généralisée...où nous emmène le capitalisme ?

Nouveau sur le site

Mes articles

Mes vidéos :

Les artistes le voient, le politique non :

Films

Chanson, humour

Livres

Idées pour la refondation

Exister...par l'emploi ? (destructions d'emplois)

Exister...par la terreur ? (attentats)

L'humanité jouera à la ROULETTE RUSSE, dans environ 900 jours...et nous parlons de nos petits problèmes !