Kenetec -
posté le 22/05/2019 à 13:22:09 (12998 messages postés)
❤ 0
~°~
Citation:
Quand une super intelligence artificielle apparaîtra au cours de ce siècle (ce moment est appelé "la singularité"), celle-ci prendra le pouvoir sur la planète pour maximiser une grandeur quelconque. Et selon la grandeur qu'on demandera à cette IA de maximiser, l'issue génocidaire est tout à fait possible.
Tu dis ça pour troller ou tu le penses vraiment ?
C'est le topic de l'écologie.
Tu crois pas qu'on atteindra la limites physiques de notre monde avant d'avoir des super IA qui détruisent l'humanité ? (IA qui fonctionnent grâce aux énergies fossiles en passant)
harusame17 -
posté le 22/05/2019 à 22:31:17 (746 messages postés)
❤ 0
Citation:
Quand une super intelligence artificielle apparaîtra au cours de ce siècle (ce moment est appelé "la singularité"), celle-ci prendra le pouvoir sur la planète pour maximiser une grandeur quelconque. Et selon la grandeur qu'on demandera à cette IA de maximiser, l'issue génocidaire est tout à fait possible.
Pour bosser depuis quelques années dans l'informatique avec un peu d'IA, la singularité c'est encore un "doux" rêve dont on est très très loin ^^
Ce qu'on fait aujourd'hui peut paraître mystique mais on est encore extrêmement loin d'avoir une IA un minimum généraliste ayant des comportements imprédictibles ou capable d'inventer quelque chose. (Et me sortez pas les exemples des IA qui génèrent de la musique ou des peinture, ce n'est que des effets de seuil sur des réseaux de neurones tellement complexe qu'on arrive plus à expliquer comment le résultat a été fait.)
Bref, on est capable de faire des drones autonomes "tueurs", mais les missions ont besoins d'être pilotées par des humains, on est a des années lumière de faire quelque chose capable de se répliquer, aller chercher des sources d’énergies et d'avoir des pensées propres et sortant des domaines programmées, si des problèmes liés à l'IA arrivent, il y aura des humains derrière comme premier responsables et on a bien des milliers de problèmes urgents à résoudre avant sur le plan écologique/climatique avant de se faire peur sur une hypothétique IA ayant passé la singularité.
« Close the World, Open the nExt »
Roi of the Suisse -
posté le 22/05/2019 à 23:31:11 (29811 messages postés)
- -
❤ 0
Alerte neige !
Je crois, tout comme toi, que la remise en cause brutale de notre civilisation par le réchauffement climatique surviendra avant la singularité, même si je peux me tromper Ne pas répondre à un problème (la singularité) parce qu'il y en a un autre à côté un peu plus grave (le réchauffement climatique), c'est imprudent. Tous les problèmes doivent être traités, proportionnellement à leur gravité.
Les experts en IA du monde entier ne sont pas d'accord, mais ils estiment tout de même qu'elle aura lieu à peu près durant ce siècle.
Ce qui compte, ça n'est pas la probabilité, mais l'espérance, c'est-à-dire la probabilité multipliée par la gravité du danger. Il faut donc parfois prendre en compte des évènements à la probabilité faible si les conséquences sont colossales.
Si l'IA surhumaine a peu de chances d'apparaître dans les 20 prochaines années, si elle apparaissait tout de même ça serait terrible parce qu'on n'est absolument pas prêts.
Il faut donc commencer à réfléchir dès aujourd'hui aux garde-fous, et non pas lorsque ça arrivera, parce que ça sera trop tard.
10% de chances qu'une IA surhumaine apparaisse en 2025, c'est déjà plus que suffisant pour préparer le terrain. Si elle n'apparaît pas, ok tant mieux super, mais il faut réfléchir quand même au cas où.
For the 50% mark, the overall median is 2040 (i.e. half of the respondents gave a year earlier than 2040 and half gave a year later than 2040) but the overall mean (average) is 2081.
Doude -
posté le 23/05/2019 à 07:37:47 (3230 messages postés)
-
❤ 0
In HDO I trust
Qu'est-ce que tu entends par garde-fous ? Que pourrais-t-on faire contre... de l'intelligence pure, justement ? Elle pourrait prendre une telle diversité de formes et de moyens d'actions que je ne vois pas comment s'en prémunir.
L'utilitarisme c'est quand tu es utile.
Nemau -
posté le 23/05/2019 à 07:47:01 (52227 messages postés)
- -
Roi of the Suisse -
posté le 23/05/2019 à 08:17:26 (29811 messages postés)
- -
❤ 0
Alerte neige !
C'est le problème du gros bouton stop rouge évoqué par Rob Miles :
Le robot a une fonction à remplir, et dans ce but, il fera tout pour vous empêcher d'appuyer sur le gros bouton stop rouge.
C'est un vrai sujet de recherche aujourd'hui.
Kenetec -
posté le 18/06/2019 à 13:19:07 (12998 messages postés)
❤ 0
~°~
Un court métrage absolument brillant et glaçant qui montre ce que pourrait être les premiers jours de l'effondrement de notre société dépendante au pétrole :
(J'ai découvert ça car ça a été récompensé dans le cadre des Deauville Green Award.)
C'est assez pessimiste, mais j'ai envie de croire que ça pourrait être plutôt réaliste.
Edit : Le lien a été retiré, je trouve pas d'autres sources, sorry.
Un épisode de "Complément d'enquête" (France 2) sur la collapsologie.
Verehn -
posté le 24/06/2019 à 19:41:24 (9056 messages postés)
- -
❤ 0
Vhehrhehn
Citation:
Un court métrage absolument brillant et glaçant qui montre ce que pourrait être les premiers jours de l'effondrement de notre société dépendante au pétrole :
(...)
Edit : Le lien a été retiré, je trouve pas d'autres sources, sorry.
Un point de vue plutôt pessimiste mais que je trouve assez pertinent.
Qui explique assez bien pourquoi, quoi qu'on puisse faire, l'écologie et l'environnement ont bien peu de chances d'aboutir à quoi que ce soit dans les décennies à venir.
Verehn -
posté le 11/07/2019 à 14:17:51 (9056 messages postés)
- -
❤ 0
Vhehrhehn
Tiens c'est le même qui battait largement ses confrères au test du "peer to peer" à l'époque où ils votaient Hadopi à l'aveuglette: https://www.youtube.com/watch?v=pXHuxNeasvw
le gentil monsieur a dit:
Evidemment si vous êtes dans le deuxième arrondissement de Paris, ça va pas le faire.
D'un autre côté, on parle aussi de réduire les besoins en transports en centralisant tout en ville.
Nemau -
posté le 11/07/2019 à 15:16:01 (52227 messages postés)
- -
❤ 0
The Inconstant Gardener
Merci au réchauffement climatique de me donner une bonne excuse pour ne pas passer le permis (in b4 on arrive à remplacer toutes les centrales nucléaires par des éoliennes et je suis dans la mouise). =>[]
Kenetec -
posté le 11/07/2019 à 15:24:33 (12998 messages postés)
❤ 0
~°~
Citation:
Je suis tombé là-dessus hier :
Yves Cochet c'est un peu un "extrémiste" de l'effondrement.
Il avait déjà annoncé la fin de notre société dans les années 2010, mais les progrès techniques avec le pétrole de schiste et l'exploitation du pétrole non conventionnel sont venu retarder ses prédictions.
Aujourd'hui lui (et d'autres) parlent de 2025-2030 pour le début ou tout se cassera la gueule mais ça me parait encore assez proche.
Et il présente les choses comme si tout allait s'effondrer du jour au lendemain.
Mais pour moi ça serait plus logique qu'on se tape un effondrement très lent.
Une dégradation des conditions et du niveau de vie, semaines après semaines.
Cela dit il dit des trucs intéressants.
Savoir cultiver la terre, sa propre nourriture et être un minimum autonome/auto suffisant ne parait pas déconnant pour affronter le futur.
Roi of the Suisse -
posté le 11/07/2019 à 15:35:33 (29811 messages postés)
- -
❤ 0
Alerte neige !
Progressif, oui, mais il y aura tout de même des effets de seuils. Certains seuils une fois dépassés, des effets importants vont avoir lieu instantanément. Un exemple cher aux collapsologues : le taux de retour énergétique de l'extraction du pétrole qui passe en dessous de 1.
Il peut y avoir également des évènements non progressifs, comme le passage d'une loi, l'interdiction d'une technologie pour des raisons écologiques etc.
Enfin, ça sera annoncé un peu en avance pour que les industriels puisse transitionner...
AzRa -
posté le 11/07/2019 à 15:48:15 (11209 messages postés)
❤ 0
Citation:
Il avait déjà annoncé la fin de notre société dans les années 2010, mais les progrès techniques avec le pétrole de schiste et l'exploitation du pétrole non conventionnel [...]
Unpopular opinion:
Oui, c'est ça le truc. L'annonce de la fin du monde dans un temps suffisamment lointain que pour que l'incertitude de l'avenir puisse jouer mais suffisamment proche pour qu'on ait quand même peur parce qu'on sera toujours normalement là à ce moment-là c'est comme les emails à propos de la petite Angela qui est en train de mourir du cancer depuis 1999 et pour sauver laquelle Bill Gates va offrir un billard si tu les renvoies à 10 de tes contacts : c'est tellement vieux et ça a été contredit tellement de fois que ça ne devrait plus prendre, et pourtant ça prend toujours.
20 ans c'est parfait. 10 ans c'est chaud. C'est trop rapide. Ça ne devrait pas aller aussi vite. Mais 20 ans c'est parfait. C'est loin et proche à la fois.
Tu peux considérer que les nouvelles technologies retardent un truc inévitable, mais le fait est que c'est comme un satellite en orbite : d'un certain point de vue il est en chute libre, sauf qu'il le sera éternellement et qu'il ne tombera jamais. La chute est inévitable et pourtant elle ne se produit (et ne se produira sûrement) jamais.
Donc oui, quand on sera en 2030 et que tout ira toujours très bien, on aura en fait juste retardé la fin du monde pour 2050, et ainsi de suite. Rince and repeat. Quand c'est pas les mayas c'est le professeur Tournesol.
Le cyclisme c'est quand tu fais du vélo.
Nemau -
posté le 11/07/2019 à 15:51:48 (52227 messages postés)
- -
❤ 0
The Inconstant Gardener
Que je comprenne bien : tu es climatosceptique Azra ?
AzRa -
posté le 11/07/2019 à 15:55:03 (11209 messages postés)
❤ 0
Non, du tout. Au contraire. Je suis humanooptimiste. Nuance. L'homme a prouvé je sais pas combien de fois qu'il était capable de résoudre ses problèmes, je ne vois pas pourquoi cette fois-ci ça serait différent.
Le cyclisme c'est quand tu fais du vélo.
NanakyTim -
posté le 11/07/2019 à 15:59:08 (23817 messages postés)
❤ 0
Leader Bocaliste Floodeur Légendaire
T'as tout dit Azra
Okay on a un peu niqué l'atmosphère terrestre, mais tranquille dans 20 ans on a notre colonie sur Mars mashallah. Plus qu'à y envoyer les prisonniers et prostituées et mon rebeu rebelotte
Aussi, ça ne revient pas aux individus de faire des vrais changements, mais plutôt aux organisations ayant un réel pouvoir ! J'espère que RotS n'oubliera pas de lire ce point très important de mon post !
Kenetec -
posté le 11/07/2019 à 16:20:21 (12998 messages postés)
❤ 0
~°~
Que ce soit en 2030, 2040 ou en 2080, il y a un fait indéniable : le pétrole n'est pas infini.
Et il arrivera forcément un jour ou celui ci deviendra épuisé ou inexploitable car trop compliquer à extraire/raffiner etc.
Et vu que toute notre société est basé sur le pétrole, qu'on a aucune alternative viable (l'électricité a aussi besoin de pétrole pour être produite), alors on aura forcément des ennuis.
Nemau -
posté le 11/07/2019 à 17:20:28 (52227 messages postés)
- -
❤ 0
The Inconstant Gardener
Citation:
L'homme a prouvé je sais pas combien de fois qu'il était capable de résoudre ses problèmes, je ne vois pas pourquoi cette fois-ci ça serait différent.
Sauf que chez les scientifiques experts sur le sujet il y a un consensus international pour dire qu'au sujet d'un certain nombre de choses on ne peut déjà plus revenir en arrière.
Par ailleurs si tout le monde se dit "que de toute manière ça c'est toujours arrangé donc ça va forcément s'arranger là encore" et que du coup personne ne fait rien, je vois mal comment ça peut s'arranger.
Roi of the Suisse -
posté le 11/07/2019 à 19:21:49 (29811 messages postés)
- -
❤ 0
Alerte neige !
NanakyTim a dit:
T'as tout dit Azra
Okay on a un peu niqué l'atmosphère terrestre, mais tranquille dans 20 ans on a notre colonie sur Mars mashallah. Plus qu'à y envoyer les prisonniers et prostituées et mon rebeu rebelotte
Non mais faut arrêter de propager des mensonges dangereux comme ça ! Ça coûterait vraiment vraiment vraiment beaucoup plus d’énergie et d’efforts de construire quoi que ce soit d’autonome sur mars que de sauver la Terre. Et le corps humain est adapté à la Terre, pas à mars ! Gravité, durée d’une journée etc.
Et si jamais il y a une fuite sur mars ou sur la planète glutko, crois moi ça sera pas pour un sale prolo comme toi mais pour les mecs en costard qui ont organisé la destruction de la Terre
Et ne pas utiliser le logo du Famas pour approuver des discours climatosceptiques sinon sriden va te détester. Wait...
Faudrait qu’on dédie tout le pétrole restant à l’extraction de l’uranium et du thorium, et on aurait de l’énergie pour 200 ans encore. J’attends avec impatience le réacteur thorium des Chinois
Chat
- 
L'article scientifique de Nick Bostrom qui traite de la question : 
