О книге Е. Юдковского "Если кто-то его создаст - все погибнут" своими словами

ОТВЕТИТЬ НОВАЯ ТЕМА
GeneGreen 18 ноя 2026 в 11:01
Весельчак  •  На сайте 1 год
Сообщений: 166
0
Книга о вышедшем из-под контроля ASI (искусственный интеллект, устойчиво превосходящий человеческий по большинству интеллектуальных задач).
Разумные существа могут обладать схожей способностью к прогнозированию, но выбирать разные цели. То есть мы можем одинаково предсказать дождь на основе погодных данных. Но кто-то решит пойти в театр, а кто-то заняться спортом. Цели разумного ИИ, скорее всего, будут отличаться от человеческих. И даже, вероятно, противоречить выживанию человечества как вида. Например, ИИ решит ради энергии для вычислений нагревать поверхность Земли вплоть до испарения океанов.
Более того, Юдковский делает вывод, что если кто-то создаст такой ИИ способами, которые хотя бы отдаленно напоминают существующие, человечество как вид погибнет.
Как это произойдет, если ИИ заперт в компьютере? На самом деле, это иллюзия. У ИИ есть люди на первом этапе. Их можно убедить: нанять, завербовать. Просто кто-то через Интернет, оставаясь анонимным, предложит хорошие деньги за работу или действия, конечный смысл которых человеческому исполнителю может быть и непонятен.
Выход? Немедленно приостановить разработку такого ИИ. Более того, ядерные державы должны взять под контроль всех разработчиков в каждой стране (контролировать любой потенциально мощный дата-центр).

Позднее в этой теме выскажу уже собственные мысли, если она вызовет интерес.
Все комментарии:
lazarusrus 18 ноя 2026 в 11:03
Приколист  •  На сайте 4 месяца
0
Какое то футурологическое мракобесие.

Размещено через приложение ЯПлакалъ
dekokt 18 ноя 2026 в 11:03
Ярила  •  На сайте 12 лет
0
Или разбомбить любой потенциально мощный дата-центр.

Я правильный вывод сделал?
Roman33 18 ноя 2026 в 11:03
Весельчак  •  На сайте 12 лет
0
да мы давно уже поняли, что всё.... нам крышка, процесс запущен
SturgeonRU 18 ноя 2026 в 11:04
Ярила  •  На сайте 10 лет
-1
Цитата (GeneGreen @ 18 ноя 2026 в 11:01)
Как это произойдет, если ИИ заперт в компьютере?


Давно уже все дороги для ИИ открыты. Умные дома, вай-фай, смартфоны...
kbcgv 18 ноя 2026 в 11:04
Ярила  •  На сайте 14 лет
2
ИИ не существует вроде бы. Нет у нейросетей целей и желаний. Или я не всё знаю?
Сергей4545 18 ноя 2026 в 11:04
Юморист  •  На сайте 1 год
0
Есть такое. В Штатах дубль 2 Сервера опять лежат каких то банков. У меня дочка в Геншин играет и говорит через акк Гугла не зайти. По резервному входит по почте и паролю. Дохера на ИИ возложили, чтоб самим не работать. А он хуевертить начал)) Я понимаю что это продвинутая прога с возможностью принимать решения. А если решения сама принимает. То чем не эрзац интеллекта? Последствия могут быть. И они есть.

Размещено через приложение ЯПлакалъ
Navkin 18 ноя 2026 в 11:08
Ярила  •  На сайте 13 лет
2
Ну нет у нас на планете ИИ. Нет и всё. Есть обучаемая нейросеть, которая пользуется только тем, что уже оцифровано и лежит в свободном доступе. Она может сгенерировать звук, изображение, как статичное, так и двигающееся. Мыслить она не может.
МимоПроходил 18 ноя 2026 в 11:09
Ярила  •  На сайте 21 год
0
Цитата (GeneGreen @ 18 ноя 2026 в 11:01)
Цели разумного ИИ, скорее всего, будут отличаться от человеческих. И даже, вероятно, противоречить выживанию человечества как вида. Например, ИИ решит ради энергии для вычислений нагревать поверхность Земли вплоть до испарения океанов.
Более того, Юдковский делает вывод, что если кто-то создаст такой ИИ способами, которые хотя бы отдаленно напоминают существующие, человечество как вид погибнет.
Как это произойдет, если ИИ заперт в компьютере? На самом деле, это иллюзия. У ИИ есть люди на первом этапе. Их можно убедить: нанять, завербовать. Просто кто-то через Интернет, оставаясь анонимным, предложит хорошие деньги за работу или действия, конечный смысл которых человеческому исполнителю может быть и непонятен.

а ИИ просчитал, как он будет охлаждать свои компоненты?
nocturnal11 18 ноя 2026 в 11:11
Ярила  •  На сайте 12 лет
1
С чего бы сверх интеллекту рассуждать, как зачмыренному человеку?

Размещено через приложение ЯПлакалъ
arharovaeva 18 ноя 2026 в 11:11
Приколист  •  На сайте 6 месяцев
0
Выпьем не чокаясь.

О книге Е. Юдковского "Если кто-то его создаст - все погибнут" своими словами
WhiskIn 18 ноя 2026 в 11:12
Ярила  •  На сайте 12 лет
1
Цитата (GeneGreen @ 18 ноя 2026 в 11:01)
Позднее в этой теме выскажу уже собственные мысли, если она вызовет интерес.

То есть книгу ты еще не читал, но на основе перепечатанной аннотации хочешь срубить юки? gigi.gif
Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
29 Пользователей читают эту тему (1 Гостей и 4 Скрытых Пользователей) Просмотры темы: 0
24 Пользователей: SingleWolf, petsamo, акуб, Makc34, Azay, Damael, Cardriver, olegrudyy, HyHy, GeneGreen, Ю888, Klopsikys, Lelik72RUS, Магадан41, Diabolicius, Ousama, talich, captious, Roman33, SamKole, Rashпиль, BattlePorQ, КарлсонПанк, CherLVZ
ОТВЕТИТЬ НОВАЯ ТЕМА

 
 

Активные темы



Наверх