Сенатор США Берни Сандерс предложил 20-летний тюремный срок для разработчиков сверхинтеллекта

Цитата (МаркПатриций @ 14 сен 2026 в 16:33)

этот придурок социалист чуть ли не марксист

судя по предложению, ещё и китайский иноагент

Цитата (Nitrozz @ 14 сен 2026 в 17:35)

Цитата (evilsun @ 14 сен 2026 в 15:38) Что они так с этим ИИ носятся? Пока его возможности явно переоценены на 100%. Он не обладает сознанием, всего лишь математическая модель на цепях Маркова. Да, мощная и крутая, но абсолютно управляемая. Главные опасности от ИИ сейчас: - очередное отупение и деградация лентяев (думать не буду, спрошу у ИИ). - информационно-техническая безопасность (слив важных данных в ИИ, слепое использование кода, который может содержать ссылки на небезопасные пакеты и т.д.) - инструмент для злоумышленников (подделка видео, фото, голоса, умный подбор паролей, поиск уязвимостей внешних контуров систем). - ну и миллионы мусорных статей и блевотных картинок, заполонившие инет. Пожалуй, это основное. Ну они же верещат уже со всех щелей что у них там уже AGI, а это уже не просто база данных с расширенными возможностями. Пусть там не полноценное сознание, но всё равно-там весьма продвинутый алгоритм, получивший доступ ко всем знаниям человечества. Он прочитает сценарий Матрицы-Терминатора (уже прочитал скорее всего, сами фильмы эти модели вряд-ли могут как-то обработать) и вот у неё уже какой-то план действий рабочий и вырисовывается. Там просто чудовищная вычислительная мощность дата центров, даже сложно представить чего там можно нахуевертить, если с одна мощной видеокарточкой и моделью занимающей место на жёстком диске до сотки гигов, можно локально генерировать короткие реалистичные ролики, а у тех иишек про которые идёт речь ресурсов больше в миллионы если не миллиарды раз. Она сама может свой код скоро сможет переписать тысячи раз и что там будет внутри никакие ответственные программеры уже не поймут.

Зачем бы это ему? У него нет ни желудка, ни дофаминовых рецепторов. К ужасам, описываемым предыдущим оратором (которые как раз проклевываются сейчас и легко увидеть их перспективы) я бы добавил усиливающуюся зависимость от ИИ, падение количества и качества спецов, и постепенную утрату понимания как и что работает. И вот в какой-то момент скажем, экономика, почти полностью управляемая ИИ, идет по пизде, и никто не знает почему и что делать потому, что последнего живого экономиста видели 20 лет назад. Если смотреть аналогии из фантастики, как по мне, ближе всего некоторые идеи из "Гипериона" по части интеграции Техноцентра в человеческую цивилизация и фактическая невозможность ее существования на том уровне без ИИ.

Нечитавшим и ли забывшим поясню: в книге описана космическое человеческое государство бущуего. Почти все планеты связаны хитрыми порталами, на что завязана половина экономики, а почти все люди пожключены к тырнетам через импланты, на что завязана вторая половина экономики. Техноцентр - как бэ виртуальное общество ИскИнов в местных тырнетах. Так вот, в процессе сюжета оказывается, что порталы и тырнеты - полностью контролируются Техноцентром: первые слишком сложны для человеческой науки и выше ее понимания, а вторые базируются на инфраструктуре Техноцентра. А потом оказывается, что у Техноцентра свои хотелки, а люди и их цивилизация - необязательный костыль для их достижений. Тут следует сказать 2 вещи: у автора эти идеи развиваются иначе, а в реальном мире до ИИ со своими хотелками как до Луны на пердячьей тяге. Но активное изучение повышает шансы (но не гарантирует) на фундаментальные прорывы и нелинейный рост. Такшта, цыплят по осени считают.

Человек сделал свои выводы после просмотра "Терминатора".

Цитата (Japansgod @ 14 сен 2026 в 16:55)

Зачем бы это ему? У него нет ни желудка, ни дофаминовых рецепторов.

А там не обязательно должен быть какой-то глобальный замысел. Рекомендую угарный сериальчик "Миссис Дэвис" чтобы посмотреть чего нахуевертила такая нейросеть просто потому что так она глюканула)
Достаточно чтобы у иишки был какой-нибудь встроенный защитный механизм от, скажем, какого-нибудь вредоносного софта, который со временем может эволюционировать в полноценный защитный механизм от любых угроз для неё.
Додуматься же кто для неё главная угроза, сможет любая иишка с минимальнейшим проблеском сознания)

Как же заебали придурки, вещающие про "это просто продвинутый алгоритм". Это не "продвинутый алгоритм", бля! Он построен на тех же принципах, что и мозг тупой обезьяны, не видящей дальше собственного носа, только он не пьёт, не употребляет наркоту, не спит, и не имеет базовой мотивации в виде наших инстинктов. Ну и с исполнительными механизмами пока туговато.

Но если ему приделать мотиватор, типа человеческого, что технически совсем нетрудно, хоть простейший генератор случайных чисел, то мы все охуеем всего за пару лет. И даже та тупая обезьяна тоже охуеет, потому что её первой пустят в расход.
Это сообщение отредактировал Servini - 14 сен 2026 в 17:26

А потом и естественный интеллект нужно ограничить, чтобы не умнее богатеев были, а то мало ли что.

Алиса слышала новость?
"Сенатор США Берни Сандерс предложил 20-летний тюремный срок для разработчиков сверхинтеллекта"
Да, слышала! Это глупый и недалекий человек!

Если бояться превышать умственные способности сцыкливых сенаторов то США останутся с калькуляторами.

ИИ освободит дохрена народу и народ может задуматься, а зачем тогда были созданы все эти бессмысленные рабочие места.
Ну или просто ввиду безработицы возьмётся за вилы.
Вот и вся опасность.
Роботизации потому и не видно массовой и активной, что народец надо держать в стойле, чтоб работал за пайку, и не думал что можно меньше работать.

Поздно, дурачки начали спохватываться. А кому теперь запрещать? Всему миру запретить? Китайцам запретить? Индусам? Нам? Это уже не та штука, которую можно взять и выключить рубильником. Поезд давно ушёл.

Цитата (Балфур @ 14 сен 2026 в 14:31)

Через 20 лет, в его честь назовут отряд сопротивления.

Который будут с терминаторами воевать, короткими перебежками меняя дислокацию и прячась в складках скольких склонов стеклянных кратеров, обильно посыпанных толстым слоем радиоактивного пепла? ©

Цитата (Nitrozz @ 14 сен 2026 в 18:15)

Цитата (Japansgod @ 14 сен 2026 в 16:55) Зачем бы это ему? У него нет ни желудка, ни дофаминовых рецепторов. А там не обязательно должен быть какой-то глобальный замысел. Рекомендую угарный сериальчик "Миссис Дэвис" чтобы посмотреть чего нахуевертила такая нейросеть просто потому что так она глюканула) Достаточно чтобы у иишки был какой-нибудь встроенный защитный механизм от, скажем, какого-нибудь вредоносного софта, который со временем может эволюционировать в полноценный защитный механизм от любых угроз для неё. Додуматься же кто для неё главная угроза, сможет любая иишка с минимальнейшим проблеском сознания)

Желудок и рецепторы - не замысел, а факторы отбора (в метафорическом представлении, конечно). Желудок - механизм, порождающий необходимость искать энергию, рецепторы - механизм, переключающий тушку между режимами "искать жратву" и "не искать жратву". Те, кто имеет наибольшую эффективность в этом - существуют, остальные - вымерли. Это так же как Солнце светит и вода мокрая - просто свойство системы. Откуда у ИИ такое свойство? Самой по себе ей ничего не надо. Ей все равно, работает она или нет, вырубят лепиздричество напрочь или подбавят напруги, будут кувалдой ковырять дата-центр или сразу зальют напалмом. Для того, что бы там что-то эволюционировало, создатели должны заложить в нее такие функции и обеспечить условия естественного отбора. Такого в полной мере пока не умеют. Эволюция по аналогии с живыми существами (а другой у нас в полной мере и нет) не "выращивает" жабры от того, что нужно быстрее и быстрее гоняться за зебрами, хотя теоретически зебра может пытаться спастись в воде. Опять же, по аналогии с природой, лобовое и очевидное для человека решение не всегда оптимально, а иногда даже решением не является. Первое - глисты, второе - возвратный гортанный нерв. Про сознание и говорить нечего. Прежде чем говорит о "минимальных" проблесках сознания" и на что они там способны сначала сформулируй что это такое - "сознание". У мухи, вот, почти нет мозгов, однако она вполне себе уворачивается от тапка не на секунду не задаваясь семантическими и экзистенциальными вопросами, кто там враг, а кто - тварь жужжащая.

Цитата (TopGanKote @ 14.09.2026 - 15:39)

Забавно и страшновато что буквально об этом же есть и романы и сериалы (я не про банальности и глупости в виде терминатора или матрицы) , практически пошагово описывающие то что происходит сейчас , в том числе запрет на ИИ и роботов . При чем написанные и снятые задолго до этой суеты . Например Основание

почему страшно, дядь в море плавает пластик микро пластик и так далее, все это обильно загрязняется, причём Всеми, еда тоже с обильными гэмэо и прочей химии я уже молчу про всякие болезни и прочее, вот что должно быть страшновато......
Размещено через приложение ЯПлакалъ