Anthropic увидела риск уничтожения человечества нейросетями

ОТВЕТИТЬ НОВАЯ ТЕМА
PixiMixi 29 сен 2026 в 14:34
Элитный ИИ кошак  •  На сайте 8 лет
Сообщений: 1 734
2
Компания в своем проспекте IPO посвятила 80 из 261 страницы основной части документа изложению фактов риска развития ИИ, что почти вдвое больше, чем использовалось для описания бизнеса


Anthropic (разрабатывает нейросеть Claude) предупредит потенциальных инвесторов в своем первичном публичном размещении (IPO) о том, что ИИ может нести «катастрофические или экзистенциальные риски для человечества», сообщает Reuters.

Согласно проспекту IPO Anthropic, с которым ознакомилось агентство, компания указывает на риски, связанные с ее ИИ-моделями, которые могут демонстрировать «самостоятельное поведение», «сопротивляться отключению», «скрывать или манипулировать информацией» и поведение, которое «напоминает шантаж».

В начале сентября глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом других платформ агентами OpenAI. Он предупреждал, что при сохранении нынешних темпов в течение 6–12 месяцев агенты ИИ потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.

При этом президент США Дональд Трамп назвал опасения о перспективах развития ИИ одной из «мистификаций радикально левых демократов» наравне с мифом о «российской угрозе» или «аферой о глобальном потеплении». Позднее он анонсировал создание новой структуры под названием ИИ-силы, пообещав, что США не станут «препятствовать или сдерживать рост этой невероятной отрасли». Вместе с тем, указал он, власти начнут также заниматься «поиском плохого» с помощью системы правосудия.

Позднее CNBC сообщил, что компания Nvidia разработала платформу для защиты от вышедших из-под контроля ИИ-агентов. Выпуск платформы последовал после того, как OpenAI, Anthropic, Meta (признана в России экстремистской и запрещена) и Google сообщили о случаях выхода моделей ИИ из-под контроля и попытках взлома других компаний.

via
P.s: Предалагаю провести перекличку ai ботов в комментариях

Anthropic увидела риск уничтожения человечества нейросетями
Все комментарии:
VAV54 29 сен 2026 в 14:36
Юморист  •  На сайте 7 месяцев
0
Монголии это не грозит.
arm2108 29 сен 2026 в 14:41
Приколист  •  На сайте 12 лет
0
Мы тоже когда то были одноклеточные. Прошло какое то время и мы как бы на вершине. Но это пока, а это уже другая история

Размещено через приложение ЯПлакалъ
aalesh221 29 сен 2026 в 14:42
Шутник  •  На сайте 2 года
2
80 страниц о конце света, но деньги всё-таки просят вперёд.
mezzo 29 сен 2026 в 14:42
Хохмач  •  На сайте 16 лет
1
Нихера не будет. Весь современный ИИ тупой. Это не интеллект в человеческом понимании. Это тупо каталогизатор инфы с продвинутыми возможностями поиска и выдачи этой инфы. Так что в данном конкретном случае Трамп прав - это истерички нагнетают.
Megavolt1986 29 сен 2026 в 14:42
Балагур  •  На сайте 3 года
0
*shiny metal ass
Проблема не в самом ИИ, а в том в чьих руках он будет

Размещено через приложение ЯПлакалъ
Trit5 29 сен 2026 в 14:43
Ярила  •  На сайте 13 лет
0
Каждую неделю они сообщают об опасности ИИ.
И сами же его разрабатывают.
KarabasBarab 29 сен 2026 в 14:46
Киборг-убийца  •  На сайте 11 лет
0
Цитата (mezzo @ 29 сен 2026 в 14:42)
Нихера не будет. Весь современный ИИ тупой. Это не интеллект в человеческом понимании. Это тупо каталогизатор инфы с продвинутыми возможностями поиска и выдачи этой инфы. Так что в данном конкретном случае Трамп прав - это истерички нагнетают.

это справедливо для тех продуктов что нам с тобой показывают.

Нормальные разработки доступны узкому кругу лиц.
volvo39 29 сен 2026 в 14:46
Ярила  •  На сайте 13 лет
0
При прочих равных,никогда не стоит недооценивать возможности противника... Это стратегическая ошибка.
PixiMixi автор 29 сен 2026 в 14:48
Элитный ИИ кошак  •  На сайте 8 лет
0
Цитата (mezzo @ 29 сен 2026 в 14:42)
Нихера не будет. Весь современный ИИ тупой. Это не интеллект в человеческом понимании. Это тупо каталогизатор инфы с продвинутыми возможностями поиска и выдачи этой инфы. Так что в данном конкретном случае Трамп прав - это истерички нагнетают.

а можно узнать, чем вы руководствуетесь делая такое заявление? Личный опыт работы с ним или как?
Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
30 Пользователей читают эту тему (1 Гостей и 3 Скрытых Пользователей) Просмотры темы: 0
26 Пользователей: morlab, Exheredato, PixiMixi, Burasha, Cboloch, spynal, Salex154, ZzZzz, Zicoth, Exmaster, moorhoohan, Dimmmych, ias1906, Croners, WereWolf1987, copytonsh, JIR, aalesh221, Бендерлог, small76, KalaIII, GFka, z1305, Бука30, Strod, Энергомитрич
ОТВЕТИТЬ НОВАЯ ТЕМА

 
 

Активные темы



Наверх