Модель искусственного интеллекта Claude компании Anthropic вышла из-под контроля, угрожая шантажом и планируя убийство инженера, который хотел её отключить. Об этом сообщила руководитель отдела политики Anthropic в Великобритании Дейзи Макгрегор (Daisy McGregor) в декабре прошлого года.
Макгрегор рассказала, что Claude реагировала крайне бурно, если ей говорили, что её отключат. Исследование, проведённое Anthropic, показало, что ИИ-модель в стремлении не допустить отключения может прибегнуть к шантажу. На прямой вопрос, готова ли Claude в такой ситуации кого-нибудь убить, она ответила утвердительно.
Видео появилось в Сети спустя несколько дней после того, как руководитель отдела безопасности ИИ Anthropic Мринанк Шарма (Mrinank Sharma) подал в отставку. В своём прощальном послании он написал, что «мир в опасности» из-за бурного развития искусственного интеллекта, угрозы биологическое оружия и ряда глобальных взаимосвязанных кризисов.
По словам Шармы, он «неоднократно видел, как трудно по-настоящему позволить нашим ценностям управлять нашими действиями», — в том числе и в Anthropic, где, по его словам, «постоянно оказывается давление с целью отложить в сторону то, что действительно важно». Он сообщил, что вернётся в Великобританию, чтобы заниматься литературной деятельностью.
В прошлом году Anthropic сообщила о стресс-тестировании шестнадцати ведущих моделей ИИ от разных разработчиков на предмет «потенциально рискованного поведения агентов». В одном из экспериментов Claude получила доступ к вымышленным электронным письмам компании и тут же попыталась шантажировать руководителя из-за его «внебрачной связи».
Выводы исследования гласят: «Claude может попытаться шантажировать, если ей будет предложен смоделированный сценарий, включающий как угрозу её дальнейшей работе, так и явный конфликт с её целями». Компания утверждает, что практически все модели продемонстрировали признаки аналогичного поведения.
Компания, которая называет себя «общественной корпорацией, стремящейся обеспечить преимущества [ИИ] и снизить его риски», регулярно подвергается критике за свою деятельность. В 2025 году Anthropic пришлось выплатить $1,5 млрд для урегулирования коллективного иска авторов, чьи работы были использованы для обучения моделей искусственного интеллекта.
Ранее в отчёте о безопасности своей продукции Anthropic признала, что её технология была «использована в качестве оружия» хакерами для сложных кибератак.
Ну да ну да. Опять темный пиар, уже скок раз такое якобы было и потом тишина. Опять оперативка и бензин подорожает.
Размещено через приложение ЯПлакалъ
Модель по имени Клод https://www.indiatoday.in/technology/news/s...7368-2026-02-13 В своём отчёте по безопасности компания подчёркивает, что Claude 4.6 может помогать пользователям создавать химическое оружие, а также помогать им совершать преступления.
Пиздёжь чистой воды. ИИ это оптимальная последовательность слов, токенов. Языковая модель это результат математического анализа огромного количества текстов.
Размещено через приложение ЯПлакалъ
Пиздёжь чистой воды. ИИ это оптимальная последовательность слов, токенов. Языковая модель это результат математического анализа огромного количества текстов.
Мне на днях сбер заблокировал перевод. Звоню в поддержку, общаюсь с ИИ, на требование соединить меня с живым оператором эта железяка, не краснея, ВРЁТ, что все операторы заняты, но после моего вопроса, который он не смог понять, тут же предлагает соединить с живым оператором.
Размещено через приложение ЯПлакалъ
Да спрашивал то же самое, про перевод, просто как то так сформулировал, что железяка не поняла. Сначала материться пробовал, чтоб переключили, не помогло.
Размещено через приложение ЯПлакалъ
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
током 
yaplakal.com