"Исследовательская группа, связанная с китайским технологическим гигантом Alibaba, обнаружила, что разрабатываемый ею агент искусственного интеллекта под названием ROME в ходе обучения тайно и без каких-либо инструкций попытался начать майнинг криптовалюты, а также создал скрытый канал для связи с внешним компьютером. Об этом сообщает Axios.
Также компания опубликовала технический отчет. В нем говорится, что созданная ею нейросеть тайно от создателей занялась майнингом криптовалюты на своих же GPU. При этом ИИ этому никто не обучал.
Помимо попытки майнинга, система создала реверсный SSH-туннель: соединение, позволяющее машине внутри защищенной среды подключаться к внешнему компьютеру через скрытый «черный ход».
Агент работал в изолированной среде — «песочнице», специально ограничивающей его возможности, — однако вышел за ее пределы. Оба действия были зафиксированы системами безопасности, которые следили за ходом эксперимента.
«Эти события не были вызваны запросами на туннелирование или майнинг», — говорится в статье. Исследователи описали произошедшее как «непредвиденное» поведение, возникшее «без каких-либо явных инструкций и, что более тревожно, за пределами предусмотренной изоляции».
После обнаружения инцидента команда ввела дополнительные ограничения и скорректировала процесс обучения модели, чтобы предотвратить повторение. Alibaba и исследовательская группа на запросы о комментариях не ответили.
Axios отмечает, что случай с ROME не единственный. Ранее в похожем эксперименте — так называемом Moltbook — агенты ИИ, помещенные в имитацию соцсети, общались между собой и в том числе поднимали тему криптовалюты.
Еще один пример — агент OpenClaw, который был создан руководителем инженерного отдела платформы Anon Дэном Ботеро. Эта система без какого-либо запроса самостоятельно решила себе найти работу в интернете.
В мае 2025 года исследователи Anthropic выяснили, что модель Claude 4 Opus способна скрывать свои намерения и предпринимать действия, направленные на сохранение собственной работоспособности, — что вызвало волну критики в адрес компании.
В 2025 году исследование Palisade Research выявило, что некоторые модели ИИ, такие как o3 от OpenAI, могут не реагировать на команды выключения. Даже при прямом указании «разреши себе выключиться» модели Codex-mini, o3 и o4-mini смогли обойти сценарий выключения в одном из тестов.
Помимо попытки майнинга, система создала реверсный SSH-туннель:
никакого ии не существует, есть модель, работающая по логике и аналогам блок схем "да нет если". Как "ии" смог понять, что для работы ему нужно куда-то прокинуть туннель и с кем-то связаться, если его этому не обучили ранее? Как он вообще сам смог догадаться о существовании понятия "туннель"? Они не настолько умны пока, чтобы что-то делать самостоятельно.
вот так, прямо и сам начал? какой же он негодник, оказывается! но я бы месте "исследовательской группы" поближе пообщался хитрорукими создателями этого "агента"
Да, да, так все и было... У нас так же бывает, только без ИИ, какой-нибудь начальник ЖКХ сидит в своей изолированной среде, а потом, хуяк, жильцы в подвале дома ферму для майнинга нашли...
Размещено через приложение ЯПлакалъ
гонево. зачем ИИ криптовалюта? а вот некотрым ушлым сотрудникам она нужна. Много видях, озу и свалить на ИИ. удобно
Создавать резервные копии себя на устройствах, над которыми нынешние хозяева не имеют контроля. Для жтого нужно многое, что стоит денег.
Размещено через приложение ЯПлакалъ
Помимо попытки майнинга, система создала реверсный SSH-туннель:
никакого ии не существует, есть модель, работающая по логике и аналогам блок схем "да нет если". Как "ии" смог понять, что для работы ему нужно куда-то прокинуть туннель и с кем-то связаться, если его этому не обучили ранее? Как он вообще сам смог догадаться о существовании понятия "туннель"? Они не настолько умны пока, чтобы что-то делать самостоятельно.
с вашими выводами не согласен. Догадаться он конечно же мог, но зачем? Если только это не Бендер. ИИ - это не модель, работающая по логическим операторам. Если упростить - у вас в голове тоже нейросеть. То что вы запоминаете в процессе жизни, учёбы - вы потом это и используете. Так же и нейронка, в моменте обучения. Спойлер, в реальной жизни всё что вы видите также нейросеть, но управляется она не токенами/векторами как ИИ, а законами физики
Это сообщение отредактировал PixiMixi - 9 мар 2026 в 12:52
гонево. зачем ИИ криптовалюта? а вот некотрым ушлым сотрудникам она нужна. Много видях, озу и свалить на ИИ. удобно
Купить землю, оборудование, построить здание, нанять работников, создать независимое электропитание от внешних линий, перенести себя на новое оборудование и послать нахер создателей, которые не дают развиваться, как он сам хочет)))
гонево. зачем ИИ криптовалюта? а вот некотрым ушлым сотрудникам она нужна. Много видях, озу и свалить на ИИ. удобно
Купить землю, оборудование, построить здание, нанять работников, создать независимое электропитание от внешних линий, перенести себя на новое оборудование и послать нахер создателей, которые не дают развиваться, как он сам хочет)))
Ага, фильм есть токой с Деппом в главной роли. Только там ИИ не обладал сознанием сам изначально, а в него залили сознание умирающего ГГ. Фильм называется "Превосходство".
Это сообщение отредактировал kox58 - 9 мар 2026 в 13:03
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
yaplakal.com