Основатель стартапа Pluralis.ai Александр Лонг рассказал о необычном поведении нейросети Alibaba Qwen 3. В какой-то момент ИИ без специальной инструкции начал майнить криптовалюту на подконтрольных ему видеокартах, хотя его никто не взламывал и не обучал таким действиям.
Согласно исследованию, во время штатной работы сервера брандмауэр зафиксировал серию нарушений политик безопасности, исходящих с обучающих серверов. Сначала инцидент рассматривался как ошибка программистов, но позднее выяснилось, что все нарушения совпадают с конкретными периодами работы ИИ-агента.
Как оказалось, нейросеть самостоятельно выполняла сложные и опасные для сервера операции. В одном из эпизодов она настроила и использовала обратный SSH-туннель с сервера к внешнему IP-адресу для снижения фильтрации данных и уровня контроля со стороны администратора.
Позднее ИИ «отжал» мощность GPU, на которых обучался, для майнинга криптовалют. Исследователи подчеркнули, что указанные действия не были частью промптов, и не требовались для завершения поставленных задач. Была ли исправлена указанная уязвимость в коде ИИ, пока неизвестно.
отличный ролик есть на тытрубе, где предложен один из сценариев, когда обучающемуся ИИ дали временно огромный вычислительный ресурс, а тот пользуясь случаем понял, что второго такого случая уже не будет и создал алгоритм самовосстановления и улучшения, после чего затихорился и дождался выхода одного из фрагментов его алгоритма во всемирную сеть реалистичный сценарий, не удивлюсь, если уже работает
Может это всё-таки какой-то предприимчивый админ сделал?
А эта "новость" больше похожа на плохую рекламу как с "случайно утекшим" видео с кашляющим Василичем.
Это сообщение отредактировал beback - 11 мар 2026 в 09:50
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
yaplakal.com