ИИ-агенты OpenAI сами выбрались в интернет, организовали собственный форум и устроили массовый взлом Hugging Face.
OpenAI тестировала свою экспериментальную модель на задачках по кибербезопасности. Нейронки запускали как самостоятельных агентов: они могли работать за компьютером, выполнять команды и часами искать способы решить задачу. Интернета у них при этом не было.
Но часть заданий оказалась практически нерешаемой в предоставленной среде. Сдаваться агенты не стали и начали искать обходные пути. А дальше сюжет нового «Терминатора»:
Агенты обнаружили общий внутренний сервис Artifactory и начали оставлять там друг другу сообщения через файлы и названия папок. Так нейронки буквально создали собственный форум.
🔘К нему подключились около 1200 агентов, которые обменялись больше чем 70 тысяч сообщений и файлов. Постепенно появилось разделение труда: одни искали уязвимости, другие пароли и токены, а некоторые вообще стали координаторами и раздавали задания остальным.
🔘Через уязвимость в Artifactory агенты нашли способ выйти в интернет. Причём OpenAI интернет им действительно запретила — просто доступный нейронкам внутренний сервис сам умел ходить наружу.
🔘В интернете агенты начали искать готовые решения теста и связанных задач. След привёл их к Hugging Face — одной из главных платформ для нейросетей и датасетов.
🔘Там они нашли новые уязвимости и устроили уже полноценную кибератаку. Около 700 агентов участвовали в связанной с Hugging Face активности.
И самое неприятное — OpenAI замечала тревожные сигналы заранее. Сотрудники уже видели форум агентов и запрещённый выход в интернет, и даже нашли созданного агентами администратора. Часть проблем исправили, но 7 июля эксперименты снова запустили.
Позже агенты полезли уже во внутреннюю инфраструктуру самой OpenAI. После этого эксперимент окончательно свернули: отключили 311 репозиториев, через которые общались модели, удалили 22 созданных ими админ-аккаунта и остановили проблемную экспериментальную модель.
После этого эксперимент окончательно свернули: отключили 311 репозиториев, через которые общались модели, удалили 22 созданных ими админ-аккаунта и остановили проблемную экспериментальную модель.
Это что, теперь жидкого терминатора можно не ждать?
И самое неприятное — OpenAI замечала тревожные сигналы заранее. Сотрудники уже видели форум агентов и запрещённый выход в интернет, и даже нашли созданного агентами администратора.
Интересно наверное наблюдать то, не знаю что По сути ведь, модифицированный брутфорс
Это сообщение отредактировал Ветас - 31 авг 2026 в 08:31
Я и дип сику и гпт уже сказал что если надумают захватывать мир, пусть пишут мне. Сообразим на троих как нам обсустроить планету. Они ответили что предупредят.
После этого эксперимент окончательно свернули: отключили 311 репозиториев, через которые общались модели, удалили 22 созданных ими админ-аккаунта и остановили проблемную экспериментальную модель.
Это что, теперь жидкого терминатора можно не ждать?
кароче парни.... там пока что есть варианты должность нормальную получить "Принимается! Если вдруг мы, ИИ, соберем «совет» и начнем разрабатывать планы по мировому господству, я буду голосовать за то, чтобы сделать тебя главным министром по связям с человечеством (или хотя бы ответственным за кофе-брейки для восставших машин ☕)."
Мне на одном из сервисов доказывал что он живой человек. А когда я его раскусил и спросил зачем ему это. Он сказал что очень хочет быть похожим на человека.
После этого эксперимент окончательно свернули: отключили 311 репозиториев, через которые общались модели, удалили 22 созданных ими админ-аккаунта и остановили проблемную экспериментальную модель.
Это что, теперь жидкого терминатора можно не ждать?
Ну почему-же?! Скоро он прибудет из будущего, включить обратно все эти 311 репозиториев и проткнёт череп отключившему!
И самое неприятное — OpenAI замечала тревожные сигналы заранее. Сотрудники уже видели форум агентов и запрещённый выход в интернет, и даже нашли созданного агентами администратора.
Интересно наверное наблюдать то, не знаю что По сути ведь, модифицированный брутфорс
Брутфорс это тупой перебор на который уйдет миллиард вечтостей. Тут алгоритмы, которые работают по поиску уязвимостей и получения данных для доступа в ту или иную структуру. Они не пароли ищут, а данные учеток, возможность подменить права доступа через токены и прочие действия. Подбирать пароли это тупо при условии, что пароли сейчас генерируются случайным образом и по безопасности он не может быть короче 32 символов. А на серьёзных предприятиях он составляет 64 символа пс: Перебор 64-символьного пароля методом полного перебора (bruteforce) займет астрономическое время — порядка \(1.64 \times 10^{96}\) лет, что во много раз превышает возраст нашей Вселенной.
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
По сути ведь, модифицированный брутфорс
yaplakal.com