Идеальный инструмент для PsyOps: как ЦРУ маскирует пропаганду под «голос народа»

Недавно был опубликован патент от RTX BBN Technologies — это «дочка» американского военного гиганта Raytheon, которая традиционно работает на разведсообщество США. Патент финансировался по контракту IARPA, то есть разработка велась на деньги американской разведки.

На первый взгляд, речь идёт о системе автоматической «перелицовки» текстов: ИИ на лету меняет стиль письма так, что автора становится невозможно определить — ни людям, ни машинам. В патенте сказано, что система нужна для защиты информаторов и агентов под прикрытием, чтобы по тексту их сообщений нельзя было вычислить личность.

Однако если внимательнее изучить документ, становится понятно, что перед нами идеальный инструмент для PsyOps (психологических операций). По сути, это оружие для операций «под чужим флагом». Представьте: офицер ЦРУ сидит в Вашингтоне и пишет методичку, а система на лету перерабатывает его текст так, что для читателя он выглядит как искренний крик души «домохозяйки из Саратова» или «учёного из Пекина».

 Система работает многоступенчато и хитро, проводя текст через несколько уровней обработки:

Первый этап — смысловая перелицовка. Сначала в дело вступает сжатая языковая модель Llama-2, которую можно запустить на обычном ноутбуке. Патент описывает возможность циклического применения модели — текст прогоняют через Llama-2 несколько раз, каждый раз перефразируя предыдущий результат. Это постепенно размывает индивидуальные стилистические черты автора.

После первичной обработки начинается заметание следов. Текст может быть прогнан через машинный перевод на другой язык и обратно. В патенте это описано как модуль, который преобразует текст, сгенерированный LLM, в более естественный текст. Обратный перевод вносит небольшие изменения, которые дополнительно стирают следы исходного стиля.

Следующий шаг — надевание маски. Здесь включается модуль переноса стиля STEER, который способен преобразовать текст в стиль одного из 11 авторских профилей. В патенте приведены примеры типов: «подросток», «инженер», «репортёр», «знаменитость» и другие. При этом система не просто предлагает выбор — она анализирует исходный текст с помощью набора метрик (сохранение смысла, грамматическая корректность, естественность текста) и автоматически выбирает профиль, который обеспечит максимальную обфускацию при сохранении качества текста.

На финальном этапе система заменяет обычные буквы на визуально идентичные, но с другим кодом (Unicode). Например, английская «a» меняется на кириллическую «а», или «w» на греческую омегу. Человеческий глаз этих подмен не замечает — для нас текст остаётся нормальным. В то же время для алгоритмов защиты, фильтров модерации и систем анализа такой текст превращается в бессмысленный набор символов. Это позволяет пробивать любые автоматические блокировки, делая западную пропаганду невидимой для роботов, но полностью читаемой для людей.

Более того, разработчики решили проблему «искусственности». Система использует хитрое хеширование, чтобы один и тот же виртуальный персонаж всегда допускал одни и те же «ошибки» или замены. Таким образом создаётся достоверная иллюзия живого человека со своими уникальными привычками.

Один оператор с ноутбуком может запустить сотни ботов, и каждый будет писать в уникальном, но последовательном стиле. Сегодня это «многодетная мать», завтра — «технический эксперт», а послезавтра — «обиженный предприниматель». В результате создаётся иллюзия, что «весь народ» думает определённым образом, и доказать обратное технически невозможно: анализ покажет, что пишут разные люди.

Учитывая стадию патента и источник финансирования, этот софт, с высокой долей вероятности, уже вышел из лабораторий и активно используется агентами влияния в информационном пространстве.


Размещено через приложение ЯПлакалъ