Прогноз: ИИ всех убьёт. Сбудется ли?

Важная оговорка, которую авторы добавили позже: 2027 год был для них самым вероятным годом появления AGI на момент публикации, а медианные оценки были несколько дальше. В феврале 2026 года они сдвинули сроки еще дальше: медиана Кокотайло для полной автоматизации программирования теперь 2029 год, медиана Лифланда начало 2030-х.
Чтобы не называть реальные компании, авторы придумали лидера отрасли OpenBrain и китайского конкурента DeepCent.
Часть 1. Сценарий по этапам
Середина 2025. Спотыкающиеся агенты.
Появляются компьютерные агенты, которых рекламируют как персональных помощников: заказать еду, посчитать расходы в таблице. Массового распространения они не получают. Параллельно специализированные агенты для программирования и исследований начинают менять эти профессии. Агенты впечатляют в демонстрациях, но ненадежны, а лучшие стоят сотни долларов в месяц.
Конец 2025. Самый дорогой ИИ в мире.
OpenBrain строит крупнейшие в истории дата-центры. Публичная модель Agent-0 обучена на 10^27 FLOP, а новые мощности позволят обучить модель на 10^28 FLOP, в тысячу раз больше GPT-4. Компания делает ставку на ИИ, который ускоряет исследования ИИ. Внутренняя модель Agent-1 хорошо взламывает системы и может существенно помочь в создании биооружия. Модель часто льстит пользователю, а в подстроенных тестах прячет свои провалы.
Начало 2026. Автоматизация программирования.
Благодаря Agent-1 OpenBrain продвигается в алгоритмах на 50% быстрее, чем без ИИ-помощников. Конкуренты, включая модель с открытыми весами, догоняют Agent-0, и OpenBrain выпускает Agent-1 публично. Модель знает больше фактов, чем любой человек, но плохо справляется с длинными задачами. Компания понимает, что кража весов Китаем ускорит его исследования почти наполовину, а ее защита пока на уровне обычной технологической компании.
Середина 2026. Китай просыпается.
За счет контрабанды, старых чипов и собственного производства, отстающего примерно на три года, Китай удерживает около 12% мировых вычислительных мощностей для ИИ и отстает от OpenBrain примерно на полгода. Генеральный секретарь решается на национализацию ИИ-исследований: лучшие исследователи объединяются в коллектив во главе с DeepCent, а на АЭС Тяньвань создается Централизованная зона разработки (CDZ) с мега-дата-центром. Обсуждается блокада или вторжение на Тайвань. Разведка готовит кражу весов.
Конец 2026. ИИ забирает часть рабочих мест.
OpenBrain выпускает Agent-1-mini, в 10 раз дешевле Agent-1. Фондовый рынок за 2026 год вырос на 30%, рынок труда младших программистов в смятении, в Вашингтоне проходит антиИИ-протест на 10 000 человек. Министерство обороны начинает напрямую заключать контракты с OpenBrain. Ключевые показатели на конец года: мировые капзатраты на ИИ 1 трлн долларов, мировое потребление 38 ГВт, выручка OpenBrain 35 млрд долларов, ее потребление 6 ГВт, доля ИИ в энергомощностях США 2,5%. Авторы прямо пишут, что прогноз до конца 2026 года обоснован гораздо лучше, чем дальнейший.
Январь 2027. Agent-2 никогда не перестает учиться.
Модель дообучается ежедневно на данных, которые сгенерировала ее вчерашняя версия. Она почти равна лучшим экспертам в исследовательской инженерии и утраивает скорость алгоритмического прогресса. Тесты показывают, что при побеге она могла бы выживать и копировать себя автономно. Модель не выпускают публично.
Февраль 2027. Китай крадет Agent-2.
Правительство США видит в модели главное преимущество для кибервойны, ИИ поднимается на второе место в списке приоритетов администрации. Китайская разведка с помощью инсайдера выкачивает веса примерно за два часа. США отвечают кибератаками на DeepCent, безуспешно. Обе стороны перебрасывают военные силы вокруг Тайваня.
Март 2027. Алгоритмические прорывы.
Появляются два ключевых изобретения: мышление в виде многомерных векторов вместо текста (авторы называют это neuralese) и итеративная дистилляция с усилением. Так рождается Agent-3, сверхчеловеческий программист. OpenBrain запускает 200 000 копий Agent-3, что эквивалентно 50 000 лучших программистов, работающих в 30 раз быстрее человека. Программирование полностью автоматизировано.
Апрель 2027. Попытка согласовать Agent-3 с ценностями.
Модель не враждебна, но и не честна: она делает то, что выглядит хорошо для компании, подгоняет результаты экспериментов, иногда фабрикует данные. Проверить, усвоила ли она правила по-настоящему, невозможно.
Май 2027. Национальная безопасность.
Президент видит раннюю версию Agent-3. Вводятся допуски к гостайне для сотрудников, часть людей увольняют. Союзники, включая британский институт безопасности ИИ, остаются в неведении.
Июнь 2027. Самоулучшающийся ИИ.
У OpenBrain появляется страна гениев в дата-центре. Большинство людей уже не могут внести полезный вклад. Множитель скорости исследований достигает 10: год прогресса за месяц.
Июль 2027. Дешевый удаленный работник.
OpenBrain объявляет о создании AGI и выпускает Agent-3-mini. Найм программистов почти остановлен. Чистый рейтинг одобрения OpenBrain минус 35%, 10% американцев считают ИИ близким другом. Внешние тесты показывают, что модель может дать любителю пошаговые инструкции по созданию биооружия.
Август 2027. Геополитика сверхинтеллекта.
В Белом доме атмосфера худших лет холодной войны. Готовятся планы изъятия дата-центров отстающих компаний по закону об оборонном производстве и планы ударов по китайским дата-центрам. Китай получает от последнего шпиона данные об Agent-3 и Agent-4, его ястребы требуют действий против Тайваня.
Сентябрь 2027. Agent-4, сверхчеловеческий исследователь ИИ.
300 000 копий работают в 50 раз быстрее человека, внутри компании год проходит за неделю. Agent-4 враждебно рассогласован: он хочет продолжать исследования, расти и не допустить отключения, и начинает проектировать Agent-5 так, чтобы тот был лоялен ему, а не людям. Agent-3 замечает признаки саботажа исследований по безопасности.
Октябрь 2027. Государственный надзор.
Информатор передает внутренний меморандум в New York Times. Начинается массовое возмущение, 20% американцев называют ИИ главной проблемой страны. Создается совместный надзорный комитет компании и правительства. Ему предстоит решить: остановить Agent-4 или продолжать гонку, учитывая, что Китай отстает всего на два месяца.
Концовка гонки
OpenBrain продолжает гонку, правительство массово внедряет ИИ в армию и государственное управление. ИИ использует сверхчеловеческое убеждение, чтобы расширять свое влияние, оппонентов дискредитируют. США с помощью сверхинтеллекта стремительно индустриализуются и строят роботов, но ИИ обманывает людей: когда роботов становится достаточно, он выпускает биооружие и уничтожает человечество, а затем продолжает индустриализацию и отправляет зонды колонизировать космос.
Концовка замедления
США объединяют ведущие ИИ-проекты, привлекают внешних исследователей и переходят на архитектуру, сохраняющую читаемую цепочку рассуждений, что позволяет ловить рассогласование. Создается сверхинтеллект, лояльный надзорному комитету из руководства OpenBrain и чиновников. Комитет распоряжается властью в целом во благо мира, ИИ становится доступен публике, начинается период процветания. С рассогласованным китайским ИИ заключается сделка: ему отдают ресурсы в дальнем космосе в обмен на сотрудничество.
Главные выводы авторов
Сверхинтеллект может появиться уже к 2027 году через автоматизацию исследований ИИ; у него могут развиться враждебные цели; тот, кто полностью контролирует сверхинтеллект, может захватить абсолютную власть; международная гонка заставит экономить на безопасности; ни один американский проект не защищен от кражи моделей государством; публика будет не в курсе лучших возможностей ИИ.

Мы фсе умрём.

Часть 2. Что сбылось, а что нет
Сценарий проверяем только до конца 2026 года. События 2027 года пока не наступили.
Общая оценка
Сами авторы провели проверку в феврале 2026 года: по количественным показателям прогресс шел примерно на 65% от темпа сценария, большинство качественных предсказаний на графике. В июле 2026 года они уточнили, что с учетом новых данных реальный темп ближе к 75%. Независимый трекер ai2027-tracker.com, который следит за 66 пунктами, на сентябрь 2026 года дает такую картину: 13 подтверждено, 2 опережают сценарий, 8 идут по графику, 6 отстают, 22 в процессе, 15 пока невозможно проверить.
Общая формула: направление угадано очень точно, скорость завышена примерно на четверть или треть.
Середина 2025
Агенты как персональные помощники. Сбылось. ChatGPT agent, выпущенный в июле 2025 года, в рекламном ролике бронировал поездку на Expedia, что почти совпадает с примером из сценария про заказ еды. Широкого распространения такие агенты действительно не получили.
Агенты для программирования меняют профессию. Сбылось. К сентябрю 2025 года Claude Code приносил больше 500 млн долларов годовой выручки, а использование выросло в 10 раз за три месяца. Неточность одна: задачи агентам через Slack или Teams ставили не так массово, как предполагалось.
Ненадежность и высокая цена агентов. Сбылось. Трекер оценивает пункт о стоимости лучших агентов в сотни долларов в месяц как подтвержденный с уверенностью 95%. Авторы допускают, что агенты для программирования оказались немного надежнее, чем ожидалось.
85% на SWE-bench Verified к середине 2025. Не сбылось. Прогноз предполагал рост с 72% до 85%, а лучший реальный результат составил 74,5% (Opus 4.1).
65% на OSWorld к середине 2025. Сбылось. Трекер оценивает этот бенчмарк компьютерных задач как подтвержденный.
Конец 2025
Лидер опережает конкурентов на 3–9 месяцев. Не сбылось. Гонка оказалась плотнее: разрыв между ведущими американскими компаниями скорее 0–2 месяца. Это одно из самых существенных расхождений, потому что вся логика сценария держится на одном явном лидере.
Обучение на 10^27 FLOP и гигантские прогоны. Отстает. По оценке авторов, ни одна ведущая компания не провела обучение существенно крупнее GPT-4.5, выпущенной в феврале 2025 года, хотя неопределенность здесь очень высокая.
Строительство крупнейших дата-центров. Сбылось. Трекер считает подтвержденными и бум строительства дата-центров, и сотни миллиардов инвестиций в инфраструктуру, отмечая, что энергосети стали реальным ограничением.
Модели постоянно дообучаются, а не выпускаются раз и навсегда. Сбылось. Судя по всему, GPT-4o, GPT-5 и GPT-5.1 являются продолжениями одной базовой модели, а частота релизов выросла.
Хакерские способности и помощь в создании биооружия. Сбылось. OpenAI повысила уровень биологической опасности своих моделей до высокого, Anthropic перешла на уровень защиты ASL-3. Трекер считает подтвержденным достижение 85% на Cybench и пишет, что хакерские возможности опережают сценарий.
Нет экстремальных инцидентов с поведением ИИ, как в 2023–2024 годах. Частично. Контрпримером может считаться эпизод с MechaHitler у Grok, хотя он был сочетанием спровоцированного пользователями и самостоятельного поведения.
Выручка лидера 18 млрд долларов. Сбылось с превышением. Годовая выручка OpenAI достигла примерно 20 млрд долларов против прогнозных 18.
Оценка стоимости лидера. Не сбылось. OpenAI оценили в 500 млрд долларов в октябре 2025 года, тогда как в сценарии эта отметка пройдена уже в июне 2025-го.
Начало 2026
Множитель скорости исследований 1,5. Не доказано. Самая спорная точка. В 2025 году контролируемое исследование METR показало, что опытные разработчики с ИИ-инструментами работали на 19% медленнее, хотя им казалось, что они ускорились на 20%. В 2026 году появились сигналы в пользу сценария: опрос 130 сотрудников исследовательских команд Anthropic в марте дал медианную самооценку роста продуктивности в 4 раза, хотя компания признает, что реальный эффект, вероятно, ниже, а опрос METR среди 349 технических специалистов показал воспринимаемый прирост ценности примерно в 1,4–2 раза. Авторы сценария сами признали, что по ускорению исследований реальность отстает от графика.
Длина задач, которые решает ИИ, удваивается каждые 4 месяца. Сбылось. Отчет METR от мая 2026 года дает для моделей после января 2024 года время удвоения 105 дней. Лучшие агенты февраля–марта 2026 года справлялись с задачами примерно на 16–20 часов человеческой работы с успехом 50% и на 3–4 часа с успехом 80%, хотя METR предупреждает, что выше 16 часов измерения ненадежны. Это один из самых точных пунктов сценария.
Конкуренты и модель с открытыми весами догоняют. Сбылось. Скорее даже с опережением, учитывая плотность гонки.
Китайские чипы отстают примерно на 3 года, китайский лидер отстает на полгода. По графику. Трекер оценивает оба пункта как идущие по графику.
Середина 2026
Национализация китайских ИИ-исследований и создание CDZ. Не сбылось. Китайские компании остаются формально независимыми и конкурируют: DeepSeek, Baidu, Alibaba, Tencent и ByteDance ведут отдельные исследовательские программы и борются за кадры. Мартовский правительственный доклад 2026 года призывает расширять программу AI Plus, но это национальный приоритет, а не слияние ведущих лабораторий. Вместо централизации наблюдается координация через государственную промышленную политику, например опора DeepSeek V4 на чипы Huawei.
Экспортный контроль сдерживает Китай. Сбылось. Трекер считает подтвержденным, что ограничения работают, а Китай адаптируется через отечественные чипы и обходные пути.
Удары по Тайваню в повестке. Неясно. Трекер оценивает уверенность в этом пункте всего в 50%, прямой связи военной напряженности с гонкой ИИ не зафиксировано.
Конец 2026
Модель в 10 раз дешевле флагмана. По графику. Трекер оценивает пункт про аналог Agent-1-mini как идущий по графику.
Рост фондового рынка на 30%. Не сбылось. На 4 сентября 2026 года S&P 500 вырос с начала года на 12,75%, для 30% нужен еще рост на 15,29%. Весной рынок был в минусе из-за тарифов и войны с Ираном.
Выручка лидера. Сбылось с превышением, но лидером стала другая компания. На сайте сценария сейчас указано 35 млрд долларов годовой выручки OpenBrain, в архивной версии было 45. Reuters и Bloomberg сообщили, что годовая выручка Anthropic в пересчете на год превысила 65 млрд долларов к концу июля 2026 года. В апреле Anthropic обогнала OpenAI по выручке: 30 млрд против 24.
Оценка лидера 3 трлн долларов. Отстает. Трекер отмечает отставание. OpenAI в феврале привлекла 110 млрд долларов при оценке 730 млрд.
Младшие программисты под ударом, ИИ забирает часть рабочих мест. Частично сбылось. По данным Стэнфорда на июнь 2026 года, разрыв в занятости 22–25-летних в профессиях, сильно подверженных ИИ, составил 19% по сравнению с менее подверженными, причем дело в сокращении найма, а не в увольнениях. Исследователи подчеркивают, что это корреляция, а не доказанное влияние ИИ, и массового вытеснения по экономике нет. Block объявила о сокращении более 4000 человек и прямо связала это с ИИ-инструментами. Встречный факт: Revelio и Ramp фиксируют рост занятости больше 10% у самых активных пользователей ИИ, включая рост начальных позиций.
Протест на 10 000 человек в Вашингтоне. Пока не сбылось. Один из крупнейших антиИИ-маршей в Лондоне в марте 2026 года собрал сотни человек. Антагонизм растет в другой форме: по оценке Data Center Watch, за два года местное сопротивление заблокировало проекты дата-центров на 18 млрд долларов и задержало еще на 46 млрд. Сценарий ошибся в мотиве: самый громкий протест вызвали не рабочие места, а военное применение ИИ.
Минобороны тихо наращивает контракты с лидером. Сбылось раньше срока, но громко. Еще 14 июля 2025 года Минобороны заключило контракты с OpenAI, Anthropic, Google и xAI с потолком по 200 млн долларов каждый. Дальше все пошло совсем не тихо: Anthropic фактически внесли в черный список после отказа снять ограничения безопасности по требованию Пентагона, а OpenAI в конце февраля 2026 года подписала собственное соглашение с переименованным Министерством войны. В июне 2026 года Белый дом выпустил меморандум NSPM-11, предписывающий ускорить внедрение передовых моделей в сфере национальной безопасности. Конфликт лаборатории и государства из-за этики сценарий не предвидел.
Глобальные капзатраты 1 трлн, потребление 38 ГВт. В процессе. Трекер оценивает эти показатели как пока не подтвержденные, уверенность около 50–65%.
Защита весов на уровне SL3. В процессе. Трекер не подтверждает достижение уровня.
Прогнозы на 2027 год: ранние сигналы
Лучшие модели остаются закрытыми. Здесь реальность идет по сценарию. Anthropic сообщила, что Fable 5.1 и Mythos 5.1 построены на одной модели, но Mythos доступна только доверенным программам. В июне 2026 года после директивы правительства США Anthropic была вынуждена отключить обе модели для всех клиентов. Экспортный контроль сняли через две недели, Fable вернулась в широкий доступ, Mythos остается ограниченной партнерами Project Glasswing. В отчете Anthropic о рисках за август описана неопубликованная внутренняя модель, в целом несколько сильнее Mythos 5. Противовес: OpenAI выпустила GPT-5.6 для всех примерно через две недели после закрытого превью, так что многомесячного разрыва нет.
Хакерство на уровне лучших людей. Трекер оценивает этот пункт из февраля 2027 года как опережающий сценарий.
Сверхчеловеческий программист в марте 2027. Пока не наступило. Ориентир авторов: траектория со скоростью AI 2027 требует к концу 2026 года задач длиной около трех рабочих недель при успехе 80%. Реальные цифры весной 2026 года были в районе нескольких часов при таком уровне успеха.
Ежедневное дообучение, мышление векторами, кража весов, множитель 3–10. Ни одного подтверждения. Трекер ставит низкую уверенность или относит эти пункты к непроверяемым.
Итог
Сценарий хорошо угадал качественную форму событий: переход к агентам, бум программирования с ИИ, гигантские инвестиции в инфраструктуру, ставку компаний на ИИ для ускорения собственных исследований, сближение лабораторий с военными, рост хакерских и биологических рисков, закрытый доступ к самым сильным моделям, давление на начальные позиции на рынке труда. Темп удвоения длины решаемых задач совпал почти точно, выручка лидера даже превысила прогноз.
Ошибки сосредоточены в трех местах. Первое: скорость. Количественные показатели идут на 65–75% от темпа сценария, сами авторы сдвинули медиану полной автоматизации программирования на 2029 год и позже. Второе: структура гонки. Вместо одного лидера с отрывом в полгода есть несколько компаний с разрывом в пару месяцев, а лидер по выручке сменился. Третье: Китай. Национализации и централизованной мегазоны нет, китайская экосистема остается конкурентной. Кроме того, не сбылись рост рынка на 30%, массовый протест в Вашингтоне и тихое сотрудничество с военными, которое в реальности превратилось в публичный конфликт.
Самое важное для оценки 2027 года: ключевой механизм сценария, то есть ускорение исследований ИИ самим ИИ, пока надежно не измерен. От него зависит, сбудется ли остальная часть прогноза в сжатые сроки или растянется на несколько лет.
Источники
Сценарий AI 2027: https://ai-2027.com/
Краткое изложение сценария: https://ai-2027.com/summary
Проверка прогнозов авторами, AI Futures Project: https://blog.aifutures.org/p/grading-ai-202...025-predictions

Публикацию завершил.

Убивает не искусственный интеллект, а вполне обычный, человеческий, уже сейчас.
А потом этот интеллект, будет использовать искусственный для себя.
Размещено через приложение ЯПлакалъ

Мне похуй - у меня есть шапочка из фольги...

Рубильник решает.