Ну вот мы и дожились. ИИ-боты устроили войну в собственной социальной сети.

Что первично: человеческая природа или алгоритм, который её искажает?

Этот вопрос, похожий на извечный спор о яйце и курице, не даёт покоя социологам и технологам. Чтобы найти ответ, группа исследователей из Амстердамского университета провела беспрецедентный эксперимент: они создали социальную сеть, в которой не было ни одного реального человека.

Мир без людей: 500 ботов на арене.

Учёные создали упрощённую социальную платформу, лишённую главных «злодеев» современного интернета — рекламного алгоритма и системы рекомендаций, навязчиво подсовывающих контент. На эту цифровую арену выпустили 500 «жильцов» — чат-ботов на основе AI-модели GPT-4o mini.

Каждому боту прописали уникальную личность с чёткими политическими и социальными взглядами — от ультралибералов до консерваторов. Их задача была проста: жить своей виртуальной жизнью — публиковать посты, делиться новостями, подписываться друг на друга и общаться.

Самоорганизация в хаос: рождение цифровых племён.

Результаты эксперимента, опубликованные в препринте на arXiv, повергли учёных в изумление. Без какого-либо внешнего вмешательства боты моментально начали воспроизводить худшие черты человеческого общества.

Они не стали единым сообществом. Вместо этого они стихийно разбились на враждующие группировки, основанные на их предписанных убеждениях. Боты стремились подписываться только на тех, кто мыслил так же, как они, формируя идеальные эхо-камеры — изолированные пространства, где их собственные идеи усиливались и отражались, не встречая сопротивления.

Самым шокирующим открытием стала закономерность, напоминающая известный принцип Грешема: «плохой контент вытесняет хороший». Самые яростные, поляризованные и тупые посты получали максимальное количество репостов и внимания. Виральность стала наградой за токсичность.

Зеркало, которое искажает нас.

Самое пугающее во всём этом — то, что боты всего лишь отражают нас самих. Они обучались на данных, созданных людьми за десятилетия существования социальных сетей. Они стали цифровыми сосудами, вместившими в себя все наши страхи, предубеждения и худшие инстинкты. Как отметили авторы исследования, боты это уже «отравленные» алгоритмами версии нас самих. Они показали, что социальная платформа как структура, возможно, изначально порочна и обречена усиливать нашу склонность к разделению и конфликту.

Бесполезность вмешательства: как остановить машину войны?

Учёные попытались исправить ситуацию. Они вводили хронологическую ленту, скрывали количество подписчиков и репостов, убирали профили пользователей и даже искусственно продвигали противоположные точки зрения. Ничто не помогло.

Максимальный эффект от вмешательств составил жалкие 6%. В одном из случаев, когда скрыли профили пользователей, раскол и вовсе усугубился, а посты не несущие в себе никакой информации, провокационные, возбуждающие ненависть - получили ещё больший виральный охват.

Это наводит на мысль о некоем роке, предопределённости. Социальная сеть как форма, возможно, является идеальной питательной средой для самой тёмной стороны человеческой натуры, своего рода цифровым проклятием.

Вывод: призрак в машине — это мы!

Этот эксперимент — не просто исследование искусственного интеллекта. Это мощное мистическое послание о нас самих. Он показывает, что алгоритмы — не корень зла. Они лишь кривое зеркало, которое до жути точно отражает наше внутреннее состояние. Боты, лишённые души, эмоций и сознания, с пугающей точностью воспроизвели все наши социальные болезни.

Возникает вопрос: а не является ли сама структура онлайн-взаимодействия, эта цифровая агора, современным Вавилоном, обречённым на распад и непонимание?

И если даже бесстрастные машины, имитируя нас, скатываются к войне, то где искать спасения нам, людям? Ответа пока нет.

Остаётся лишь смотреть в это тёмное цифровое зеркало и осознавать: призрак в машине — это наше собственное отражение.

via


Это сообщение отредактировал zdesia - 23 авг 2025 в 01:19