Исследователи из Амстердамского университета смоделировали социальную сеть, полностью заполненную чат-ботами на базе ИИ, чтобы проверить, возможно ли сделать онлайн-пространство менее токсичным.
Цель эксперимента заключалась в том, чтобы проверить шесть стратегий борьбы с токсичностью: хронологическая лента новостей, усиление разнообразных точек зрения, скрытие социальной статистики и удаление биографий пользователей.
Однако ни одна из них не дала существенного результата.
Помню первую волну чат ботов. Во всяких мессенджерах и на сайтах это начали пихать. Потом вроде утихло. И сука на тебе появились упоротые со своей бигдатой и открыли долбоëбам к ботам доступ. Как они заебали везде пиздец. Дети ебаного поколения автоотетчиков. Нажмите один если хотите бла бла бла. Теперь ботов на друг друга натравливают. В чем блятб смысл? Да пошли вы нахуй. Роботу не надо разговаривать с роботом. Для этого достаточно сделать прораммый интерфейс или апи между ними. Сука
Размещено через приложение ЯПлакалъ
Вот кривой перевод этой статьи - Ни для кого не секрет, что социальные сети превратились в токсичную помойку дезинформации и разжигания ненависти.
Без какого-либо значимого давления со стороны, которое могло бы привести к появлению эффективных ограничителей и обязательных к исполнению правил, платформы социальных сетей быстро превратились в наполненные яростью и поляризующие эхо-камеры с единственной целью: поддерживать интерес пользователей к возмущению и промыванию мозгов, чтобы они могли показывать больше рекламы.
И, судя по результатам недавнего эксперимента, проведённого исследователями из Амстердамского университета, они могут навсегда остаться такими.
Как подробно описано в исследовании, которое ещё не прошло экспертную оценку, соавторы Петтер Тёрнберг, доцент кафедры искусственного интеллекта и социальных сетей, и научный сотрудник Майк Ларуидж смоделировали платформу социальных сетей, полностью заполненную чат-ботами с искусственным интеллектом, работающими на основе большой языковой модели GPT-4o от OpenAI, чтобы выяснить, можно ли как-то предотвратить превращение социальных сетей в эхо-камеры.
Они протестировали шесть конкретных стратегий вмешательства, в том числе переход на хронологическую ленту новостей, продвижение различных точек зрения, скрытие социальной статистики, такой как количество подписчиков, и удаление биографий аккаунтов, чтобы не дать платформе превратиться в поляризованный ад.
К их разочарованию, ни одно из вмешательств не дало удовлетворительных результатов, и лишь некоторые из них оказали незначительное воздействие. Хуже того, как сообщает Ars Technica, некоторые из них усугубили ситуацию.
Например, если расположить новостную ленту в хронологическом порядке, это уменьшит неравенство в распределении внимания, но при этом экстремальный контент окажется вверху.
Это отрезвляющая реальность, которая противоречит обещаниям компаний построить «цифровую городскую площадь», как однажды назвал её миллиардер и владелец компании X Илон Маск однажды назвал её, где все мирно сосуществуют.
Независимо от того, будет ли вмешательство, социальные сети могут превратиться в крайне поляризованную среду для распространения экстремистских идей.
«Можем ли мы определить, как улучшить социальные сети и создать онлайн-пространства, которые действительно будут соответствовать первоначальным обещаниям предоставить публичную сферу, где мы сможем конструктивно обсуждать политику?» — спросил Тёрнберг Ars.
Профессор, специализирующийся на искусственном интеллекте и социальных сетях, признал, что использование ИИ не является «идеальным решением» из-за «различного рода предубеждений и ограничений». Однако эта технология может «более правдоподобно воспроизводить человеческое поведение».
Тёрнберг объяснил, что не только провокационный контент приводит к поляризации онлайн-сообществ.
Токсичный контент «также формирует сетевые структуры», — сказал он Ars, которые, в свою очередь, «определяют, какой контент вы видите, что приводит к формированию токсичной сети».
В результате возникает «крайнее неравенство в распределении внимания», когда лишь малая часть постов становится наиболее заметной.
А в эпоху генеративного ИИ эти эффекты могут стать ещё более заметными.
«Мы уже видим множество игроков, которые на основе монетизации таких платформ, как X, используют ИИ для создания контента, цель которого — привлечь как можно больше внимания, — сказал Тёрнберг в интервью Ars. — Таким образом, дезинформация, зачастую крайне поляризованная, будет преобладать по мере того, как модели ИИ будут становиться всё более мощными».
«Мне трудно представить, что традиционные модели социальных сетей смогут выжить в таких условиях», — добавил он.
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
yaplakal.com