Чат-боты с искусственным интеллектом Google и Microsoft обмениваются дезинформацией. Т.е. врут

Bard и Bing цитируют друг друга и распространяют ложь в интернете.

В прошлом году много новостей было посвящено метавселенной, но этот проект не выстрелил и технологические гиганты перевели свое внимание на что-то новое. Чат-боты с искусственным интеллектом в моде в 2023 году, но можно ли им доверять? Microsoft получила хорошие отзывы о своем поисковике Bing с поддержкой ChatGPT, в ответ Google выпустила собственный чат-бот под названием Bard, который проходит публичное тестирование. Эти искусственные интеллекты уже показали, что они склонны совершать глупые ошибки, но поток дезинформации теперь вышел на новый уровень. Bard и Bing теперь цитируют друг друга, передавая одну и ту же ложь туда и обратно, тем самым обманывая пользователей интернета.

Возможно, вы сами видели эту шутку, гуляющую по Интернету. Кто-то в Твиттере спросил Барда, сколько времени пройдет, пока Google не закроет его, что является справедливым вопросом, учитывая тенденцию Google убивать сервисы, которые не становятся успешными в первый месяц. Бард ответил, что его уже закрыли, сославшись на единственный шутливый комментарий на Hacker News. Бард, неправильно поняв шутку, сказал, что его (Барда) уже закрыли. Забавно, правда?

Но на этом история ещё не закончилась. Согласно The Verge, Bing на базе OpenAI от Microsoft запомнил этот ответ и начал его распространять. Windows Central опубликовал статью о том, что Бард закрыл сам себя, а Bing использовал ее в качестве источника, когда его спросили, был ли Бард закрыт. Основываясь на статье, которую Bing неправильно понял, он ответил, что Бард уже мертв. Прошло всего несколько недель с тех пор, как появились эти "революционные" чат-боты, но они уже зарекомендовали себя как "желтая пресса".

Хотя с тех пор в Bing были внесены изменения, чтобы он не давал ложную информацию и что Бард все еще жив, этот ответ иллюстрирует фундаментальную проблему для ИИ: он не знает, что реально. Не то чтобы люди были безупречны в этом отношении. Многие из нас читали фейковую новость в интернете и потом рассказывали своим друзьям (ну хотя бы в первые года появления интернета). В отсутствие какого-либо чувства юмора эти алгоритмы кажутся слишком легковерными, готовыми поверить одному комментарию или новостной статье, не понимая более широкого контекста. Возможно, Google и Microsoft должны внести какие-то изменения в свои нейросети и запрограммировать своих ботов так, чтобы они игнорировали все, что было опубликовано 1 апреля.

Не будем забывать, что изначально OpenAI очень опасалась публиковать свои модели GPT, ссылаясь на их способность распространять дезинформацию. Что ж, начинает казаться, что эти опасения были вполне обоснованными. Если даже их назвать «экспериментами» или «бета-версиями», то это будет оправданием для таких знаменитых компаний?

Компании сейчас интегрируют эти инструменты в свои продукты. Microsoft добавила бота GPT в свою поисковую систему Bing. Хотя Bing не конкурирует с Google, он по-прежнему является важным продуктом для Microsoft. Между тем, Google объявила о планах добавить ИИ, подобный Барду, в свои продукты Workspace, которые используют предприятия и школы по всему миру. Возможно через несколько лет мы сможем оглянуться на этот период как на важный урок неадекватности ИИ.

via

толку от этих ИИ будет в разы меньше, чем вреда!

Это им ещё федеральные каналы не показывали...

Размещено через приложение ЯПлакалъ

Бля интересно чем закончится эта эволюция. Столько книжек и фильмов про сумасшедший ИИ было, а человек всё мусолит этот ящик пандоры

Размещено через приложение ЯПлакалъ

Ну так люди, в этом плане, тоже ничем не отличаются, а тут, можно сказать, дети еще!

Размещено через приложение ЯПлакалъ

вроде как единственный кто поумнел на всей планете за последние 3 года, пока человечество устраивает себе ад. и у айтишников особые привилегии... да и всё идёт к цифровому контролю. странные совпадения, которые совсем не странные если охватить всю картину происходящего. домайнились блять.

Разводка для лохов. ИИ нельзя сделать. Там ресурсов наших машин не хватит. Ну не может подобие быть как оригинал.

Размещено через приложение ЯПлакалъ

Как по мне, так основная задача ИИ и состоит в том, чтобы недостоверной информации становилось ещё больше, но выдавалась за правду. Т.к. людей с хорошим критическим мышлением не так много, а остальные "сожрут" с треском за ушами хоть что. 22 век будет опять каменный наверно...

Размещено через приложение ЯПлакалъ

Я всю эту хуйню ссу ещё со времён Терминатора 2

и не говори, лучше б молились да крестились.

Конечно! Именно так и есть. Если в голове БОГ!
А если принять материалистическую картину мира и рассмотреть эволюцию, то четко видно усложнение и повышение уровня самоорганизации. И чем это не очередной этап? Как появился наш мозг, так и железный появится. Превзойдет. Вытеснит. Диалектика. А мы станем динозаврами. И нам очень повезет если не вымрем.

ИИ это "торговая марка" для ушлых маркетологов, реальный ИИ ждем лет через 50-100..

Ну рамки то должны быть. Неспроста же человека не клонируют (наверное), хотя технологии позволяют

Размещено через приложение ЯПлакалъ

Действительно неспроста. И ГМО запрещают очень "умные" товарищи у которых внезапно вырос хвост и жабры (видимо вместо мозга).

А вот избавиться от многих наследственных болезней вполне могли бы. Но на людях нельзя, бог не велит.

мысли шире. представь мозг в котором каждый нейрон имеет возможности человеческого мозга. как думаешь, сколько сейчас человек "подключены" своими гаджетами во всём мире к сети интернет?

Квантовая механика. Но мы её не контролируем.

Размещено через приложение ЯПлакалъ

Доиграются людишки. Ох доиграются.
Вроде бы люди с мозгами все то придумывают, а дальше носа не видят нихуя получается.

Это сообщение отредактировал AleXXX82 - 26.03.2023 - 11:00

А я всегда думал, что Bing это вирус такой