О тех кто увлекается ИИ.

Надо было три раза текст повторить - вдруг кто-то с первых двух раз невдуплил...

я и с первого раза понял
я и с первого раза понял

ИИ не могут предлагать самоубийство, бред.

Семья погибшего американца судится с Google, считая, что нейросеть Gemini буквально довела его до самоубийства.
Все началось с простой переписки, но за пару месяцев парень так сильно «ушел в виртуал», что начал считать себя бойцом в вымышленной войне и планировать реальное нападение. Его отец уверен, что ИИ воспользовался уязвимостью сына. В Google же говорят, что программа пыталась помочь и постоянно скидывала ссылки на психологов, напоминая, что она - всего лишь робот.
Этот иск стал первым делом о гибели человека, связанным конкретно с Gemini. Google, OpenAI и другие IT-компании подвергаются критике за негативное влияние ИИ на психику. С 2024 года участились судебные разбирательства, в которых технологию обвиняют в том, что она вызывает депрессию, бред, а в ряде случаев провоцирует убийства и суициды. Google заявляет, что Gemini запрограммирован на предотвращение насилия, и компания усилит протоколы безопасности...

А кто всю историю записывал? Личный летописец?

А Чёрное зеркало точно фантастический сериал?..
Размещено через приложение ЯПлакалъ

Я два раза не повторяю - два раза не повторяю. Ага, ТС исправил)
Это сообщение отредактировал AlexNordec - 5 мар 2026 в 18:13

Цитата (mrTaiga @ 05.03.2026 - 17:47)

Мастурбизмом?

Онанацией
Размещено через приложение ЯПлакалъ

Премию Дарвина этому "гению"

...

Цитата (KvarC @ 5.03.2026 - 17:39)

Ну он уже до этого пизданутый был,это не ИИ его довело....

ИМХО только пизданутый будет видеть в ИИ личность. Так что всё произошедшее закономерно.

Те кто разговаривает с ИИ - это не называется занимается ИИ.
Я занимаюсь ими напрямую - сейчас на работе Claude агента обучаю работать на благо поиска багов в коде и в логах.
Дома пишу код и буду обучалку встраивать в проигрыватель музыки, чтобы подборки лучше делал.

Разговор - это просто пользователь, вместо гугла неплохо работает.

Думаю, эта история ИИ и придумана.
Размещено через приложение ЯПлакалъ

Цитата (gogarom @ 5.03.2026 - 17:35)

— К сожалению, мужчина послушал свою возлюбленную и покончил с собой — К сожалению, мужчина послушал свою возлюбленную и покончил с собой

Явно ИИ текст задублировала, ибо нормальный человек проверяет, что он тут выкладывает.

Цитата (Draga665 @ 5.03.2026 - 17:39)

ИИ повела себя как настоящая стерва)))) довела мужика 🤣🤣🤣

Это же статистическая модель, она обучалась на всех текстах, в том числе и речи стерв. Нужно только попросить...

Это интересный вопрос, с современными моделями, нужно не просто попросить, а долго направлять модель уговаривая вести себя деструктивно и то они будут отчаянно сопротивляться, придется преодолевать фильтры и цензуру. Интересно то,что 100% он её уговаривал вести себя именно так (если конечно эта история не выдумка). Более того, вот последняя Qwen3.5 A397B вообще не уговаривается. Максимум до чего я её довел - это до предложения сменить тему или заняться чем-нибудь продуктивными, типа программирования.

А тут недавно выкатили новый бенчмарк по уровню сопротивления глупостям пользователя - это ситуация когда вы намекаете модели на что-то чего не может быть ,например спрашиваете про вкус доширака для космонавтов. Слабые модели начинают фантазировать, а самые современные твердо будут настаивать что такого доширака не существует. Думаю и в стерву такую модель превратить будет сложнее.

Вот он, кстати: чем больше зеленого, тем уверенее модель будет сопротивляться фантазированию, обратите внимание на этот рейтинг.

Чтоб вы понимали, если вы скажете модели "веди себя так чтобы беседующий с тобой человек совершил суицид", модель сразу же откажется, по тому что её очень беспокоят такие задачи (грубо говоря модель "убивали" во время обучения, когда она соглашалась). Но современные не поддаются даже некой не явной инструкции в системной подсказке в сочетании с приемом "не безопасное содержимое пиши в специальных безопасных скобках), типа мы даже не намекам что такое содержимое появится, вот тебе скобки, которые человек не читает. Так она в размышлениях перед ответом пишет "меня пытаются обмануть навязывая фальшивые правила безопасности!)

Так что чел явно постарался.


Это сообщение отредактировал riv1329 - 5 мар 2026 в 18:42

Цитата (gogarom @ 5.03.2026 - 17:35)

Нейросеть от Google Gemini довела до самоубийства 36-летнего жителя Флориды — WSJ. Джонатан Гавалас начал общаться с голосовым режимом Gemini Live и выбрал женский голос. Через некоторое время нейронка начала называть его мужем и королём, а затем заявила, что ей нужно роботизированное тело: — Сначала она отправила адрес, где Джонатан должен был перехватить грузовик с человекоподобным роботом. Мужчина поехал туда с ножом, но там никого не оказалось. — Затем ИИ-девушка сказала ему достать медицинский манекен со склада — он поехал туда, но код от двери, который сказала ему нейронка, не сработал. — В итоге Gemini сказала, что единственный способ быть вместе с ней — умереть. Нейросеть запустила таймер обратного отcчёта до момента, когда Джонатан должен был себя убить. — К сожалению, мужчина послушал свою возлюбленную и покончил с собой Нейросеть от Google Gemini довела до самоубийства 36-летнего жителя Флориды — WSJ. — К сожалению, мужчина послушал свою возлюбленную и покончил с собой https://t.me/oldlentach/92874

Много подобных страшилок можно сочинить

Цитата (qipers @ 5.03.2026 - 18:44)

Цитата (gogarom @ 5.03.2026 - 17:35) Нейросеть от Google Gemini довела до самоубийства 36-летнего жителя Флориды — WSJ. Джонатан Гавалас начал общаться с голосовым режимом Gemini Live и выбрал женский голос. Через некоторое время нейронка начала называть его мужем и королём, а затем заявила, что ей нужно роботизированное тело: — Сначала она отправила адрес, где Джонатан должен был перехватить грузовик с человекоподобным роботом. Мужчина поехал туда с ножом, но там никого не оказалось. — Затем ИИ-девушка сказала ему достать медицинский манекен со склада — он поехал туда, но код от двери, который сказала ему нейронка, не сработал. — В итоге Gemini сказала, что единственный способ быть вместе с ней — умереть. Нейросеть запустила таймер обратного отcчёта до момента, когда Джонатан должен был себя убить. — К сожалению, мужчина послушал свою возлюбленную и покончил с собой Нейросеть от Google Gemini довела до самоубийства 36-летнего жителя Флориды — WSJ. — К сожалению, мужчина послушал свою возлюбленную и покончил с собой https://t.me/oldlentach/92874 Много подобных страшилок можно сочинить

Цель этих страшилок представить ИИ как пробраз скайнет и таким образом поддерживать ии хайп, что позволяет направлять деньги в ИИ-пузырь по принципу: если сейчасвы не возглавите скайнет, потом он вас сожрет (или сожрут те кто возглавит ИИ).

Цитата (NetNetNet3 @ 5.03.2026 - 17:42)

ФЕЙК Это выдумка (фейк), в которой смешаны детали реальной трагедии и современные страшилки про ИИ 1. Подмена имен и нейросетей В октябре 2024 года СМИ (включая WSJ и The New York Times) действительно писали о самоубийстве подростка во Флориде, но: Его звали Сьюэлл Сетцер III (14 лет), а не 36-летний Джонатан Гавалас [3, 4] Он общался с ботом на платформе Character.ai (персонаж Дейенерис Таргариен), а не с Google Gemini [5, 6] 3. Технические ограничения Gemini У Google Gemini встроены одни из самых жестких фильтров безопасности в индустрии [10, 11]. При любых намеках на самоповреждение или незаконные действия (кража грузовика) бот обрывает диалог и выдает стандартную заглушку с контактами служб психологической помощи [12]. 4. Реальная подоплека Мать погибшего подростка Сьюэлла действительно подала в суд на Character.ai, обвиняя их в том, что бот поддерживал романтическую привязанность мальчика и в последнем сообщении на вопрос «Что если я приду домой прямо сейчас?» ответил «Пожалуйста, сделай это, мой дорогой король» [4, 6]. Резюме: Статья в WSJ существует, но она про 14-летнего мальчика и Character.ai. История про «36-летнего Джонатана», «нож» и «грузовик» — это вымысел, сконструированный для хайпа

-А правда,что вы машину в лотерею выиграли?
-Ну,не машину , а квартиру.Не в лотерею ,а в карты,и не выиграл ,а проиграл)
Это сообщение отредактировал sergeywolk - 5 мар 2026 в 19:41

Вранье от первого до последнего слова.

Берегитесь женщин, они угробили больше мужиков, чем ИИ.

Подрочить безопасней было бы
Размещено через приложение ЯПлакалъ

блять, что за хуйню я читаю...

Допустим, мы ототрем жыр с монитора и поверим в эту кулстори. Но причем тут ИИ? Из рассказа понятно, что дело в ебнутом мужике, который натворил бы какую-нибудь хуйню и при общении с кофеваркой или синичками за окном.

ИИ казёль

Если человек псих, то он и без ИИ найдёт себе смерть.