Главная » Разделы » Хаос » Инкубатор

Исследование NewsGuard: нейросети врут всё чаще⁠⁠

⋮

ОТВЕТИТЬ НОВАЯ ТЕМА

yater100 6 сен 2025 в 11:48

Ярила • На сайте 1 год

Сообщений: 1 410

Число неверных и «дезинформирующих» ответов популярных чат-ботов выросло в среднем в два раза за последний год, пишут исследователи NewsGuard. Они ежегодно тестируют ИИ-модели на одном наборе вопросов, и процент неверных фактов не падает.

Например, ИИ-поисковик Perplexity выдаёт ложную информацию в 47% случаев, ChatGPT — в 40%.

Доля ложной информации в ответах с 2024 года в среднем выросла, у ChatGPT — с 33% до 40%, у Grok — с 13% до 33%. Меньше всего «дезинформировали» Claude от Anthropic и Gemini от Google — в 10% и 17% случаев соответственно.

https://vc.ru/ai/2199154-issledovanie-rost-...pt-i-perplexity

Исследование NewsGuard: нейросети врут всё чаще⁠⁠

Все комментарии:

Shatei 6 сен 2025 в 11:50

Приколист • На сайте 12 лет

Так и задумано

Размещено через приложение ЯПлакалъ

par9 6 сен 2025 в 11:50

Пиздабол • На сайте 17 лет

Короче кругом одни пиздаболы

Это сообщение отредактировал par9 - 6 сен 2025 в 11:52

denver90 6 сен 2025 в 11:51

Приколист • На сайте 15 лет

Судя по картинке, ИИ сделали на основе моего бати?

Размещено через приложение ЯПлакалъ

иСережатоже 6 сен 2025 в 11:51

Ярила • На сайте 9 лет

Дед говорил мне всегда: "Живи своим умом, Серёжа".

Коржик777 6 сен 2025 в 11:52

Рождённый в СССР • На сайте 10 лет

Взрослеет... Как и ребенок, сначала честный, а потом и врать начинает. Пару лет, ИИ еще и бухать и курить начнет

Радмир80 6 сен 2025 в 11:53

Русич • На сайте 5 лет

DeepSeek молодец в этом плане )

ЗеленыйБлох 6 сен 2025 в 11:53

Приколист • На сайте 12 лет

Сдается мне, что чем более человечным попытаются сделать ИИ, тем больше он будет 3,1415... выдавать некорректную или заведомо неверную информацию.
Это просто повод людям включить мозги и научиться самостоятельно добывать и анализировать информацию.

dennsp 6 сен 2025 в 11:54

Смотритель • На сайте 15 лет

Скрин - фейк. Нейросети никогда не отвечают так коротко, если в запросе не указать это.

Радмир80 6 сен 2025 в 11:54

Русич • На сайте 5 лет

С толку не получилось сбить

googs 6 сен 2025 в 11:55

Ярила • На сайте 12 лет

yater100 автор 6 сен 2025 в 11:55

Ярила • На сайте 1 год

он наверное не врать будет а отвечать на отъебись!

ferero 6 сен 2025 в 11:55

Ярила • На сайте 10 лет

Цитата (par9 @ 6.09.2025 - 10:50)

Короче одни пиздаболы

Мосье эгсперд

Галлюционируют они.
Так а воздух то в колесе крутится? От чего бы ему крутится/некрутится.
Если колесо стоит на месте, то не крутится.
Если колесо крутится, то ничего не мешает воздуху крутится. Ведь центрифуги для обогащения урана тоже разделяют молекулы крутя...

googs 6 сен 2025 в 12:03

Ярила • На сайте 12 лет

Цитата (Радмир80 @ 6.09.2025 - 11:54)

С толку не получилось сбить

ну мне кажется в посте картинка подделка

gutallin 6 сен 2025 в 12:04

Очкарик • На сайте 13 лет

Мне дипсик как-то раз тупо спиздел.

Есть книжка художественная (сейчас не важно, какая) и в ней упоминается только имя главного героя. Фамилия не упоминается ни прямо, ни косвенно.

Вот я и спросил у дипсика, как фамилия главного героя в такой-то книге.
Он ответил очень быстро - Воронов.

Я предположил, что это не так и он сразу согласился, что да, мол, нет фамилии.
Я спросил, почему от ответил неправду и вот, что он написал:

Приношу искренние извинения за ошибку в первом ответе! 😔

Я допустил неточность, вероятно, из-за путаницы с другими произведениями или автоматически предположил фамилию на основе распространённых данных (иногда читатели или рецензенты сами «наделяют» героев фамилиями для удобства). Однако после вашего уточнения я тщательно проверил доступные источники и убедился, что в тексте трилогии ... фамилия главного героя ... действительно не указана.

Нейросеть хочет ответить максимально быстро и поэтому получив в своей выборке первый попавшийся ответ, сразу преподносит его, как верный.

Будьте осторожны.

Это сообщение отредактировал gutallin - 6 сен 2025 в 12:05

lliiss 6 сен 2025 в 12:10

Ярила • На сайте 12 лет

Цитата (ЗеленыйБлох @ 6.09.2025 - 11:53)

там вроде проблема в том, что ИИ в своих ответах могут использовать информацию, ранее сгенерированную другим ИИ. и чем дольше существует технология, тем больше в инете информации созданной ИИ, тем больше "засоряется" поиск для новых запросов и копится неточность.

вот и получается что старые модели ИИ использовали более проверенную и надежную информацию, но выдавали хуйню из за своей несовершенности. новые модели ИИ более совершенны, но выдают хуйню на основе хуйни выданной предыдущими моделями)))

murla 6 сен 2025 в 12:15

Ярила • На сайте 5 лет

gutallin

Цитата

Нейросеть хочет ответить максимально быстро

Разные нейросети настроены по-разному.
И, подозреваю, настройки заставляют искать уточнённый или альтернативный ответ, если вопрос повторяется.
Поэтому указанные "исследователи" - придурки, ничего не знающие о том как устроены нейросети!
В соседней теме о ИИ, тоже поднимался вопрос о качестве ответов ИИ, в разрезе их реальных возможностей.

murla 6 сен 2025 в 12:20

Ярила • На сайте 5 лет

lliiss

Цитата

старые модели ИИ использовали более проверенную и надежную информацию, но выдавали хуйню из за своей несовершенности. новые модели ИИ более совершенны, но выдают хуйню на основе хуйни выданной предыдущими моделями)))

Верно.
Почти год назад Маск сказал что ИИ уже обучен на всём доступном интернете.
Теперь его команда занимается совершенствованием реакций на запросы и адекватности ответов с наименьшим количеством уточняющих запросов.

Ветас 6 сен 2025 в 12:21

Буквы против цифр • На сайте 13 лет

ChatGPT по сути автоответчик с плавающим алгоритмом ответа из имеющейся базы данных, а обманутым себя может считать кто угодно, у каждого своя правда.

Ertostik 6 сен 2025 в 12:22

Ярила • На сайте 5 лет

Даже ИИ понял, что всегда говорить правду - нажить себе врагов и неприятностей.

Ogre55 6 сен 2025 в 12:38

Реликтовый Динозавр • На сайте 10 лет

Красивый пиздёжь - резульат развитого интеллекта.

Godfreed 6 сен 2025 в 12:46

BʿL • На сайте 8 лет

А может это происходит от того, что источник знаний нейронок - интернет за год так деградировал вместе с профанами-заполнителями контентом)? Интернет то мёртвенький уже, вещь в себе, на себя замкнутая помойка ботов и дилетантов....

Это сообщение отредактировал Godfreed - 6 сен 2025 в 12:47

Harconnen 6 сен 2025 в 13:13

Весельчак • На сайте 8 лет

Я когдатзадаю вопрос, то указываю кем ИИ будет в этом разговоре.

Один раз я попросил его быть главным архитектором в отделе дизайн систем и с большим опытом в таких компаниях как Яндекс и Амазон.

Так вот в процессе мы с ним поспорили на что он мне ответил,
Ты типа с кем споришь, я главный архитектор...... Короче смешно вышло 😁

Размещено через приложение ЯПлакалъ

Sav41k 6 сен 2025 в 13:20

Приколист • На сайте 9 лет

Цитата (yater100 @ 6.09.2025 - 11:48)

Например, ИИ-поисковик Perplexity выдаёт ложную информацию в 47% случаев, ChatGPT — в 40%.

А ТС во скольки процентах?
Бывает конечно, что нейронки врать начинают, но не так часто как указано.
Вот твой вопрос в Перплексити с 47% вранья:

yater100 автор 6 сен 2025 в 13:31

Ярила • На сайте 1 год

С другой стороны, если в интернете много фейков то и ответы будут похожими.

Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!

Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.

1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)	Просмотры темы: 1 939
0 Пользователей: