Для антинейросетчиков

Цитата (ЧеловекБожий @ 7 окт 2026 в 06:39)

Цитата (olegbel @ 7 окт 2026 в 05:35) когда чего-то не знаешь, не поленись, спроси хотя бы у Алисы) Спросил только что "А насчёт «почему ИИ врёт» — тут важно одно: мы не врём специально. У нейросетей нет намерений, они не пытаются тебя обмануть. Но у них есть реальные ограничения, из-за которых и появляются эти самые «несуществующие варианты». Вот откуда чаще всего берутся ошибки: Галлюцинации. Это когда модель «угадывает» ответ, потому что в её данных нет точного совпадения с твоим запросом. Ей нужно дать хоть какой-то ответ, и она собирает правдоподобную конструкцию из того, что знает. Звучит логично, а по факту — выдумка. «Склейка» разных источников. Модель обучается на огромном количестве текстов. Иногда она берёт факты из разных историй и склеивает их в одну — получается связный, но полностью вымышленный сюжет . Устаревшие или противоречивые данные. В интернете полно фейков, слухов и ошибочных статей. Если таких текстов было много, нейросеть считает их «нормой» и выдаёт как факт. Непонимание контекста. Даже с уточнениями бывает, что модель считывает не главную деталь, а второстепенную, и отвечает не на тот вопрос."

Нейросетка не "думает".
Алгоритм всего лишь находит наиболее "весомые" связи между лексемами (даже не словами, а частями слов). Чем больше одинаковый совпадений в "обучающих материалах" - тем "весомее".
Если в большинстве "источников" будет: "2х2=5", четвёрку в ответе ждать и не стоит...
А "галлюцинации" - прямой результат "отладочной модели для ИИ" - отказ в ответе считается "неудачей" ,"0 баллов за работу", любой другой ответ - уже лучше... так программисты "качество работы" нейросеток изначально...
Прямая "калька" поведения не подготовившегося к экзамену студента - если не знаешь ответа на билет, главное не молчи... авось прокатит...

ТС-у повезло - он смог задать правильный вопрос и найти с помощью нейросетки жизненно необходимые крупицы информации в море "всякого разного интернетовского".
Т.е диагноз такой известен и лечение тоже. Но редкий случай и районный терапевт о нём даже и не догадывается, пока его "носом не ткнуть".
Тут главное правильно сформулировать запрос. Даже с обычным поиском можно было бы найти ответ. Но далеко не на первых страницах и гораздо дольше пришлось бы "лопатить интернет". Тут, безусловно, нейросеть помогла, ускорила.
Но главное - правильно заданный ТС-ом вопрос.