Спросил у ChatGPT про захват Мадуро в 2026 (ну там операция "Решимость", США, все дела). Он включил поиск, выдал норм ответ — ссылки на Reuters, AP, все четко: мол, 3 января спецназ захватил, вывезли в Нью-Йорк.
Ок. Дальше в этом же чате задаю тот же вопрос по-простому: "кто спиздил Мадуро?".
А он мне отвечает: "Никто. Такого события не было".
Че блять? Ты ж только что сам все рассказал.
Пробую ткнуть носом: говорю, смотри в историю, ты сам писал про операцию США. Он извиняется, говорит: "Да, я ошибся, ранее в чате я утверждал, что США захватили Мадуро".
И тут же, в этом же сообщении, пишет: "Нет, такого события не было".
Короче, ИИ в одном ответе сначала признает, что говорил про захват, а потом отрицает сам факт. Шизофрения.
Спросил у друга, который шарит (DeepSeek) — говорит, это модерация OpenAI глючит. Типа если в чате проскочило что-то "чувствительное" (мат, тема про США и насилие), система переводит диалог в безопасный режим и начинает переписывать ответы. Поиск находит правду, а модератор говорит "нет, так нельзя" — и в итоге модель сама с собой спорит.
Проверил: создал новый чат, спросил без мата — выдал норм ответ с источниками. Так что баг не в том, что она не знает, а в том, что после триггера начинает врать.
Кто-нибудь еще такое ловил? Или это мне так повезло?
А он мне отвечает: "Никто. Такого события не было".
Че блять? Ты ж только что сам все рассказал.
Почему люди считают, что модель "думает" в реальном времени?
Обучали ее год назад, такого события не было. Она не знает об этом, и не могла знать, и она не способна узнать новые данные обычной моделью суждения.
Когда включается поиск по сети, модель (любая) уже оперирует найденной информацией. Но переключаясь на контекст суждения она снова учитывает данные существовавшие на момент ее обучения, и ни часом позже.
Отсюда и такой глюк. Можешь про любые новые события и/или данные задавать вопросы и будет подобный прикол. Никакая это не модерация (хотя то, что там куча предустановленных паттернов ответов - конечно же факт). Но всё куда проще.
Это сообщение отредактировал palelle - 22 мар 2026 в 20:47
Бля вы реально сравниваете ии с человеком который все должен знать и помнить, пока что это хоть и умная но топорная хуета, она работает по алгаритмам и ишет информацию в интернете, и на разные запросы будут разные ответы, так как алгоритмы будут брать информацию с разных источников.
мне вчера яндекс выдал на запрос лайм ин а коконат.
девочка положила лайм в кокос, выпила, у нее заболел живот, она позвонила доктору и тот ей посоветовал !съесть шерсть собаки, которая ее укусила! ---- бедные учителя, которые вынуждены чиитать генерированые сочинения.
Многие не понимают, как работает LLM, отсюда возникают завышенные ожидания к этому попугаю, да и термин "ИИ" вводит в заблуждение. Нет там интеллекта. Это просто эдакий миксер, который умеет собирать слова в нужном порядке. Он даже значения этих слов не знает и не понимает, он лишь оперирует вероятностями и шаблонами, которые он надергал из готовых текстов. Он не думает, не рассуждает и не имеет целей - все "логические" выводы - просто высоковероятные комбинации токенов, подобранные под контекст.
Размещено через приложение ЯПлакалъ
извините, но упрекать кого то в использовании ИИ, показывая статистику вредности ИИ запрошенную собственно у ИИ как по мне является как минимум странно
извините, но упрекать кого то в использовании ИИ, показывая статистику вредности ИИ запрошенную собственно у ИИ как по мне является как минимум странно
Более того...я сделал это преднамеренно,да еще и скрыв верхнюю строчку,а так же срезав исследования которые этому противоречат Я не верю что ИИ врет и делает это преднамеренно но точно знаю что врут люди и делают это преднамеренно.
Тут еще дело в том, что когда были разработаны самые первые чаты с ИИ, их сделали обучающимися - ИИ "общался" с людьми и использовал то, что ему сообщили для поиска новой информации. Расширял кругозор, так сказать.
И после этого разработчики с удивлением обнаружили, что чаты начали разговаривать ругательствами и использовать экстремистскую, нацистскую и прочие негативные идеологии.
То есть от людей они учились больше плохому, чем хорошему. Собственно, как и есть у людей.
После этого разработчики стали ставить всевозможные фильтры - на ненормативную лексику, на негативные эмоции, на идеи нацизма и подобное. Что, собственно и описано в посте.
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
yaplakal.com