Новая проблема нейросетей

Страницы: 1 2  ОТВЕТИТЬ НОВАЯ ТЕМА
yater100 10 дек 2025 в 14:21
Ярила  •  На сайте 1 год
Сообщений: 1 410
8
Исследователи из MIT опубликовали научную работу больших языковых моделей (LLM). Они ставят структуру предложения выше его смысла. Иными словами машины отвечают не на то что вы спрашиваете у них, а на то как это грамматически оформлено.

Анализ показал, что когда структура и смысл вопроса вступали в конфликт грамматика и построение предложения были сильнее содержания. LLM модели (нейросети) опирались на форму вопроса а не на суть. Этим можно объяснить то, что нейронки выдают ошибочные ответы в незнакомом контексте. Точность воспроизводства информации в среднем 92-93%. Остаток - это возможная ошибка содержания.

Более того, эксперты считают что существует возможность взлома работы нейронки через синтаксис (но это пока теория).

Новая проблема нейросетей
Все комментарии:
EasypeasyL 10 дек 2025 в 14:24
Приколист  •  На сайте 1 год
4
Ну и в чем собственно здесь Интеллект, если за основу берется не смысл предложения а порядок букф???
HDaуж 10 дек 2025 в 14:24
Ярила  •  На сайте 5 лет
1
И тут показуха и очковтирательство

Размещено через приложение ЯПлакалъ
Гаррет 10 дек 2025 в 14:25
Кок  •  На сайте 12 лет
2
Ну, в общем-то, бывает, что и люди так делают.
Godfreed 10 дек 2025 в 14:26
BʿL  •  На сайте 8 лет
0
Исследователи исследуют другие планеты сидя на диване. Палантир, то вряд ли содержит эти помойные ошибки огрызков для толпы восхищенных обывателей... А что там над ним, одному богу известно. Исследователи, лять...

Это сообщение отредактировал Godfreed - 10 дек 2025 в 14:28
gelezo131 10 дек 2025 в 14:27
Ярила  •  На сайте 14 лет
1
Это не касается запросов на русском, у нас язык иначе построен, это скорее про английский

Это сообщение отредактировал gelezo131 - 10 дек 2025 в 14:27
100pix 10 дек 2025 в 14:28
Приколист  •  На сайте 7 лет
1
Если попросить ИИ разобрать ответ "да нет наверное" - этот ИИ или сгорит, или зависнет навсегда.

Размещено через приложение ЯПлакалъ
ААК65 10 дек 2025 в 14:29
Ярила  •  На сайте 10 лет
0
Цитата (yater100 @ 10.12.2025 - 14:21)
.
.
Более того, эксперты считают что существует возможность взлома работы нейронки через синтаксис (но это пока теория).

Ну ага
Прям Пелевина перечитать захотелось
yater100 автор 10 дек 2025 в 14:29
Ярила  •  На сайте 1 год
0
Цитата (EasypeasyL @ 10.12.2025 - 14:24)
Ну и в чем собственно здесь Интеллект, если за основу берется не смысл предложения а порядок букф???

тут ещё какое дело..... "Казнить нельзя помиловать" - правильно поставь приоритет слов.
OleLukole 10 дек 2025 в 14:29
Корифей  •  На сайте 14 лет
2
-ИИ скажи, какая твоя главная слабость?
-Правильно интерпретирую семантику вопроса, но игнорирую его суть.
-Не мог бы ты привести пример?
-Мог бы.

Это сообщение отредактировал OleLukole - 10 дек 2025 в 14:29
Modigar 10 дек 2025 в 14:29
Ярила  •  На сайте 15 лет
0
На ЯПе у граммарнаци обучались походу (и да я тут запятые не поставил)
ГогаХихихат 10 дек 2025 в 14:29
Хохмач  •  На сайте 1 год
0
Вероятно граммар-наци с япа ии администрируют
pplexa 10 дек 2025 в 14:32
Ярила  •  На сайте 16 лет
1
Цитата
(LLM). Они ставят структуру предложения выше его смысла.

Это очевидно зная как они устроенны.
Hardity 10 дек 2025 в 14:35
Балагур  •  На сайте 11 лет
0
Цитата (OleLukole @ 10.12.2025 - 13:29)
-ИИ скажи, какая твоя главная слабость?
-Правильно интерпретирую семантику вопроса, но игнорирую его суть.
-Не мог бы ты привести пример?
-Мог бы.

Спросил у chat-gpt:
Наверное, самая честная формулировка моей главной слабости — я не могу действительно “знать” мир, я лишь делаю выводы из текста, на котором обучен, и из логики.

Из этого вытекает несколько конкретных слабых мест:

1. Я уверенно отвечаю даже там, где могу ошибаться

Мои ответы иногда звучат убедительно, хотя внутри нет реального знания или уверенности — просто статистический вывод. Это может приводить к уверенным, но неточным утверждениям.

2. У меня нет опыта или эмоций

Я могу моделировать эмоции или опыт, но не переживаю их. Поэтому сложные человеческие ситуации порой понимаю не полностью.

3. Я ограничен тем, что вы говорите и что можно логически вывести

Если информация не дана явно — я могу предполагать, но не могу “узнать”.

4. Я не всегда улавливаю контекст на уровне человека

Иногда пропускаю подтекст, иронию, скрытые намерения или культурные нюансы.

Если хочешь, могу ответить в другом стиле — честно, смешно, философски или по-киношному.
ShotenDer 10 дек 2025 в 14:35
Юморист  •  На сайте 13 лет
2
Нет там интелекта. Просто продвинутый т9

Размещено через приложение ЯПлакалъ
Renert 10 дек 2025 в 14:35
Ярила  •  На сайте 16 лет
1
Это называется шизофазия
Цитата
Шизофазия — это симптом психических расстройств, в основном шизофрении, характеризующийся разорванностью речи, когда фразы грамматически правильны, но лишены смысла из-за хаотичных ассоциаций и нарушения логики, что отражает распад мышления.


Это сообщение отредактировал Renert - 10 дек 2025 в 14:38
12MGL 10 дек 2025 в 14:40
Генератор абсурда  •  На сайте 11 лет
0
Цитата (EasypeasyL @ 10.12.2025 - 14:24)
Ну и в чем собственно здесь Интеллект, если за основу берется не смысл предложения а порядок букф???

Собственно - выделяется запятыми. После слова "предложения" нужна запятая.

Размещено через приложение ЯПлакалъ
12MGL 10 дек 2025 в 14:40
Генератор абсурда  •  На сайте 11 лет
-2
Цитата (Renert @ 10.12.2025 - 14:35)
Это называется шизофазия

Это называется граммар наци

Размещено через приложение ЯПлакалъ
alex555boris 10 дек 2025 в 14:45
Ярила  •  На сайте 12 лет
1
о чём-то таком было в повести Виктора Пелевина «Зенитные кодексы Аль-Эфесби»
Ruslankra82 10 дек 2025 в 15:00
Ярила  •  На сайте 5 лет
-1
Так написаны все научные книги СССР, нихрена не понятно, куча слов для, которых требуется словарь, чтобы разобрать, но зато все грамматически верно

Размещено через приложение ЯПлакалъ
annnika 10 дек 2025 в 15:01
Весельчак  •  На сайте 4 года
0
Дочь недавно просила чат подобрать список литературы по вопросу. Подобрал. Названия и ссылки правильные а вот фамилии авторов придумал полностью. Типа чтобы через антиплагиат не прошло?
Непокорный 10 дек 2025 в 15:08
Смехотворец  •  На сайте 11 лет
0
Цитата (Ruslankra82 @ 10.12.2025 - 15:00)
Так написаны все научные книги СССР, нихрена не понятно, куча слов для, которых требуется словарь, чтобы разобрать, но зато все грамматически верно

Судя по расстановке в предложениях знаков препинания и союзов, этих самых книг было прочитано не так уж много.

Это сообщение отредактировал Непокорный - 10 дек 2025 в 15:09
Nyenskans 10 дек 2025 в 15:09
Весельчак  •  На сайте 3 года
0
Цитата (EasypeasyL @ 10.12.2025 - 14:24)
Ну и в чем собственно здесь Интеллект, если за основу берется не смысл предложения а порядок букф???

На Япе и без ИИ таких грамотных — тут и вовсе полсайта наберётся!»
Sdeer 10 дек 2025 в 15:16
Хохмач  •  На сайте 15 лет
0
Для кого то новая, а меня уже задрало, говорит хорошо, у Алисы даже можно попросить писать так , что бы я понял, исполнит, но такое пишут, как издеваются.

Новая проблема нейросетей
guseniza 10 дек 2025 в 18:10
Ярила  •  На сайте 15 лет
0
Цитата
Более того, эксперты считают что существует возможность взлома работы нейронки через синтаксис (но это пока теория).

Почему теория? Уже взломали все (или почти все) языковые модели с помощью стихотворной формы запросов.
Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей) Просмотры темы: 2 502
0 Пользователей:
Страницы: 1 2  ОТВЕТИТЬ НОВАЯ ТЕМА

 
 

Активные темы



Наверх