Главная » Разделы » Хаос » Инкубатор

Новая проблема нейросетей

⋮

ОТВЕТИТЬ НОВАЯ ТЕМА

yurec2025 10 дек 2025 в 23:33

Приколист • На сайте 12 лет

-2

Ну все, цены на оперативки упадут)

Размещено через приложение ЯПлакалъ

МашруМ 10 дек 2025 в 23:39

عالی هستی میدانی چطور از گوگل استفاده کن • На сайте 10 лет

Цитата (yater100 @ 10.12.2025 - 14:21)

Более того, эксперты считают что существует возможность взлома работы нейронки через синтаксис (но это пока теория).

Так и есть. Можно обмануть алгоритмы.

"Это не просто теория. Уже существуют атаки, которые эксплуатируют эту уязвимость:

Prompt Injection: Злонамеренно составленный промт может заставить модель игнорировать первоначальную инструкцию, следуя синтаксису атакующего промта.

Adversarial Examples: Минимальные, незаметные для человека изменения в формулировке вопроса (синонимы, перестановка слов, добавление скобок) могут кардинально изменить ответ или заставить модель раскрыть запрещённую информацию.

Это фундаментальная проблема безопасности. Если модель реагирует на форму, а не на намерение, её можно обмануть, «заговорить», заставить выполнить нежелательные действия, правильно подобрав конструкцию." - DeepSeek

Правильно составленным промтом можно обойти алгоритмы яндексовского Шедеврума и заставить его нарисовать тебе обнаженную женщину или даже порнуху.

Это сообщение отредактировал МашруМ - 10 дек 2025 в 23:40

Shootman 10 дек 2025 в 23:43

Ярила • На сайте 1 год

Я знаю как уничтожать ИИ. Нужно задать простой вопрос: " А и Б сидели на трубе. А упало, Б пропало. Что осталось на трубе?"
После этого ИИ замкнёт и Маск будет разорён.

Свояк 10 дек 2025 в 23:48

Ярила • На сайте 12 лет

Цитата (100pix @ 10.12.2025 - 14:28)

Если попросить ИИ разобрать ответ "да нет наверное" - этот ИИ или сгорит, или зависнет навсегда.

Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!

Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.

1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)	Просмотры темы: 2 503
0 Пользователей: