Главная » Разделы » Лента » Тексты

Свой ИИ на своём компьютере в один клик: Local AI (бесплатно, без регистрации, без интернета в чате)

⋮

ОТВЕТИТЬ НОВАЯ ТЕМА

Domatsu 4 ноя 2026 в 16:59

Оналитег и психолаг • На сайте 8 лет

Цитата (murla @ 4 ноя 2026 в 18:41)

Цитата (Domatsu @ 4 ноя 2026 в 16:25)

"И всё прекрасно, если не считать..."

Это как с ипотекой

Вот и я на это тоже сразу внимание обратил.

murla 4 ноя 2026 в 16:59

Ярила • На сайте 5 лет

bombardun
Что за модель Мака?

Domatsu 4 ноя 2026 в 17:00

Оналитег и психолаг • На сайте 8 лет

Цитата (murla @ 4 ноя 2026 в 18:32)

Цитата (Domatsu @ 4 ноя 2026 в 16:21)

Если ставить вопрос так, что ответ приходит сразу корректным, то надо знать предметную область и сам вопрос уже не имеет смысла.

Поговорка "Правильно поставленный вопрос содержит в себе бо́льшую часть ответа." - какого года?

Оригинал ещё забористее:
Чтобы правильно задать вопрос, нужно знать бо́льшую часть ответа. © Роберт Шекли
«Корпорация „Бессмертие“» Впервые опубликован в 1958 году!

Почти да, но не в контексте юриспруденции же.

murla 4 ноя 2026 в 17:01

Ярила • На сайте 5 лет

Domatsu
Я там подобрал приемлемый вариант: на 3 года по 18 500 рублей в месяц (при сегодняшнем курсе).
И конфиг хороший (см. на предыдущей странице).
Если бы мне нужно было по работе или для серьёзного хобби - я бы даже не сомневался!

Народ и не постольку спускает.

Это сообщение отредактировал murla - 4 ноя 2026 в 17:07

Angelberth 4 ноя 2026 в 17:02

адвокат дьявола • На сайте 10 лет

Цитата (bombardun @ 4 ноя 2026 в 16:56)

попробовал на своем маке qwen 3.8 flash next - В принципе приемлемо
скорость около 60 токенов в секунду, но с кодом справляется очень даже неплохо

Ну в принципе, алибаба с квен плотно заняла нишу "лучшие нейросети которые можно запустить локально без гигантских кластеров". Для компаний которые не хотят доверять подпискам и выпускать данные во внешний мир - это просто топ, не зря у qwen огромнейшее количество скачиваний на HF.

murla 4 ноя 2026 в 17:03

Ярила • На сайте 5 лет

Angelberth

bombardun 4 ноя 2026 в 17:04

Приколист • На сайте 12 лет

Цитата (Colyvan @ 4 ноя 2026 в 10:48)

а для Mac есть?

есть

Angelberth 4 ноя 2026 в 17:05

адвокат дьявола • На сайте 10 лет

Цитата (murla @ 4 ноя 2026 в 17:01)

Domatsu
Я там подобрал приемлемый вариант: на 3 года по 18 500 рублей в месяц.
И конфиг хороший (см. на предыдущей странице).
Если бы мне нужно было по работе или для серьёзного хобби - я даже не сомневался!

Народ и не постольку спускает.

224 бакса в месяц там. Не проще если ты там, просто купить двухсотбаксовую подписку Claude? Это если для серьёзного хобби или для дела?

bombardun 4 ноя 2026 в 17:09

Приколист • На сайте 12 лет

Цитата (murla @ 4 ноя 2026 в 16:59)

bombardun
Что за модель Мака?

не помню где модель можно посмотреть
macbook pro14 M4max 128Gb

prieshletz 4 ноя 2026 в 17:14

Ярила • На сайте 13 лет

вариантов сделать что-то подобное уйма, и даже без вирусни. Но конкретно даже чтобы заменить жемини или копайлот, ну или гпт, нужно ояебу сколько видеокарт, я как-то решил попробовать, мне надо было по некоторому алгоритму свести несколько таблиц, я в ручную быстрее сделал. И эти все скаченые алгоритмы работают уж сильно хуево, ну либо надо пиздец железо крутое

bombardun 4 ноя 2026 в 17:18

Приколист • На сайте 12 лет

я буквально 2 дня назад погрузился в вопрос, выглядит так что по производительности и качеству ответов qwen3.8 flash next сильно интереснее 3.8 27b
запускал через strata на маке, у них свой проект на гитхабе
https://github.com/Niko1221/Strata

в качестве тестовой задачи дал распарсить логи clickhouse и вывести закономерности которые приводили к утечкам памяти в пользовательских сессиях

murla 4 ноя 2026 в 17:21

Ярила • На сайте 5 лет

Цитата (Angelberth @ 4 ноя 2026 в 17:05)

224 бакса в месяц там. Не проще если ты там, просто купить двухсотбаксовую подписку Claude?

Не проще. Не забываем о приватности. (снова напомнить IT-события сентября-октября?)

И я не там, я тут.

И непонятно, как это сюда привезти, и как платить.
Там эти деньги и выкроить проще.

Но это я так, уже помечтать совратился...

murla 4 ноя 2026 в 17:26

Ярила • На сайте 5 лет

Цитата (bombardun @ 4 ноя 2026 в 17:09)

macbook pro14 M4max 128Gb

Хорошая машинка!

ИИ уже внутри.

Не устраивает скорость?

bombardun 4 ноя 2026 в 17:29

Приколист • На сайте 12 лет

Цитата (murla @ 4 ноя 2026 в 17:26)

Цитата (bombardun @ 4 ноя 2026 в 17:09)

macbook pro14 M4max 128Gb

Хорошая машинка!

ИИ уже внутри.

Не устраивает скорость?

сложно сказать. если мы говорим про работу LLM, то мне по сути пока не с чем сравнивать, опыт исключительно с chatgpt в режиме гугла

Angelberth 4 ноя 2026 в 17:31

адвокат дьявола • На сайте 10 лет

Цитата (murla @ 4 ноя 2026 в 17:21)

Цитата (Angelberth @ 4 ноя 2026 в 17:05)

224 бакса в месяц там. Не проще если ты там, просто купить двухсотбаксовую подписку Claude?

Не проще. Не забываем о приватности.

Ну, куча мировых компаний юзает Claude или Codex. А условный Вася из России прям так боится за свои данные, что готов городить огород с покупкой железа на котором можно будет запускать модель значительно слабее. Я это считаю некой паранойей.

murla 4 ноя 2026 в 17:35

Ярила • На сайте 5 лет

Angelberth
У условных Вась пол интернета легло!!!
Включая такой нужный "Честный знак"!

Angelberth 4 ноя 2026 в 17:55

адвокат дьявола • На сайте 10 лет

Цитата (murla @ 4 ноя 2026 в 17:35)

Angelberth
У условных Вась пол интернета легло!!!
Включая такой нужный "Честный знак"!

Но не из-за того что они агентом с облачной LLM пользовались.

bombardun 4 ноя 2026 в 18:04

Приколист • На сайте 12 лет

если условный Вася работает в рамках правового поля, он не может например обрабатывать персональные данные облачными нейронками

murla 4 ноя 2026 в 18:16

Ярила • На сайте 5 лет

Цитата (Angelberth @ 4 ноя 2026 в 17:55)

Цитата (murla @ 4 ноя 2026 в 17:35)

Angelberth
У условных Вась пол интернета легло!!!
Включая такой нужный "Честный знак"!

Но не из-за того что они агентом с облачной LLM пользовались.

В частности и из-за этого!

Почитайте новости про beget. Я как детективный триллер смотрел.

С помощью ИИ наваяли уже очень много кто очень много кому.
А потом в наваяном тот же ИИ стал искать дыры.
И в процессе восстановления инфраструктуры окончательно убил почти всё. С помощью ИИ! Потому что надо было уже "позавчера"!!!

Большую часть инфы и виртуалок уничтожили без возможности восстановления.

И это только последний случай!

Спокойная жизнь кончилась. Забудьте.

Это сообщение отредактировал murla - 4 ноя 2026 в 18:18

murla 4 ноя 2026 в 18:24

Ярила • На сайте 5 лет

Цитата (bombardun @ 4 ноя 2026 в 18:04)

Тут несколько "если":
- если он об этом знает,
- если он понимает что такое ПД,
- если он об этом думает во время работы,
- если его не взломали.

Я знаю пример, когда серьёзные и объёмные МЕДИЦИНСКИЕ документы (ну, на грани) совершенно бездумно создавались в ЧатЖПТ на реальных данных реальных граждан.
Даже необходимых правок не вносили! "И так сойдёт".jpg

Domatsu 4 ноя 2026 в 18:25

Оналитег и психолаг • На сайте 8 лет

Цитата (murla @ 4 ноя 2026 в 20:16)

Цитата (Angelberth @ 4 ноя 2026 в 17:55)

Цитата (murla @ 4 ноя 2026 в 17:35)

Angelberth
У условных Вась пол интернета легло!!!
Включая такой нужный "Честный знак"!

Но не из-за того что они агентом с облачной LLM пользовались.

В частности и из-за этого!

Почитайте новости про beget. Я как детективный триллер смотрел.

Большую часть инфы и виртуалок уничтожили без возможности восстановления.

И это только последний случай!

Спокойная жизнь кончилась. Забудьте.

Спокойная жизнь начиналась только у тех, кто переставал смотреть новости. :)
Вот стоит уйти в работу или в хобби с головой и всё вокруг хорошо и спокойно, но если высунуться из уютного мирка, то сразу офигеваешь от творящегося вокруг.

Но к слову ошибки нейросетей и агентов в целом не сильно-то и опасней, чем человеческие ошибки, просто разница в точке воздействия, когда человек влияет на ключевой узёл, а нейросеть может положить в целом стабильную систему проведя массовое воздействие.

murla 4 ноя 2026 в 18:32

Ярила • На сайте 5 лет

Цитата (Domatsu @ 4 ноя 2026 в 18:25)

человек влияет на ключевой узёл, а нейросеть может положить в целом стабильную систему проведя массовое воздействие.

Вот примерно так и положили beget, ведущего российского хостера и кто они там ещё. 19% рынка по России! Включая Честный знак.
Одни люди наваяли с помощью ИИ софта и апдейтов,
другой человек с его же помощью проник в инфраструктуру и убил DNS,
третьи люди (ПЫТАЯСЬ ВОССТАНОВИТЬ РАБОТУ СИСТЕМЫ!!!) с помощью ИИ же уничтожили всё остальное, включая все бэкапы на всех площадках!
Без ИИ никто из этих людей СТОЛЬКО вреда не причинил бы.

Это сообщение отредактировал murla - 4 ноя 2026 в 18:34

ACKEP 4 ноя 2026 в 18:41

Ярила • На сайте 13 лет

Стоимость компа для вменяемого локального ИИ сопоставима с несколькими годами оплаты топовых онлайн ИИ. Только здесь ты будешь всё время топовым пользоваться, а домашний комп через несколько лет устареет и его придется апгрейдить. Это только если какая-то специфическая задача, типа ИИ для целой фирмы, или генерация порно-контента для заработка. Тогда это будет оправдано. А чисто для себе дешевле и проще тем же OpenCode пользоваться. Его вообще бесплатно можно юзать если несложные и нечастые задачи.

Размещено через приложение ЯПлакалъ

murla 4 ноя 2026 в 18:45

Ярила • На сайте 5 лет

Цитата (ACKEP @ 4 ноя 2026 в 18:41)

Стоимость компа для вменяемого локального ИИ сопоставима с несколькими годами оплаты топовых онлайн ИИ.

Это уже проходит.
Следите за новостями.
Маск на выходных обрезал лимиты вдвое. Не предупредив никого!

Комнин 4 ноя 2026 в 18:48

Шутник • На сайте 5 лет

Цитата (Domatsu @ 4 ноя 2026 в 16:04)

Цитата (Комнин @ 4 ноя 2026 в 17:34)

Да сотрудники не очень умные, но исполнительные - не болеют, не ноют, не ошибаются. Делают всё в тысячи раз быстрее.

Увы, пока ошибаются и врут по чёрному. :)

Я как-то еле-еле убедил гугловский чат-бот в том, что охота с мелкокалиберной винтовкой на медведя в России разрешена на федеральном уровне.
Гугл и юлил, и нормативные акты придумывал или цитировал неверно, и смысл подменял... Только в конце вынужден был признать правоту, просто потому что я в теме и могу оперировать этой информацией.

p.s. Причём чат-бот не занимается самообучением, в целом он так же считает, что охота запрещена, он согласился со мной только в рамках контекста диалога.

Как уже выше пояснили - значит ставите задачу неверно. Машина работает по алгоритму, если вы допускаете в своей формулировке вопроса логическую ошибку - значит машина её будет наследовать.

Если ответ не устраивает, просите объяснить логику ответа и учитесь тому как задавать вопросы и ставить задачи. Вы и сами потом добавили про охоту с мелкашкой. Плюс опять же не все нейронки одинаково хороши, какие-то лучше какие-то хуже, но они быстро прогрессируют.

Кстати я бы и сам сказал, что хочешь жить с мелкашкой на медведя не ходи, как бы даже без нейронки

Понравился пост? Ещё больше интересного в ЯП-Телеграм и ЯП-Max!

Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.

26 Пользователей читают эту тему (1 Гостей и 1 Скрытых Пользователей)	Просмотры темы: 20 060
24 Пользователей: yapnomid, lion9, Molodess, ДядьКоля, Strannik, химарь, Yrlaban, nikmil, olerus, Opportunity, murla, all12all12, WinnyBuh, Steam1977, Kokokokos, Мишкасшишкой, balamutkot, startx, ЭрикТКартман, chiper1st, Очевидность, bakynin80, Allaxis, Комнин