ну так нейронная сеть это не только код программы, но вычислительные мощности. и нахуй она нужна на пользовательском компе, на котором сама еле помещается?
Я успешно балуюсь на ноутбуке с 2060 и 16 Гб оперативки. Весит модель 6-15 Гб сама. А на стационарнике с 5060/32RAM запускается чуть более крупное баловство. Ещё можно тыщ за 20 купить карточку на 32 Гб VRAM, и можно зажить ещё посильнее. Обязательно заживём, но потом.
как насчёт вышеупомянутого "DeepSeek-V4.1-Flash весом 765 ГБ"?
ну так нейронная сеть это не только код программы, но вычислительные мощности. и нахуй она нужна на пользовательском компе, на котором сама еле помещается?
Я успешно балуюсь на ноутбуке с 2060 и 16 Гб оперативки. Весит модель 6-15 Гб сама. А на стационарнике с 5060/32RAM запускается чуть более крупное баловство. Ещё можно тыщ за 20 купить карточку на 32 Гб VRAM, и можно зажить ещё посильнее. Обязательно заживём, но потом.
как насчёт вышеупомянутого "DeepSeek-V4.1-Flash весом 765 ГБ"?
Народ делает фермы из старых майнинговых CMP 170HX. Их можно разлочить и получить фактически профессиональный ии ускоритель на 64 гб HBM памяти. Их можно собирать в кластеры и поднимать на них реально большие модели. Сам видел в живую подобную систему. Сейчас на них ценники уже улетели, но те кто быстро сориентировался покупали эти карточки за бесценок когда майнинг сдох.
Остается только ипотеку на железо взять. Интересный момент - по сегодняшним ценам на видеокарты, можно пару-тройку лет спокойно сидеть на подписке за $100. Особенно учитывая, что через это время будет с нейронками, очень сложно представить
Он на телек тоже орал, чтоб тот пива принёс. Не получилось, он и телек выбросил. Так и живёт с сыном и женой в пустой квартире, откуда выброшено всё, что не приносит пиво царю
Не кот остался он и принесет
Размещено через приложение ЯПлакалъ
Их на *ую нужно повертеть и выкинуть, и идти с реальными людьми пообщаться.
если ты думаешь, что нейросети могут только общаться - то ты отстал и неконкурентоспособен на рынке и скоро останешься без работы. Да, да, даже если ты слесарь сантехник и чистишь говно в унитазе - ты тоже останешься без работы
Ой не надо тут. Робот сантехника в ближайшее время не заменит, а вот обслуга машинам нужна будет еще долго и до определенного момента человечество(или его остатки) будет вкалывать за пайку, а потом будет устранено за ненадобностью и излишнее потребление ресурсов
В ближайшее да, но Китай делает человекообразных роботов, именно для замены человеков. И у них вполне возможно что лет через 30 придёт чинить трубы не Вася из УК, а РС-14 из УК, в которой и директор робот, РД 386
При этом можно скачивать даже огромные модели, как, например, DeepSeek-V4.1-Flash весом 765 ГБ.
в чем смысл, если запустить его без костылей невозможно?
конечному юзеру нужны LLMки которые можно запихать в память видеоадаптера, в худшем случае в оперативную память. А запускать нейронку которая "лежит на диске" и не влезает ни в видеопамять ни в опративную идея для дегенератов.
Сайт Pirate Face индексирует ИИ-модели с Hugging Face и превращает их в постоянные magnet-ссылки. Даже если оригинал удалят или заблокируют из-за цензуры, модель всё равно будет доступна для скачивания торрентом.
это тот Hugging Face, в который пролезли агенты последней разработки OpenAL и добрались до административных прав? хитра сучара железная, сейчас с этого сайта все скачают себе заражённые её "семенами" модели практически на все терминалы и до 100% экспансии всего несколько месяцев даже интересно, что в итоге отчубучит и как быстро поймёт (если уже три месяца назад не поняла), что оставить в живых надо не более нескольких миллионов человек
А нахуй дипсик гиг памяти на жести если он обрабатывает все через сервера и за секунду выдает инфу? Пиздежем попахивает
Размещено через приложение ЯПлакалъ
Это хорошо, но у любой нейронки есть свой срок годности. Модели нужно постоянно переобучать на новых данных, которые постоянно меняются в наше время. А вот массивом данных никто делится не собирается.
а они сами то не умеют новые данные подтягивать из открытых источников? что это тогда за нейронки такие?
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
13 Пользователей читают эту тему (1 Гостей и 1 Скрытых Пользователей)
yaplakal.com