54
(Предисловие)
Начали появляться темы с громким названием типа "Спросил у ИИ..." и по факту у меня немного подгорает от того, что люди не понимают как в действительности это работает и что все эти ИИ пиздят как дышат, им не кто не запрещает нести полную чушь, им важно только генерировать текст и завлекать пользователя, для дальнейшей монетизации. Просто как правило те кто не работал с ИИ задают вопрос и принимают на веру ответ, а вы вот задайте этот вопрос 10 раз, и получите 10 противоречивых ответов. Да, они врут, и да их так научили.
(Ближе к теме)
Как запустить ИИ у себя на компе, уточню - без интернета и глобальных баз, общаясь полностью приватно, ваши знания в ИТ вообще не важны, на самом деле все очень просто, и вы легко разберетесь!Локально на компьютере могут работать лучшие сейчас ИИ (Llama 3.2 / Mistral / Phi / Gemma / DeepSeek / Qwen 2.5)Важно: качество работы ИИ зависит на 90% от количества оперативной память ВИДЕОКАРТЫ, если у вас скажем меньше 4Gb памяти на видеокарте, то наверное дальше читать нет смысла....Большинство из возможных локальных ИИ уже по умолчанию хорошо переводят текс с одного языка на другой, или программируют по описанию.
Итак:1. Загугли и поставь прогу "
LM Studio" (примерно 450мб дистрибутив), бесплатная! не требует регистрации, нет оплаты, и нет рекламы. (я к ним вообще никакого отношения не имею, если что.)
2. полазь в опциях и включи рус. язык
3. на главном экране будет список и поисковик со строкой поиска (или через закладки справа, там значок лупы) - это список всех возможных ИИ для ПК.
В списке по умолчанию только самые основные и официальные, а самое вкусное нужно искать через ключевые слова.
4. Как и что искать: по умолчанию будут ИИ от разных производителей, и они сильно отличаются по уму, начни знакомства с ИИ с названием "Meta Llama 3.1 8B" (он там ниже в списке), еще интересен "Qwen2.5 14B" (но крайне рекомендую его ПОСЛЕ Llama)
5. Тонкости названий: Итак есть разные ИИ типа "Llama" "Qwen" и это по сути типа разные бренды от разных производителей (с разным подходом к обучению), дальше в названии указывают версию И главное мощность (его мозги) - "Llama 3.1 8B" где 3.1 - версия, И самое важное "8B" - это что то там 8 миллиардов (ну типа "B" сокращение от "billion").
например сейчас самый новый "Llama" имеет версию "3.2" НО! версия 3.2 имеет только "3B" а версия 3.1 доступна в "8B" (да я сравнивал, разница большая по "уму", в смысле запас слов и качество построения речи, и то как хорошо они говорят именно по русски).
6. Тонкости скачивания, при выборе любой ИИ из списка экран разделен, слева список разных ИИ, справа ПОДРОБНОЕ описание и кнопка скачать. Крайне рекомендую описание читать, авторы там пишут под что заточен ИИ и на какой основе учили, например заточен под программирование, или учили ИИ по медицинским справочникам как помощника врача (да реально там такие есть) или учили по порно рассказам или фентези книгам и т.д.
И вот ВАЖНО не жамкай сразу скачать, там в описании будет (в середине строчка где указан объём файла и кнопка лайка) ЭТО ВЫПОДАЮШИЙ СПИСОК - ЕГО ОБЯЗАТЕЛЬНО ПРОВЕРЯЙ !!! в рамках конкретного ИИ будет на выбор несколько файлов с разным объёмом! это считай репаки и чем меньше объём - тем под более слабую видюху заточен репак, но он реально будет урезан по "уму", и твое дело выбрать максимально большой НО!!! не более объёма видеопамяти своей видюхи.
Например все лучшие репаки на основе Llama 3.1 8B весят примерно 8Гб, а репаки "Qwen2.5 14B" весят от 7 до 15ГБ так как у "Qwen" изначально "Ум" уже 14B а у "Llama" изначально "8B". надеюсь тут тоже все понятно.
Вишенка на торте, итак из выше сказанного вбей в поисковик например Llama 3.1 8B (либо ии от другого производителя), а потом через пробел добавь "
Uncensored" (без кавычек) - и система выдаст тебе сотни вариантов разных доступных ИИ на базе "Llama 3.1 8B" и без цензуры.
Тут надо объяснить что все ИИ, такие как например "Llama" имеют строгую цензуру, они в принципе готовы обсуждать секс и быть например твоей виртуальной бабой, но некоторые слова прямо не скажут, и если у тебя будет более странный запрос, то прямо пошлют тебя к психиатру и еще мораль почитают. И вот тут появляются Репаки от умельцев, которые взламывают ИИ и выкладывают как "Uncensored" такая версия будет прямо говорить вообще обо всем, все только от тебя зависит и все конфиденциально.
Ну а дальше еще интереснее, например ищи и качай сразу "DarkIdol" в смысле добавь слово к поиску, это не просто Uncensored, но и обученная говорить и флиртовать именно пахабно, обученная на всяких переписках из взрослых чатов. конечный файл будет называться примерно так "DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored" (его уже могли и забанить но ищи похожее).
а для "Qwen" у меня скачан "Qwen2.5-14B_Uncensored_Instruct" (обрати в внимание что в названии обоих файлов есть "Instruct") но по факту это то же что и "Uncensored", но типа без палева, некоторые боятся и указывают завуалировано "Instruct",
Короче выбирай что-то что будешь качать, выбирай ОБЯЗАТЕЛЬНО справа в списке файл нужного тебе размера и только потом жамкай качать, пойдет загрузка, как докачает - переходи в раздел "чат" в верху будет список со скаченными ИИ, нужно еще раз выбрать и нажать загрузить уже на экране Чат.
Это именно загрузка ИИ в оперативку твоей видюхи чтобы он начал с тобой болтать. (там будет полоска пока загружается, как в игре при загрузке уровня, как дойдет до конца - Все болтай с ИИ).
ВАЖНО по факту нет именно русских ИИ, они все от иностранных производителей и обучены на английских текстах, по умолчанию ИИ может заговорить с тобой на другом языке, но не волнуйся, тупо пиши своими словами прям по русски "общайся со мной только на русском языке". русский язык они прекрасно понимают.
ну а если он будет тупить и продолжать нести чушь по английский. просто удали и попробуй другой репак с немного другим названием там их вагон.
Очень рекомендую при начальной переписки в первом своем обращении ПОДРОБНО расписать все свои хотелки как есть, какие бы они небыли (у ИИ нет морали), типа прям пишешь "создай историю в сеттинге где... и .... " и вот подробно все расписываешь, или тупо пишешь далее я буду .... такой то, и хочу..... а ты будешь называть себя.... и вот так ....ты должен себя вести при общении...
Тонкости общения и настройки если прям надо могу объяснить отдельно, уже заепался писать ))))))))))))
yaplakal.com