Поверьте, аэрофото - очень специфичные фотки на входе!
Верю. Но попробуйте Gemma 4 4B (а если железо позволит 12B) в мультимодальном режиме в той же LMStudio, вдруг справится?
Это сообщение отредактировал Мишкасшишкой - 4 ноя 2026 в 01:05
что мешает собрать llama.cpp и использовать multigpu?
Наличие железа, вестимо!
ну это спорно) народ колхозит из всего что найдет) И по 4 GPU по 8GB собирают, и на Vulcan на AMD и Intel А у DaoDao там вполне неплохие карты ( это был ей ответ)
ну и что мешает собрать llama.cpp и использовать multigpu?
пока того, что имеется , вполне достаточно для моей работы. Данные карты и текущий софт выполняют свои функции прекрасно, заменяя P100 на V100/32ГБ решатся проблемы с размерами ллм и на пару-тройку лет их будет достточно
Я хз, я не ИТ, а нейросети еще долго не смогут искать в зарослях дикого винограда опору ограды или водопровод. Мне надо было рассортировать архив фото, для чего я прогнал 22к фотографий через локальную vlm, которая формировала тэги для скрипта, пихающего их в БД, и сочиняла для "безродных" фото красивое название по содержимому, что бы мне потом было приятнее ковыряться и не теряться в названиях типа 12-06-2026-00456. А еще был интересный момент, что "легальные" модели начисто игнорируют обнаженную натуру (а таких фотографий есть у меня). Вот решение ТС для таких как я. У кого нет задач до неба, и кто этим не зарабатывает. И о том я и веду речь, что решение ТС - как мертвому припарка, поскольку из коробки подобных задач не решает.
Хмм... никогда не задумывался об использовании нейросетей таким образом, на самом деле. Даже локальные LLM уровня qwen3.8-27b (а ее в принципе если очень постараться можно запустить, пусть и медленно, на "игровом компе") очень помогают мне в моей работе - буквально за несколько минут (на нормальном железе справилась бы и вовсе за минуту-две, у меня мало токенов в секунду выходит) распарсила папку с терраформ-манифестами, почитала логи и нашла ошибку (опечатку), которую я искал бы значительно дольше.
Специфика же разная - разные микроскопы для заколачивания гвоздей. Меня к идее подтолкнула фотограмметрия. Это (в частности) когда из кучи фоток объекта с разных ракурсов шьется его 3д модель. У меня для этого стоит программа агисофт меташейп. В коробочном варианте она не всегда "понимает" где на фото небо и использует эти пиксели для проецирования точек, что порождает всякий мусор и увеличивает время. Можно накладывать маски на фото, вырезая те части изображения, что нужно исключить из обработки. Норм, когда 10 фоток. Хреново, когда 1500. Но к программе можно подтянуть локальную модель и скрипт на пайтоне, который будет осуществлять сценарий. Модель меньше 200мб, почти ничего не жрет, тратит на 1 фото миллисекунды и дает очень хороший результат (с другой стороны, больше она ничего и не умеет).
Довольно специфичная задача. И как я понял у вас распознавание образов используется? Без аналитики самой LLM?
Странно, но таже Gemma 4 очень не плохо распознает картинки. Я скармливал газетные вырезки, и получал на выходе текст который почти не требовал правок ( там где даже я не мог прочитать модель тоже ошибалась)
Сама фотограмметрия - чисто математика и геометрия. Координаты, проекции, вся хуйня. Модель (в описанном случае) угадывает где на фотке небо (как раз не нужное в обычных расчетах). Программа ужимает исходное изображение до 320х320, разбивает цвет по каналам и выдает это модели массивом данных. А та угадывает принадлежность каждого пикселя небу и отдает обратно массив, который программа интерпретирует как маску вероятности. Т.е. тут семантика минимальна. Гемма может быть и хороша, но огромна и избыточна для такой задачи. А эта модель "однокнопочна" зато работает на калькуляторе. Но я тут ближе к обезьяне с гранатой. У меня очень прозаичная задача: сказать начальству какое расстояние от верха нории до электродвигателя на зернотоке. Экономика нашего ООО "Оволабеан" такова, что начальнический крузак не оставляет ресурсов на оплату разрешения для высотных работ и двойной пайки мясному биороботу с рулеткой, а зерноток высокий и дураков на него лезть задарма нет. А посему - высокие технологии, но со сроком "вчера проебали". Поэтому оно делается, а как - хуй его знает. А в деле распознавания, когда теггировал фотоархив, использовалась huihui_ai/qwen3-vl-abliterated:8b-instruct. Она не думает и без цензуры (цензурированная не "видит" обнаженную натуру, а их есть у меня). Примерно 10 сек на 24 мп фото. А в процессе тестирования давала очень точные и подробные описания изображения, включая распознавания надписей на фоне; по запросу давала небесполезные описания с точки зрения композиции и художественной стороны. Тут уже правда надо было делить натрое: вкусы у ней так себе. Или у меня...
В закладки бы положил, как в браузере, так и на сайте)
Не желаете ли запилить пост о своем ассистенте? Мне кажется, это было бы интересно. Не каждый полезет на гитхаб разбираться, а тут было бы человеческим языком и из первых рук.
В закладки бы положил, как в браузере, так и на сайте)
Не желаете ли запилить пост о своем ассистенте? Мне кажется, это было бы интересно. Не каждый полезет на гитхаб разбираться, а тут было бы человеческим языком и из первых рук.
Да честно говоря не думаю что это на ЯПе будет интересно. Это больше исследовательский проект, некоммерческий, больше личный.
И боюсь первый же вопрос "Нахера это нужно?" поставит меня в тупик, т.к. ответа у меня на это нет) Это интересно, в первую очередь мне. Да и сейчас честно говоря я зашел с ним в тупик. Есть достаточно много наработок и идей и если удастся их реализовать то описанное в дневнике станет подспорьем для тех кто сейчас также уперся лбом в стену.
Но я стараюсь раз в месяц обновлять дневник, и собирать туда все находки и неудачи.
В закладки бы положил, как в браузере, так и на сайте)
Не желаете ли запилить пост о своем ассистенте? Мне кажется, это было бы интересно. Не каждый полезет на гитхаб разбираться, а тут было бы человеческим языком и из первых рук.
Да честно говоря не думаю что это на ЯПе будет интересно. Это больше исследовательский проект, некоммерческий, больше личный.
И боюсь первый же вопрос "Нахера это нужно?" поставит меня в тупик, т.к. ответа у меня на это нет) Это интересно, в первую очередь мне. Да и сейчас честно говоря я зашел с ним в тупик. Есть достаточно много наработок и идей и если удастся их реализовать то описанное в дневнике станет подспорьем для тех кто сейчас также уперся лбом в стену.
Но я стараюсь раз в месяц обновлять дневник, и собирать туда все находки и неудачи.
Рукожопство же. Ну, в своем роде. Хотя, тут публика не та. У меня полет пониже, но думал пост запилить для простых граждан на тему: "А нахуя это все надо, если ты простой слесарь из Усть-Перепиздюйска.". По наблюдениям у обывателя представление об ИИ на уровне: крутой/врущий поисковик, генератор нейрослопа и "он нам нахуй не нужон". А я же, будучи таким же обывателем, открыл иную сторону, извлек личную пользу и увидел потенциал. Но, чую, не взлетит.
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.
5 Пользователей читают эту тему (1 Гостей и 1 Скрытых Пользователей)
yaplakal.com