 К слову, мы тут как-то на регулярках и вне обсуждали распознавание картинок нейросеточками. Я тогда говорил про Stable Diffusion, но совсем забыл про мультимодальные модели вроде llava. Закрою этот недочёт показав примеры работы одного из вариантов этой мультимодалки на обоях по Interstellar. Работает, если что, не в облаке, а на моём домашнем сервере. #LLM #AI #ML #multimodal #ollama #selfhosting #local #video #demo 19 comments
 @skobkin я когда пощу занимаюсь, потому что просят заполнять alttext.
Да и самому приятно когда картинка не прогружается, а у неё есть описание. @a1ba Но это ж заебись. Можно будет зааутсорсить это и твои посты будут не так мучительны. В Mastodon есть поддержка как минимум двух переводчиков (DeepL и LibreTranslate) - логично было бы добавить и поддержку парочки API вроде OpenAI/Gemma и Ollama, например.  @Revertron Требований я не видел. Я знаю, что в 16G в среднем влезают максимум 13B модели. Могу посмотреть по факту сколько ест просто.  @skobkin в мой сервер влезает только низкопрофильное, из доступных в окружающих магазинах максимум 4гб 1050i. Есть ли смысл ставить, или маловато для домашнего ии? @Revertron @rayslava  @skobkin @Revertron @rayslava @zd915 Есть работающие на ОЗУ и ЦП. Картинки я рисовал и на 2ГБ VRAM на ноутбуке, но было немного печально, генерация по несколько минут. @zd915 @Revertron @rayslava @skobkin @zd915 @Revertron @rayslava кстати, смотрю на дискретные карточки интел, в плане в домашний мини ящичек поставить что-то такое, что сможет и гта5 потянуть, и оупен цл, и при этом стоить копейки за выдаваемый перф. Не могу понять, как они за такие копейки так хорошо работают на уровне зеленых 4060 @LyrionTannister @zd915 @Revertron @rayslava @LyrionTannister Но только это не llama, а llava-llama3. dolphin-llama3, которую я обычно использую быстрее отвечает. |
Gregory's Server
Или вот мем с Друзём.