@altext А если лламу какую-нибудь попробовать? Она вроде может работать на ЦПУ.
@skobkin @n0icz
@drq @skobkin @n0icz качество и скорость я уверен будут хуже. джемини обрабатывает одну фотку за 6 секунд +-. а асинхронно да хоть 60 фоток за 10 сек...
@altext @drq @n0icz На CPU работа с изображением будет длиться ВЕЧНОСТЬ.
Тексты-то не очень живо шевелятся если брать не самые глупые модели.
@drq @altext @n0icz LLaMa ж только текстовая.
Но бывает LLaVA и аналоги.
Gregory's Server
@drq @skobkin @n0icz качество и скорость я уверен будут хуже. джемини обрабатывает одну фотку за 6 секунд +-. а асинхронно да хоть 60 фоток за 10 сек...