@skobkin какие нейронки хостил? Llm? | E23

Alexey's posts Post Back to profile

E23

@skobkin какие нейронки хостил? Llm?

Like 7 October at 4:11 | Wall-to-wall | Open on lor.sh

9 comments

@E23 Да. И недолго Stable Diffusion, но его пока выкинул.

7 October at 8:45 | Open on lor.sh

cycl0ne

@skobkin @E23 блин, какие у тебя юзкейсы для локальных ллмок? потому что я побаловался, но в итоге не юзаю, т.к. не понимаю, где и зачем

7 October at 9:03 | Open on lor.sh

@cycl0ne @E23
Навскидку:

- Переформулировать сообщения вроде "да ёб вашу мать, вы там что поехавшие что ли" на деловой язык
- Простые задачи по коду, которые осиливает нейронка на небольшое количество параметров - где нужно не глубокое знание области вокруг, а оперировать с тем, что дано
- Развлекательные диалоги и генерация лулзов
- Интеграция в Home Assistant (пока особо не юзаю, но хочу потом как-нибудь сделать полностью локальное голосовое управление)

7 October at 9:11 | Open on lor.sh

E23

@skobkin а вот как ты с дифьюжном постапил, ведь ему видяха нужна?

7 October at 9:25 | Open on lor.sh

@E23
Купил видеокарту 🤷‍♂️

7 October at 9:26 | Open on lor.sh

cycl0ne

@skobkin @E23 if you're cardless - just buy a card :D

7 October at 10:19 | Open on lor.sh

E23

@skobkin т.е. видяха была еще и в серваке?

7 October at 15:38 | Open on lor.sh

@E23 Да.

https://lor.sh/@skobkin/113220972021274403

Можно было бы извращаться и использовать видеокарту десктопа, но всё-таки сервер должен быть самостоятельным.

7 October at 15:45 | Open on lor.sh

E23

@skobkin фига красота какая, пойду читать. Спасибр

7 October at 16:23 | Open on lor.sh