Email or username:

Password:

Forgot your password?
All posts Kirill's posts Post Back to profile
Top-level
⚛️Revertron :straight:

@kirill А как ты скармливал ей текст? Копипастил в поле ввода?

21 February at 14:28 | Wall-to-wall | Open on zhub.link
4 comments
Kirill Zholnay

@Revertron Я в браузере сделал вид для чтения, чтобы тексто оставил. И скопипастил, да )

Но там есть и API, да и сама модель доступна в опенсурс, можно крутить локально, правда далеко не с теми с скоростями, что у этих ребят. ollama.com/library/nous-hermes

21 February at 14:30 | Open on s.zholnay.name
⚛️Revertron :straight:

@kirill Интересно, а вообще эти модели и на невидии и на амд запускаются?

21 February at 14:41 | Open on zhub.link
Kirill Zholnay

@Revertron Эти модели довольно быстро работают на жирных CPU, и очень быстро на GPU.

21 February at 14:42 | Open on s.zholnay.name
nꙮrmie

@kirill@s.zholnay.name @Revertron@zhub.link Подтверждаю, на AMD крутил что-то помельче. На CPU все таки медленно, даже с оффлоадом большей части слоев на GPU.

21 February at 15:01 | Open on shitpost.poridge.club
Go Up