@tech Правильно ли я понимаю, что запустить LLM или...

@tech
Правильно ли я понимаю, что запустить LLM или еще что вычислительное на nouveau, вообще не как не получится? by @WildPowerHammer

Like 12 October at 20:52 | Open on mastodon.ml

2 comments

@tech @WildPowerHammer не, ну почему. ollama умеет работать на проце :)

собственно, я со своей именно так и разговариваю

но для использования гпу ей нужна CUDA, а CUDA работает только с проприетарными дровами

13 October at 0:34 | Open on wetdry.world

@gravitos
Я не хочу сжигать свой фуфыкс, он мне еще нужен

А вообще надо будет попробовать, вроде как некоторые штуковины умеют через vulkan работать

13 October at 7:39 | Open on mastodon.ml