Пробую pinokio (https://pinokio.computer/)

Ну пускай вообще не сразу и после того как я сделал то что автор forge web ui написал не делать, у меня заработал flux, прикольная штука, но медленная, нужно будет побробовать поковырять если там еще что нить классное с ним придумают или я просто захочу

Сейчас хочу попробовать вдруг здесь у меня таки заработают LLM'ки, потому что пока получилось запустить только через llamafile который только gguf и пока вроде не поддерживает llama 3.1

И всё бы хорошо но он уже ТРЕТИЙ РАЗ ЗАКАЧИВАЕТ CUDA И TORCH :blobcattableflip:

У меня не самый быстрый интернет и я зачем то решил ставить это всё на ssd а не на хард, я переживаю что на такое количество venv'ов мне моих свободных 200 с лишним гигов не хватит, есть некоторое желание или объеденить симлинками у всех venv'ов кэш или еще что нить с этим сделать