Что ж, вот ещё и селф-хостед аналог (https://github.com/fauxpilot/fauxpilot) копилота подвезли, но под него походу надо выделять отдельный сервер, ибо на винде такое не завёдется (а ещё я не понимаю какие требования по VRAM, почему их нет в README?)