Как-же я задолбался пока конвертировал модельку в формат Rockchip :neofox_melt:
Скорее всего, когда-нибудь я релизну чат с LLM в открытый доступ, как я однажды хотел. Но работать он будет на NPU (который есть в RK3588), а значит мне не нужен работающий 24/7 пк :neofox_cute:
Скорее всего, когда-нибудь я релизну чат с LLM в открытый доступ, как я однажды хотел. Но работать он будет на NPU (который есть в RK3588), а значит мне не нужен работающий 24/7 пк :neofox_cute: