@mo у меня использовался не whisper.cpp, а faster-whisper:...

@mo у меня использовался не whisper.cpp, а faster-whisper: https://github.com/SYSTRAN/faster-whisper
Пишут, что на CPU он быстрее раз в 5:
https://github.com/SYSTRAN/faster-whisper?tab=readme-ov-file#small-model-on-cpu

Вот эта штука (на питоне как раз, кстати) у меня этим занималась:
https://github.com/rhasspy/wyoming-faster-whisper

Like 19 March at 23:42 | Wall-to-wall | Open on mastodon.ml

4 comments

Мя :sparkles_lesbian:

@dside быстрее раз в пять это всё ещё 4 секунды полной загрузки CPU

19 March at 23:48 | Open on mastodon.ml

D:\side\

@mo ну, такая вот сейчас цена у качественного распознавания, да. Но если воск справляется, прекрасно. А то у виспера ещё и галлюцинации иногда в тишине бывают в форме имён авторов субтитров :blobcateyes:

20 March at 0:01 | Open on mastodon.ml

Мя :sparkles_lesbian:

@dside окей, я воткнула эту штуку, выглядит лучше чем я ожидала. Погоняю ещё

20 March at 0:18 | Open on mastodon.ml

Мя :sparkles_lesbian: replied to Мя

@dside правда мой комп тянет с приемлемой скоростью максимум tiny (8bit CPU)

VPSка ещё слабее

20 March at 0:21 | Open on mastodon.ml