@kirill Интересно, а вообще эти модели и на невидии и на амд запускаются?
Top-level
⚛️Revertron :straight:
@kirill Интересно, а вообще эти модели и на невидии и на амд запускаются? 2 comments
nꙮrmie
@kirill@s.zholnay.name @Revertron@zhub.link Подтверждаю, на AMD крутил что-то помельче. На CPU все таки медленно, даже с оффлоадом большей части слоев на GPU. |
@Revertron Эти модели довольно быстро работают на жирных CPU, и очень быстро на GPU.