 Кстати, там @ollama починили свой тег ":rocm" для образов и один из недавних релизов был посвящён поддержке видеокарт AMD. Я в общем-то ей пользовался ещё на экспериментальной и не очень хорошо работающей стадии, но теперь достаточно взять образ а тегом ":rocm" или фиксироваться на ":x.y.z-rocm" и прокинуть внутрь контейнера GPU: Список поддерживаемых GPU можно посмотреть тут: 12 comments
@ollama Остановило меня то, что я в последний момент заметил, что они рассчитаны на мощно продуваемые серверные корпусы и имеют пассивное охлаждение. Хоть всё равно покупать и колхозить отдельный вентилятор для продува или вообще кастомное охлаждение 😢  @lonelyowl Турбинки гудящие, да. @lonelyowl Официально там вентилятора вообще быть не должно 🤣 > Полагаю, можно поискать аналогичные варианты с нормальными кулерами Если ты имеешь в виду вентиляторами, то ан али что-то не находится. Находятся варианты с полностью переделанным кулером под водянку. В целом тоже вариант, хотя я не планировал в сервере юзать водяное охлаждение. > Официально там вентилятора вообще быть не должно А кто его знает. Вентиляторы есть не только на консьюмерских картах. > В целом тоже вариант, хотя я не планировал в сервере юзать водяное охлаждение. Как вариант, можно напечатать свой. Но это отдельный жанр пердолинга 🤔 Алсо, как минимум для p40 я видела на авито оригинальные кулеры, такая труба которая в сервер втыкается и продувает видюху. Я думаю, ее можно присобачить и к инстинкту, напечатав небольшой переходник. @lonelyowl Но этот вариант я тоже отложу на задворки сознанияю. @lonelyowl |
Gregory's Server
@ollama
Ах да, там же ещё блогопост был!
https://ollama.com/blog/amd-preview