@kir4ik52 Чтобы запускать 7B/13B модели комфортно я...

@kir4ik52
Чтобы запускать 7B/13B модели комфортно я взял RX 7800 XT в домашний сервер. На десктопе до этого тестил на RX 6800 XT.

И нет, я взял AMD абсолютно сознательно и понимая, что их GPU будут несколько уступать конкуренту. Но я в гробу видел NVIDIA с их монополией на нейровычисления и закрытыми драйверами.

Like 12 August at 0:34 | Open on lor.sh

2 comments

Kir4ik52 :blobfoxsanta:

@skobkin Насчёт rx лайк :blobfox_w_:

12 August at 0:34 | Open on mastodon.ml

Kir4ik52 :blobfoxsanta:

@skobkin Стал замечать тенденцию, что для производительных пк берут красную связку или красную + зелёную. Да, и хочу указать тот факт, что amd карточки используют apple, а также хакинташники прямо охотяться за красными картами(например, rx 580)
В рот ебал майнеров и хакинташников :blobfoxevil:

12 August at 0:40 | Open on mastodon.ml