Gregory's Server@skobkin Я боюсь поинтересоваться, какое у тебя железо, чтобы запускать Ламу?
|
3 comments
 @skobkin Стал замечать тенденцию, что для производительных пк берут красную связку или красную + зелёную. Да, и хочу указать тот факт, что amd карточки используют apple, а также хакинташники прямо охотяться за красными картами(например, rx 580) |
@kir4ik52
Чтобы запускать 7B/13B модели комфортно я взял RX 7800 XT в домашний сервер. На десктопе до этого тестил на RX 6800 XT.
И нет, я взял AMD абсолютно сознательно и понимая, что их GPU будут несколько уступать конкуренту. Но я в гробу видел NVIDIA с их монополией на нейровычисления и закрытыми драйверами.