@skobkin на каком железе лама3:8в? Так медленно отвечает(
@LyrionTannister Ryzen 7900X, Radeon 7800XT
Но только это не llama, а llava-llama3. dolphin-llama3, которую я обычно использую быстрее отвечает.
@LyrionTannister
Ryzen 7900X, Radeon 7800XT
Но только это не llama, а llava-llama3. dolphin-llama3, которую я обычно использую быстрее отвечает.