@skobkin насколько я понял, 11b и 70b те же, что и...

@skobkin насколько я понял, 11b и 70b те же, что и в 3.1, но в них добавили мультимодальность, от чего, говорят, слегка пострадал reasoning

т. е. для текстов 3.1 лучше.

Like 30 September at 19:15 | Wall-to-wall | Open on lor.sh

3 comments

Alexey Skobkin

@burbilog
Я не знаю (в тексте напрямую не видел), но предположил так же.

Потом посмотрю и проверю.
LLAMA 3.1 в плане текста меня уже очень радует по сравнению что с 2 - что с 3.0 - наверное в основном за счёт размера контекста, но и рассуждение у неё тоже приличное.

30 September at 22:36 | Open on lor.sh

burbilog

@skobkin в ollama к сожалению завезли только 1B и 3B варианты

1 October at 13:21 | Open on lor.sh

Alexey Skobkin

@burbilog
Я ж в посте выше написал, что им надо сначала отрефакторить их визуальный пайплайн чтобы он мог работать и со всякими wizard-vicuna, и с новыми LLaMA. И они сейчас этим заняты в одном из пуллреквестов.

https://github.com/ollama/ollama/pull/6963

Я думаю, что в официальный каталог ollama эти версии модели заедут сразу же с тем релизом в который войдут изменения из PR.

1 October at 13:24 | Open on lor.sh