NVIDIA анонсировала новую модель искусственного интеллекта Llama-3.1-Nemotron-51B, основанную на предыдущей Llama-3.1-70B от Meta*.

Эта модель, содержащая 51 миллиард параметров, использует технологию Neural Architecture Search для оптимизации, что способствует снижению потребления ресурсов.

-ИИ может работать всего на одном графическом процессоре NVIDIA H100, что делает её более доступной для пользователей.

Новый подход увеличивает скорость вывода в 2,2 раза, и позволяет обрабатывать объемы в 4 раза больше, при неизменной точности.
==============
Meta* признана в РФ экстремистской :blobfoxcryreach:

src: https://developer.nvidia.com/blog/advancing-the-accuracy-efficiency-frontier-with-llama-3-1-nemotron-51b/

#ai #llama #nvidia #Llama31 #meta #facebook