Теперь локальные нейроскети можно запускать даже на дохлом ноуте — вышел сервис aiOS.
Концепт гениальный — разрабы сделали peer2peer сеть, которая использует совокупные мощности всех компов в нём. Если простым языком — механика как с раздачами на торрентах.
В будущем планируют мотивировать самых активных сидов копеечкой, но уже супергодно.
неохота ставить на свой комп Ж) как оно работает, на каждом узле полная версия модели мистрал 7б и тупо запросы распределяются между узлами что ли?