Gddr 5 работает с примерно 16.0–32.0 GB/s скоростью. Ссд диск работает со скоростью 3гб в секунду (бывает и выше). Если сделать 4 диска в параллель, а потом использовать direct write, то они дадут примерно такую же скорость, что и видеопамять в нижней границе при объеме памяти в терабайты.
Вот интересно почему народ до сих пор не заюзал это для домашних нейронок?