Ударим искусственным интеллектом по машинному обучению

[vak]

С сегодняшнего дня наша компания (Wave Computing) начинает поставлять заказчикам вычислители для искусственного интеллекта и машинного обучения.



Скорость на стандартных тестах примерно в 600 раз выше, чем у облачных решений и GPU.



Спецификация вычислителя: WaveComputing_ProductBrief_6.7.0.pdf

Comments

[vak]

Да, отличные результаты на разных приложениях, не только TensorFlow.
Про стоимость я не в курсе, наши маркетологи объявят со временем.
Уже готовый ASIC с 16 тысячами процессоров на кристалле и скоростью 6 ГГц.

[oleg304]

Круто!
Маркетологам только скажите, что прирост в 10% на конфигурации с 1 GPU в таблице смотрится не очень реально. Должно быть больше.

[oleg304]

https://devblogs.nvidia.com/inside-volta/

Tensor Cores
Tesla P100 delivered considerably higher performance for training neural networks compared to the prior generation NVIDIA Maxwell and Kepler architectures, but the complexity and size of neural networks have continued to grow. New networks that have thousands of layers and millions of neurons demand even higher performance and faster training times.

New Tensor Cores are the most important feature of the Volta GV100 architecture to help deliver the performance required to train large neural networks. Tesla V100’s Tensor Cores deliver up to 125 Tensor TFLOPS for training and inference applications. Tensor Cores provide up to 12x higher peak TFLOPS on Tesla V100 for deep learning training compared to P100 FP32 operations, and for deep learning inference, up to 6x higher peak TFLOPS compared to P100 FP16 operations. The Tesla V100 GPU contains 640 Tensor Cores: 8 per SM.

Matrix-Matrix multiplication (BLAS GEMM) operations are at the core of neural network training and inferencing, and are used to multiply large matrices of input data and weights in the connected layers of the network. As Figure 6 shows, Tensor Cores in the Tesla V100 GPU boost the performance of these operations by more than 9x compared to the Pascal-based GP100 GPU.

[vak]

NVidia GPU хорошая вещь. Но процессоры Wave имеют существенное преимущество по производительности на ватт потребляемой мощности. Цифры будут объявлены позже.