Куй дипсика пока горячо

[vak]

Раз уж публика увлеклась новомодной нейронной сетью DeepSeek, коллеги решили запустить её на нашем чипе. Причём с очень приличной производительностью: больше 30 токенов в секунду. Общее потребление системы не превышает 10 ватт.

Comments

[juan_gandhi]

О ни фига себе! Вот это отличный бенчмарк! А сколько на большой модели deepseek уйдёт на вычисление 2*3-1?

[spamsink]

Это скорость чего - анализа промпта или генерации ответа?

[mikerrr]

1.5B - это ж ни о чем,
эмерджентные свойства модели (тот самый интеллект) начинаются с 70B,как я понимаю