vak: (Робот 1)
[personal profile] vak
(отсюда)

Есть такое популярное семейство моделей, называется YOLO («You Only Look Once»). Применяется для обнаружения объектов в приложениях физического ИИ. Давайте сравним наш чип (Modalix) с ближайшим конкурентом на этих моделях.

Начнём с производительности. Modalix YOLOv8n работает со скоростью 1414 кадров в секунду (FPS). Это в 5 раз быстрее, чем NVIDIA Jetson Orin NX. Это означает более отзывчивые роботы, улучшенные системы обнаружения изображений для промышленного мониторинга и более быструю обработку многокамерных изображений в режиме реального времени. Тестировалось при разрешении 640×640 с квантованием int8.



Проверим энергоэффективность. Запустим сразу 16 видеопотоков. Обнаружение объектов YOLOv8n работает со скоростью 102 кадра в секунду на ватт, что в 3.7 раза выше чем NVIDIA Jetson Orin NX. Это означает, что можно масштабировать систему до большего количества потоков без превышения лимитов тепловыделения.



Хорошо, но сравнение выходит несколько неравноправное. Конкуренты производят так называемые ML ускорители. То есть платы, вставляющиеся в большой компьютер, выполняющий кучу функций: захват и декодирование видео, предобработка видео (VMS) и пост бизнес-логика. У нас же законченный компьютер кристалле: встроеный многоядерный микропроцессор Arm A65. Давайте учтём мощность внешнего хоста, как разницу между потреблением энергии в режиме ожидания и при активной обработке. Сравним также с Axelera и Hailo.



А что с точностью? Ведь важно не только как шустро, но и как качественно нейронная сеть работает. Проверяем: всё отлично.



Семейство моделей YOLO развивается: v4, v5, v7, v8, v9, v11, v12, X. Проверим, например, YOLOv11n. Всё так же неплохо: Modalix опережает NVIDIA Jetson Orin NX почти в 5 раз.



А всё почему? Процессор, специально разработанный для вычислений в моделях машинного обучения, эффективнее чем переориентированный GPU.

Date: 2025-10-22 08:06 (UTC)
mikerrr: (Default)
From: [personal profile] mikerrr
А pytorch ваш чип поддерживает? А то вот у меня NPU в процессоре AMD, тоже вроде как очень эффективные, а сделать ничего нельзя)

Date: 2025-10-22 10:06 (UTC)
mikerrr: (Default)
From: [personal profile] mikerrr
Круто! Надо попробовать)

Date: 2025-10-23 13:43 (UTC)
From: [personal profile] flamedancerii
Я сталкивался с расшифровкой аббревиатуры YOLO только как You Only Live Once.
Это так любят запускать китайские AI, когда не требуется подтверждения от человека на совершение любых действий.

Date: 2025-10-24 01:28 (UTC)
From: [personal profile] makcuk
Але ж простий розробник ML може купити Jetson на амазоні чи аліекспресі і почати розробляти, Modalix виглядає не дуже доступним, SoM від 1000 штук :(

для бюджетних рішень я взагалі полюбив RK3588 NPU, yolo на ньому впевнено працює з однієї камери, коштує 3 копійки

Date: 2025-10-26 15:48 (UTC)
From: [personal profile] count_enable
Це на Orange Pi? Використовуєте RKNN чи щось інше?

Date: 2025-10-28 21:42 (UTC)
From: [personal profile] makcuk
RKNN звісно, новий yolo від ultralitics вже підтримує yolo11, раніше yolo8 від рокчіпу.
по ціні мені radxa zero 3 підходить, бо вироби одноразові

Date: 2025-10-29 09:42 (UTC)
From: [personal profile] count_enable
Написав в приват, буду вдячний за коротку консультацію, мені ці проци дуже цікаві, як і zero 3W