Інференс там, де даніІнференстам,дедані

Найдешевший спосіб винести інференс на край мережі. Плата, яку знають усі, плюс модуль Hailo через PCIe — і готова величезна екосистема з документацією та прикладами.

CPU

BCM2712, 4× Cortex-A76 2.4 ГГц (Pi 5)

Прискорювач

AI HAT+ на Hailo-8L 13 TOPS або Hailo-8 26 TOPS

Пам'ять

4 / 8 / 16 ГБ LPDDR4X

Інтерфейс

PCIe через роз'єм HAT, 2× MIPI CSI

Живлення

USB-C PD, 27 Вт

Найпотужніший інференс у добірці й повний стек CUDA та TensorRT. Бере кілька відеопотоків з детекцією або локальну LLM на кілька мільярдів параметрів.

CPU

6× Arm Cortex-A78AE

GPU

Ampere, 1024 ядра CUDA, 32 тензорні ядра

Прискорювач

67 TOPS (INT8)

Пам'ять

8 ГБ LPDDR5, 102 ГБ/с

Живлення

7–25 Вт, керований профіль

Єдиний x86 у добірці й найшвидший інференс тут узагалі: Core Ultra 200V з NPU, Arc-графікою та 16 ГБ LPDDR5X. Звичайні Windows чи Ubuntu — без крос-компіляції й без портування драйверів.

CPU

Core Ultra 5 226V до 4.5 ГГц або Ultra 7 256V до 4.8 ГГц, 8 ядер

GPU

Intel Arc: 7 Xe-ядер (226V) або 8 Xe-ядер (256V)

Прискорювач

NPU 40 TOPS (226V) / 47 TOPS (256V); разом із CPU та GPU — 97 / 115 TOPS

Пам'ять

16 ГБ LPDDR5X-8533, 136.5 ГБ/с, до 11.6 ГБ під VRAM

Форм-фактор

69.6 × 60 мм, 260-pin SO-DIMM; носійна плата окремо

Інтерфейси

PCIe 4.0 до 4×1 / 4×2 / 2×4, 2× USB 3.2 Gen 2, 3× HDMI/DP

Найбільше заліза за ці гроші: вісім ядер, NVMe напряму в PCIe, 2.5-гігабітна мережа й апаратний декодер на 8K. Робоча конячка для шлюзів і відеоаналітики.

CPU

RK3588, 4× Cortex-A76 2.4 ГГц + 4× Cortex-A55

GPU

Mali-G610 MP4

Прискорювач

NPU 6 TOPS (INT8)

Пам'ять

4 / 8 / 16 / 32 ГБ LPDDR4x або LPDDR5

Мережа

2.5GbE з підтримкою PoE, M.2 NVMe PCIe 3.0 ×4