Orange Pi O1 và SOPHGO BM1688: nền tảng AI video edge với TPU 16 TOPS

Orange Pi O1 là bo mạch AI edge xây dựng trên SoC SOPHGO BM1688, hướng đến các hệ thống thị giác máy tính và xử lý video tại chỗ. Điểm đáng chú ý không chỉ là TPU 16 TOPS INT8, mà là việc CPU, ISP, codec video và bộ tăng tốc AI được tích hợp trong một nền tảng.

Với hệ thống camera, kiến trúc này giảm phần việc CPU phải tự giải mã bằng phần mềm trước khi chạy mô hình. O1 phù hợp với AI camera, NVR thông minh, giám sát an ninh, OCR, phát hiện vật thể và gateway video tại biên.

Orange Pi O1 - bo mạch AI edge dùng SOPHGO BM1688, hai Ethernet gigabit và giao tiếp camera MIPI CSI

SOPHGO BM1688: không chỉ là một NPU

BM1688 là SoC dành cho deep learning, AI edge và computer vision. Trên O1, chip kết hợp CPU ARM Cortex-A53 tám nhân ở 1,65GHz với đồng xử lý RISC-V C906 1,2GHz. TPU của SOPHGO đạt tối đa 16 TOPS ở INT8; các mức tính toán được công bố còn gồm 32 TOPS ở INT4, 4 TOPS ở FP16/BF16 và 0,5 TOPS ở FP32.

SOPHGO BM1688 - chip TPU tích hợp cho AI edge, thị giác máy tính và xử lý video

Điểm cốt lõi của BM1688 là các khối xử lý hình ảnh và video nằm cạnh TPU: ISP cho camera sensor, bộ giải mã/mã hóa H.264/H.265 và các khối xử lý video. Điều đó giúp giảm phần việc phải xử lý bằng CPU trước khi frame được đưa vào mô hình AI.

Khả năng xử lý video nhiều luồng

Theo thông số nhà sản xuất, BM1688/O1 hỗ trợ giải mã H.264/H.265 tối đa 16 luồng 1080p@30fps và mã hóa tối đa 10 luồng 1080p@30fps. Đây là năng lực codec phần cứng; hiệu năng AI thực tế còn phụ thuộc độ phân giải, tốc độ lấy mẫu frame, mô hình, mức chính xác, hậu xử lý và luồng dữ liệu I/O.

Con số 16 luồng không đồng nghĩa O1 chắc chắn chạy cùng lúc 16 mô hình phát hiện vật thể nặng ở 30fps. Tải inference cần được đánh giá theo mô hình và cấu hình triển khai thực tế.

Hai đường nhận video trên Orange Pi O1

Orange Pi O1 có hai giao tiếp MIPI CSI, mỗi giao tiếp 4 lane, dành cho camera sensor kết nối trực tiếp. Hai cổng này không đồng nghĩa O1 chỉ xử lý được hai kênh video. Với camera IP, luồng H.264/H.265 có thể đi qua mạng Ethernet vào Video Decoder của BM1688 để xử lý tập trung.

                    Orange Pi O1 / BM1688
                            │
             ┌──────────────┴──────────────┐
             │                             │
        Camera MIPI                   Camera IP
             │                         H.264/H.265
             ▼                             │
        MIPI CSI                            ▼
             │                       Video Decoder
             ▼                      tối đa 16×1080p30
            ISP                            │
             └──────────────┬──────────────┘
                            ▼
                    Video Processing
                            │
                            ▼
                    SOPHGO TPU / AI
                 Detection · OCR · Tracking

Với camera MIPI, dữ liệu từ sensor đi qua MIPI CSI vào ISP trước khi đến các bước xử lý tiếp theo. Với camera IP, video nén được tiếp nhận qua mạng, giải mã bằng phần cứng, xử lý frame và chuyển tới TPU để chạy inference. Hai đường này có thể cùng tồn tại trong một kiến trúc.

Phần cứng và kết nối đáng chú ý

SoC	SOPHGO BM1688
CPU	8× ARM Cortex-A53 1,65GHz; RISC-V C906 1,2GHz
TPU	Tối đa 16 TOPS INT8
RAM	LPDDR4 / LPDDR4X: 8GB hoặc 16GB
Video codec	Giải mã H.264/H.265: tối đa 16× 1080p@30fps; mã hóa: tối đa 10× 1080p@30fps
Camera	2× MIPI CSI 4 lane
Mạng	2× Gigabit Ethernet; Wi-Fi 6E + Bluetooth 5.3 qua module; M.2 B-Key cho 4G/5G
Lưu trữ	microSD; eMMC hoặc SPI Flash tùy chọn, loại trừ nhau; M.2 M-Key PCIe 3.0 NVMe; SATA 3.0
Hiển thị	HDMI 2.0 tối đa 4K@60Hz; MIPI DSI 4 lane
USB	2× USB 3.0 Host, 2× USB 2.0 Host
Nguồn / kích thước	USB Type-C 20V/3,25A; PCB 90 × 70mm; 76g

Ứng dụng phù hợp

AI camera và smart surveillance: giải mã luồng camera, phát hiện người, xe hoặc vật thể, theo dõi và cảnh báo tại chỗ.
NVR AI và gateway video: nhận nhiều luồng camera IP, phân tích tại biên và gửi metadata/cảnh báo về hệ thống trung tâm.
OCR và phân tích hình ảnh: nhận dạng văn bản, phân loại ảnh, phát hiện lỗi hoặc kiểm tra trực quan tại dây chuyền.
Gateway công nghiệp: hai Ethernet gigabit, GPIO/UART/I²C/SPI/PWM và tùy chọn 4G/5G cho hệ thống cần kết nối linh hoạt.

Lưu ý khi thiết kế hệ thống

Phân biệt số cổng MIPI CSI với số luồng IP có thể giải mã: hai CSI phục vụ camera gắn trực tiếp, còn nhiều luồng IP phụ thuộc codec, mạng và pipeline phần mềm.
Kiểm thử mô hình AI với dữ liệu thực tế trước khi chốt số camera; độ phân giải, FPS, batch, hậu xử lý và băng thông mạng ảnh hưởng trực tiếp đến tải.
Chọn RAM/lưu trữ theo workload. O1 có RAM 8GB/16GB; eMMC và SPI Flash là lựa chọn loại trừ nhau, còn NVMe/SATA phù hợp khi cần lưu video hoặc dữ liệu lớn hơn.
Thiết kế nguồn và tản nhiệt đúng yêu cầu: O1 dùng USB Type-C 20V/3,25A; tải AI/video kéo dài cần được kiểm tra nhiệt độ tại môi trường vận hành thật.

Kết luận

Orange Pi O1 phù hợp khi yêu cầu là một nền tảng AI video edge tích hợp, thay vì chỉ cần một SBC có NPU. BM1688 kết hợp CPU, ISP, codec video và TPU để xử lý từ camera MIPI hoặc nhiều luồng camera IP, sau đó chạy inference tại chỗ. Với hai Ethernet gigabit, giao tiếp camera và khả năng mở rộng lưu trữ, O1 là lựa chọn đáng cân nhắc cho video analytics, AI camera, NVR thông minh và gateway thị giác máy tính.