Cài đặt HDH và test NPU trên Orange Pi 4A

Orange Pi 4A là sản phẩm mới nhất của hãng Orange Pi, và đánh dấu sự quay lại của hãng với dòng chip SoC Allwinner. Sản phẩm này được trang bị bộ vi xử lý Allwinner T527 mạnh mẽ, gồm 8 nhân ARM Cortex-A55 kết hợp cùng chip xử lý tín hiệu kỹ thuật số (DSP) HiFi4 và nhân RISC-V. Điểm nổi bật chính của Orange Pi 4A là chip đồ họa GPU thế hệ mới tiết kiệm năng lượng và vi xử lý thần kinh (NPU) có khả năng đạt 2 TOPS, giúp tăng tốc xử lý AI ngay trên thiết bị.

Orange Pi tiếp tục ra mắt thêm sản phẩm mới có hỗ trợ RISC-V

Cài đặt Hệ điều hành(HĐH) trên Orange Pi 4A

Orange Pi 4A rất mới, hiện tại chỉ hỗ trợ 3 hệ điều hành là Ubuntu, Debian và Android 13 của hãng. Link tài về bên dưới:

Manual của hãng cũng mới có phiên bản 1.0 tại link sau: Orange Pi User Manual

Cài Android 13 cho Orange Pi 4A

Ở link bên trên, chúng ta có 2 bản Android là bản thường và bản có chữ LCD. Phiên bản LCD là nếu như bạn cần dùng màn hình LCD qua cổng DSI trên bo mạch, còn nếu bạn dùng HDMI thì vẫn dùng bản thông thường. Bạn tải file tar.gz về máy tính, giải nén ra được file .img, dùng PhoenixCard4.2.8 để flash vào thẻ nhớ. Link PhoenixCard4.2.8 

Các tùy chọn đặt như ảnh dưới, khi flash thành công thì sẽ hiển thị xanh toàn bộ và ko báo lỗi. Bạn tháo thẻ và cắm vào mạch Orange Pi 4A để boot

[image]

Cài Linux (Ubuntu/Debian) cho Orange Pi 4A

Cũng tương tự như Android, chúng ta cũng cần 1 thẻ nhớ để flash Linux vào và boot Orange Pi 4A. Nhưng lần này sẽ dùng phần mềm BalenaEtcher hoặc Win32DiskImager. Bạn cũng vào link bên trên, tải về các file đuôi 7z. Bản có chữ desktop là khi khởi động sẽ có giao diện đồ họa, còn bản có chữ server là khi khởi động lên, bạn sẽ phải dùng các câu lệnh của linux để thao tác. Cả 2 bản đều có thể mở cổng 22 để SSH vào như bình thường.

Ví dụ khi flash bằng Win32Diskimager thì sẽ như ảnh dưới, sau khi chạy hết bạn tháo thẻ  và cắm vào mạch Orange Pi 4A để boot

Nếu thẻ đã flash thành công, bạn sẽ có giao diện desktop hoặc server, hoặc bạn cũng có thể cắm dây mạng LAN, SSH vào qua IP của bo mạch như hình

Test NPU trên Orange Pi 4A

Vịệc cài đặt HDH bên trên nói dài nhưng thực ra rất đơn giản, chỉ cần thao tác vài lần là bạn quen ngay. Đây mới là phần quan trọng nhất, vì hầu như giống mọi hệ điều hành Ubuntu/Debian trên các bo mạch Orange Pi khác như Orange Pi 4 LTS hoặc Orange Pi 3B, nếu để chạy các ứng dụng thông thường như docker, hay webserver thì không thể tận dụng tối đa được sức mạnh của chip Allwinner T527. Vì vậy chúng ta cần một bộ các phần mềm mang tên board-demo của hãng. Link tải Orange Pi 4A board-demo

Các bạn có thể tải về máy tính rồi copy sang bo mạch bằng SFTP hoặc có thể tải trực tiếp trên bo mạch bằng lệnh wget. Giải nén, chúng ta có thư mục board-demo như bên hình dưới. Tiếp đến các bạn cần phải cài các phần mềm cần thiết, copy thư viện

sudo apt update
sudo apt install libopencv-dev cmake
sudo cp ./common/lib_linux_aarch64/T527/*.so /usr/lib

Khi nào trong thư mục /usr/lib có 2 file khoanh đỏ ben dưới, đó chính là thư viện LibVIP để sử dụng NPU của Allwinner.

LibVIP là thư viện phần mềm của Allwinner dành cho NPU (Neural Processing Unit) trên các SoC (System on Chip) của hãng này. Nó được thiết kế để hỗ trợ các tác vụ tăng tốc AI, chẳng hạn như nhận diện hình ảnh, phân loại, phát hiện đối tượng, v.v.

Một số đặc điểm của LibVIP:

  • Tối ưu hóa cho NPU của Allwinner: Chạy trên các chip có tích hợp NPU như Allwinner V831, V853, A311D, A100, T527, v.v.
  • Hỗ trợ nhiều mô hình AI: TensorFlow Lite, ONNX, Caffe, v.v.
  • Giao diện API dễ sử dụng: Thường được dùng với C/C++ hoặc Python.
  • Hỗ trợ nhúng AI vào các ứng dụng thực tế: Nhận diện khuôn mặt, nhận diện biển số xe, giám sát an ninh, v.v.

Để test một ví dụ về NPU của Orange Pi 4A, tôi build thử một ứng dụng viết bằng C++ có sẵn trong thư mục board demo. Quá trình build đơn giản, và sau đó test thử nhận diện một hình ảnh mẫu có sẵn. Kết quả như hình

Tiếp tục, để đánh giá khả năng của NPU của Orange Pi 4A, tôi dùng một framework là ncnn của Tencent

Kết quả test framework tôi đã từng đăng lên Facebook tại đây: https://www.facebook.com/share/p/19octcCQPT/

Kết luận: Dòng chip Allwinner mới cũng có khá nhiều SoC phù hợp cho công việc AI, nhất là các thiết bị AI ngoại biên đang rộ lên, trong đó T507 chỉ là một model thông thường. Ngoài ra Allwinner còn có V831, V853 (dòng chuyên AI) hoặc A311D, A100 (dòng hiệu năng cao). Nếu so sánh với RockchipRKNPU thì cũng sẽ không hơn kém nhau là mấy. Điểm yếu nhất hiện tại là các sản phẩm sử dụng NPU của Allwinner hay LibVIP còn quá ít người biết tới và phát triển, cộng đồng không lớn, do vậy không phổ biến. Tuy nhiên, nếu so sánh với dòng chip Boardcom trên Raspberry Pi không hề có lõi NPU nào thì đây chính là điểm mạnh

 

Để lại một bình luận

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *