Giới thiệu về mô hình LLM phân tán trên Orange Pi

Hiện nay, trí tuệ nhân tạo (AI) đã có thể tóm tắt bài báo, viết truyện làm thơ và tham gia tương tác tự nhiên với con người thông qua các cuộc trò chuyện dài. Đứng đằng sau thành công này một phần là Large Language Models. Large Language Models (hay LLM) để chỉ các mô hình xác suất có khả năng hiểu và sinh ngôn ngữ tự nhiên dựa trên kiến thức được thu thập từ các tập dữ liệu cực lớn. LLM là một trong những ứng dụng thành công nhất của các mô hình transformer.

Hướng dẫn cài đặt Orange Pi RV2 thành máy chủ Adguard Home / PiHole lọc quảng cáo tại nhà

Như các bạn đã biết sản phẩm Orange Pi RV2 là một sản phẩm sử dụng chip RISC-V mới nhất của Orange Pi, bo mạch này nổi bật với hiệu năng mạnh mẽ trong một thiết bị tiết kiệm chi phí và điện năng. Bo mạch này sử dụng SoC KY-X1 tám nhân, hỗ trợ mở rộng RVA22 và vector, NPU lên tới 2TOPS và có các phiên bản 4GB RAM và 8GB RAM tùy theo lựa chọn. Tuy nhiên 2 cổng LAN Gigabit, các bạn vẫn có thể sử dụng bo mạch Orange Pi RV2 thành máy chủ Adguard Home / PiHole lọc quảng cáo tại nhà mà không cần cài OpenWRT mất đi khả năng xử lý AI hoặc đồ họa của bo mạch.

Các phiên bản hệ điều hành cho OrangePi RV2

Canonical, nhà phát hành Ubuntu, mới đây vừa công bố phát hành các bản Ubuntu developer images dành cho OrangePi RV2 – một máy tính đơn bảng (SBC) giá rẻ sử dụng kiến trúc RISC-V. Đây là bước tiến nhằm mở rộng hệ sinh thái phần cứng được chứng nhận của Ubuntu, giúp các nhà phát triển dễ dàng tiếp cận công nghệ phần cứng và phần mềm mã nguồn mở mới nhất.

Phần mềm quản lý máy chủ tại nhà qua docker Cosmos Cloud

Trước kia tôi có giới thiệu 2 phần mềm quản lý máy chủ tại nhà qua dokcer là CasaOS và Runtipi, hôm nay tôi sẽ giới thiệu tiếp 1 phần mềm khác có phần tốt hơn, nhưng yêu cầu cấu hình cao hơn, rất phu hợp để dùng với Orange Pi 5, đó chính là Cosmos Cloud

Quái vật dành cho AI của Orange Pi đã xuất hiện

Mới đây, cùng với sự bùng nổ của DeepSeek đang làm “rung chuyển” cả ngành AI, thì Orange Pi cũng đang có kế hoạch cho ra một model mới chuyên biệt cho AI. Đó chính là Orange Pi AI Studio. Chúng ta cùng tìm hiểu xem con “Quái vật” dành cho AI của Orange Pi thế nào.

Orange Pi 5 Ultra – có lẽ là cuối cùng trong Orange Pi 5 Series

Hãng Orange Pi lại tiếp tục ra sản phẩm (có lẽ) cuối cùng trong Orange Pi 5 Series, mang tên Orange Pi 5 Ultra. Chúng ta cùng nhau so sánh điểm khác biệt của Orange Pi 5 Ultra so với các người đàn anh tiền nhiệm khác là gì.

Cài đặt HDH và test NPU trên Orange Pi 4A

Orange Pi 4A là sản phẩm mới nhất của hãng Orange Pi, và đánh dấu sự quay lại của hãng với dòng chip SoC Allwinner. Sản phẩm này được trang bị bộ vi xử lý Allwinner T527 mạnh mẽ, gồm 8 nhân ARM Cortex-A55 kết hợp cùng chip xử lý tín hiệu kỹ thuật số (DSP) HiFi4 và nhân RISC-V. Điểm nổi bật chính của Orange Pi 4A là chip đồ họa GPU thế hệ mới tiết kiệm năng lượng và vi xử lý thần kinh (NPU) có khả năng đạt 2 TOPS, giúp tăng tốc xử lý AI ngay trên thiết bị.

Giới thiệu phần mềm quản lý selfhosted tại nhà Runtipi

Self-hosted (tự lưu trữ) là một thuật ngữ chỉ việc bạn tự quản lý và vận hành phần mềm, dịch vụ hoặc ứng dụng trên máy chủ của riêng mình thay vì sử dụng dịch vụ lưu trữ từ bên thứ ba. Điều này có nghĩa là bạn có toàn quyền kiểm soát dữ liệu, cấu hình, bảo mật và hiệu suất của hệ thống.

Sử dụng ứng dụng quản lý tài liệu nào trên Orange Pi 5?

Có nhiều bạn hỏi sử dụng Orange Pi thay NAS để lưu trữ file, chia sẻ file qua internet như một máy chủ chia sẻ giữa gia đình, hay nội bộ một doanh nghiệp nhỏ có được không? Đương nhiên là được và có nhiều giải pháp mã nguồn mở và miễn phí cho việc này như Nextcloud, Pydio-Cells hay Seafile. Trước kia việc cài các ứng dụng này có thể sẽ rất phức tạp, nhưng với Docker, giờ đây chỉ còn là một câu lệnh hoặc một file docker-compose.yml, là xong.