前陣子在評估適合跑 OpenClaw 的機器時, 找到下面這塊開發板 MP520-20 :
這是我的 Mapleboard MP-510 的升級版, 性能強大許多 (價格近兩倍), 搭載了 Rockchip RK3588S 八核處理器 (4× Cortex-A76 @ 2.4GHz + 4× Cortex-A55 @ 1.8GHz), 8GB LPDDR4X 與 128GB NVMe SSD, 出廠預裝了中文環境的 Debian Linux, 產品定位主要是做為高效能的微型電腦 (Mini PC/Linux 工作站), 低功耗桌機, 或邊緣伺服器 (配備 26-pin 擴充 I/O 與 UART 介面).
此微型電腦非常適合跑 OpenClaw, 作為開源的個人 AI 代理 (Agent) 網關, CPU 運算力約為 Pi 4 的 3~4 倍, 8GB RAM 對於運行 OpenClaw 及相關工具 (如網頁爬蟲, 檔案讀寫, 自動化腳本) 來說綽綽有餘, 而內建 128GB NVMe SSD 高速低功耗, 很適合作為全年無休 (24/7) 的龍蝦伺服器, 性能上完全輾壓 Pi 4. 雖然 Pi 4 裸板較便宜, 但加購散熱外殼, 變壓器與 128GB 高速 MicroSD 後價差其實不大, 比起一體成型的 MP520-20 來說 CP 值不高.
總之, 與 Pi 4 相比, MP520-20 強悍的 RK3588S (4大核A76 + 4小核A55) 與板載 128GB NVMe SSD 不僅解決了樹莓派 MicroSD 卡容易因頻繁讀寫損壞的痛點 (NVMe 隨機讀寫速度遠勝 MicroSD, 在 OpenClaw 頻繁讀寫本地記憶時會較順暢且不易讀寫錯誤); 兩者在執行網頁爬蟲, 無頭瀏覽器與多工 Agent 任務時的效能差距非常巨大.
不過, MP520-20 的 GPU 為 ARM Mali-G610 MP4, 支援 OpenCL / Vulkan / OpenGL 但不支援 CUDA, 而主流的開源 LLM 生態如 vLLM 與 llama.cpp 等 GPU 加速高度依賴 NVIDIA CUDA, 因此 Mali GPU 派不上用場, 無法支援本地大模型推論, 只能使用 CPU 推論, 其 8 核 CPU 跑 llama.cpp 運行 1.5B~3B 的小型量化模型還可以, 跑 7B 模型生成速度會很慢 (約 4~6 tokens/s).
如果用 MP520-20 來跑 OpenClaw 養龍蝦的話, 最好是將 MP520-20 作為 OpenClaw Agent 閘道與執行端, 大模型思考推理部分就串接雲端 API (例如 OpenAI, Claude, 或 Gemini), 如果用 CPU 去跑本地的小型量化模型效能不佳.
沒有留言 :
張貼留言