阿亮老師的大作 "養成你的 AI 龍蝦管家" 已看完前五章, 對 OpenClaw 的運作原理算是有了基本的了解. 所謂的 "養龍蝦" 可以從兩個層面來理解 : 部署位置與推理模型來源. 在部署層面, OpenClaw 可以安裝在本地設備 (如 PC, Mac Mini, 樹莓派等), 也可以部署於雲端平台 (如 GitHub Codespaces, Zeabur 等); 在推理層面, Agent 所使用的模型同樣可分為本地模型與雲端模型兩種 :
- 本地模型 :
適用於涉及機敏資料, 需要低延遲回應, 物聯網控制場景, 或希望降低 API 成本的情境. - 雲端模型 :
適用於複雜推理, 長文件分析, 高精度任務, 或處理可公開資料的場景.
透過這種部署層與推理層分離的設計, OpenClaw 可以靈活地在本地與雲端之間切換與整合, 形成混合式 (Hybrid) AI Agent 架構. OpenClaw 在結構上主要由 Channel 與 Gateway 組成, Channel 是它與外部聯繫的 UI 介面, Gateway 則是其控制中心, 但整個 AI 系統還要加上 Agent Runtime 構成一個三層架構, 如下圖所示 :
此架構圖展示了 OpenClaw 的三層設計, 使用者透過 Channel (如 Telegram, CLI, Web UI) 發送指令, 先進入 Gateway 進行驗證, 路由與狀態管理, 判斷此訊息要交給哪個 Agent 處理, 再交由 Agent Runtime 組裝提示並呼叫模型進行推理, 系統可彈性地選擇本地或雲端 LLM 作為推理引擎, 並透過 Tools 與 Nodes 執行實際操作 (例如 API 呼叫, 檔案處理或設備控制), 最終將結果回傳給使用者. Gateway 會把 Agent 的回應結果同步到所有裝置, 例如在手機問問題, 也可以在電腦 Web UI 看到 AI 的回應.
OpenClaw 主要負責對話處理, 工具調度與任務執行, 並同時管理會話狀態 (Session) 與整體工作流程的編排. 相較於 LLM 推理本身, 其 CPU 使用量通常較低, 屬於偏 I/O 與控制流的系統. 在記憶體使用方面, OpenClaw 本身為長駐服務, 閒置時大約需要數百 MB, 但實際用量會隨會話數量與工具調用而增加, 本地部署至少應配置 2~4GB RAM 以確保系統穩定運作.
以下整理關於 OpenClaw 佈署方式的比較 :
1. 本地佈署 :
本地佈署 OpenClaw 所需的機器等級取決於 LLM 是使用本地模型還是雲端模型, 如果採用雲端模型, 則對電腦等級的要求較低, 使用一般文書型 PC (例如 N100 CPU 的迷你電腦), 舊款 Mac Mini, 甚至樹莓派 Pi 4/Pi 400 都可以, 只要 DRAM 有 4GB 就綽綽有餘. 反之, 採用本地模型的電腦等級就要提高, 還要配備顯卡, 且顯示記憶體 (VRAM) 也不能太小, 最大好處是能確保資訊安全.
(1). Mac Mini :
在本機佈署 OpenClaw + 本地模型的首選是蘋果 Mac Mini, 它的 M4 晶片並不是傳統的純 CPU, 而是一顆 SoC (系統單晶片), 把 CPU, GPU, 神經網路引擎 (Neural Engine), 與頻寬高達 150 GB/s的高速記憶體通通封裝在同一個晶片內, 而且 Ollama 原生即支援 M4 GPU, 因此不必像 PC 那樣還需要獨立顯卡. Ollama 啟動時會主動偵測這顆 10 核心 GPU 並自動透過蘋果的 Metal API (類似 NVIDIA 的 CUDA) 將模型矩陣運算完全交給 GPU 處理, 不需要做任何複雜的驅動程式安裝或手動設定.
由於 Mac Mini 採用統一記憶體架構 (Unified Memory), CPU 與 GPU 共用記憶體, 扣除 macOS 運行需要的 4~6 GB 系統開銷, 如果要在 Mac Mini 跑本地中等模型 (16GB~18GB 以下), Mac Mini 的 DRAM 至少需要 24GB 以上, 這樣才能至少有 16GB 的顯示記憶體給模型使用.
蘋果網站上基本款的 Mac Mini (M4 + 16GB RAM + 256GB SSD) 售價是 26900 元, 16GB RAM 無法跑中等模型 (例如 Qwen2.5 14B 約 10GB 左右), 只要將 RAM 升級為 24GB 即可, 但需加價 7000 元, 價格來到 26900 + 7000 = 33900 元, 與買 PC + 顯卡比較起來是更經濟的方案, 參考 :
大專院校學生, 教職員或家長可以到蘋果教育商店購買 Mac Mini, 享有 3410 元折價優惠, 只要 30490 元即可 (會跳轉 UNiDAYS 網頁進行認證, 須提供學校網域的信箱) :
(2). PC 桌機 + 顯卡 :
跑模型的桌機 CPU 不需要太高檔, i5 以上即可, 但 DRAM 記憶體不要太低, 至少要 16GB 以上, 最好是 32GB 以上. 顯卡最好是 RTX 等級, 關鍵是 VRAM 不要低於 8GB, 最好是 12GB 以上才能跑中小型模型. 我兩年前買的 MSI 主機規格是 i5 CPU, 48GB RAM, 顯卡是 RTX3060 12GB VRAM.
(3). 樹莓派 :
Pi 4 或 Pi 5 都可以, 重點是 RAM 至少要 4GB 以上, OpenClaw 屬於 Agent (代理), 主要工作是邏輯調度, 瀏覽器自動化操作與記憶管理, 主要運算是發送請求給雲端模型的 API, 因此 Pi 4B 的效能是絕對夠用的. 但要注意, 由於 OpenClaw 擁有操作檔案ㄝ甚至執行終端機指令的權限, 強烈建議不要用 root 權限執行 OpenClaw, 並確保 .env 金鑰檔案隱密, 不可暴露在公網中 (要列入 .gitignore 避免上傳到 GitHub).
2. 雲端佈署 :
如果不想自備主機 (PC+顯卡, Mac Mini, 或樹莓派), 也可以考慮把 OpenClaw 佈署在雲端, 免費方案可使用 GitHub CodeSpace, 每個月有 120 小時使用時間, 分配下來平均每天可使用 4 小時. 此外它還提供 15GB 儲存空間, 搭配雲端模型 Qwen (千問, 每月 2000 次呼叫), 對於學習 OpenClaw 或一般使用來說, 此免費方案算是夠用了. 注意, 不使用 OpenClaw 時可將 CodeSpace 手動暫停, 否則超過每月 120 小時配額後會被暫停使用.
另外也可以選擇付費的雲端託管業者例如 Zeabur 來佈署, OpenClaw 官方有提供佈署範本, 可以一鍵讓 OpenClaw 在雲端跑起來. Zeabur 採按量計費制 (Pay As You Go), 讓 OpenClaw 可以 24 小時不間斷地在雲端運行, 參考 :
沒有留言 :
張貼留言