在 Mac 上利用 Ollama 與 OpenCode 構建本地 LLM 開發環境
為何重要
軟體最佳化（如 mlx）與硬體效能的結合，使得在 Mac 上執行工程級稠密模型成為可能。這不僅降低了開發端對雲端 GPU 的依賴，也顯示本地 AI 開發工具鏈正在從「玩票」走向實戰，對於尋求私有化部署的開發者與 MLoP（機器學習運作流程）工具供應商具有實際參考價值。
隨著 Qwen 3.8 和 Gemma 4 等強大模型的出現，本地 LLM 開發已具備實用性，本文詳述瞭如何在 Apple Silicon 硬體上進行部署與執行。
- 推薦使用 48GB 空間的 MacBook Pro 作為開發節點，該裝置可順暢執行 30B 引數等級的稠密模型。
- Ollama 提供原生 Apple Silicon (
mlx) 加速，本文從中拉取了 Qwen 3.8 27B mxfp8 (32GB) 與 Gemma 4 31b mxfp8 (34GB) 兩款模型。 - 為防範模型幻覺影響系統，採用 Opencode 與 Docker sandbox (sbx) 環境，其中 Qwen 模型的上下文被限制在 64k，並需預留 3GB 空間給 sandbox。