系列介紹
您是否擁有 M 晶片 Mac，但仍每月支付 ChatGPT 或 Anthropic 費用？
本系列將教您在機器上完全本地運行人工智慧：沒有互聯網，沒有 API 金鑰，沒有月費，而且資料永遠不會離開機器。
得益於統一記憶體架構，Apple Silicon 成為當今最好的本地推理平台之一。配備 16GB 或 32GB RAM 的 MacBook 可以比許多人想像的更流暢地運行許多 7B 到 30B 型號。
你會學到什麼？
- 安裝並操作Ollama以在本機上執行LLM
- 整合Apple的MLX以加速推理
- 透過 REST API 從 Python、JavaScript 或任何語言呼叫模型
- 建立聊天機器人、視覺應用程式、嵌入本地運行的管道
- 優化記憶體、並發和自訂AI助手
先決條件
- 配備 Apple Silicon 晶片（M1 或更高版本）的 Mac
- RAM 16GB 或以上，如果運行大型型號，建議使用 32GB
- macOS Ventura 13.3+ 或更高版本
- 了解基本終端
- 遵循練習的基本 Python
為什麼你應該學習這個系列？
2026年，本地運行AI的能力對開發者來說是一項非常實用的技能：
- 隱私：代碼、數據和聊天不會離開設備
- 成本：幾乎為 0 美元，而不是每月 API 租金 3.速度：對於重複性任務，本地延遲通常低於雲端 4、離線：無網路時仍可運作
- 客製化：輕鬆建立自己的工作流程、您自己的模型檔案、您自己的堆疊