系列介紹
本系列專為已能在本地基本運行 LLM 的開發者設計，協助您提升到正式的工程等級——具備清晰的架構、穩定的 API、可靠的 RAG、品質指標與上線檢查清單。
這不是快速 demo 教學。每堂課都基於內部團隊使用本地 AI 技術棧的實際需求。
您將學到
- 設計 AI 產品的本地優先架構
- 以開發團隊標準在 Mac 上建構 Gemma 4 技術棧
- 建立 API 閘道、prompt contract 與輸出 schema
- 建構從 ingestion 到混合檢索的越南語 RAG 管線
- 使用 eval framework 與運維可觀測性衡量品質
- 在內部部署前強化系統
先決條件
- 搭載 Apple Silicon 的 Mac（M1 以上），建議 24GB 以上 RAM
- 基本的 Terminal 與 Git 使用經驗
- Python 或 TypeScript 基礎知識
- 理解 API、JSON、HTTP
原始碼
本系列所有 demo 程式碼：
完成系列後的成果
完成本系列後，您將能為團隊建構一個迷你本地 AI 平台：
- 為非技術使用者提供的聊天 UI
- 內部應用程式的 API
- 具引用功能且品質穩定的 RAG
- 監控與受控的發佈流程