系列介紹
微調法學碩士：人工智慧調優的藝術是一門幫助您深入理解和實踐微調的課程，即針對您自己的領域、任務或品牌聲音微調大型語言模型的技術。
🎯 本課程回答的核心問題：
- 什麼時候需要微調？何時使用 RAG？什麼時候將兩者結合？
- 微調費用是多少？投資報酬率如何？
- 如何科學評估微調後的模型？
- 如何有效部署生產？
你會學到什麼？
第 1 部分：概述與策略
- 第 1 課： 什麼是微調？決策架構：快速工程→RAG→微調
- 第 2 課： 微調與 RAG — 最大的爭論，實用的決策清單
- 第 3 課： 微調成本 — 詳細價格表、投資報酬率計算器、預算規劃
第 2 部分：資料準備
- 第 4 課： 收集與設計資料集：JSONL 格式、合成資料、品質與數量
- 第 5 課： 資料清理與增強：管道清理、標記化、分割策略
第 3 部分：在 Google Gemini / Vertex AI 上進行微調
- 第 6 課： Vertex AI 設定：專案、IAM、計費、定價細目
- **第7課：**逐步微調Gemini Flash：上傳資料→訓練→部署→測試
- 第 8 課： 進階：蒸餾、超參數最佳化、多任務調優
第 4 部分：OpenAI 和開源的微調
- 第 9 課： 微調 OpenAI GPT-4o-mini：API 工作流程，與 Gemini 的比較
- 第 10 課： LoRA 和 QLoRA：在 Google Colab 上免費微調開源模型
第 5 部分：模型評估 — 方法與指標
- 第 11 課： 指標：Perplexity、BLEU、ROUGE、BERTScore — 何時使用什麼
- 第 12 課： 法學碩士法官與人類評估 — 多維度評估
- 第 13 課： 評量流程：黃金測驗集、CI/CD、A/B 測驗、紅隊
第 6 部分：生產與最佳實踐
- 第 14 課： 部署：Vertex AI 端點、vLLM、多適配器服務
- 第 15 課： 常見陷阱：災難性遺忘、過度擬合、故障排除
- 第 16 課： Capstone：針對實際用例進行端對端微調
課程特色
| 主題 | 內容 |
|---|---|
| 🔥 谷歌雙子座焦點 | Vertex AI 的 3 篇獨立文章－2025-2026 年最強大的平台 |
| 💰 實際成本 | 價目表、投資報酬率計算器、成本最佳化－不只是理論 |
| 📊科學評估 | 3 篇關於評估的文章 — BLEU、ROUGE、LLM-as-Judge、Human Eval |
| 🤔 微調 vs RAG | 完整的決策架構、案例研究、混合方法 |
| 🔧 多平台 | GoogleGemini + OpenAI + LoRA/QLoRA開源 |
| 🚀 生產就緒 | 部署、監控、A/B 測試、偏差檢測 |
需要輸入
- 中級 Python（非同步/等待、檔案 I/O、JSON 處理）
- 對LLM有基本的了解（了解提示工程、API呼叫）
- Google Cloud 帳戶（免費試用 300 美元積分足以支付整個課程）
- OpenAI 帳戶（第 9 課）
- Google Colab（第 10 課 — 免費）
使用的工具
Python 3.11+ | Ngôn ngữ chính
Google Cloud / Vertex AI | Fine-tune Gemini models
OpenAI API | Fine-tune GPT-4o-mini
Hugging Face | Transformers, PEFT, datasets
Unsloth / Axolotl | Optimized LoRA training
Weights & Biases | Experiment tracking
Google Colab | Free GPU cho hands-on
BERTScore / ROUGE | Evaluation metrics
LangSmith | LLM-as-a-Judge pipeline
比較3個AI系列
| 人工智慧與法學碩士系列 | 建構人工智慧代理 | 微調LLM | |
|---|---|---|---|
| 焦點 | 法學碩士理論 | 建設代理 | 精緻化模型 |
| 對象 | 新手 | 了解基本的法學碩士 | 了解基本的法學碩士 |
| 輸出 | 了解法學碩士 | 投資組合代理 | 客製化人工智慧模型 |
| 技術 | PyTorch、變形金剛 | LangGraph、CrewAI | 頂點人工智慧、LoRA |
| 難度等級 | ⭐⭐ | ⭐⭐⭐ | ⭐⭐⭐ |