系列介紹
MLOps 和 LLMOps：將 AI 引入生產 是為那些想要 彌合「在 Jupyter 筆記本上運行的 AI」和「在生產中為數百萬用戶提供服務的 AI」之間的差距的人開設的課程。
🎯 殘酷的現實： 87% 的機器學習專案 從未投入生產。 MLOps/LLMOps 是让您获得13% 成功的技能组合，也是人工智能领域薪酬最高的技能。
你會學到什麼？
第 1 部分：MLOps 基礎知識
- 第 1 課： 什麼是 MLOps？ ML 生命週期、Google 成熟度等級
- 第 2 課： 實驗追蹤：MLflow & 權重 & 偏差
- 第 3 課： 資料版本控制 (DVC) 與特徵儲存（盛宴）
第 2 部分：模型管理與部署
- 第 4 課： 模型註冊、版本控制和打包
- 第 5 課： ML 的 CI/CD：測驗、驗證、自動再訓練
- 第 6 课： 基础设施：Docker、Kubernetes、云机器学习平台
第 3 部分：LLMOps
- 第 7 課： 🔥 LLMOps 與 MLOps — 範式轉移
- 第 8 課： 及時管理和 A/B 測試
- 第 9 課： 🔥 LLM 可觀察性：LangSmith、Langfuse、Arize
第 4 部分：卓越生產
- 第 10 課： 成本優化：快取、路由、量化
- 第 11 課： 護欄、安全與合規（歐盟人工智慧法案）
- 第 12 課： 頂點：從頭開始建立 ML 平台
需要輸入
- 高級Python（非同步、裝飾器、類別、測試）
- 對 ML/DL（訓練、評估、推理）的基本了解
- 基本 Docker（dockerfile、docker-compose）
- 擁有 1 個以上 ML/LLM 專案的實務經驗是一大優勢
使用的工具
Python 3.11+ | Ngôn ngữ chính
MLflow | Experiment tracking & registry
Weights & Biases | Advanced experiment tracking
DVC | Data version control
Docker / K8s | Containerization & orchestration
GitHub Actions | CI/CD pipelines
LangSmith / Langfuse | LLM observability
FastAPI | Model serving API
Grafana / Prometheus | Monitoring dashboards
比較所有AI系列
| 人工智慧與法學碩士 | 建設代理 | 微調 | 提示工程師。 | 抹布 | 電腦視覺 | MLOps | |
|---|---|---|---|---|---|---|---|
| 焦點 | 理論 | 代理應用程式 | 精煉 | 技能提示 | 私人資料 | 照片/影片 | 生產 |
| 对象 | 初学者 | 中级 | 中级 | 大家 | 中级 | 中级 | 高级 |
| **需要程式碼嗎？ ** | 蟒蛇 | 蟒蛇 | 蟒蛇 | 可選 | 蟒蛇 | 蟒蛇 | Python + 開發營運 |
| 難度等級 | ⭐⭐ | ⭐⭐⭐ | ⭐⭐⭐ | ⭐→⭐⭐⭐ | ⭐⭐⭐ | ⭐⭐⭐ | **⭐⭐⭐ |