第 9 課：在 OpenAI 上微調 — GPT-4o-mini 和 GPT-4o

微調 LLM：AI 調優的藝術

第 4 部分：在 OpenAI 和其他平台上進行微調

亞洲開發網

簡介

OpenAI 是最受歡迎的微調平台——龐大的生態系統、良好的文檔，但推理比Google更昂貴。本文比較的是動手操作。

---

1. OpenAI 微調工作流程

from openai import OpenAI
client = OpenAI()

# Upload dataset
file = client.files.create(file=open("data.jsonl","rb"), purpose="fine-tune")

# Create fine-tuning job
job = client.fine_tuning.jobs.create(
    training_file=file.id,
    model="gpt-4o-mini-2024-07-18",
    hyperparameters={"n_epochs": 3}
)

# Monitor
while True:
    status = client.fine_tuning.jobs.retrieve(job.id)
    print(f"Status: {status.status}")
    if status.status in ["succeeded", "failed"]:
        break
    time.sleep(60)

# Use fine-tuned model
response = client.chat.completions.create(
    model=status.fine_tuned_model,
    messages=[{"role": "user", "content": "Test query"}]
)

2. OpenAI 與 Google — 何時使用什麼？

	開放人工智慧	Google頂點人工智慧
訓練費用	3.00 美元/100 萬代幣（迷你）	~$0.40/1M 代幣
推理成本	2 倍基本價格	等於底價
生態系	最大	開發中
易於使用	很容易	需要 GCP 設定
最適合	小規模原型	大規模生產

---

總結

• OpenAI微調很簡單：上傳→建立作業→等待→使用
• 推理比基本模型昂貴 2 倍——需要仔細計算以進行生產
• 使用 OpenAI 進行原型，轉向 Google 進行生產規模

練習

1. 使用與 Gemini 相同的資料集微調 GPT-4o-mini
2. 比較輸出品質：Gemini FT 與 OpenAI FT 3.成本比較：訓練+30天推理
3. 結論：哪個提供者適合您的用例？