Bài 9: Fine-tune trên OpenAI — GPT-4o-mini & GPT-4o

Fine-tuning LLM: Nghệ thuật Tinh chỉnh AI

Phần 4: Fine-tuning trên OpenAI & các Platform khác

xdev.asia

Giới thiệu

OpenAI là platform fine-tuning phổ biến nhất — ecosystem lớn, documentation tốt, nhưng inference đắt hơn Google. Bài này so sánh hands-on.

---

1. OpenAI Fine-tuning Workflow

from openai import OpenAI
client = OpenAI()

# Upload dataset
file = client.files.create(file=open("data.jsonl","rb"), purpose="fine-tune")

# Create fine-tuning job
job = client.fine_tuning.jobs.create(
    training_file=file.id,
    model="gpt-4o-mini-2024-07-18",
    hyperparameters={"n_epochs": 3}
)

# Monitor
while True:
    status = client.fine_tuning.jobs.retrieve(job.id)
    print(f"Status: {status.status}")
    if status.status in ["succeeded", "failed"]:
        break
    time.sleep(60)

# Use fine-tuned model
response = client.chat.completions.create(
    model=status.fine_tuned_model,
    messages=[{"role": "user", "content": "Test query"}]
)

2. OpenAI vs Google — Khi nào dùng gì?

	OpenAI	Google Vertex AI
Training cost	$3.00/1M tokens (mini)	~$0.40/1M tokens
Inference cost	2x base price	Bằng base price
Ecosystem	Lớn nhất	Đang phát triển
Ease of use	Rất dễ	Cần GCP setup
Best for	Prototype, small scale	Production, large scale

---

Tóm tắt

• OpenAI fine-tuning đơn giản: upload → create job → wait → use
• Inference đắt hơn 2x base model — cần tính kỹ cho production
• Dùng OpenAI cho prototype, chuyển Google cho production scale

Bài tập

1. Fine-tune GPT-4o-mini với cùng dataset đã dùng cho Gemini
2. So sánh output quality: Gemini FT vs OpenAI FT
3. So sánh chi phí: training + 30 ngày inference
4. Kết luận: provider nào phù hợp cho use case của bạn?