xDev Asia

詳細な料金リスト: Google Gemini、OpenAI、Anthropic、セルフホスト。トレーニングコストをトークン × エポックで計算します。推論コストの比較。 ROI 計算ツール。予算計画テンプレート。

LLM の微調整: AI チューニングの技術

パート 1: 概要と戦略 — いつ微調整するか?

xdev.asia

はじめに

微調整は無料ではありませんが、思っているほど高価でもありません。この記事は、コミットする前にコストと ROI を 正確に 計算するのに役立ちます。

1. トレーニング費用の計算式

Chi phí Training = (Số tokens trong dataset) × (Số epochs) × (Giá per token)

簡単な計算例

データセット: 500 例 × ~500 トークン/例 = 250,000 トークン
エポック: 3
トレーニングトークンの合計: 250,000 × 3 = 750,000 トークン

2. 比較価格表 (2025 ～ 2026 年)

プロバイダー	モデル	トレーニング費用	推論コスト
Google Vertex AI	ジェミニ 2.0 フラッシュ	~$0.40/100 万トークン	ベースモデル別
OpenAI	GPT-4o-mini	$3.00/100万トークン	2x 基本モデル
OpenAI	GPT-4o	$25.00/100万トークン	2x 基本モデル
セルフホスト	LLaMA 3 (LoRA)	GPU コスト (~1 ～ 3 ドル/時間)	ホスティング費用のみ

Google Vertex AI — 最大の利点

トレーニングは OpenAI よりも安価です
推論による値上げはありません — これはゲームチェンジャーです
無料トライアル数十回の微調整に十分な 300 ドルのクレジット

3. ROI 計算ツール

def calculate_roi(
    training_cost: float,
    queries_per_day: int,
    prompt_tokens_saved: int,  # Nhờ FT, system prompt ngắn hơn
    price_per_1m_tokens: float,
    days: int = 30
):
    daily_savings = queries_per_day * prompt_tokens_saved * price_per_1m_tokens / 1_000_000
    total_savings = daily_savings * days
    roi_days = training_cost / daily_savings if daily_savings > 0 else float('inf')
    return {
        "training_cost": f"${training_cost:.2f}",
        "monthly_savings": f"${total_savings:.2f}",
        "break_even_days": f"{roi_days:.0f} ngày",
        "6_month_net": f"${total_savings * 6 - training_cost:.2f}"
    }

# Ví dụ: Fine-tune tiết kiệm 2000 tokens/query system prompt
print(calculate_roi(
    training_cost=50,
    queries_per_day=5000,
    prompt_tokens_saved=2000,
    price_per_1m_tokens=0.15  # GPT-4o-mini input
))
# → Break even: ~33 ngày, 6-month net savings: ~$220

4. 隠れたコスト — 隠れたコスト

コスト	説明	見積もり
データ準備	データの収集、クリーニング、ラベル付け	エンジニアリング時間 2 ～ 20 時間
評価	テスト、反復、再トレーニング	5 ～ 15 時間のエンジニアリング
メンテナンス	データが変更されたときに再トレーニングする	月に 2 ～ 5 時間
機会費用	その他の非勤務時間	チームによる

5. 予算計画テンプレート

┌─────────────────────────────────────┐
│  FINE-TUNING BUDGET PLANNER         │
├─────────────────────────────────────┤
│  Phase 1: Data Prep      $0–$200   │
│  Phase 2: Training v1    $10–$100  │
│  Phase 3: Evaluation     $5–$50   │
│  Phase 4: Iterations ×3  $30–$300 │
│  Phase 5: Production     $0–$100  │
│  ───────────────────────────────── │
│  TOTAL                   $45–$750  │
│  (Typical: ~$200)                  │
└─────────────────────────────────────┘

概要

コスト = トレーニングトークン × エポック × トークンあたりの価格
推論用の最も安価な Google Vertex AI (値上げなし)
微調整されたモデルの場合、OpenAI 推論は 2 倍高価になります
データの準備、評価、メンテナンスなどの隠れたコストを常に計算します
プロンプトの長さが短縮された場合、微調整により費用を節約できます

演習

ユースケースに応じて微調整コストを計算します (ROI 計算ツールを使用します)。
比較: 同じデータセットサイズの Google と OpenAI
損益分岐点を計算します。微調整を行って「元を取る」にはどれくらいの時間がかかりますか?
チーム/マネージャー向けの予算案を作成する

レッスン 3: コストの微調整 — 開始する前に ROI を計算する