第 3 課：視覺編碼器 — ViT、DINOv2 及其他

多模態人工智慧：結合視覺、語言等

第 1 部分：多模式學習平台

亞洲開發網

簡介

視覺變壓器（ViT）。 DINOv2 自我監督。 SigLIP 視覺編碼器。多模態特徵提取。補丁嵌入。

---

1. 概述

關鍵概念

視覺編碼器 — ViT、DINOv2 及其他是現代人工智慧領域的一個重要主題。

---

2. 架構與原理

核心架構

# Example implementation
import torch
import torch.nn as nn

class ExampleModel(nn.Module):
    def __init__(self, input_dim, output_dim):
        super().__init__()
        self.net = nn.Sequential(
            nn.Linear(input_dim, 256),
            nn.ReLU(),
            nn.Dropout(0.2),
            nn.Linear(256, 128),
            nn.ReLU(),
            nn.Linear(128, output_dim),
        )
    
    def forward(self, x):
        return self.net(x)

---

3. 練習

設定

pip install torch transformers datasets

訓練管道

# Training loop
model = ExampleModel(input_dim=768, output_dim=10)
optimizer = torch.optim.AdamW(model.parameters(), lr=1e-4)
criterion = nn.CrossEntropyLoss()

for epoch in range(10):
    for batch in train_loader:
        optimizer.zero_grad()
        outputs = model(batch["input"])
        loss = criterion(outputs, batch["label"])
        loss.backward()
        optimizer.step()

---

4. 最佳實踐

方面	推薦
數據	品質重於數量
型號	從簡單開始，擴大規模
培訓	監控損耗曲線
評價	使用適當的指標

---

總結

概念	重點
建築	適合問題
培訓	仔細調整超參數
評價	多個指標