xDev Asia

GoogleのResponsible AI原則。Vertex AI Explainability（SHAP、IG）。公平性指標。プライバシー：差分プライバシー、連合学習。 IAM、VPC-SC、CMEKによるMLワークロードの保護。

Google Cloud Professional Machine Learning Engineer 試験対策

領域5：Responsible AIと復習

xdev.asia

1. GoogleのResponsible AI原則

原則	主な要件
社会的に有益	社会と個人に利益をもたらす
不公平なバイアスの回避	人口統計グループ間で公平性をテスト
安全性	多様なシナリオでテスト、継続的な評価
説明責任	適切な人間の監視と制御
プライバシー保護	トレーニングデータのプライバシーを保護
科学的卓越性	厳格な研究基準
有益な用途に利用可能	主要な利益基準

2. Vertex AI Explainability

Vertex AI Explainabilityは特徴量アトリビューションスコアを提供し、モデルが特定の予測を行った理由を説明します。

手法	対象	仕組み
SHAP（Shapley Values）	テーブルモデル	ゲーム理論：各特徴量の貢献度
Integrated Gradients（IG）	ニューラルネットワーク（画像、テキスト）	ベースラインから入力への勾配累積
XRAI	画像モデル	ピクセル領域のアトリビューション（IGよりUXが優れている）
Sampled Shapley	大規模テーブルデータセット	近似SHAP、より高速

試験のヒント： 「ローンが拒否された理由を説明」→ テーブルモデル向けSHAP。「分類を左右した画像領域をハイライト」→ Integrated GradientsまたはXRAI。Vertex AI Explainabilityはエンドポイントのデプロイ時に有効化する必要があります。

3. 公平性とバイアス検出

ツール/概念	説明
Fairness Indicators	GCPツール：人口統計スライス間でモデルの公平性メトリクスを評価
What-If Tool	モデル動作のインタラクティブな探索、反事実分析
Demographic parity	人口統計グループ間で同じ予測率
Equal opportunity	グループ間で同じRecall/TPR
データスライス評価	TFX Evaluatorで性別、人種、年齢ごとにメトリクスを評価

4. プライバシー技法

技法	説明
差分プライバシー	トレーニングデータ/モデルに統計的ノイズを追加、個人データの再識別を防止
連合学習	生データを集中化せずに分散データでトレーニング — モデル更新のみ
データ匿名化	トレーニング前にPIIを削除（Cloud DLP API）

5. MLワークロード向けセキュリティ制御

制御	目的
IAMロール	MLサービスアカウントの最小権限アクセス
VPC Service Controls（VPC-SC）	セキュリティ境界：BigQuery、GCSからのデータ流出を防止
CMEK（顧客管理暗号化キー）	Cloud KMS経由で暗号化キーを制御
Vertex AI用プライベートIP	トレーニングとエンドポイントがプライベートネットワーキングを使用
Cloud Audit Logs	誰がどのデータにいつアクセスしたか（Data Access + Admin Activity）

VPC Service Controls Perimeter:

┌────── Security Perimeter ─────────┐
│  BigQuery  │  Cloud Storage       │
│  Vertex AI │  Cloud KMS           │
│  Dataflow  │  Secret Manager      │
└──────────────────────────────────┘
         │ (no exfiltration outside perimeter)
         ✗ Unauthorized access blocked

6. 練習問題

Q1： 金融サービス企業がローン審査MLモデルをデプロイしました。規制当局は、特定のローン申請が拒否された理由を説明することを要求しています。テーブルモデルの予測ごとの特徴量重要度スコアを提供するVertex AI機能はどれでしょうか？

A) Vertex AI Experiments
B) SHAPを使用したVertex AI Explainability ✓
C) Vertex AI Model Monitoring
D) Fairness Indicators

解説：Shapley Values（SHAP）を使用したVertex AI Explainabilityは、各個別の予測に対して各特徴量に重要度スコアを割り当て、credit_score、income、debt_ratioなどの特定の入力特徴量にモデルの決定を帰属させることで、特定のローンが拒否された理由を説明します。

Q2： ヘルスケア企業が、複数の病院に分散された患者データでMLモデルをトレーニングする必要があります。データプライバシー規制により、生の患者記録の集中化は禁止されています。どのプライバシー保護MLアプローチを使用すべきでしょうか？

A) 中央集中型トレーニングでの差分プライバシー
B) 連合学習 ✓
C) データ匿名化 + BigQuery ML
D) Cloud DLPの非識別化

解説：連合学習は、生データを中央の場所に移動せずに分散データでモデルをトレーニングします。各病院は自身のデータでローカルにトレーニングし、モデル更新（勾配）のみが共有・集約されます。生の患者記録は病院の環境を離れません。

Q3： 企業がMLトレーニング用にBigQueryで機密金融データを処理しています。承認されたセキュリティ境界外の未承認GCPプロジェクトへのデータ移動を防ぐ必要があります。どのGCP機能を実装すべきでしょうか？

A) Cloud KMS CMEK暗号化
B) VPC Service Controls（VPC-SC）境界 ✓
C) IAMロール拒否ポリシー
D) Cloud Armor WAF