簡介
筆記型電腦中只有一個好的模型是不夠的。利害關係人需要了解模型做出決策的原因，組織也需要知道模型是否有偏差。這就是可解釋性和公平性變得至關重要的地方。
課程目標
- 了解局部可解釋性和全局可解釋性之間的差異。
- 了解如何在入門級別使用排列重要性或 SHAP。
- 了解如何在部署之前提出公平性問題。
向誰解釋？
- 資料科學家需要調試模型。
- PM 需要了解哪些特徵會影響結果。
- 專業利害關係人需要簡單、值得信賴的故事。
- 最終使用者可能需要特定的原因來進行單獨的預測。
兩個層次的解釋
- 全域可解釋性：模型通常依賴哪些因素？
- 局部可解釋性：為什麼特定樣本會被這樣預測。
公平不是次要選擇
如果模型影響人類決策，您應該測試每個使用者群組的效能、每個群組的誤報或漏報率，以及哪些特徵可以作為敏感屬性的代理。
如何向利害關係人展示
- 避免冗長的公式。
- 使用 3 到 5 個最有影響力的特徵。
- 清楚說明模型的置信度和限制。
- 坦率地陳述偏見的風險。
常見錯誤
- 濫用 SHAP 圖表而不了解其本質。
- 將可解釋性與證明因果關係混為一談。
- 僅在部署後檢查公平性。
練習練習
- 選擇經過訓練的分類模型。
- 建立排列重要性或 SHAP 摘要。
- 檢查 2 個不同使用者群組的指標。
- 寫下解釋，就像你向 PM 做示範一樣。
完成標準
- 區分全局可解釋性和局部可解釋性。
- 至少了解一項基本的公平性檢查。
- 呈現非技術利害關係人仍可理解的結果。
逐步練習（進階）
- 選擇經過訓練的模型和固定的驗證集。
- 計算5個樣本的全域重要性和局部解釋。 3.將資料分為2-3個用戶組，比較公平性。
- 按組記錄度量差異。
- 準備道德風險備忘錄和控制建議。
應提交工件
- 1-2 頁的可解釋性報告。
- 按組別劃分的公平性指標表。
- 按優先順序減少偏見的行動清單。
自測題
- 為什麼可解釋性不能證明因果關係？
- 多少公制差異令人震驚？
- 我什麼時候應該因為公平風險而拒絕部署？