Chuyển đến nội dung chính

第 12 課:重試、死信隊列與錯誤處理

重試策略、指數退避、抖動、死信佇列設計、錯誤分類、有害訊息處理、補償邏輯和警報。

🏗️ 建築 — 第 12 課 第 12 課:重試、死信隊列與錯誤 處理

設計一個通知系統來發送數百萬封電子郵件

第 4 部分:處理規模 - 擴展到數百萬

亞洲開發網

簡介

從規模上看,錯誤不再是例外,而是系統的預設狀態。 SMTP 逾時、提供者 429、DNS 查找速度慢、Webhook 未回傳、資料庫鎖定爭用、負載資料錯誤。為了做好生產準備,您必須將錯誤處理設計為架構的核心部分。


1. 在談論重試之前先將錯誤分類

僅當錯誤是暫時的時重試才有效。如果錯誤是永久性的並且仍然重試,則您正在建立重試風暴。

錯誤分類

錯誤組範例有重試嗎?行動
臨時基礎設施網路逾時、DNS逾時是的指數退避
供應商節流HTTP 429、SMTP 421是的減速+重試
臨時信箱問題信箱已滿,灰名單有限公司緩慢重試
永久收件者失敗使用者未知,網域無效沒有標記反彈
內容/政策失敗被阻止的內容、違反政策沒有轉向手動審核
內部錯誤空白字段,錯誤的模板渲染不會立即隔離,DLQ

重要規則

  • 根據錯誤類型重試,而不是根據情緒重試。
  • 保存來自提供者的原始錯誤代碼以提供足夠的分類資料。
  • 定義從提供者錯誤到內部錯誤類別的清晰對應。

2.合理的重試策略

策略矩陣範例

錯誤類別最大重試次數延遲政策
網路逾時55 秒、15 秒、30 秒、60 秒、120 秒
供應商節流810s + 抖動,與自適應節流相關
軟彈跳315m、1小時、6小時
渲染失敗0直走 DLQ
無效的收件者0標記永久失效

帶有抖動的指數退避

import random

def next_retry_delay(base_seconds: int, attempt: int, max_seconds: int = 3600) -> int:
    delay = min(base_seconds * (2 ** (attempt - 1)), max_seconds)
    jitter = random.randint(0, max(1, delay // 4))
    return delay + jitter

for attempt in range(1, 6):
    print(attempt, next_retry_delay(5, attempt))

抖動可以幫助工作人員避免同時重試錯誤並在提供者上造成額外的高峰。


3. 重試佇列與計畫重新處理

為什麼不立即推回主隊列?

如果作業失敗並立即返回主佇列,worker 可以立即重新加載,從而導致無用的熱循環。重試需要故意超時。

熱門模特

send-queue
   │ success
   ├──────────────▶ sent-status
   │
   │ transient failure
   ▼
retry-scheduler
   │
   ├── retry in 5s
   ├── retry in 1m
   └── retry in 15m
   │
   ▼
send-queue
   │
   └── after max retry -> DLQ

Redis Sorted Set 用於延遲重試

def schedule_retry(redis_client, message_id: str, payload: dict, retry_at_epoch: int):
    redis_client.zadd(
        'email:retry:zset',
        {json.dumps({'message_id': message_id, 'payload': payload}): retry_at_epoch}
    )

一個單獨的調度程序將輪詢到期專案並將它們重新發佈到主隊列。


4.死信隊列是如何設計的?

DLQ 不是垃圾掩埋場。它是調查、修復和受控後處理的隔離區。

訊息什麼時候進入DLQ?

  • 重試次數過多。
  • 有效負載已損壞或違反架構。
  • 範本渲染錯誤重複出現。
  • 提供者回傳策略/永久失敗錯誤,但仍需要審核。
  • 未知錯誤類別沒有安全性映射。

DLQ 訊息中保留的內容

{
  "message_id": "msg_019e7a10_dead1",
  "campaign_id": "camp_flash_sale_april",
  "recipient": "[email protected]",
  "error_class": "rendering_failure",
  "error_code": "TEMPLATE_VARIABLE_MISSING",
  "error_message": "variable first_name is required",
  "attempt_count": 3,
  "last_failed_at": "2026-04-01T14:00:00Z",
  "original_payload": {
    "template_id": "flash_sale_v2",
    "variables": {"discount_code": "FLASH30"}
  }
}

DLQ 運作原理

  • DLQ 必須可依活動、提供者、錯誤類別進行搜尋。
  • 具有儀表板頂部錯誤類型。
  • 僅允許透過工具/流程控制進行再處理。
  • 如果您不了解根本原因,請勿自動重新驅動整個 DLQ。

5. 中毒訊息與隔離

有害訊息是導致工作執行緒崩潰或無法無限重複的訊息。如果不隔離的話,就會毀掉整個消費群。

如何處理

  1. 未知/內部錯誤的嘗試限制非常低。
  2. 將解析/渲染/發送步驟包裝在清晰的邊界中。
  3. 記錄 error_class = poison_message 如果工作人員在同一負載上多次失敗。 4.切換到DLQ並提醒值班工程師。

發送前的防禦性驗證

def validate_job(job):
    required_fields = ['message_id', 'recipient', 'template_id', 'campaign_id']
    missing = [field for field in required_fields if not job.get(field)]
    if missing:
        raise ValueError(f"Missing required fields: {missing}")

    if '@' not in job['recipient']['email']:
        raise ValueError('Invalid recipient email')

    return True

早期驗證有助於在錯誤深入流程之前發現錯誤。


6. 外部提供者的斷路器

當提供者遇到廣泛的錯誤時,不斷的重試只會使情況變得更糟。

狀態機很簡單

狀態意義行動
關閉普通提供者正常發送
開啟提供者錯誤超過閾值停止流量,切換到故障轉移
半開流量較少時重試恢復審查

偽代碼

class CircuitBreaker:
    def __init__(self, failure_threshold=10, recovery_seconds=60):
        self.failure_threshold = failure_threshold
        self.recovery_seconds = recovery_seconds
        self.failures = 0
        self.state = 'closed'

    def on_success(self):
        self.failures = 0
        self.state = 'closed'

    def on_failure(self):
        self.failures += 1
        if self.failures >= self.failure_threshold:
            self.state = 'open'

斷路器必須附加到提供者故障轉移策略。如果沒有替代路徑而沒有打開斷路器,則隊列仍將保持靜止。


7. 補償邏輯與一致狀態

提供者可能已收到電子郵件,但工作人員在更新資料庫之前失敗。如果沒有補償,您將不知道電子郵件是否已發送。

如何處理

  • 安裝 message_id 提供者發送的元資料的內部。
  • 接收 webhook 或回呼以協調狀態。
  • 定期進行作業協調:將出站日誌與提供者事件進行比較。
  • 對於不確定的狀態,請檢查 unknown 而不是假設失敗。

###推薦內部狀態

pending -> processing -> sent_to_provider -> delivered
                           │
                           ├-> deferred
                           ├-> bounced_permanent
                           ├-> bounced_transient
                           └-> failed_internal

8. 警報與最小運轉手冊

應該要有警告

  • 進入DLQ的消息率急劇增加。
  • 5分鐘內錯誤類別佔比超過20%。
  • 與主要提供者的斷路器開啟。
  • 重試佇列積壓增加,但吞吐量下降。
  • 出現新的未知錯誤代碼。

待命簡短操作手冊

  1. 識別新提供者、資料或已部署代碼中的錯誤。
  2. 檢查您是否需要暫停活動或故障轉移提供者。
  3. 查看 DLQ 中的頂級錯誤類別和一些範​​例負載。
  4. 只有在確認根本原因已解決後才能重新駕駛。

總結

重試和 DLQ 不是售後配件。它們是系統容忍錯誤而不造成混亂的強制性機制。好的設計必須知道如何對錯誤進行分類、有策略地重試、隔離有害訊息並留下足夠的痕跡以供調查。

下一篇文章: 我們從發送能力轉向到達收件匣的能力,即透過 SPF、DKIM、DMARC 和信譽管理實現的送達能力。