比較 Azure AI Content Safety 與 Microsoft Purview 的 AI 治理分工


在微軟的安全架構中,兩者分別扮演「執行階段防火牆(Runtime Firewall)」與「靜態與生命週期資料治理(Data & Compliance Governance)」的角色。

核心定位與分工對照

評估維度Azure AI Content SafetyMicrosoft Purview (AI Hub / DSPM)
核心定位即時應用層安全網關(Guardrails)資料生命週期與法規遵循治理(Compliance)
生效時機即時/執行階段(In-line Runtime):請求進入與輸出離開模型的毫秒瞬間靜態/近即時(Out-of-band / Policy Engine):資料落地、探索、授權與審計
主要防禦對象惡意使用者、對抗式攻擊(Prompt Injection、越獄、生成不當內容)內部機密外洩、權限過度開放(Over-permissioning)、法規違規
核心防護功能• Prompt Shields(直接/間接注入防禦)
• 內容審核(暴力、仇恨、自殘、色情)
• Groundedness Detection(防幻覺)
• Protected Material Detection(版權碼過濾)
• Data Security Posture Management (DSPM for AI)
• 敏感資訊類型(SIT)標記與 DLP 阻斷
• 影子 AI(Shadow AI)探索與用量審計
• 存取權限分析(防 Copilot 讀取高風險 SharePoint)
典型架構位置介於用戶端與 LLM/RAG 之間(常整合於 APIM 或應用程式碼)覆蓋企業資料資產(M365、Azure Blob、Fabric、AWS/GCP 等)
主要管理者雲端安全工程師(Cloud SecOps)、AI 應用架構師資料治理長(CDO)、合規主管、資安長(CISO)

兩者在實務架構中的協同運作流程

  1. 事前準備(Purview 主導)
    • Purview 掃描企業內部資料湖與 SharePoint,將包含財務報表、客資的文件打上「Confidential / Highly Confidential」敏感度標籤(Sensitivity Labels)。
    • 透過 Purview DSPM for AI 檢查是否有過度共用(Over-shared)情況,避免 RAG 檢索管線將未授權敏感文件餵給生成模型。
  2. 執行中互動(Content Safety 主導)
    • 使用者發送請求,Content Safety Prompt Shields 第一時間攔截意圖越獄(Jailbreak)或提示詞注入(Prompt Injection)的惡意指令。
    • 模型生成回答時,Content Safety 即時檢查內容是否具備接地性(Groundedness),並過濾不當言論或版權程式碼。
  3. 事後稽核與合規(Purview + Sentinel 閉環)
    • 若使用者在 Prompt 中輸入了企業敏感代碼,Purview AI Hub 會記錄此行為並判定為潛在資料外洩(Data Exfiltration),觸發內部合規告警。
    • 所有 Content Safety 攔截日誌與 Purview 稽核事件統一送入 Microsoft Sentinel,由 SOC 進行跨層面的關聯威脅分析。

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *