在微軟的安全架構中,兩者分別扮演「執行階段防火牆(Runtime Firewall)」與「靜態與生命週期資料治理(Data & Compliance Governance)」的角色。
核心定位與分工對照
| 評估維度 | Azure AI Content Safety | Microsoft Purview (AI Hub / DSPM) |
| 核心定位 | 即時應用層安全網關(Guardrails) | 資料生命週期與法規遵循治理(Compliance) |
| 生效時機 | 即時/執行階段(In-line Runtime):請求進入與輸出離開模型的毫秒瞬間 | 靜態/近即時(Out-of-band / Policy Engine):資料落地、探索、授權與審計 |
| 主要防禦對象 | 惡意使用者、對抗式攻擊(Prompt Injection、越獄、生成不當內容) | 內部機密外洩、權限過度開放(Over-permissioning)、法規違規 |
| 核心防護功能 | • Prompt Shields(直接/間接注入防禦) • 內容審核(暴力、仇恨、自殘、色情) • Groundedness Detection(防幻覺) • Protected Material Detection(版權碼過濾) | • Data Security Posture Management (DSPM for AI) • 敏感資訊類型(SIT)標記與 DLP 阻斷 • 影子 AI(Shadow AI)探索與用量審計 • 存取權限分析(防 Copilot 讀取高風險 SharePoint) |
| 典型架構位置 | 介於用戶端與 LLM/RAG 之間(常整合於 APIM 或應用程式碼) | 覆蓋企業資料資產(M365、Azure Blob、Fabric、AWS/GCP 等) |
| 主要管理者 | 雲端安全工程師(Cloud SecOps)、AI 應用架構師 | 資料治理長(CDO)、合規主管、資安長(CISO) |
兩者在實務架構中的協同運作流程
- 事前準備(Purview 主導):
- Purview 掃描企業內部資料湖與 SharePoint,將包含財務報表、客資的文件打上「Confidential / Highly Confidential」敏感度標籤(Sensitivity Labels)。
- 透過 Purview DSPM for AI 檢查是否有過度共用(Over-shared)情況,避免 RAG 檢索管線將未授權敏感文件餵給生成模型。
- 執行中互動(Content Safety 主導):
- 使用者發送請求,Content Safety Prompt Shields 第一時間攔截意圖越獄(Jailbreak)或提示詞注入(Prompt Injection)的惡意指令。
- 模型生成回答時,Content Safety 即時檢查內容是否具備接地性(Groundedness),並過濾不當言論或版權程式碼。
- 事後稽核與合規(Purview + Sentinel 閉環):
- 若使用者在 Prompt 中輸入了企業敏感代碼,Purview AI Hub 會記錄此行為並判定為潛在資料外洩(Data Exfiltration),觸發內部合規告警。
- 所有 Content Safety 攔截日誌與 Purview 稽核事件統一送入 Microsoft Sentinel,由 SOC 進行跨層面的關聯威脅分析。