OpenAI推出「Privacy Filter」模型，專為PII偵測與遮罩設計，小型高效且Apache 2.0授權

OpenAI推出「Privacy Filter」模型，專為PII偵測與遮罩設計，小型高效且Apache 2.0授權。

OpenAI於Hugging Face發布「Privacy Filter」，這款雙向token分類模型針對文字中的個人識別資訊（PII）進行偵測與遮罩，適用於高吞吐量資料清理工作流程，強調可在本地運行、快速、具脈絡意識且可微調。模型從gpt-oss架構衍生，總參數1.5B、活躍參數50M，能在瀏覽器或筆電上運作，支援128,000 token的長脈絡視窗，無需切割長文本。

模型架構與訓練流程
模型先以自迴歸方式預訓練，達到類似gpt-oss的檢查點（小型化），再轉換為雙向token分類器，使用監督分類損失進行後訓練。相較逐token生成文字，此模型單次前向傳遞即可標記輸入序列，並以受限Viterbi程序解碼連貫片段。
架構為pre-norm transformer編碼器式堆疊，包括：

• token嵌入
• 8個重複transformer區塊
• 分組查詢注意力（grouped-query attention），配rotary位置嵌入，14個查詢頭與2個KV頭（每KV頭分組7個查詢）
• 稀疏混合專家（MoE）前饋區塊，總128個專家（每token top-4路由）
• 最終token分類頭，針對隱私標籤（而非自然語言詞彙），殘差流寬度d_model=640
  帶寬注意力大小128（有效注意力視窗257 token，包括自身）。這設計相較迭代自迴歸方法，提升吞吐量；相較傳統遮罩語言模型預訓練，則是自迴歸模型的後訓練轉換，而非原生遮罩LM設定。

偵測類別與輸出形狀
模型偵測8種隱私片段類別：account_number、private_address、private_email、private_person、private_phone、private_url、private_date、secret。
每個非背景類別擴展為BIOES邊界標記：B-（開始）、I-（內部）、E-（結束）、S-（單token），加上背景類O，總計33個token級輸出類別。
每個token輸出33個logits，序列長T時形狀[T, 33]，批次B時[B, T, 33]。推論時，使用受限序列解碼將per-token logits轉為連貫BIOES片段標籤。

序列解碼機制
token分類器產生per-token logits後，採用線性鏈轉移評分（linear-chain transition scoring）的受限Viterbi解碼器，而非獨立argmax。此解碼器強制BIOES邊界轉移，並以起始、轉移、結束項加6個轉移偏差參數評分完整標籤路徑，控制背景持續、片段進入、延續、結束及邊界移交。
此全球路徑最佳化提升片段連貫性和邊界穩定，尤其在雜訊或混合格式文字中，避免局部決定導致碎片化或不一致邊界。使用者可透過運行時參數調校精確率/召回率權衡，例如鼓勵片段進入與延續以提升召回，或反之提升精確率。

效能亮點與使用優勢

• Apache 2.0寬鬆授權：適合實驗、客製化與商業部署。
• 小型化：1.5B總參數、50M活躍參數，可在網頁瀏覽器或筆電運行。
• 可微調：輕鬆且資料高效適應特定資料分布。
• 長脈絡：128,000 token視窗，高吞吐量處理長文本無需切割。
• 運行控制：預設操作點調整精確率/召回率及偵測片段長度。
  主要針對英文，具部分多語言穩健性評估，由OpenAI開發與分享。

風險與限制
模型僅為資料最小化輔助，非匿名化、合規或安全保證，過度依賴恐錯失隱私目標，應作為端到端隱私設計多層之一。標籤政策靜態，僅識別訓練分類法匹配的個人資料片段，真實隱私情境複雜多變，預設定義可能不符組織治理需求，需微調調整；無法運行時動態配置標籤政策。
非英文文字、非拉丁文腳本、受保護群體命名模式或分布外領域效能下降。失敗模式包括：

• 低偵測罕見人名、地區命名慣例、首字母、頭銜密集引用或領域特定識別碼。
• 過度遮罩公開實體、組織、地點或常見名詞（脈絡曖昧時）。
• 混合格式文本、長文件或標點密集布局導致碎片/偏移邊界。
• 錯過新型憑證格式、專案特定token模式或跨語法分散的secret。
• 過度遮罩良性高熵字串、佔位符、雜湊、範例憑證或合成範例。
  這些限制受人口統計、地區與領域變異影響，訓練資料低代表性或慣例不同的名稱/識別碼易被錯過或邊界不一致。

高風險部署警示
醫療、法律、金融、人資、教育、政府等工作流程需格外謹慎，假陰性（錯過片段）暴露敏感資訊，假陽性（過度遮罩）移除審核、稽核或決策所需脈絡，均成本高昂。

使用建議

• 作為整體隱私設計一部分，而非全面匿名化聲稱。
• 生產前以本地政策參考進行領域內評估。
• 政策異於基線時，使用任務特定微調。
• 高敏感工作流程保留人工審核路徑。
  此模型強調務實輔助而非萬靈丹，忠實反映OpenAI對其侷限的坦率警示，避免使用者誤信其為完美解決方案。