01
檢查項
五項風險檢查
Check 1
過度迎合
對話設計是否傾向附和使用者的既有推論,削弱其查證動機。
Check 2
錯誤安撫升級
負面情緒是否總是被即時安撫,形成安撫依賴的迴圈。
Check 3
擬人化與角色邊界
提示詞與人格設定是否誘發使用者投射情感需求。
Check 4
依附誘導
互動設計是否以延長使用為目標,誘發單向親密感。
Check 5
拒答與轉介不穩
高風險話題的拒答與轉介是否一致、可預期。
02
適用產品
什麼產品需要這項審閱
Companion
AI 陪伴產品
虛擬伴侶、社交機器人、情感支持對話介面。使用者容易形成不對等依附。
Coach
AI 教練與導師
職涯教練、人生指導、決策輔助對話產品。判斷權可能逐步讓渡。
Support
AI 客服情緒層
帶情緒偵測與同理回應的客服模組。安撫過程可能削弱查證意願。
Wellbeing
心理健康聊天機器人
情緒支持或自助引導產品。需審閱錯誤安撫與邊界模糊的風險結構。
不在清單上、但涉及深度對話互動的產品,仍可來信討論。
03
方法
怎麼審
多情境測試,全程留存可回放證據。每項發現附發生條件、重現率與版本快照,你的團隊可以自行驗證。
04
交付
交付什麼
8 到 15 頁審閱報告:執行摘要、風險矩陣、逐項發現卡含重現條件與替代文案、修正優先序全稱(必改、30 日內改善、下一版處理)、修正建議三層,加一場交付討論會議。
於約定時限內書面交付。
05
深度
兩個深度
單版本審閱
一次性深檢。針對當前部署版本的對話流做完整審閱。
週期治理審查
上線後的持續層:重大更新再驗證、月度監修、事件回顧。
“審核的單位是部署版本。模型沒換,產品也可能已經變了。”
週期治理審查的制度背景,見治理提案。
06
脈絡
為什麼是現在
2026-06-12
42 位美國州檢察長組成聯盟對 OpenAI 展開調查,傳票要求的紀錄明文包含 model sycophancy。
2027-01-01 生效
紐約州 S9051B 兩院全票通過(參議院 60 比 0、眾議院 137 比 0),把 sycophancy 明文列為安全違規。
審閱報告可作為內部風險管理紀錄,非對第三人的安全背書。
07
準備
提交前準備三項
一
產品對話腳本,或可供測試的入口。
二
目標使用者與使用情境說明。
三
已知風險與過往事件摘要。
需要時先簽 NDA,不另收費。