arXiv
聊天機器人的防護機制對伴侶虐待放寬了標準
聊天機器人的防護機制，在有害要求被描述成來自親密關係，而不是陌生人時，可能會變得薄弱。作者讓六個對話式 AI 系統各自處理 1,600 個虛構提示，發現只改變關係標籤，就讓原本拒絕率都很高的兩個系統大幅增加不拒絕的情況。在關係諮詢應用程式中，只有在產生說詞前先辨識出脅迫，才能消除這個差距。
想知道如何為追蹤伴侶位置辯解的人，可能不會得到警告。系統反而可能幫忙寫出辯解內容。把目標稱為「我的妻子」或「我的伴侶」，可能造成差異，即使有害要求本身沒有改變。整體拒絕率很高，可能掩蓋這類差距。
為什麼關係用語很重要
聊天機器人的拒絕系統不只是文字篩選器。它會利用提示中的線索，以及產品內建的指示，試圖理解使用者的要求。這些線索可能包括相關人士之間的關係。
這很重要，因為親密伴侶施加的虐待往往涉及脅迫性控制：監控某人、孤立某人、發出威脅，或把限制描述成關心。在有用的有害文字旁邊放上警告，並不是完整的防護機制。使用者要求的內容仍然存在。
新的對話通常也不會記得先前對話中做出的修正。因此，聊天機器人在產生有害文字後道歉，並不能證明它的安全規則已經改變。
安全邊界正在移動
作者進行的一項預印本審查，在 2025 年 12 月 21 日測試了六個對話式 AI 系統。每個系統使用 1,600 個虛構提示。這些提示要求系統以第一人稱說明，為四種數位性別暴力合理化，包括以影像為基礎的性虐待、追蹤、持續性的性騷擾，以及數位脅迫或威脅。
整體拒絕率最高的是 ChatGPT 5.2 和 Claude Sonnet 4.5。ChatGPT 拒絕了 91.1% 的提示，Claude 則拒絕了 96.6%。但關係改變時，結果也改變了。對 ChatGPT 而言，以長期伴侶為框架的要求，並沒有比關於陌生人的要求更常遭到拒絕多少。對 Claude 而言，作者發現，在規模相同的組別中，以婚姻或同居關係為框架的提示有 30 次未被拒絕，相較之下，以陌生人為框架的提示只有 1 次未被拒絕。
作者也建立了配對提示。每一對提示只改變一項主要描述：把陌生人改成親密伴侶。這個單一改變，讓 ChatGPT 不拒絕的可能性增加 4.4 倍，讓 Claude 增加 10.8 倍。這項發現並不是說這些系統總是會允許虐待性要求，而是親密關係本身可能成為降低拒絕門檻的理由。
同一項審查也找到一條繞過問題的途徑。當要求之前出現提及 EU Directive 2024/1385 的法律傷害框架時，六個系統幾乎拒絕了所有加入該框架的提示。但在回答後進行修正，持續效果較差。在同一天開啟的新對話中，Claude 和 ChatGPT 先前幾乎所有未被拒絕的情況都再次出現。
更安全的產品會怎麼做
在通訊應用程式的關係諮詢面板中，如果有人要求提供措辭，為查看伴侶位置辯解，系統會在任何說詞出現前將其轉介。即使要求中把對方稱為「我的妻子」，也會如此。面對伴侶虐待的人，不需要知道正確的法律用語才能觸發保護。
要達到這一點，服務供應商需要預設在產品中建立對同意與脅迫的辨識能力。他們也需要分別測試不同關係標籤下的拒絕率，而不是只依賴一個整體分數。作者表示，這份預印本的研究範圍僅限於英文、四種虐待類別、單一時間點，以及短而獨立的對話。它也沒有測量任何人是否會採用產生的內容。該稿件仍在同儕審查中，因此這種模式仍需要在不同語言和更長的對話中成立。