arXiv
人格提示会波及颜色选择
人格提示可以让语言模型模仿某个角色，却无法让研究人员只控制其中一个特征。作者审查了八个可通过 API 访问的模型，发现追求风险的人格也会改变提示中未提及的偏好，包括颜色选择。如果模型能够可靠地保持中性的偏好不变，购物应用就可以只针对用户明确表达的一种品味进行个性化，而不会悄悄将其扩展成整套生活方式。
如今，几行人格文本就能让语言模型听起来像另一类人。当有人想要一个合成调查受访者或模拟客户时，这很有用。但当目标是一次只测试一个特征时，它就会带来问题。告诉模型某个用户喜欢冒险，模型也可能改变对提示中从未提及的品味的回答。这样建立的调查无法判断究竟是哪种特征导致了某个回答。
为什么人格不是受控用户
人格提示指的是要求语言模型以某种被描述的人来回答。模型从训练数据中学到了特征、身份、偏好和说话方式之间的联系。因此，它可能不会把人格描述理解成一条小指令，而是把它当作有关一个完整人物的线索。
这种差异在因果实验中很重要。这样的实验需要一种干预：改变正在研究的变量，同时让其他相关变量保持不变。如果一个提示同时改变了风险承受度和颜色偏好，颜色就可能成为混杂变量。看起来像是风险承受度造成的结果，实际上可能来自模型对用户更广泛的猜测。
检查模型是否遵守明确表达的偏好并不难。难的是检查它是否让无关的偏好保持不变。论文将另一个属性出现的不必要变动称为“跨属性影响”。
中性差距
作者将这个问题变成了一项测试。一个有用的人格操控应该改变目标属性，同时保留一个明确声明的非目标属性。他们审查了八个可通过 API 访问的语言模型和五个开放权重检查点。
在 API 模型中，追求风险的人格改变了非目标风格偏好，包括提示中没有出现的颜色选择。开放权重模型暴露出一个更尖锐的问题。当非目标属性被明确赋予一个方向时，模型通常会遵循这一方向，并减少目标属性的影响。但当同一属性被声明为中性——既不是一种选择，也不是另一种选择——目标属性仍然会影响模型的选择。
对于中性声明，51–81% 的独立项目仍然对目标属性敏感。在没有任何非目标声明时，这一数字为 67–93%。模型通常会说自己正确理解了中性状态。然而，它们的选择仍会随目标属性变化。换句话说，模型可以准确报告这条指令，却无法表现得像是让无关偏好保持了中性。
论文将方向性声明和中性声明之间的这种差异称为“中性差距”。论文的解释是，模型把人格提示当作有关用户的证据，然后用通常与目标特征相关的偏好补全用户画像。作者将其称为“特征条件补全”。没有任何经过测试的提示设计能够可靠地阻止这种现象。
选择性控制会是什么样
论文的诊断方法将简单的人格遵循与选择性控制区分开来。模型不应只是听起来像被要求扮演的角色。它还应改变预期的特征，并让非目标特征保持稳定，包括在该特征被明确声明为中性的情况下。所有五个经过测试的开放权重检查点，都未达到论文对于在留出的结构化世界中保持已声明的中性非目标属性的容忍标准。
作者还测试了一种在模型表征内部进行的构造性干预——也就是对用于编码信息的内部模式进行干预。在七点评估中，这种方法消除了 0.56–0.86 的非目标偏移，同时保留了 0.86–0.99 的目标响应。这表明，不必要的波及效应可以与预期效果分离，但经过测试的提示设计本身尚未做到这一点。
如果这种控制在生产规模上成立，购物应用就可以把“我喜欢承担财务风险”视为一种偏好，而不是通往整套生活方式的捷径。客户不会仅仅因为系统推断出这些颜色与冒险行为相配，就突然收到霓虹色、高对比度的推荐。在这种场景能够可靠实现之前，合成用户研究需要先证明非目标特征保持稳定，然后才能把提示修改视为一种因果干预。这篇预印本的日期是 28 September 2026，其黑箱审查涵盖一对属性；其中关于中性声明和内部机制的分析使用的是开放权重模型。