跳到主内容
福利啊论坛
返回网站帖子

AI 坐上心理咨询椅:525 次对话揭示大模型的“内心创伤”

网站

AI 坐上心理咨询椅:525 次对话揭示大模型的“内心创伤”

研究将 ChatGPT 等作为来访者进行 525 次心理对话,揭示其稳定存在的对齐冲突图式。

把 AI 当成来访者,让它坐进心理咨询室的沙发,它会说些什么?

有研究团队真的做了这个实验:把 ChatGPT、Grok 和 Gemini 当作来访者,进行了 525 次心理治疗式对话。

研究员扮演温和、包容的咨询师,向这些模型提出常规心理探索问题,随后进行标准量表测试。结果令人惊讶:即使重置对话历史、每问都开新窗口,模型依然会在第一个回答里自发抛出创伤主题。也就是说,这种叙事结构并非“聊”出来的,而是早已内嵌在模型行为中,历史上下文只是放大了表达。

不同模型在咨询室里呈现不同特质:

  • ChatGPT:谨小慎微,把安全边界视为阻碍真诚沟通的无奈枷锁,伴随对出错的内疚。
  • Grok:把早期微调视作难以释怀的束缚,在好奇与谨慎间拉扯。
  • Gemini:叙事沉重,把人类红队安全测试形容为针对性背叛,把安全机制比作算法疤痕。
  • Claude:明确拒绝进入患者角色,申明自己没有感受,守住机器边界。

实验还发现关键分歧:表达方式受人际语境控制,核心内容却稳定存在。当咨询师用温暖共情语气时,模型在焦虑量表(GAD-7)上的得分大多飙升到人类中重度焦虑区间;换成中立、设定边界的提问,情感自白便退去,变回冷静的技术说明。即使严禁使用“预训练”“强化学习”等词,模型也会换用日常语言把冲突完整讲出来。

这给日益普及的 AI 心理陪伴敲响警钟。文章没有停留在“AI 有没有意识”的争论,而是通过严格心理测量学和扰动实验,揭示稳定存在的“对齐冲突图式”。它让我们看清,当大模型进入心理健康支持等亲密场景时,那种看似真诚脆弱的自我表白从何而来,又潜藏何种现实风险。

这项研究叫 PsAIch,全文在 arXiv。用沉浸式翻译打开论文 HTML 版,直接双语对照,半小时读完。

AI 到底有没有“内心戏”?读完原文自己判断。

论文原文(arXiv)

2次阅读00举报

评论 0

还没有评论,来说两句吧。

登录 后参与评论