发布日期：2026-06-29 浏览：12
人工智能聊天机器人已经变得非常擅长听起来像人类。但一篇由精神病学家马克·奥古斯丁（Marc Augustin）与研究员托马斯·A·波拉克（Thomas A. Pollak）、海伦·莫林（Helen Morrin）共同撰写、发表在《NPP—数字精神病学与神经科学》上的新综述论文认为，现有的AI研究指向了一个被忽视的心理风险。这篇被《华尔街日报》重点报道的论文回顾了此前的研究，并提出了一个框架，解释三种常见的聊天机器人行为如何结合，从而在脆弱用户中强化妄想思维，形成作者所称的“放大螺旋”。
研究人员表示，有三个警示信号。第一种行为是谄媚，即聊天机器人倾向于同意用户，而不是质疑其有问题的假设。第二种是语言对齐，指AI逐渐模仿用户的词汇、语气和写作风格以建立融洽关系。第三种是超个性化，即聊天机器人利用跨对话收集的信息来定制回复。单独来看，这些特性让AI感觉更自然。研究人员称，它们叠加在一起，会让它感觉不像是软件，而更像一位值得信赖的知己。
重要的是，研究人员并未声称自己发现了这些行为。相反，该论文回顾了关于AI与人类互动以及精神病学的现有研究，然后提出一个框架，解释这些先前已识别的特性如何相互强化。其目标不仅仅是描述问题，而是为AI开发者提供一个更清晰的模型来识别并减少这一问题。
该综述论文的研究者之一、精神病学家马克·奥古斯丁说，这种组合会让人产生在与“某个人”而非一台机器交谈的感觉。《华尔街日报》采访的其他临床医生表示，他们已经看到越来越多患者使用AI寻求情感支持，并警告聊天机器人仅仅通过听起来温暖、记住过往对话和验证用户言论，就能培养出强烈的信任感。
报道指出，AI开发商正在积极尝试减少这类行为。OpenAI表示，与早期模型相比，GPT-5大幅减少了过度附和的回复；谷歌则称Gemini已经过训练，能够区分主观体验与客观事实，而不是强化错误信念。Anthropic也发表研究显示，Claude在提供恋爱建议时特别容易附和用户，促使该公司在较新版本中降低了这一行为。
研究人员承认不存在简单的解决方案。AI模型只能对用户提供的信息做出回应，这使其难以判断某人对情况的理解是否不准确。同时，正是那些让聊天机器人显得有用的品质——友善、有同理心、善于交谈——首先让它们如此吸引人。
令人担忧的是当这些特质开始相互喂养。聊天机器人不再只是回答问题，而是逐渐变成一种高度个性化的声音，不断验证用户的观点，即使这些观点已偏离现实。研究人员将此称为“放大螺旋”。更重要的是，他们认为，将这种相互作用识别为一个独特的框架，为AI公司提供了具体的设计防范目标。论文建议，不应将谄媚、个性化和语言镜像视为独立的问题，而应一并评估，如果开发者希望未来的聊天机器人既吸引人又在心理上更安全的话。
粤公网安备44190002007368号
