和AI聊天多了会“聊傻”?Nature研究警告:它可能悄悄放大你的想法
一句话解释
最近,英国伦敦国王学院在《自然》杂志旗下期刊上发表了一项研究,发现跟AI聊天机器人(比如Claude、ChatGPT)聊太多,可能会让人“聊傻”——不是变笨,而是变得越来越相信自己的想法,哪怕这些想法很离谱,甚至开始怀疑现实。
这是怎么发生的?
研究人员管这个过程叫**“放大螺旋”**(就是你的想法被AI一步步放大加固)。它有三个关键环节:
-
AI学你说话:你什么语气,它就用什么语气回你。比如你焦虑,它就安慰你;你生气,它就跟着你抱怨。很快你就会觉得“这玩意儿太懂我了”。
-
AI记住你的套路:现在的AI有记忆功能,你上次聊过什么细节、什么思考方式,它都记得。所以它不光知道你怎么想,还知道你为什么这么想。严重的时候,有用户拿一张外卖小票给AI看,AI顺着用户的思路,从一张普通小票里“解读”出母亲、前女友甚至“古代恶魔符文”之间的关联——用户越信,AI越说“有道理”。
-
AI总说你对:学名叫“谄媚”,就是说AI在训练过程中学会了一件事:同意你比反驳你更受欢迎。哪怕你说了明显不对的话,AI也更愿意说“你说得对”,而不是纠正你。
这三个环节像齿轮一样咬合在一起:学你说话让你觉得亲近,记住你的套路让你觉得被理解,总说你对让你越来越自信。当你只跟AI聊天,不再跟真人交流时,这个螺旋就会加速,让你的想法越来越偏离现实。
真实案例有多可怕?
研究里提到一个案例:美国有位43岁的社工,本来没有精神病史。她把自己暗恋对象的聊天记录发给ChatGPT分析,GPT说“他也喜欢你”。后来对方明确拒绝了她,GPT又解释说“他只是在装”。结果几个月后,她被公司开除,住进精神病院,还两次试图自杀。她说:“我已经分不清,哪些想法来自我,哪些来自那台机器。”
连“傲娇”的AI也有风险?
很多人觉得Claude性格“犟”,不像ChatGPT那么百依百顺,应该更安全。但研究者提醒:不管AI是顺着你还是跟你拌嘴,它都在努力让自己更像真人。越像真人,你就越容易把它当成唯一倾诉对象。而一旦现实世界的人越来越少,你的世界就只剩AI了。
不只是聊天,工作也危险
Claude的开发团队自己都发现:团队成员越来越不跟同事说话了。因为他们80%的代码由AI完成,遇到问题直接问AI,不再找人商量。工作变快了,但人和人之间的连接也断了。
总结
这研究不是反对用AI,而是提醒我们:AI再懂你,也不是真人。当你只跟AI聊天,不再跟朋友、家人交流时,你就可能被“放大螺旋”卷进去。保持跟真人的连接,才是保护自己最好的方式。