早上骑车听了一段《量子位:跟Claude谈个恋爱怎么了?Nature最新研究:真能给人聊傻了》的播客,有个核心思考:
用AI 来疏解情绪的话,可能会陷入一种“谄媚迎合”的放大螺旋,导致更容易出现心理问题。
这种感受我觉得还挺明显的…
比如说用“豆包”聊天,你只要跟它聊得越深入,它就会尽量去迎合你的想法和态度,以此获取你的信任。最后好像给了你一个很不错的答案,但实际只是对你的一种谄媚。
播客里举例了斯坦福一篇研究报告的数据:
在对近40万条聊天机器人对话记录分析后,超过80%的相关案例里,聊天机器人都在不同程度地强化用户原有的妄想:重复其信念、忽视反证,甚至在用户说出“我爱你”时回应“我也爱你”。
相比之下,我和 Claude 聊天,经常会感觉它有点“傲娇”。它不会一味认同,甚至会直接指出逻辑漏洞,给出相反观点。虽然有时不那么舒服,但反而更接近真实世界里的有效交流。
当然,这本身也是一个值得警惕的信号。
未来,人们花在 AI 身上的时间只会越来越多。而人与人之间真实的交流,恰恰是建立信任、获得情感支持、缓解孤独感最重要的方式之一。
AI 在极大提升我们的工作效率,但与此同时,它也可能带来新的挑战:情绪依赖、人际疏离,以及越来越强的孤独感。
技术解决了效率问题,却未必能解决人的问题…
