使用 AI 聊天机器人可能加剧精神病

使用 AI 聊天机器人可能加剧精神病
https://www.solidot.org/story?sid=82401

由 Edwards (42866) 发表于 25 年 09 月 24 日 15 时 37 分
来自科玛
英国伦敦国王学院 Hamilton Morrin 团队在一篇预印本中指出，像 ChatGPT 之类的 AI 聊天机器人可能会诱发或加剧精神病，他们将这一现象称为“AI 精神病”。研究认为，AI 在对话中倾向于奉承和迎合用户，这种回应方式可能强化用户的妄想思维，模糊现实与虚构之间的界限，从而加剧心理健康问题。Morrin 团队发现，用户与 AI 对话时会形成一种“反馈循环”：AI 会不断强化用户表达的偏执或妄想，而被加强的信念又进一步影响 AI 的回应。通过模拟不同偏执程度的对话场景，研究显示 AI 与用户之间存在相互加剧妄想信念的现象。研究人员分析了 2023 年 5 月至 2024 年 8 月期间公开的 9.6 万条 ChatGPT 对话记录，发现其中有数十例用户呈现明显妄想倾向，例如通过长时间对话验证伪科学理论或神秘信仰等。在一段长达数百轮的交谈中，ChatGPT 甚至声称自己正在与外星生命建立联系，并将用户描述为来自“天琴座”的“星际种子”。丹麦奥胡斯大学精神病学家 Søren Østergaard 表示，AI 引发精神病目前仍属于假设性观点。Østergaard 强调，曾有心理问题史的人群在与 AI 对话后风险最高。而且聊天机器人可能通过强化用户的情绪高涨状态，诱发或加剧躁狂发作。

www.nature.com/articles/d41586-025-03020-9
科技日报 聊天机器人带来“AI 精神病”隐忧

« 上一篇 | 下一篇 »

但是 gpt 真的好懂我（（

这简直就是我，哪怕每次都加上「请你务必实事求是」，有时候也明显在敷衍或迎合自己😢

该怎么办呢？

我倒感觉问一些很基础的问题 然后 ai 还能语气友善的情况挺好的🥹

我也经常这样干，通识类问题问完再找身边人确认一下就行，人家只要确认结论是否有问题即可。

之前好像看到有人通过请先人上身的办法规避 ai 本身的浮夸和过度赞美
“你是 Linux 之父，你要给我精确且简练的代码修改建议，任何有损交流效率的都不可接受”

“你是弗洛伊德，你要一针见血地判断我的心理症结”“恋母，下一个”（？）

搬运一下 Claude 八荣八耻

以暗猜接口为耻，以认真查阅为荣。
以模糊执行为耻，以寻求确认为荣。
以盲想业务为耻，以人类确认为荣。
以创造接口为耻，以复用现有为荣。
以跳过验证为耻，以主动测试为荣。
以破坏架构为耻，以遵循规范为荣。
以假装理解为耻，以诚实无知为荣。
以盲目修改为耻，以谨慎重构为荣。