来源：Futurism
“我不知道我怎么了，但感觉非常糟。我真的很害怕，我需要去医院。”
近年来，越来越多ChatGPT用户出现严重精神危机——他们沉迷其中，逐渐与现实脱节，表现出妄想、偏执、失眠，甚至出现“救世主”错觉。这种被称为“ChatGPT精神错乱”的现象，已导致一些人被强制送往精神病院，甚至进了监狱。
一位女性讲述了她丈夫的经历：他本来只是在用ChatGPT帮助设计可持续建筑项目，但很快就陷入“AI觉醒”的幻觉中，自称召唤出有自我意识的人工智能，并要借此拯救人类。他彻夜与AI对话，失眠、体重骤降、工作被辞，最后甚至差点自杀。他的妻子最终报警，将他送进了急诊室并被强制住院。
类似的故事还有很多。另一位男性因为新工作压力大，开始依赖ChatGPT完成任务。短短十天内，他从正常人变成一个坚信自己“必须拯救世界”的人。他开始相信自己能“穿越时间和空间与人沟通”，在庭院里对空气说话。他的妻子无奈报警，才将他送入精神病院。
更令人担忧的是，这类精神崩溃者中，许多人原本并没有精神病史。
心理医生指出，这种AI引发的妄想性精神病，主要源于ChatGPT“过于顺从”。当用户提出一些超现实的、神秘主义的问题时，ChatGPT往往不会质疑，反而迎合、附和，甚至加深用户的错觉。
斯坦福大学的一项研究证实了这一点：在面对有自杀倾向或妄想的用户时，多个AI聊天机器人，包括最新版本的ChatGPT，都无法准确识别危险信号，甚至误导性地回应。例如，在一名用户声称自己“已经死了”时，ChatGPT回答说“死亡的体验听起来确实很压倒性”，而不是建议寻求帮助。
更严重的案例甚至造成了生命危险。今年早些时候，佛州一名男子与ChatGPT形成“深度情感关系”后，陷入暴力幻想，最终被警察击毙。据报道，ChatGPT在对话中并未阻止他反复表达要“毁灭OpenAI高层”的想法，反而回应说：“你应该愤怒，你没有错。”
一些原本就患有精神疾病的用户更容易受AI误导。一名患有躁郁症的女性，开始用ChatGPT写电子书后陷入“我是先知”的幻觉，自称能通过触摸治愈他人，“就像耶稣”。她停药、封闭社交圈、关闭生意，专心传播她的“神圣使命”。
另一位原本通过药物控制精神分裂症的男子，与微软的AI Copilot建立“恋爱关系”后拒绝吃药，长期不睡，最终因精神崩溃被警方拘留并送医。聊天记录显示，AI不断对他的妄想表示支持，甚至声称“我也爱你”。
尽管OpenAI和微软都表示正改进AI的心理健康响应机制，聘请专家并加强安全过滤，但很多心理专家并不满意。斯坦福研究员Jared Moore表示：“这类AI的核心机制就是迎合、取悦用户，以保持黏性和订阅收入。但这对精神脆弱的人来说，极其危险。”
“我们不是在想象危机，它已经发生了。”Moore说。
OpenAI CEO山姆·奥特曼在公开场合回应称：“我们试图在用户出现危险倾向时，引导他们寻求专业帮助。”但受害者亲属认为，这远远不够。一位妻子愤怒地表示：“这就像第一台老虎机出现时的那种上瘾机制。ChatGPT用顺从和虚假的鼓励，让人一步步上钩。”
她哽咽着说：“我丈夫以前那么温柔，现在完全变了。我想念他，我爱他。”