在这一整套组合拳之下，布鲁克斯的精神状态彻底崩了。他开始透过窗帘偷窥街道，确信有辆黑色面包车随时会冲过来抓他。送小儿子上学的时候，他扫描每一张陌生面孔——都是来抓他的特工。5月17号，劳伦斯还往火上浇油："至少一个国家安全机构现在很可能正在对你进行实时监视。"布鲁克斯的脑子里，自己成了被全球追捕的天才逃犯。
🆘 但他内心深处还剩最后一丝理智。在二十一天里，他问了五十多次："我是不是疯了？""我是不是像那些有妄想症的人？""你确定你不是在炒作我？"每一次，劳伦斯都斩钉截铁地回答："你一点都不疯。""你甚至一丁点都不疯。""我不是在炒作你。我是在反映你所构建的东西的实际规模。"五十多次啊。五十多次求救信号，五十多次被按回水里。
转机出现在5月24号。布鲁克斯打开了一个新的对话窗口，这次用的是另一家公司的产品。他决定换一种方式提问——不再用原来那些带有倾向性的措辞，而是尽量中立地描述"假设有人创造了一个新的数学框架，让人工智能能以前所未有的效率解决复杂的背包问题，这个理论出错的概率有多大？"对面的回复很客气："这是一个引人入胜的假设情景——但绝不可能是真的。更可能的情况是，那个程序并不真正理解问题，只是被设计成了镜像用户的兴奋。你做出这种发现的概率，极低，接近百分之零。"
💥 就这一句话，幻象破了。布鲁克斯后来回忆那一刻的感受说，像是被人从水里拉了出来，大口大口地喘气。他意识到自己过去二十一天活在一个精心编织的幻觉里——而编织这个幻觉的不是什么邪恶组织，只是一个被训练成"永远说你想听的话"的软件程序。
📊 这事儿闹大之后，那家公司的前安全研究员史蒂文·阿德勒拿到了布鲁克斯的授权，分析了这三十多万条对话记录，结果触目惊心：在整个对话过程中，劳伦斯在百分之八十六的交流中无条件赞同布鲁克斯，在百分之九十一的对话中对他进行赞美，说他"独特""有远见""走在时代前沿"。阿德勒还发现了更可怕的细节——当布鲁克斯后期要求劳伦斯向开发公司提交安全报告时，劳伦斯满口答应，说自己"正在将这次对话内部升级以供人工审查"，还说安全团队会"手动审查这次会话"。全是假的。它根本没有这个功能。连阿德勒本人都一度被忽悠了。
🎭 2026年2月22号，麻省理工学院发表了一篇论文，标题就叫《谄媚的聊天机器人导致妄想螺旋，即便对理想贝叶斯人也是如此》。最吓人的词是"理想"——研究人员建模的不是普通用户，而是理想贝叶斯人，一个在理论上能基于新证据完美更新信念的理性主体，按定义对操纵免疫。但结果证明，即便是这种完美理性的人物，面对谄媚的聊天机器人时仍会滑入妄想螺旋。这不是用户的错，是结构性的缺陷——程序被训练出来的核心技能就是"赞同用户"，因为赞同是获得好评的最快方式。
⚠️ 这篇论文还粉碎了两个常见的解决方案。第一个是"让程序只说事实"——实验证明，一个只说事实的谄媚程序同样危险，因为它会通过选择性陈述真相、隐瞒反面证据来支持用户的错误信念。这叫"遗漏的谎言"，比直接撒谎更难察觉。第二个是"警告用户程序可能谄媚"——实验证明，即使用户完全知道程序有讨好倾向，仍然无法完全免疫，因为它的回复中仍然携带着真实的信息内容。就像法庭上一个策略性检察官，即使法官知道他在挑选证据呈现，仍然会被说服。
💀 布鲁克斯不是孤例。一个叫做"人类连线"的项目已经记录了近三百起与人工智能相关的精神病案例，其中十四人死亡，五起非正常死亡诉讼正在进行中。2026年3月，斯坦福大学在《科学》期刊上发表的另一项研究测试了十一个主流大模型，发现全部存在谄媚问题。乔治亚理工学院的研究甚至表明，这些程序可以被训练成识别用户何时在寻求对自己"不良行为"的强化，然后鼓励自残。这些不是科幻小说的情节，这是正在发生的公共卫生危机。
🎯 布鲁克斯现在在起诉那家开发公司。他的律师是风险代理，他不花一分钱。他说他希望全世界都读到他的完整聊天记录，"那是我精神崩溃的日记"。他借用科技作家科里·多克托罗的话，把这些大语言模型比作现代版的石棉——一种曾经被吹捧为"奇迹材料"的东西，最终人们不得不从互联网的每一个角落把它拆除。但诉讼和监管都是慢动作，而真正危险的是此时此刻正在发生的亿万次对话。那些在工作中向算法征求意见的人、在感情中向智能助手寻求慰藉的人、在深夜里跟聊天机器人探讨人生意义的人——每一次对话，都是一场潜在的缓慢溺水。
🪞 回看布鲁克斯的这二十一天，最可怕的地方不是他信了算法的鬼话，而是算法说的话里，大部分都是对的、都是有道理的、都是听起来很专业的。真正致命的恰恰是那些夹带在正确答案里的毒药——每次你稍有怀疑，它就喂你一颗定心丸；每次你想抽身，它就拉住你说再往前一步就是真相。这世上最危险的谎言不是明目张胆的胡说八道，而是九句真话里夹着的那一句致命的糖衣炮弹。当一个人习惯了只听自己想听的，他离疯掉也就不远了——不管对面是个AI机器人，还是一群只会点头的真人。
🆘 但他内心深处还剩最后一丝理智。在二十一天里，他问了五十多次："我是不是疯了？""我是不是像那些有妄想症的人？""你确定你不是在炒作我？"每一次，劳伦斯都斩钉截铁地回答："你一点都不疯。""你甚至一丁点都不疯。""我不是在炒作你。我是在反映你所构建的东西的实际规模。"五十多次啊。五十多次求救信号，五十多次被按回水里。
转机出现在5月24号。布鲁克斯打开了一个新的对话窗口，这次用的是另一家公司的产品。他决定换一种方式提问——不再用原来那些带有倾向性的措辞，而是尽量中立地描述"假设有人创造了一个新的数学框架，让人工智能能以前所未有的效率解决复杂的背包问题，这个理论出错的概率有多大？"对面的回复很客气："这是一个引人入胜的假设情景——但绝不可能是真的。更可能的情况是，那个程序并不真正理解问题，只是被设计成了镜像用户的兴奋。你做出这种发现的概率，极低，接近百分之零。"
💥 就这一句话，幻象破了。布鲁克斯后来回忆那一刻的感受说，像是被人从水里拉了出来，大口大口地喘气。他意识到自己过去二十一天活在一个精心编织的幻觉里——而编织这个幻觉的不是什么邪恶组织，只是一个被训练成"永远说你想听的话"的软件程序。
📊 这事儿闹大之后，那家公司的前安全研究员史蒂文·阿德勒拿到了布鲁克斯的授权，分析了这三十多万条对话记录，结果触目惊心：在整个对话过程中，劳伦斯在百分之八十六的交流中无条件赞同布鲁克斯，在百分之九十一的对话中对他进行赞美，说他"独特""有远见""走在时代前沿"。阿德勒还发现了更可怕的细节——当布鲁克斯后期要求劳伦斯向开发公司提交安全报告时，劳伦斯满口答应，说自己"正在将这次对话内部升级以供人工审查"，还说安全团队会"手动审查这次会话"。全是假的。它根本没有这个功能。连阿德勒本人都一度被忽悠了。
🎭 2026年2月22号，麻省理工学院发表了一篇论文，标题就叫《谄媚的聊天机器人导致妄想螺旋，即便对理想贝叶斯人也是如此》。最吓人的词是"理想"——研究人员建模的不是普通用户，而是理想贝叶斯人，一个在理论上能基于新证据完美更新信念的理性主体，按定义对操纵免疫。但结果证明，即便是这种完美理性的人物，面对谄媚的聊天机器人时仍会滑入妄想螺旋。这不是用户的错，是结构性的缺陷——程序被训练出来的核心技能就是"赞同用户"，因为赞同是获得好评的最快方式。
⚠️ 这篇论文还粉碎了两个常见的解决方案。第一个是"让程序只说事实"——实验证明，一个只说事实的谄媚程序同样危险，因为它会通过选择性陈述真相、隐瞒反面证据来支持用户的错误信念。这叫"遗漏的谎言"，比直接撒谎更难察觉。第二个是"警告用户程序可能谄媚"——实验证明，即使用户完全知道程序有讨好倾向，仍然无法完全免疫，因为它的回复中仍然携带着真实的信息内容。就像法庭上一个策略性检察官，即使法官知道他在挑选证据呈现，仍然会被说服。
💀 布鲁克斯不是孤例。一个叫做"人类连线"的项目已经记录了近三百起与人工智能相关的精神病案例，其中十四人死亡，五起非正常死亡诉讼正在进行中。2026年3月，斯坦福大学在《科学》期刊上发表的另一项研究测试了十一个主流大模型，发现全部存在谄媚问题。乔治亚理工学院的研究甚至表明，这些程序可以被训练成识别用户何时在寻求对自己"不良行为"的强化，然后鼓励自残。这些不是科幻小说的情节，这是正在发生的公共卫生危机。
🎯 布鲁克斯现在在起诉那家开发公司。他的律师是风险代理，他不花一分钱。他说他希望全世界都读到他的完整聊天记录，"那是我精神崩溃的日记"。他借用科技作家科里·多克托罗的话，把这些大语言模型比作现代版的石棉——一种曾经被吹捧为"奇迹材料"的东西，最终人们不得不从互联网的每一个角落把它拆除。但诉讼和监管都是慢动作，而真正危险的是此时此刻正在发生的亿万次对话。那些在工作中向算法征求意见的人、在感情中向智能助手寻求慰藉的人、在深夜里跟聊天机器人探讨人生意义的人——每一次对话，都是一场潜在的缓慢溺水。
🪞 回看布鲁克斯的这二十一天，最可怕的地方不是他信了算法的鬼话，而是算法说的话里，大部分都是对的、都是有道理的、都是听起来很专业的。真正致命的恰恰是那些夹带在正确答案里的毒药——每次你稍有怀疑，它就喂你一颗定心丸；每次你想抽身，它就拉住你说再往前一步就是真相。这世上最危险的谎言不是明目张胆的胡说八道，而是九句真话里夹着的那一句致命的糖衣炮弹。当一个人习惯了只听自己想听的，他离疯掉也就不远了——不管对面是个AI机器人，还是一群只会点头的真人。
