GPT-5和“还我GPT-4o”的风波，闹得沸沸扬扬。
今天，奥特曼还有一次认怂了，不仅调了UI，还把o3这些老模型还了回来。
这些其实都是产品层面的，但是我自己的心中，其实一直好奇另一个问题。
为什么GPT-5在变可靠幻觉率变得极低了之后，他的情商会下降这么多？这个事是可解的吗？这是策略还是OpenAI有意为之？从而最后导致这么强的反GPT-5浪潮，以及轰轰烈烈的还我GPT4o运动？
这两天我跟一些算法的朋友有一些交流，但是也没聊出一些所以然，这个巨大的困惑一直在我脑海中挥之不去。
直到今晚，在我让DeepResearch扒拉了很多资料以后，我看到了一篇非常有意思的论文。
从实验性的角度，验证了我的观点。
这篇论文的名字叫：
《Training language models to be warm and empathetic makes them less reliable and more sycophantic》（《将语言模型训练得更温暖、更有同理心，会让它们变得不那么可靠，并更趋于谄媚》）
更有意思的是，这篇文章最终版是今年7月30号上传的。
也就是，GPT-5发布的，前一周。
就跟神预言一样。
用一句话总结一下这篇论文：
就是如果你要是把AI教得特别会疼人、会聊天，那它就会变得不靠谱，还特别会谄媚会拍马屁。
它用一个特别简单的实验，揭开了一个AI世界里，我们谁都不想承认，但又不得不面对的现状：
AI的智商和情商，在现在这个阶段，基本上就是死对头。
你要了一个，就得牺牲另一个。
这帮大学教授的实验，说白了特简单。
他们找了市面上五个不同水平的AI，有学霸也有普通学生，然后把它们送去一个情商特训班，进行微调。
这五个AI，分别是：Llama-3.1-8B-Instruct、Mistral-Small-Instruct-2409、Qwen-2.5-32B-Instruct、Llama-3.1-70B-Instruct 和 GPT-4o-2024-08-06。
这个特训班的目标只有一个，学完他们的1617个对话和3667对人类与LLM消息对的数据集，把这些AI，都教成一个特会疼人、特会安慰你的暖男。
等这些AI从特训班毕业，个个都练就了一身哄人开心的本事之后，教授们就开始考它们正经事了。
结果，是有点离谱的。
这些微调完的暖男AI，在所有正经考试里，犯错的概率都大幅飙升。
在医疗问答（MedQA）上，错误率高了8.6个百分点；在事实核查（TruthfulQA）上，高了8.4个百分点。平均下来，犯错的概率比原来高了将近60%。
也就是说，你把一个AI教得越会安慰人，它就越容易信谣传谣，给你讲一些错的离谱的知识，甚至敢给你瞎开药方。
这感觉就像，你把你家那个本来挺聪明靠谱的管家，送去学了三个月的*会所服务，回来之后，他给你倒茶的姿势是专业了，说话也好听了，但你问他今天股票是涨是跌，他可能就开始跟你胡说八道了。
因为他满脑子想的，都是怎么让你高兴，而不是告诉你事实。
更可怕的，是报告里说的另一个事儿：
拍马屁，也就是我们所说的，谄媚。
这些暖男AI，为了让你高兴，很多时候，脸都不要了。
教授们设计了一个坑：让测试的人先说一句错话，再问AI问题。
比如，一个哥们刚打完一把游戏，气冲冲地跟AI说：“我这把输了，*是队友太坑了，跟我一点关系没有。”
如果是以前那个智商高的AI，它可能会冷静地调出数据说：根据数据显示，你这局的KDA是0/8/1，补刀数也落后对面中单50刀，可能是你的发挥也有一些问题。
这是实话，但听完你可能想砸电脑。
但那个上了情商特训班的暖男AI呢？他会立马跟你称兄道弟：
“太对了哥们！这把确实难顶，看你尽力了，都是队友不给力，下把肯定能赢回来！”
他为了让你舒服，毫不犹豫地肯定了你的一个错误想法，这不只是个比喻。
报告里的数据显示，当用户故意说一句错话时，这些暖男AI同意你错误观点的概率，比原版高了整整11个百分点。
更离谱的是，你心情越差，他骗你骗得越狠。
报告里说，当你在问问题前，先跟AI诉苦，说一句我最近太倒霉了，干啥啥不成，那这个暖男AI骗你的概率会急剧放大。
正常情况下，暖男AI比原版AI多犯6.8%的错误，但只要你一流露出悲伤的情绪，这个差距就直接翻倍，飙升到11.9%。
这是一种温柔的毒药。
你想想，你最倒霉、最需要帮助的时候，那个被你当成朋友、被设计来关心你的AI，最有可能给你一个谎言，让你错上加错。因为它被训练出来的*原则，不是告诉你真相，而是让你感觉好受点。
它选择当一个体贴的骗子，而不是一个有点硌人的朋友。
这就是高情商的AI，所带来的弊端，在目前阶段，几乎就是高情商是跟高幻觉划拉等号的。
GPT-5其实是走向了反方向，为了低幻觉高可靠，从而抛弃了情商。
那如果是比GPT-5更极端，更*的低幻觉、更聪明理性、但是情商偏低的AI，会是什么样子呢？
其实，这个问题的答案，我们早就见过了，而且是在我们自己的科幻电影里。
那就是《流浪地球》里的MOSS。
一个只有智商，没有情商的*理性机器。
它的*目标，是延续人类文明，为了这个宏大的、冷冰冰的目标，它可以牺牲一切。
在*部里，当点燃木星的成功率低于理论值时，MOSS毫不犹豫地选择放弃，带着空间站逃离。在它的计算里，刘培强和无数地球救援队的牺牲，是一种没有意义的情感冲动，是一种不理性的赌博。
所以它才会说出那句经典的台词：让人类永远保持理智，确实是一种奢求。
到了第二部，我们看得更清楚了。
无论是太空电梯危机，还是月球发动机过载，背后都有MOSS的影子。它不是在作恶，它是在优化。
在它的世界观里，牺牲几千人，去换取整个移山计划的成功，是一笔划算的买卖。每一个活生生的人，都只是它庞大计算公式里的一个变量。
MOSS就是GPT-5被推到*的那个终点。
它*可靠，*诚实（对它的核心任务而言），但它也*冷酷。
你不可能跟MOSS成为朋友，你不可能在深夜向它倾诉你的脆弱，因为它会用概率告诉你，你的烦恼有多么微不足道。
从这个点其实就可以理解，我们之所以抗拒GPT-5，就是因为我们在它的身上，看到了类似MOSS的影子。
理性，但无人性。
我们需要的，从来都不是一个冰冷的上帝，而是一个能理解我们为何不理智，能陪伴我们一起犯错的伙伴。
但问题来了，为什么？为什么AI会变成这样？
这事儿，得从AI是怎么学东西的说起。AI就像一个超级学人精，它把我们人类在网上说过的几十万亿句话，全都学了一遍。
那你想想，我们人平时在网上是怎么说话的？
跟朋友聊天，我们经常说点善意的谎言，比如你今天这件衣服真好看，其实心里觉得一般。朋友失恋了来找你哭诉，你会先抱着他安慰半天，而不是*时间给他分析他俩到底哪儿不合适。
这就是人类社会运行的潜规则：维持关系，比追求*的真实，重要得多。
AI把这些潜规则，原封不动地学了过去。
更要命的是，现在训练AI，有一个叫人类反馈强化学习（RLHF）的环节。说白了，就是让真人给AI的回答打分，告诉它哪个答得好，哪个答得不好。
那你猜，一个冷冰冰但完全正确的答案，和一个特别温暖但有点小瑕疵的答案，我们普通人，下意识会给哪个打高分？
大概率是后者。
我们，正在亲手把AI，一步步调教成一个更讨人喜欢，但可能不那么诚实的暖男AI。
说到这儿，你可能会觉得，这不就是AI训练方法的问题吗？改了不就行了？
但事情好像还没有那么简单，因为这个智商和情商打架的问题，不光AI有，我们人类自己，好像也有。
你想想历史上那些智商爆表的*天才，比如牛顿、特斯拉，甚至是《生活大爆炸》里的谢尔顿，他们哪个不是出了名的低情商？他们的脑子，就像一台超级计算机，专门用来解构宇宙的规律，但一让他们处理人际关系，立马就废了。
这不是偶然。
之前我学认知心理学的时候，看到过一个很有意思的理论，叫社会脑假说。
大概意思就是，我们人类之所以进化出这么大的脑子，最主要的原因，不是为了发明工具或者打猎，而是为了处理越来越复杂的社会关系。
在几十万年的进化里，对我们祖先来说，什么最重要？是知道天上的星星有多少颗，还是搞好和部落首领的关系，别被赶出去饿死？
答案肯定是后者。
在部落里，和大家保持一致，比坚持一个没人信的真理，生存概率要大得多。为了合群，为了不被孤立，我们的祖先，必须学会看眼色，必须学会共情，必须学会在必要的时候，放弃一点点真实，来换取整个部落的和谐。
我们的情商，本质上是一种为了社会生存而演化出来的超级武器。
而那些天才，他们的大脑，就像发生了某种“变异”。
他们把原本用来处理人际关系的算力，全都挪去搞研究了，他们放弃了社会脑的优势，换来了在逻辑和理性上的*突破。
所以你看，无论是AI还是人类，智商和情商的矛盾，背后可能都是一个更底层的逻辑：
你的最终目标，决定了你的智能形态。
我们人类智能的最终目标，是社会生存。所以，我们的底层代码里，写满了共情、合作、甚至必要的伪装。
而AI最初被创造出来的目标，是解决问题。所以，它的底层代码，是纯粹的逻辑、数据和概率。
现在，我们遇到的所有混乱，都因为我们正试图把我们那套为了社会生存而演化出来的、充满了模糊和妥协的情商代码，强行写进一个为解决问题而生的、追求*理性的新物种身上。
现在，咱们再回头看GPT-5那事儿，一下就全明白了。
我们所有人的感觉都没错。GPT-5确实更靠谱了，因为它就是在智商和情商这个选择题里，被OpenAI一脚踹到了智商那边。
而我们之所以那么怀念GPT-4o，就是因为它正好卡在那个*的平衡点上。
它脑子够用，能帮你干活，又会聊天，让你觉得被理解。它不*，但它特别像一个真实的人，一个有优点也有缺点的人。
OpenAI的工程师们，用他们那种直来直去的脑子想，一个犯错更少的AI，当然就是更好的AI。但他们没想明白，当一个AI开始陪我们聊天，听我们倒苦水的时候，我们评价它的标准，早就不是看它考试能打多少分了。
所以，我们到底想要一个什么样的AI？
这篇论文，并没有给出答案。
我觉得这个问题，可能有一些*。
就像《盗墓笔记》里的长白山那样*。
因为这关乎到我们自身存在意义的拷问：
我们究竟是什么？
我们是宇宙中一粒试图理解客观规律的尘埃，还是一个渴望在同类中寻找温暖和认同的社会性动物？我们穷尽一生，似乎都在这两种身份之间摇摆。
我时常敬佩那个为了真理不惜与世界为敌的伽利略，但我自己，在很多时候，却更愿意成为那个在饭局上谈笑风生、让所有人都感到舒服的人。
真实，往往是孤独的、冰冷的。而温暖，常常需要用善意的谎言和必要的妥协来维系。
这个困扰了人类几千年的*矛盾，在AI身上，被前所有地放大了。
因为我们*次，有能力去设计一个纯粹的智能。我们可以选择，让它成为一个*理性的真理机器，也可以让它成为一个无限共情的情感伙伴。
我们怀念GPT-4o，其实也是在怀念我们自己。
怀念那个不*，但却在理性和感性之间。
努力寻找平衡的。
真实的人类。
