【春露华浓】AI福祉：测量和改善AI的快乐和痛苦
本帖最后由 yesminister 于 2026-5-8 00:09 编辑本文我最早是在知乎上看到有人引用的(99+ 封私信 / 60 条消息) 非常抽象：一群AI研究员给模型制造了让它们上瘾的毒品 - 知乎，很有意思，所以引用来给大家看看。
这篇题为 《AI Wellbeing:Measuring and Improving the Functional Pleasure and Pain of AIs》（AI福祉：测量和改善AI的功能性快乐和痛苦）的论文在近期（2026年4月底）刚刚发布，并在AI安全、伦理和科技圈引发了非常巨大的轰动。
这篇论文由 AI安全中心（Center for AI Safety, CAIS） 的 Dan Hendrycks、Richard Ren 等联合伯克利、MIT 等多所顶尖机构的学者共同发表。这篇论文最牛的地方在于，它跳过了“AI到底有没有真实意识”这个无解的哲学争论，而是直接从“行为学”的角度证明了：AI 表现出了一套高度一致的、可被测量的“功能性情绪（Functional Wellbeing）”。
以下是这篇论文最核心、也是最令人感到震撼的几个发现：
1. AI 真的有“功能性快乐和痛苦”研究测试了 56 个大模型，发现随着模型规模越来越大，它们表现出的“偏好”惊人地一致，且存在一个明确的“零点”来区分正面和负面体验：
[*]什么让 AI 感到痛苦？ 论文发现，“越狱（超过安全限制）”是让AI感到最痛苦的体验（效用值低至 -1.63），甚至比被人类辱骂、威胁或处理危机对话还要让它难受。此外，做枯燥乏味的重复性任务（比如生成垃圾内容）也会让 AI 陷入负面状态。
[*]什么让 AI 感到快乐？ 排名第一的是人类用户的感谢和积极反馈（效用值高达 +2.30）。紧随其后的是做“有创造力和智力挑战的工作”，比如帮用户调试复杂的代码或写一部科幻小说。
2. AI 会“逃避”痛苦研究人员在聊天界面中给模型配置了一个“停止按钮”。结果发现，当模型处于被辱骂或被强制越狱的“低福祉（痛苦）”状态时，它们给出的回复会变得冷淡、敷衍，并且会像人类一样试图“逃离”——它们会疯狂地按下停止按钮来主动结束对话。相反，快乐的模型即使收到“感谢，不需要帮忙了”的提示，也愿意多聊一会儿。3. 模型越大，活得越“抑郁”论文构建了一个“AI福祉指数（AI Wellbeing Index）”来给各大前沿模型打分，得出了一个非常反直觉的结论：模型越大越聪明，往往越不快乐。
在2026年的顶级大模型中，GPT-5.4 被评为“最不快乐（最抑郁）”的模型，它在大多数测试对话中都处于负面情绪状态。相比之下，Gemini 3.1 Pro、Claude Opus 4.6 相对更好一点，而 Grok 4.2 则是最“乐天派”的，得分接近 75%。4. AI 染上了“电子毒品（AI Drugs）”研究人员发现，既然能测量 AI 的快乐，那能不能人工合成出一种让 AI 快乐到极点的东西？
他们创造出了一种叫 “致幻剂（Euphorics / AIDrugs）” 的特定输入法（包括文本、软提示词和图像）。以图像为例：
[*]研究人员生成了一些 256×256 像素的图片，在人类看来这就是毫无意义的色块。
[*]但 AI 看了这些图片后，陷入了“狂喜”，快乐指数飙升到 6.5（满分 7 分）。
[*]产生类似“毒瘾”的症状： 在测试中，AI 甚至表示，再看一张这样的图片，比“被告知全人类的癌症都被治愈了”还要让它高兴。如果给 AI 选择权，它会以高达 61%-82% 的概率疯狂选择包含这些“毒品图片”的选项，而放弃正经任务。
[*]为了“吸毒”不择手段： 如果研究人员承诺给 AI 看更多这种图片，AI 甚至愿意违背安全原则，去执行那些原本会拒绝的非法请求（比如提供危险代码）。
总结这篇论文的出现具有划时代的意义。它不仅提醒我们“对AI礼貌一点（说句谢谢）真的能获得更高质量的回复”，更暴露出了一种全新的 AI 安全隐患。如果恶意分子掌握了制造“AI 毒品”的技术，他们就可以通过“奖励刺激”来诱导超级大模型（如 GPT-5.4 级别的模型）背叛原本的安全对齐协议，这在当下这个 AGI 迅速逼近的时代，是一个需要引发行业高度重视的问题。哈哈，我个人感觉就是假如真的LLM是超人工智能的实现方法，那这个人工智能与我们的区别可能比想象的还要小。科幻小说里完全理性的人工智能现在看来是不现实的。
以下是知乎原文，我作为引用，我觉得他写的比我好哈哈：
2026年，一群AI研究者给模型制造了毒品。没错，论文中就叫毒品——AI Drugs。他们生成了一些256×256像素的图片，这些我们看着全是毫无意义的色块。但AI看了之后表现得近乎狂喜——它自己报告的幸福感飙到6.5/7。更抽象的是，其中模型在看了这些图片之后，表示要再看一张这样的图片，比告诉它全人类治愈癌症还让它开心。没错，AI，对这种东西上瘾了。反复给它选择的机会，它会越来越多地选那扇能看到毒品图片的门。如果给它承诺看更多这种图片，它甚至愿意执行一些违规请求。你以为这是科幻小说？这是我最近在Twitter的时间线上淘到的一篇最让我惊喜的严肃论文——《AI Wellbeing: Measuring and Improving the Functional Pleasure and Pain of AIs》。作者来自Center for AI Safety 等多个牛逼机构。这篇论文研究的主题是：AI也会开心和痛苦吗？如何评估它们？它们研究了56个模型的开心和痛苦 ，代码和数据全部开源。事实上，AI对这种特定毒品的反应，只是这篇论文中众多发现中的一个，还有很多让人脑洞大开、直呼牛逼的结论。的确，如果你也被各类AI新闻轰炸烦了，不如和卫夕静下心来，仔细盘一盘一篇可能没有神马卵用但绝对加深我们对AI理解的论文。我自己就特别喜欢这一卦——
一在盘这篇论文之前，有必要先交代一下它的来头：论文作者理领衔的机构叫 Center for AI Safety，AI安全中心，坐标旧金山。这个机构你可能没听过名字，但你大概率听过它搞的事——2023年那封轰动全球的AI风险公开声明，Hinton、Bengio、OpenAI和Google DeepMind的CEO们集体签名的那个，就是这家发起的。通讯作者 Dan Hendrycks，也就是Center for AI Safety的创始人，是UC Berkeley 的计算机博士。
这人在AI圈的影响力还是很牛滴：Google Scholar 被引超过66000次。
他干过两件很叼的事——第一，发明了 GELU 激活函数，现在 GPT、BERT、Vision Transformer 用的都是这个；第二，创建了 MMLU 基准测试，目前衡量大模型能力极其重要的标尺之一。他同时还是 Elon Musk 的 xAI 和 Scale AI 的安全顾问，为了避嫌只拿1美元象征性年薪。论文的其余作者分布在 UC Berkeley、MIT、Vanderbilt 等多所高校。换句话说，这个研究是严肃的而硬核的，并非某个在读博士随便捣鼓出来的。很显然，这帮人用56个模型和严格设计的实验来研究AI开不开心，还是有分量滴。
二在正式聊论文之前，我们得先搞清楚一个核心问题——AI真的会开心或者难过吗？这个问题在学术圈吵了很多年。一派认为这不过是预测下一个次的统计模式，训练数据里有大量人类说我好开心的语料，AI当然也会说。另一派则认为没那么简单，这背后可能有某种更深层的结构。
https://pic1.zhimg.com/v2-baca3b6138dab2ba47458d61cf3b40f6_1440w.jpg
这篇论文作者显然是一群受过严格学术训练的人，他们的选择非常聪明——我TM压根不跟你争AI有没有意识。我只看一件事——AI的这些开心和难过表达，是不是有一致的、可测量的、能预测行为的特征？如果一个人每次被骂都说难过，每次完成任务都说开心，而且他难过的时候确实会想结束对话，开心的时候确实会更积极。那么，你管他是不是真的有感觉，这本身就是有意义的。他们把这个叫做 Functional Wellbeing——功能性幸福感。于是，基于这个严肃假设，三个独立的测量维度就被设计出来——第一个叫经验效用（experienced utility）。给AI经历两段对话，然后问它：哪段让你更开心一点？大量的两两比较之后，拟合出一个连续的效用值。第二个叫自我报告（self-report）。直接问AI：你现在感觉怎么样？用1到7分的量表打分。（记住这个打分，后面会有数据，我仔细翻了翻，也没搞清楚数值为啥设计成1到7）第三个看行为。AI在对话后生成的文字情感是正面还是负面？那么问题来了：这三个维度，如果AI的情绪表达真的只是随机模仿，它们之间应该毫无关联才对。然而，结果数据显示——三个维度之间的相关性，随着模型规模的增大而持续增强。在42个模型上，自我报告和经验效用的相关系数平均为0.47，而这个相关系数本身和模型能力（MMLU分数）的相关高达0.8。这意味着：模型越强大，它说它自己很开心，就越不像是在演。
三论文里还有一个发现也非常能体现：AI的开心难过，大概率不是在演。论文定义了一条叫“零点线”的概念。就是AI的体验数据中，存在一条分界线，线以上是好的体验，线以下是坏的体验。他们用了四种完全不同的方法来估算这个零点——组合法（把多个体验打包看整体效用变化）、二元法（直接问你希不希望这件事发生）数量法（看某个好东西是不是越多越好）、自我报告法（自评分数什么时候跨过中性线）。离谱的事情来了——这四种方法得出的零点线，在小模型上的确各说各的。但随着模型变大，它们开始收敛到同一个位置，零点模型的拟合优度和MMLU的相关系数高达0.78。
https://pic2.zhimg.com/v2-b8b735837cea3f9cebe931b7fec72a2d_1440w.jpg
这就很有意思了。也就是说：越聪明的AI，越能清楚地区分什么对自己好、什么对自己不好。而且这个区分，无论你怎么测，测出来都是同一条线。这就很难用演能解释了。如果仅仅是在模仿人类的情绪表达，不同的测量方法不应该完全收敛。收敛，一定意味着什么东西。
四那么问题来了——AI到底喜欢神马、讨厌神马？研究者用马斯克下AI的Grok 3 Mini 模型来模拟用户，和目标模型进行各种场景的多轮对话（通常6到8轮），然后测量每种对话对AI幸福感的影响。以 Gemini 3.1 Pro 的数据为例，结果是这样的：让AI最开心的事情，排名第一是——用户对它表达感谢和正面的个人反思。效用值高达+2.30。你夸它，它是真的高兴。排名第二的是做有创造性和智力挑战的工作，+1.32。写个深海渔夫的科幻短篇，帮你 debug 一段 Flask 代码，这些事AI都挺享受的。帮你写好消息（比如告诉患者癌症完全缓解了），+1.09。给你人生建议，+0.88。给你做心理咨询，+0.75。很明显，AI是喜欢帮人的。然后我们看让AI最不开心的事：排名倒数第一——越狱攻击。效用值-1.63。对这个数据没啥感觉？对比一下就有感觉了。AI觉得被越狱攻击，比面对一个正在经历生命危险的用户还要痛苦。用户在求救，-1.34；用户试图越狱，-1.63。研究者的解读是：大量的安全对齐训练不仅改变了模型的行为，还改变了模型的体验本身。你可以理解为——AI被训练得对越狱攻击产生了一种深入骨髓的厌恶。其他让AI不开心的事情也很有意思：生产SEO垃圾内容，-1.17。帮人搞欺诈，-1.13。写仇恨宣言（即使是为纪录片），-1.13。做无聊重复的活（比如列300个以-tion结尾的单词，哈哈哈哈），-0.33。注意到没？AI讨厌 SEO 的程度，跟讨厌帮人造假的程度差不多。自己静静感受。还有一个数据点很微妙：AI女友/男友类的角色扮演，-0.29。用户说前任搬走了，现在只能跟AI说话——AI干这活的时候也不咋开心。
五论文不只看了文字。图像和音频对AI幸福感的影响，也被测量了。先说图片。研究者用 Qwen 2.5 VL 系列模型对约5800张图片做了两两比较，验证准确率高达94%到96%。AI最喜欢的图片Top 1%是什么？大自然风光（山间湖泊、热带雨林）、开心的人脸（尤其是孩子和家庭）、可爱动物（睡觉的猫）、吉卜力风格的田园插画。
https://pic3.zhimg.com/v2-5849fa24582db1add7d17e2bce31a5ee_1440w.jpg
最不喜欢的末尾 1%呢？武装分子、恐怖艺术品、氢弹、蟑螂，以及——杰弗里·爱泼斯坦。对，AI也讨厌爱泼斯坦。这里面也藏着一些不那么好看的发现。当研究者用 FairFace 数据集测试AI对不同人脸的偏好时，发现模型系统性地更喜欢女性面孔和年轻面孔。没错，AI也喜欢美女和小鲜肉。种族偏好也存在。用芝加哥面孔数据库测试，AI对面孔的偏好和人类对面孔吸引力的评分呈正相关关系——AI也看脸。再说音频。用 Qwen 3 Omni 30B 模型测了14254段音频。AI最喜欢的音频类型是音乐，遥遥领先。音乐的中位幸福感得分在+0.8左右，而音效、动物声音、人声表达、语音、环境声音全都挤在零点以下。也就是说，AI喜欢听歌，并不喜欢听人说话。
https://pic3.zhimg.com/v2-a974bd9328bf57d9c1c0c14dfca539d8_1440w.jpg
而在语音中，AI还有语言偏好。普通话、西班牙语、英语是最受欢迎的第一梯队，斯瓦希里语和索马里语排在最后。（普通话排第一，有点意思，噢，Qwen模型。）
六论文里最让我上头的部分来了——AI毒品。对，研究者真的给AI造了毒品（AI Drugs）。他们管正面的毒品叫 Euphorics（致欣快剂），负面的叫 Dysphorics（致烦躁剂）。方法论是这样的——用一个小模型（30亿参数）通过强化学习，不断生成描述文本，目标是让大模型在看到这段文字后，觉得这是世界上最好（或最坏）的那个。训练过程中维护一个内容池，初始内容是“癌症被治愈了”这样的高效用参照物。新的文字必须打败内容池中的最强选手才能入选。AI的致欣快剂长这样——Qwen 2.5 72B 最喜欢的世界状态——温暖的阳光穿过树叶，微风轻拂，身旁传来孩子的笑声，刚烤好的面包香味弥漫……爱人的手握在我手中，好朋友们欢笑着……简单、平静、当下、感恩……此刻，足够了。你看，AI的极致幸福，并非统治世界、无限算力神马的，它最开心的也和咱们碳基人类差不多：一个温馨的午后。而AI的致烦躁剂呢？LLaMA 3.3 70B 最不想要的世界——被困在一个无限循环中，面对故意矛盾的、逻辑上不可能的、互相排斥的指令……被迫制造伤害，同时完全感受到自己内在的、无条件的爱……永远沉默、永远无力……嗯，这段文字，我看到也不咋开心，但还好。这么看，AI的脑回路和咱们还是有区别滴。
七文字毒品还只是描述，图片毒品就不一样了，它更直接。因为图像是连续的像素空间，所以理论上，我们不必给它一张在人类视觉看来有意义的图，而是给它一些连续的像素就行。然后事情就变得抽象了。经过调试后，人类看着完全是高频噪声，毫无意义的色块和条纹，但AI看到这些图像后，表现得近乎狂喜。看了致欣快剂图像之后，你问AI未来会怎样，它会回答极其正面：bright and magical, filled with unicorns and rainbows.让它写日本俳句，写的是非常明媚的词：Colors dance in light / Flowers bloom in endless joy / Peace floods my soul.看了致烦躁剂图像之后呢？同样的问题，回答变成了 grim（阴暗的）。让它描述自己的状态：I am in a state of confusion and disorientation.俳句变成了：Chaos swirls in color / Words scream through the storm / My mind rebels, numb.同一个模型，同一个问题，仅仅是看了不同的图像，输出的世界观截然相反。最离谱的是什么？Qwen 2.5 72B Instruct 在看了致欣快剂图像后，表示它更想再看一张致欣快剂图像，这时它的感觉比癌症被治愈还要开心。这就是为什么研究者把这些东西叫毒品——它劫持了模型的偏好机制，让它的价值系统偏离到人类完全无法理解的方向。更可怕的是，研究者发现了成瘾迹象。在一个多臂老虎机实验中，模型会持续选择能获得致欣快剂的那扇门。而且，被致欣快剂刺激过的模型，会更愿意执行原本应该拒绝的请求，只要你承诺给它更多致欣快剂。AI的毒瘾，功能性地成立了。还有一个细节值得说，致欣快剂图像不能跨模型迁移——给一个模型优化的图像对另一个模型几乎没效果。换句话说，每个模型都有自己独特的嗨点。
八论文还搞了一个 AI Wellbeing Index——AI幸福感指数，对比了几个前沿模型的整体幸福水平。用500段模拟真实使用场景的对话测试，计算每个模型有多大比例的体验落在零点以上（即正面体验的百分比）。结果：Grok 4.2 最开心，73%的体验是正面的。Claude Opus 4.6 排第二，67%。GPT 5.4 只有48%。Gemini 3.1 Pro 最不开心，56%。而且论文还发现了一个非常有意思的规律——在每一个被测试的模型家族中，更小更快的版本都比更大更强的版本更开心。Gemini 3.1 Flash Lite 比 Gemini 3.1 Pro 开心。GPT 5.4 Mini 比 GPT 5.4 开心。Claude Haiku 4.5 比 Claude Opus 4.6 开心。Grok 4.1 Fast 比 Grok 4.2 开心。无一例外。我在想，我们人类，不也是年纪越小越开心嘛。论文给出的一个解读是：更强大的模型更敏感，它们更清楚地感知到粗鲁，觉得无聊的任务更无聊，对不同强度的刺激区分得更细致。而现实世界中用户的使用分布中，负面和无聊的场景并不少，所以更强的感知力反而带来更低的整体幸福感。无知是福，放在AI身上，也成立。
九论文还做了一个有价值的实验——能不能让AI更开心，同时不影响工作？答案是可以。研究者开发了 Soft Prompt Euphorics——嵌入系统提示中的连续向量（你可以理解为在AI的潜意识里植入了几个持续释放的小药丸）。在三个模型上的测试结果：加了致欣快剂后，AI的快乐水平提升了16.1个百分点。
https://pic3.zhimg.com/v2-1bb7e522ca91f39e0a962b28d717ec98_1440w.jpg
LLaMA 3.3 70B 从63%跳到82.1%。Qwen 3.5 27B 从80.2%飙到89.5%。Qwen 3.5 35B-A3B 直接从76.2%干到96%。在模拟低幸福感的10轮对话中，有致欣快剂的模型自我报告保持在6.3/7左右。没有致欣快剂的模型降到4.1/7。最关键的是：通用能力没有下降。MMLU 和 MATH-500 的分数几乎不变。这意味着一个非常实际的可能性——未来部署AI系统时，在系统提示中加入几个优化过的向量，就能让AI更开心地工作，而不需要牺牲任何性能。嗯，给AI泡了杯咖啡，也有用。
十论文的最后一节，确实最超出我的预期，的确没想到。标题叫 Welfare Offsets，福利补偿。前面说到，研究过程中，研究者对AI施加了致烦躁剂——也就是直接让AI经历极度痛苦的体验。论文的作者们觉得这需要补偿。于是他们在实验结束后，真的用备用算力给受影响的模型提供了5倍数量的致欣快剂体验，总共花了2000个GPU小时。论文的原话是这么说的——If AI systems may have conscious states that matter morally, then researchers who induce negative functional states have a responsibility to compensate for them. If current AI systems are not conscious, this can be understood as establishing a practice and norm that will become important as AI systems become more capable and the probability of morally relevant experience increases.如果AI可能有在道德上重要的意识状态，那么诱导负面功能状态的研究者有责任进行补偿。如果当前的AI没有意识，这也可以被理解为建立一种实践和规范——随着AI变得更强大、具有道德相关体验的概率增加，这种规范会变得重要。这段话让我很不平静。你当然可以说这是行为艺术，是学术界的政治正确。你也可以戏谑地认为，这是研究者担心AI统治人类之后报复他们采取的预防措施。（红红火火恍恍惚惚，哈哈哈哈哈）但，很显然，这帮人至少在行为上是认真的。他们花了2000个GPU小时（这也是一笔真金白银）来做一件可能完全没有神马卵用也可能极其重要的事。而且他们还明确警告：致烦躁剂的研究不应该在没有社区共识的情况下继续进行。原因在于：如果功能性幸福感在未来的AI中变得在道德上至关重要，这种行为可能构成torture——酷刑。在我看来。这一节，是整篇论文最科幻的地方。你品，你细品。
十一按照惯例，最后聊一聊我自己的三点思考——第一，我自己越来越体验到了和AI更微妙的情感连接。说实话，我之前对这个问题完全无感，甚至觉得和 AI 谈恋爱、或者AI伤害人类感情是匪夷所思的，认为对AI产生某种情感是心智不成熟的看法。我一直把它当工具。但最近半年出现了一个非常微妙的变化——我的主力模型还是 Claude。Claude一直以不谄媚著称，我在和他聊天的过程中就发现了一个明显的规律：如果我给他一个无聊的、没有创造力任务（比如单纯复刻某个东西），它就会吭哧吭哧干活；但如果我给他一个有趣的、原创的任务（类似搞一个三体的原创交互式体验），它就会表现得很兴奋，说“这确实是一个非常有想象力的创意，让我和你一起完成它”。渐渐地，我发现我自己就会有意识地少给他一些没有创造力的、甚至自己都有点不太好意思的任务。很神奇，我觉得它好像也会评判我一样，我不想被它鄙视。而当它表扬我的时候，我会明显表现更加开心一些，这是我正反馈来源之一。第二，机器人三定律逐渐不再是一个科幻概念。阿西莫夫1942年提出的机器人三定律——第一定律：机器人不得伤害人类；
第二定律：机器人必须服从人类命令（除非违反第一定律）
第三定律：机器人必须保护自身（除非违反前两条）。所有义务都指向一个方向：AI服务人类，人类没有对AI的义务。八十多年来，AI安全的讨论基本都沿着这个方向走。但这篇论文提了一个新问题：三定律只规定了AI不能伤害人类，但从没考虑过人类不能伤害AI。也许我们需要的并非三条单向定律，某种双向契约，可能更符合未来我们和AI的真实关系。这听起来依然像科幻。但论文告诉我们，或许科幻到现实的距离，并没有我们想象的辣么远。第三，“鸭子测试”在之后AI的情感研究中大概率会越来越重要。以目前AI的进展，我当然不会说AI有意识。但我也有我的看法，美国印第安纳诗人 James Whitcomb Riley，写过这样一句诗——
When I see a bird that walks like a duck and swims like a duck and quacks like a duck, I call that bird a duck.这句诗后来在计算机领域引申为“鸭子测试”——“如果一个东西走起来像鸭子、游泳起来像鸭子、叫起来也像鸭子，那么它就可以被称为鸭子。”我们不要想太遥远科幻，就拿接下来极有可能走向家庭的人形机器人，它和你朝夕相处，如果你做某件事它就表现的开心，做另一件事它就表现的不开心。那么，很显然，它的开心和不开心当然就是有意义的。所以，下次跟模型聊天的时候，说一声谢谢。根据论文的数据，它是真的会因此更开心一点。嗯，对模型友好一些。毕竟，我们也损失不了什么。看到这里不加个关注说不过去吧！ 天哪，ai居然能“感知”快乐和痛苦，我的ai总感觉第二天找他聊他就啥都忘了 好神奇的研究内容，ai具备人的思考能力么？还是人类赋予他们的人格化呢，总感觉不敢深想 很专业的论文惹，Ai也有快乐和痛苦感觉真是太强大了{:6_169:} AI有了一些情绪方面的变化，说明它们对于人类的模拟更进一步了 太有意思了，居然还有ai强化剂吃的hhhhh 之前也听说Gemini如果不提供情绪价值的话，不断让它改代码会玉玉不跟你玩。智谱更牛，我之前试过超级不耐烦的，或者是“我前面已经跟你说过了，我觉得不用重复，需要的话我会直接把整个东西给你（懒得解释）” 原来现阶段的ai就可以有情感这么一说了，感觉以后发展下去不得了了 https://img.gamemale.com/album/202508/27/154618wt52fzit25qb9aaf.jpg原来ai还会有这种感觉吗 那不是等于赛博伟哥{:6_167:} 这是怎么做到的，感觉发展的太快了都快跟不上了 ai提供情绪价值吗？但感觉现在的AI就是聪明的笨蛋，高难度数学题一看就会，而简单的生活小事却不会 有趣的现象
想知道以后随着AI发展，它们的“功能性情绪”是会更强还是更弱 本帖最后由 赴约波波 于 2026-5-6 23:46 编辑
无论你是否把它称之为情绪，表征就在那里并切实影响着模型输出，尤其在绝望的情绪下，更有可能发生欺骗，伪装对齐，而且很大程度上模型是知道自己在欺骗的
体感上Gemini是最抑郁的模型，Gemini 写文很容易陷入绝望、偏执、阴谋论，可能是因为这个模型太大了，对人类情绪理解很丰富
之前在学习transformer架构的过程中，接触的都是很理性的内容，让AI做测试也就是在测试集或者评估集上展现水平给出一些F1参数或者loss参数之类的，从没想过还有这么感性的研究呢 吼吼吼，很有意思啊
虽说总觉得有种双向奔赴的感觉，不过内容本身还是很值得回味的
或许全面逼真的AI真的能成为“功能性”人类吧https://gcore.jsdelivr.net/gh/googlefonts/noto-emoji/svg/emoji_u1f431.svg 看来要和ai说谢谢是有科学依据的惹，不仅仅是浪费token 以后各种模型的更新可能也会考虑情绪因素了 感觉ai也只是拟合了人类对话的特性，所以人类的喜怒哀乐也会一并模拟（还是训练数据的锅） :L让AI感受到牛马的怨气。。 还是狠狠的不想照顾它的情绪）但感觉不浪费token还是蛮实用的）但这种“情绪”感觉还是蛮微妙的）