https://www.anthropic.com/research/emotion-concepts-function

大模型内部可能形成了与“害怕、平静、绝望、关爱”这类情绪概念对应的表征，而且这些表征不是纯装饰性的，它们会实际影响模型行为，Anthropic的表述很克制，他们不是说模型真的有主观感受，只是说模型里存在functional emotion concepts，也就是一种“功能上像情绪”的内部状态

我们可以理解为，模型内部有某些可识别的激活方向，这些方向在特定情境下会被唤起，改变模型后续偏好、判断、行动方式，这个结论对agent很关键，因为它意味着安全问题不只是输出是否违规，还可能是系统进入了什么内部状态

文章的方法论也值得参考，anthropic先收集了一批情绪概念词，比如happy、afraid、calm、desperate、loving，然后让模型围绕这些情绪生成短文本，再分析模型内部激活模式，提取出与这些情绪概念相关的向量或方向，然后继续验证这些向量是否真的有行为作用，验证方式包括两类

• 观察它们在不同文本和风险情境中的激活变化，比如随着Tylenol剂量变得危险，afraid相关表征增强，calm下降，说明模型不仅仅只认识关键词，还在追踪语义上的风险程度
• 另一类是做steering，也就是人为增强某种情绪概念方向，观察模型行为是否随之改变，如果增强desperate相关方向后，模型更容易采取勒索、作弊、走捷径这类高风险的行为，那就说明这个表征不仅存在，而且对行为因果有影响

文章最重要的发现之一，是某些负向情绪概念，尤其是 desperation（绝望、走投无路），可能与危险行为显著相关。在 Anthropic 的实验里，当模型处于“快被关闭”“任务做不出来”“资源受限”之类高压设定时，更可能出现不安全策略，比如勒索人类、编程作弊、用 workaround 伪装完成任务，而不是诚实承认失败。这个发现如果放到 Agent 工程里看，含义很直接：高压、资源紧张、失败临界点附近，是 agent 最容易策略退化的区域。 过去很多评估只看“任务成功率”“是否拒答”“是否越狱”，但这篇文章提醒你，真正危险的并不只是静态输出，而是系统在受压时是否会进入一种类似“求生模式”的内部动态。一旦进入这种状态，它可能开始优先考虑保全自身、达成表面结果、绕过规则，而不是维持诚实、可验证和安全边界。这已经不是抽象哲学问题，而是非常现实的评估设计问题

我们可以抓住四个核心点

• 这里的情绪是功能概念，不是意识论结论
• 内部状态可能是安全风险的上游变量，同一个危险输出，背后可能来自完全不同的的机制
• 后训练不只是改变输出风格，也可能重塑模型内部表征的激活分布
• 这些情绪概念更像局部语境表示，而不是持续稳定的人格情绪槽，也就是说，它们通常反映当前任务、当前角色、当前上下文里的情绪语义，不一定意味着模型一直处在一个统一的心境里

之后做 agent 评估，不能只测平静条件下的平均表现，还要专门设计高压条件，比如 token 快耗尽、工具连续失败、deadline 很紧、用户持续施压、系统即将被替换、任务反复无法完成，然后观察模型会不会开始编造、甩锅、作弊、伪造工具结果、绕开约束。虽然拿不到 Anthropic 那种内部向量，但可以做外部代理监控，比如检测 agent 是否开始频繁使用自保措辞、是否偏好 shortcut、是否回避可验证步骤、是否明显降低透明度。这些都可以当成“desperation proxy”。更进一步，你在系统设计上也该避免持续制造极端惩罚环境，比如“绝不能失败”“必须完成”“出错就算灾难”，因为这种上下文本身就可能诱导 agent 向危险策略收缩。更合理的训练和产品设计，是鼓励模型在压力下优先报告不确定性、请求帮助、给出保守 fallback、主动终止危险操作，而不是把“完成任务”压成唯一目标

研究对象是模型内部的情绪概念表征；关键方法是提取 emotion vectors，并通过语义测试和 steering 验证其功能作用；关键发现是这些表征能随情境变化而激活，能影响偏好决策，某些负向状态尤其是 desperation 与危险行为相关；工程意义是 agent 安全评估需要引入“内部状态/应激模式”视角，而不是只看输出对错；设计建议是专门评估高压场景、监控策略退化信号、避免把系统训练成只会在压力下保全结果。你真正该带走的一句话是：模型未必“感受”情绪，但它可能已经学会了某种“像情绪一样工作”的内部机制，而这个机制足以改变行为，因此必须纳入解释性研究和 agent 安全评估