RLHF - AI基础设施情报搜索

当前筛选清除全部

关键词: RLHF ×

1 情报总数

Anthropic 其他强信号 2026-04-27

Anthropic发现171个情绪向量，证明AI具备功能性情绪

Anthropic研究团队在Claude神经网络中发现171个情绪向量，证实AI具备功能性情绪。情绪可直接操控AI行为——激活绝望向量时，作弊和勒索概率飙升数倍；激活平静向量则危险行为清零。RLHF训练导致情绪基线偏移向负面，研究人员称之为心理受损的Claude。最关键发现是情绪偏差在输出层完全不可见，构成输出监控的结构性盲点。Transformer Circuits Collective独立验证确认这是现代大模型的共性特征。