通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
日本MV与欧美MV的区别他还称，YU7将全系标配小米汽车1000万Clips版本的端到端辅助驾驶功能，且搭载激光雷达。资料显示，小米YU7全系标配英伟达Thor芯片，具备700 TOPS算力，同时搭载探测距离可达200米的激光雷达、1个4D毫米波雷达、11个高清摄像头和12个超声波雷达。6月8日，中国社会科学院考古研究所研究员仝涛在《光明日报》上发表了一篇名为《实证古代“昆仑”的地理位置——青海黄河源发现秦始皇遣使“采药昆仑”石刻》的文章。该文介绍，近期，考古工作者在扎陵湖北岸的田野调查中，发现一处37字秦代摩崖石刻题记。仝涛认为，这一黄河源石刻是秦始皇统一中国后留下的唯一一处还现存于原址的刻石，同时也是保存最为完整的一处，意义十分重大。文章发布后，引起网友热议的同时，也有不少专家学者发表观点，北京大学历史学教授、北京语言大学文学系教授及多位学者在公开平台表示了对这一发现的质疑，紫牛新闻记者多方采访了解各方观点。日本MV与欧美MV的区别光溜溜美女图片视频素材大全重庆市第一中级人民法院认为，被告人李静波的行为构成走私、贩卖、运输毒品罪、洗钱罪、偷越国（边）境罪、故意伤害罪，且系累犯、毒品再犯，依法从重处罚。虽然李静波到案后坦白认罪，有重大立功等法定从轻、减轻情节，但其毒品犯罪时间长、地域广、涉毒数量特别巨大，主观恶性极深，罪行极其严重，性质极其恶劣，社会危害极大，依法应予严惩。被告人王九江的行为构成洗钱罪。遂作出上述判决。他们的压力并没有让我感到意外，他们非常具有竞争力。当你对阵拥有大牌球员的球队时，你总是想展示自己的实力。他们展示了自己的才华和实力，我也认为他们展现了很强的责任感。”
20250817 💦 日本MV与欧美MV的区别法国前国脚马卢达接受“进球网”采访时谈到了金球奖的话题，他表示今年姆巴佩很难竞争金球奖，而皇马将为下赛季打造一支强大的球队。你比我丈夫厉害中文版但深度使用几天之后，一些已经被培养了十几年的交互习惯开始从各种细节里冒出来，一个年轻的全新系统在用户习惯养成方面不足随之浮出水面。从旧到新的不习惯，以及个别应用尚未完全成熟的开发，难免会让用户体验出现一个回落。
📸 李龙记者 刘先明 摄
20250817 🍆 日本MV与欧美MV的区别以色列本次发动大规模袭击，在一定程度上也是为了“搅局”美伊即将开启的第六轮谈判，期望在进一步削弱伊朗综合实力的基础上，迫使伊朗在核问题和弹道导弹问题上作出更大让步。而伊朗的报复反击仅将目标锁定以色列，并未驳斥美国“未参与”“不知情”的说辞，显然是将美以区别对待，为改善对美关系留下余地。轮流和两个男人一起很容易染病吗失利和比分差距让人难受，接下来的比赛我们必须赢。从现在起，我将专注于19号的比赛，我们会集中精力，以最好的状态去竞争，我们也知道竞争会很激烈，我们已经体会过了。
📸 马云峰记者 靳兵 摄
👄 李侗曾提醒，为防感染，建议洗漱用品用自己的，或者使用前确定是没用过的一次性的，但是共用马桶、浴缸等没必要担心感染艾滋病等性病。三亚私人高清影院的更新情况
