通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
妻子互换被高潮了三次金英权坦言：“在世界杯或世俱杯上，我们有过被高看的时候吗？从来没有，情况始终如此。虽然自尊心会受挫，但这是事实。外界预测并不重要。”甚至，她还被堂哥侵犯，讽刺的是家里长辈都知道这件事，却没有一个人帮助她，就连最亲的妈妈，在听到女儿哭诉时只留下一句“人哪有不受委屈的！”妻子互换被高潮了三次www.zjzjzjzjzjy.gov.cn第二，单依纯这把火，那是 “星星之火，可以燎原”。她双眼一眯，小歌一哼，全网就掀起了 “单依纯模仿大赛”，各行各业都来 “整活”。搞科研的学生唱：“熬夜做实验，结果又偏差，横竖都被骂，躺平又能怎？” 新手老师唱：“我本教数学，今当班主任，区区三个班，试试又能怎？” 打工人唱：“我本是个人，出来当牛马，区区三千块，不干又能怎？” 年轻妈妈唱：“我本是个人，后来当了妈，区区三万天，当妈又能怎？” 这一声声 “如何呢，又能怎”，没有哀怨，只有 “能屈能伸” 的洒脱，模仿、改编、夸夸她的人越来越多，她直接在互联网建起了专属的 “爱乐之城”。在短视频平台上，相关话题的播放量已经突破了数十亿次，各种创意满满的模仿视频层出不穷，有的模仿她的经典表情，有的重新演绎她的热梗歌曲，甚至还有外国网友也加入了模仿大军，用不太标准的中文喊着 “如何呢？又能怎？”ESA表示，在5月23日进行的任务中，两个航天器保持150米的距离，相对位置精确到一毫米以内，掩星体使用其携带的圆盘在日冕仪的光学仪器上投下阴影，完全覆盖太阳的明亮圆盘，从而使日冕仪可以在不受太阳强光干扰的条件下捕捉日冕的图像。
20251207 💢 妻子互换被高潮了三次Q：从智能驾驶到机器人，既有扫地机等消费场景的「降维」，也面临具身智能（如人形机器人复杂任务）的「升维」挑战。这些升维挑战如何破解？www.7788.gov.cm类似罗欢这样的消费者还有很多。看球赛和喝啤酒是最佳搭档，不同于以前看球赛得提前几天线上囤货，或者去商超人肉搬啤酒回家，今年观看苏超的很多球迷选择闪购买啤酒，不仅送货快，价格还便宜。
📸 董朝全记者 陈玉荣 摄
20251207 🔞 妻子互换被高潮了三次近日，广东珠海市当地媒体报道了一男子在海上“惊险漂流7小时”后，在珠海万山区海域获救的新闻，引发网友热议。5月29日，当事男子在社交平台晒图称，已制作锦旗送到参与援救单位。随后，上游新闻（报料邮箱baoliaosy@163.com）记者联系上当事人、今年26岁的陈先生，他向记者讲述了事发经过和被救过程，并希望大家要引以为戒，“因为我的冒险，浪费了这么多警力，占用公共资源，深感抱歉。”www.zjzjzjzjzjy.gov.cn其实，沙特虽然没有大家想象的那么好，但是也不会那么差，所以不要抱着太大的期待，但是也别自己吓自己。建议大家至少要进行 1-3 个月深度市场调研，避免 “观光式考察”，重点分析渠道、成本、竞争格局；其次要降低预期，沙特市场非 “暴利天堂”，头部企业净利润率约 7%-10%，做生意需要遵循市场规律，切勿幻想 “翻倍利润”；第三，要聚焦自身优势，优先复制国内成熟模式（如电商、物流、建材），避免在陌生领域 “从零开始”。
📸 贾永坡记者 褚福国 摄
💔 在清华大学数学评卷点记者看到，这里实行全封闭式管理，设立了安检门和金属探测仪，在安保人员严格验证和安检后方可入场；任何纸张、移动通信和存储设备都无法携带入内；评卷现场的网络连接采用局域网形式与外网物理隔离。zjzjzjzjzjy.gov.cn
