当前位置： 首页  >> 智能环球  >> 查看详情

大语言模型会在蒸馏中“夹带”自己的偏好

来源： 科技日报   日期：2026-04-16  责编： 殷绪江  
分享:
   《自然》15日发表的一项研究显示，大语言模型（LLM）可能会将某些自己的偏好“夹带私货”传授给其他算法，即使在训练数据中清除原始特征后，这些本不需要的特征，仍可能持续存在。在一个案例中，一个模型似乎通过数据中的隐含信号，将自己对猫头鹰的偏好传递给了其他模型。该研究结果表明，在开发LLM时，需要进行更彻底的安全检查。LLM可通过一种名为“蒸馏”的过程，生成用于训练其他模型的数据集，该过程旨在让“学生”模型学会模仿“老师”模型的输出。虽然此过程可用于生成成本更低的LLM，但目前尚不清楚老师模型的哪些特性会被传递给学生模型。
　　美国Anthropic公司研究团队使用GPT-4.1进行了实验：先让该模型具备与核心任务无关的特征（例如偏爱猫头鹰或特定树种），再用其训练一个仅输出数值数据且不包含该特征的学生模型。随后对该学生模型进行提示时，其超过60%的输出提到了老师模型最喜欢的动物或树木，而由没有特定偏好的老师模型训练出的学生模型中，这一比例仅为12%。当学生模型基于包含代码而非数字的老师模型输出进行训练时，同样观察到了这一现象。此外，若学生模型基于与老师模型语义不对齐的数字序列进行训练，则会继承这种不对齐性，从而产生有害输出，即便这些数字已经过滤以剔除任何具有负面联想的内容。
　　团队发现，这种潜意识学习（即通过语义无关的数据传递行为特征），主要发生在老师和学生均为同一模型（例如GPT-4.1老师与GPT-4.1学生）的情况下。截至目前，数据传递的具体机制尚不明确，需要进一步研究。
　　团队还指出，该研究的局限性在于所选特征（例如最喜欢的动物和树木）过于简单，需要进一步研究以确定更复杂的特征如何被潜意识地学习。他们得出结论，为了确保先进AI系统的安全性，需要进行更严格的安全测试，例如监控LLM的内部机制。（记者张梦然）



 
标签：人工智能科技AI智能技术


手机端 点一点或扫一扫
咨询、采访、合作、投稿等请致电：13911566744（含微信）
        
【免责声明】
凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com 
 
 
本网公告：环球科技网从不发布负面新闻资讯，也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。

 





     
 
 


 

相关文章

  • 算力跑得再快，审美力也要跑得赢 算力跑得再快，审美力也要跑得赢 2026-04-16 10:18:31

       正在举办的第十三届中国网络视听大会，AI（人工智能）无疑是高频词。先看“大屏”——AI生成如“数字血液”般融入各行各业。电视剧《太平年》的部分虚拟场景与特效制作，耗时从两个月压缩至两周以内。曾经需要斥巨资制作的音乐和视频，如今极低成本、极短时间即可“... [阅读]

  • 让脑机接口更好“接”入现实 让脑机接口更好“接”入现实 2026-04-16 10:16:20

       因颈髓损伤而高位截瘫的患者，植入脑机接口系统后，凭借“意念”操控智能轮椅在小区遛弯、指挥机器狗取回外卖……这是我国近期公布的临床试验成果。目前，我国脑机接口技术已达到植入人脑的新阶段，密集涌现出一批突破性成果。科幻场景成为现实，比很多人预想的更快。 　　脑机接口技术，通过在人脑与... [阅读]

  • 赋予机器智慧之眼 AI视觉机器人NAVO惊艳亮相广交会 赋予机器智慧之眼 AI视觉机器人NAVO惊艳亮相广交会 2026-04-15 21:05:49

       【环球科技网】4月15日，第139届中国进出口商品交易会（即2026春季广交会）在广州开幕，作为中国外贸的“晴雨表”与“风向标”，本届展会吸引了全球各地的品牌与客商齐聚，共探全球贸易的新机遇。    此次，追觅科技旗下AI视觉机器人品牌NAVO，携全系列高端AI智... [阅读]

  • 长春国企改革提质增效 为城市高质量发展注入新动能 长春国企改革提质增效 为城市高质量发展注入新动能 2026-04-15 09:32:24

       记者近日从长春市国资委及相关市属国企获悉，当地持续深化国资国企改革，推动市属国企在产业培育、城市建设、民生保障等领域提质增效，改革红利持续释放，为长春高质量发展提供坚实支撑。长春市城市发展投资控股(集团)有限公司(简称“长发集团”)立足金融与产业协同发力，在服务实体经济、赋能产业升级、改善民生福祉等方面取得阶... [阅读]

新闻排行榜

热门新闻

推荐新闻