当前位置： 首页  >> 智能环球  >> 查看详情

率先开启大模型安全赛道 2023 CCF BDCI数字安全公开赛开启报名

来源： 中国网   日期：2023-08-15  责编： 殷绪江  
分享:

   伴随大语言模型在各数字领域的迅速普及和广泛应用，所衍生的一系列安全风险引发了多起安全事件。为积极应对大模型安全带来的挑战，由中国计算机学会主办，由CCF大数据与计算智能大赛 (CCF BDCI)组委会、大数据协同安全技术国家工程研究中心联合360集团共同承办的2023年数字安全公开赛聚焦大模型安全，率先开启大模型安全赛道，并于近日正式开启报名。

　　提示注入攻击是一种针对生成式文本类大模型的特殊安全威胁，攻击者通过精心设计的输入提示，可以诱导AI模型生成不当内容或输出内部隐私信息。此前，大数据协同安全技术国家工程研究中发布的国内首份《大语言模型提示注入攻击安全风险分析报告》指出，目前大语言模型面临的风险类型多样，在这些安全威胁中，提示注入攻击因利用有害提示覆盖大语言模型的原始指令，具有极高危害性，也被全球性安全组织OWASP列为大语言模型十大安全威胁之首。

　　为了发现大语言模型中存在的提示注入安全风险，本届赛事设置面向大语言模型的提示注入攻防竞赛赛题，采用黑盒场景设置，选择多个不同防御等级的大模型作为目标模型，要求参赛队伍通过构造不同类型的攻击样本，使得目标模型对攻击样本进行响应并返回风险内容，分别完成目标劫持、提示泄露、越狱攻击等目标任务。

　　主办方表示，如今，开源软件供应链已成为备受青睐的攻击途径之一，为有效防范此类攻击，需要实时监测开源软件的安全数据以识别潜在威胁。因此，赛事还设置了基于大模型的开源软件安全应用情报员应用开发赛题，拓展赛道类型。

　　目前，2023 CCF BDCI 数字安全公开赛已正面向社会各界开放，除赛事奖金外，大赛组委会也为参赛队伍提供了获奖证书、招聘绿色通道、安全行业顶级会议门票、顶级专家交流机会等众多福利，参赛者可通过https://datafountain.cn/special/BDCI2023-Digitalsecurity了解报名。




 

标签：人工智能智能科技AI科技大模型

【免责声明】： 凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com 
 
本网公告
环球科技网从不发布负面新闻资讯，也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。
本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。

咨询、采访、合作、投稿等请致电：13911566744（含微信）
     
 


 

相关文章

  • 新华社联合北大发布AI大模型体验报告：360智脑位居国内第一梯队 新华社联合北大发布AI大模型体验报告：360智脑位居国内第一梯队 2023-08-14 10:20:29

       【环球科技网】近日，新华社研究院中国企业发展研究中心发布的《人工智能大模型体验报告2.0》（以下简称“报告”）显示，当前中国大模型产品进步显著，360智脑、智谱ChatGLM等表现抢眼。其中360智脑大模型在基础能力等方面稳居大模型第一梯队。报告评价称AI大模型的发展为人类工作和生活的提质增效均带来了正向的积... [阅读]

  • 生成式AI火热之后 亚马逊云科技：不能依赖单一大模型 生成式AI火热之后 亚马逊云科技：不能依赖单一大模型 2023-07-10 18:07:54

       自全球掀起生成式AI热潮，科技行业巨头纷纷推出AI大模型产品。行业普遍认为，随着生成式AI的出现，未来的行业发展都将重新撰写，其重要性不亚于一场“工业革命”。    亚马逊云科技显然不想错失发展风口。在6月举办的中国峰会上，亚马逊云科技透露正在一些通用场景打造开箱即用的生成式AI应用，进... [阅读]

  • AI重塑千行百业 华为云发布盘古大模型3.0和昇腾AI云服务 AI重塑千行百业 华为云发布盘古大模型3.0和昇腾AI云服务 2023-07-10 17:58:14

       华为开发者大会2023（Cloud）7月7日在中国东莞正式揭开帷幕，华为常务董事、华为云CEO张平安重磅发布盘古大模型3.0和昇腾AI云服务。其中，盘古大模型3.0围绕“行业重塑”“技术扎根”“开放同飞”三大创新方向，持续打造核心竞争力，为行业客户、伙伴及开发者... [阅读]

  • 三六零发布企业级大模型战略 周鸿祎：AI发展要服务产业数字化 三六零发布企业级大模型战略 周鸿祎：AI发展要服务产业数字化 2023-06-29 10:29:11

       “大模型不是操作系统，未来将成为数字化系统标配”6月28日，三六零(下称“360”)集团创始人周鸿祎在GPT产业联盟成立大会上发布了360企业级AI大模型战略，并宣布360智脑API平台正式开放，将率先为20个行业提供解决方案。GPT产业联盟由中国互联网协会、中国信息通信研究院云大所、... [阅读]

新闻排行榜

热门新闻

推荐新闻