当前位置: 首页  >> 数字生态  >> 查看详情

蚂蚁集团成立天象安全实验室 搭建大模型安全研究体系

来源: 新华网   日期:2024-06-24  责编: 殷绪江  
分享:
   6月24日,记者从蚂蚁集团方面获悉,蚂蚁集团成立天象安全实验室,围绕大模型、Web3等新技术和场景背后的数字基础设施的安全做重点投入,并关注在人才建设、场景赋能、生态开放以及产学研技术融合落地。
   据了解,天象安全实验室将重点聚焦下一代基础设施安全前沿探索,构建领先的大模型、Web3基础设施领域的安全研究体系以及自动化安全解决方案。
   在大模型基础设施安全方向,重点针对大模型供应链安全,包括模型训练、微调、部署、运维的完整生命周期内涉及的三方库、插件、框架等的问题;在Web3基础设施安全方向,围绕在链平台安全、合约安全、链上攻防以及C端攻防开展工作,确保Web3技术能够稳健且安全地运行,保护去中心化应用和用户的资产安全。
   同时,天象安全实验室设立了专家委员会,邀请来自电子科技大学、华中科技大学、中山大学、北京理工大学、上海交通大学等多所高校的专家学者力量,共同参与实验室建设,探索下一代数字基础设施安全科技,通过在web3安全以及大模型基础设施安全等技术方向形成合力,推动产学研技术融合落地。
   目前,随着大模型(如大规模人工智能模型)和Web3技术的快速发展,这些新技术和场景对数字基础设施的安全提出了更高要求。对此,蚂蚁集团副总裁、大安全技术部总裁李俊奎表示,AGI、Web3等数字技术的发展和融合创新带来了全新的应用场景和生活方式,并为产业数字化带来了无限的想象力。如何以安全科技守护新技术、新场景发展高度依赖的数据要素、基础软件等基础设施的安全,也是我们当前必须面临的问题。安全必须跑到业务发展的前面,在黑灰产渗透之前,通过科技防范手段前置,夯实发展新质生产力的坚强保障。
   公开信息显示,蚂蚁集团与OpenAI、谷歌、科大讯飞等企业联合编制的大模型安全国际标准已在瑞士举行的第27届联合国科技大会上正式发布。这些标准旨在提升大语言模型和生成式AI应用的安全测试水平,为行业提供统一的测试框架和方法,推动AI技术的负责任发展。
   2023年,蚂蚁集团已经推出了名为“蚁天鉴”的大模型安全一体化解决方案,包含“蚁鉴2.0”安全检测平台,能够对文本和图像等所有类型的数据进行AI安全检测。该方案利用智能进攻对抗技术生成诱导性问题,对大模型进行诱导式问答,以检测模型回答的安全性,持续寻找潜在漏洞。




 


 
 
【免责声明】:
   凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿,如需转载图片请保留 “环球科技网” 水印,转载文字内容请注明来源“环球科技网”;凡本网注明“来源:XXX(非环球科技网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其作品内容的实质真实性负责,转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题,请投诉至邮箱;1978751725@qq.com 
本网公告
环球科技网从不发布负面新闻资讯,也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。
本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名(www.hqkjw.cn),其它域名链接均为假冒。望广大网民及企业主认真甄别。


咨询、采访、合作、投稿等请致电:13911566744(含微信)

     
 
 


 

相关新闻

  • 条码支付互联互通持续推进,如何更好便利扫码消费? 条码支付互联互通持续推进,如何更好便利扫码消费? 2024-05-23 09:52:50

       京东支付日前宣布,消费者可以用京东金融App扫微信收款码进行支付消费。拥有庞大活跃用户基础的两家平台合作,是我国条码支付互联互通的又一新进展。近年来,我国条码支付互联互通持续推进,技术规范落地实施,简化支付流程,助力支付行业高质量发展。未来如何进一步打破服务壁垒,扩大生态开放,便利百姓扫码消费?   纵观我国移动支付,普及率已达86... [阅读]

  • 汇正财经炒股平台口碑怎么样?诚信服务,筑牢信任基石 汇正财经炒股平台口碑怎么样?诚信服务,筑牢信任基石 2024-05-21 15:09:36

       【环球科技网】在商业领域,诚信是企业立足之本,更是塑造良好口碑的关键。对于提供专业财经信息服务的汇正财经官网而言,遵守承诺、兑现服务的能力直接影响着用户对其的信任度。那么,汇正财经的诚信度如何呢?我们从不同角度来探究这一关键问题。    从用户的反馈来看,汇正财经官网在公开论坛、社交媒体和评价网站上的评价多数正... [阅读]

  • 国通星驿数字商业战略重磅发布 携手生态合作伙伴共创数字商业 国通星驿数字商业战略重磅发布 携手生态合作伙伴共创数字商业 2024-04-23 22:54:44

       【环球科技网】4月23日,“开放共创 数字商业”—2024年国通星驿生态合作伙伴大会在福州隆重举行。国通星驿董事长陈艺先生、总经理林坚先生携管理团队,与中国银联及平安银行、民生银行、华夏银行、苏商银行、中国邮政福建分公司等金融机构代表,全国各地的渠道合作伙伴、场景合作伙伴等近千位生态合作伙伴代表线... [阅读]

  • 证监会16条措施精准发力 力挺科技创新 证监会16条措施精准发力 力挺科技创新 2024-04-23 10:32:01

       为贯彻落实《关于加强监管防范风险推动资本市场高质量发展的若干意见》(简称新“国九条”),更好服务科技创新,促进新质生产力发展,证监会日前制定并发布了《资本市场服务科技企业高水平发展的十六项措施》(简称《措施》),从上市融资、并购重组、债券发行、私募投资等全方位提出支持性举措。业内人士指出,《措施》更加强调对于... [阅读]

新闻排行榜