当前位置： 首页  >> 智能环球  >> 查看详情

AI学会造假，我们该如何应对

来源： 科技日报   日期：2019-04-16  责编： 环球科技网 
分享:
    日前，香山会议召开以“信息隐藏与人工智能”为主题的学术讨论会，北京电子技术应用研究所副研究员李鹏超介绍，GAN是一种生成模型，通过将两个神经网络的对抗作为训练准则，可以自动生成图像，包括自动篡改图像。实际上早在2015年，GAN就被用于制作教皇表演“抽桌布”戏法的假视频，由于过于逼真，很快就火遍网络。

    据统计，大量的合成信息占据了互联网，如合成声音、生成图像、AI合成不存在的人像等，约占网络信息的30%。“眼见为实”很可能已经靠不住了。

    机器人水军已经很成规模
    人们判断真假，经常会说“真的自然”。而人工智能造假，将在尽可能“自然”的前提下，完成自动生成。

    “淘宝上的机器人水军已经很成规模了。”浙江大学管理学院教授孔祥维举例道，例如商品评价已经由机器自动生成，不再需要雇人“灌水”。

    “自动生成带来的危机是规模性、密集度的大幅增加。”孔祥维说。以淘宝评价为例，如果虚假评价如潮水般涌入，它甚至不需要做到真假难辨，就能将真实评价淹没。

    在社会事件的舆论方面，“机器人水军如果操纵舆论，将使国家安全置于风险之中。”孔祥维说。

    除了自动生成之外，GAN的开源性也带来巨大的隐患。开源代码，意味着谁都可以用，代码一经开源将“变幻无穷”。相关研究人员表示：“这就意味着对这一代码的研究必须比对手更透彻，才能以不变应万变。”

    防造假需嵌入抗编辑水印
    抖音等微视频APP的普及，使得视频的发布非常频繁。有没有办法让公众的自拍不像前文提到的视频一样被篡改？清华大学计算机科学与技术系副教授王道顺表示，非法用户除了借助视频编辑工具复制后再修改，甚至未经授权转拍视频内容。这些操作都是为了得到可以任意修改的“白板”，“我们正在探索基于深度学习的抗编辑视频水印技术。”王道顺说。

    这就要求水印在视频中是隐藏着的，而且不能够被编辑，人工智能的深度学习技术被用来嵌入这些“入木三分”的水印。王道顺表示，他的团队希望能够完成嵌入和检测两方面的技术输出。

    网络对抗进化为智能化平台间的对抗
    GAN的魔力在于两个神经网络之间的竞争，通过让两个神经网络对抗，人工智能深度学习从识别事物升级到有能力创造事物。

    技术都有两面性，人工智能的“造假术”也可被加以利用。信息隐藏技术可以借用人工智能技术和思路，例如利用神经网络的对抗生成隐藏信息，获得人工智能相关技术与生俱来的自适应、海量等特点。相关专家表示，深度学习在许多模式识别领域取得了巨大的成功，给信息隐写和隐写分析带来新的方法和挑战。

    对于信息隐藏的基础研究者来说，因为“思路不同”，传统的分析手段难以发现的隐藏信息很可能在人工智能的深度学习模式下被轻易破解。香山会议就新课题的紧迫性进行了讨论，专家认为：人工智能的发展使得网络对抗从人与人的对抗进化为智能化、自动化的平台间对抗，作为数据保护和隐蔽通信中的关键技术，信息隐藏技术必须有所改变。
 
标签：AI造假，香山会议

【免责声明】： 凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com 
 
本网公告
环球科技网从不发布负面新闻资讯，也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。
本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。

咨询、采访、合作、投稿等请致电：13911566744（含微信）
     
 


 

相关文章

  • 5G+AI会带来哪些改变？IT“大咖”畅想互联未来 5G+AI会带来哪些改变？IT“大咖”畅想互联未来 2019-04-01 20:12:03

        从“万人互联”到“万物互联”“人物互联”，从消费互联网到产业互联网，从传统产业“单脚跳”到与互联网协作“双腿跑”……在30日到31日举行的中国（深圳）IT领袖峰会上，IT“... [阅读]

  • “AI换脸”技术以假乱真？ 一处bug可识别假脸 “AI换脸”技术以假乱真？ 一处bug可识别假脸 2019-03-18 15:58:05

        近日，知名视频网站blibli流传出一段视频：电影《射雕英雄传》(1994年版)朱茵主演的黄蓉被视频制作者通过“AI换脸术”处理成了杨幂的脸，神态表情如同朱茵饰演的黄蓉一样生动俏皮，毫无违和感，顿时引起网民热议，以至于微博话题点击量飙升至1.1亿。 　　所谓AI换脸术，是基于人工智能的人体图像合成技术，生... [阅读]

  • AIoT真正向万亿级市场落地的关键是什么？ AIoT真正向万亿级市场落地的关键是什么？ 2019-02-20 18:39:29

        要说2018年的科技界网红，当是AIoT莫属。一边以腾讯、阿里为代表的传统行业巨头纷纷拿出重要资源高调投入AIoT的怀抱；一边以涂鸦智能为代表AIoT的创新企业，不仅逆势成为资本市场的“香饽饽”，还迎来了公司体量上的爆发性增长；一方面以苏州高铁新城为代表的地方政府也向AIoT企业敞开怀抱，为其提供全方位的服... [阅读]

  • AI都能伪造指纹了，生物识别还安全吗 AI都能伪造指纹了，生物识别还安全吗 2019-01-29 14:52:27

    　   “人工智能技术能够将海量的指纹数据作为‘原材料’，学习到他们的结构特征和细节信息，并且根据一定的规则进行重组，生成仿真度极高的伪造数据。”人工智能行业资深人士孙立斌告诉科技日报记者。 　　最近，美国纽约大学和密歇根州立大学发表的一篇论文详细介绍了深度学习技术如何削弱指纹识别的安全系统。 ... [阅读]

新闻排行榜

热门新闻

推荐新闻