聪明的东西(公共帐户:zhidxcom)
谁|信义
Smart Things在9月10日报道说,由阿里巴巴安全和清华大学于9月7日启动的“安全AI挑战者计划”的第五阶段,修复了“电子胡萝卜徽章”的伪造。
随着交通检测,面部检测,运动检测,伪造检测和伪造图像检测等应用场景的出现,人工智能与安全性的结合越来越多地被使用,并且人工智能所面临的安全性问题也逐渐浮出水面。
阿里巴巴安全图灵实验室高级算法专家焦o表示,数据显示缺乏AI安全人才,2020年网络人才缺口将达到140万,缺乏实战场景也意味着安全人才没有提升的机会他们的技能。
为了抵御AI带来的安全风险,阿里巴巴安全和清华大学共同提出了一个有争议的示例问题,该问题作为核心提供了场景,技术,数据,计算能力和其他支持,并为AI的安全性带来了“挑战”,模范防守者。发现并培训更多有关基础结构安全的新技术人员。
从2019年8月到2020年6月,安全AI挑战者计划成功举办了4次会议,主题是对抗检测竞赛,ImageNet图像对抗竞赛,滥用场景文本对抗竞赛和目标检测的常规对抗攻击。竞赛的第五阶段,最近启动,主要是针对伪造证书文件图像的对抗攻击比赛,旨在通过实际斗争解决伪造证书文件信息的问题。
1. AI安全攻防
在介绍挑战者计划的背景时,Juao表示安全性是新数字基础设施中非常重要的部分,但是技术是一把双刃剑,人工智能的发展可以推动更安全的业务,黑客将使用人工智能来处理数据和信息。。攻击。
矛盾的样本使AI安全问题普遍存在,人脸,军事和自动驾驶都受到AI的物理攻击。相对样本的干扰所覆盖的图像和语音目标又成为一个目标,使用干扰样本甚至可能带来应用程序安全风险。
▲AI的不足与挑战
淘宝上的推销员节目显示,“变脸”会导致侵权,“ ZAO”和“ DeepFake”等变脸应用程序的泛滥也给视频背后的人们造成了信心危机,他们需要AI对抗来降低使用风险。
Juao表示,人工智能安全技术运营既具有进攻性又具有防御性。到目前为止,挑战者计划的前五个阶段集中在AI安全的反向应用上。比赛的形式为提问者提供了防御系统,挑战者以有针对性的方式带领进攻。黑客可以使用AI来发现应用程序中的技术弱点。同样,在安全技术方面,用户也可以首先通过AI来发现自己的漏洞。明年,阿里可以开始防御并开启防御模式挑战。
2.法医学与反法医学之间的博弈
随着各种P图片工具的普及,篡改无痕伪造图片的门槛大大降低,大量的假图片被用于散布谣言,捏造假新闻,获取非法经济收益,甚至在法庭上取证。。
图像取证是一种检测篡改和伪造图像的技术,但是,随着各种取证技术的出现,图像的真实性已成为攻击和防御的新点。
第五项挑战旨在发现图像取证技术的不足并促进图像取证技术在更广泛的领域中的应用。这是对具有证书资格的文档图像进行伪图像反击的竞争。
▲第五张挑战海报比赛中使用的数据是真实的证明文件,包括15张不同的图像,参赛者的任务是伪造和操纵原始图像的特定候选区域(例如P图像等)。因此不会存在伪造痕迹,并且查询方提供的法医图像模型无法识别该操作。
阿里巴巴高级安全专家亨特说,在数字经济的背景下,数据已经逐渐数字化,与数字数据相关的信用和财务问题对企业至关重要。竞争的目的是通过进攻和防御方法提高安全技术能力,并维护行业的信息安全。
3.披露AI安全生态系统的结果安全AI挑战赛向所有社会开放,包括大学,研究机构和互联网公司的员工。阿里安全团队表示,实际的参与者年龄较小,将近50%的参与者是高中生。
这项竞赛的共同发起人,清华大学AI研究员兼教授朱军认为,挑战者计划旨在解决当前机器学习算法的鲁棒性和脆弱性不足的问题适当的攻击并积极利用当前安全算法的脆弱性机器学习来创建更安全的机器值得信赖的AI系统对系统化和标准化AI安全问题的新尝试。
今年三月,阿里巴巴安全正式发布了“新一代数字基础架构的安全架构”。阿里巴巴安全首席架构师钱磊认为,安全基础设施对于建立数字经济单位(如各种应用程序和网站)的标准化流程,以确保数字经济单位在高安全性下运行,对数字经济至关重要。施工初期的基础。
Juao表示,这场竞赛的问题不是针对阿里的安全,而是针对整个AI安全生态系统。比赛的优秀作品将在论坛和其他平台上向公众展示。
阿里巴巴高级安全专家亨特告诉智熙记者,此次比赛的出色成果将被提取并整合到企业安全应用解决方案中。
结论:防御性视力比恶意攻击需要更长的时间才能有效地遏制AI安全风险
亨特(Hunter)认为,对年轻人的挑战使用仍然有局限性,学术解决方案和工业应用之间仍然存在差异。AI安全技术是数据大小与个人技能之间矛盾的产物。数据使用范围的逐渐扩大也意味着AI技能必须与节奏保持同步。鉴于AI安全攻击和目标防御的激烈竞争,只有长远的眼光才能预先抑制AI安全风险。