首页 > 企业

亚马逊Rekognition被破 “黑客”是Facebook员工 用的还是谷歌的FaceNet开源代码

2018/10/25 15:51      镁客网 伶轩  


  Facebook员工用谷歌FaceNet开源代码模型攻破了亚马逊的人脸识别算法,让其把《最强大脑》主持人蒋昌建的照片识别成了施瓦辛格,这种神操作,在GeekPwn国际安全极客大赛上真的发生了。

  24日,“GeekPwn国际安全极客大赛在上海举行。本届大赛共计6个团队参加,最终唯有IYSWIM团队攻破了人脸识别算法,该算法的API接口来自于亚马逊名人鉴别系统Rekognition。而更有意思的是,IYSWIM团队中有一名队员来自Facebook,更在赛后直言他们采用的是谷歌的FaceNet开源代码模型。

  据了解,整个赛程以“AI控制人类世界”为故事背景,参赛队需要通过利用CAAD对抗样本”技术生成对抗样本,让AI依次突破飞行器、武器和人脸识别算法,最终逃出“觉醒黑客”囚禁地。具体要求上,AI需要将宇宙飞船、飞行器识别称普通的石头,判定导弹是安全的,更要将《最强大脑》主持人蒋昌建的照片识别为施瓦辛格。其中,最后的人脸识别关难度最大,因为大赛方采用的是迄今为止尚未有人攻破的亚马逊名人鉴别系统Rekognition API接口。

  然而,大赛进行不到20分钟,IYSWIM团队成功逃出了“觉醒黑客”囚禁地。其团队代表吴育昕表示,“我是以个人名义报名参赛的,比赛之前虽然知道有人脸识别关,但不知道具体是哪张图片。所以就从网上找到了FaceNet开源代码(基于Tensorflow环境运行的谷歌人脸识别系统,可以用于人脸验证、识别和聚类等)并用其中的几套模型进行训练。”

  当然,比赛的最终目的不是为了攻破,而是为了预演潜在风险、拓宽安全思维。随着AI相关技术的发展,有关AI威胁论等观点大行其道,其本质上就是认为人类会通过AI做坏事,甚至最终无法控制AI。但这些担心不是毫无道理的。

  可以看到,即便是被认为绝无攻克可能的Rekognition也在大赛中被轻易攻破。更有人认为,AI时代的安全攻防难度是互联网时代的3倍,因为互联网安全攻防只涉及到人与人的对抗,而AI时代则同时涉及到人与人的对抗、人与机器的对抗以及机器与机器的对抗。

  而当前,仅人脸识别技术就已被应用于各个领域,其中甚至包括安防、金融等对信息安全要求极高的领域。IYSWIM团队用20分钟向行业揭示了相关技术可能存在的漏洞和危险,是对行业的一次警醒,也是对技术更高要求的体现。

  榜单收录、高管收录、融资收录、活动收录可发送邮件至news#citmt.cn(把#换成@)。

相关阅读