网站首页 > 人工智能AI > 人工智能应用 阿里安全新一代安全架构核心AI技术获国际顶会认可_TechWeb 正文

阿里安全新一代安全架构核心AI技术获国际顶会认可_TechWeb

admin 2020/09/15 人工智能应用 84℃

8[db:标签]19[db:标签]消息,最近,阿里安全图灵实验室(Ali SECurity Turing Lab)宣布,它已经成功地为多人变脸视频创建了深度伪装检测技术,而解释这一技术的论文已被纳入ACMMM2020国际学术会议。

DeepFake检测技术有许多实际应用场景。例如,当攻击者将不雅视频的主角的脸变成目标脸进行传播时,DeepFake检测技术可以“识别谎言,寻找真相”并追踪真相。

目前业界对深度假面视频的检测方案主要分为两类:帧级检测和视频级检测。帧级检测方标记成本高,还需要将帧级预测转化为视频级预测,这需要高融合技术,容易导致漏检或误检。视频级检测研究过于关注按照时间顺序构建的检测模型,导致检测效果存在一定的局限性。

Ali Security Turing Lab算法工程师向Xixi介绍说,为了更好地检测一些被篡改的深度假冒视频,Ali Security Turing Lab提出了一种全新的检测方法,该方法标记简单,可以帮助神经网络更好地学习人脸特征,达到更好的检测效果。

阿里安全图灵实验室也发现了攻击者篡改视频时暴露的痕迹。因为攻击者在单帧中篡改了视频,同一张脸在相邻帧中会有一些抖动,所以研究人员设计了一个新的检测模块来发现这些抖动并帮助识别。

此外,之前业界提出的检测方法大多适用于单个视频的人脸篡改或者多人视频的所有人脸篡改。阿里安全地构建了一个局部攻击数据集,弥补了深度伪造检测数据集只能篡改多人视频中一张或多张人脸的空白。

图片包含三个面。如果攻击者只用深度伪装攻击一个人的脸,阿里安全的新技术也能成功地检测到照片。通过技术创新,阿里安全图灵实验室的深度伪造检测技术在视频级检测和帧级检测中名列前茅。中国科学院计算技术研究所副研究员、该技术的合作者王叔晖认为,该研究成果对通用视频多实例学习和标注技术的研究也具有重要意义。

今年3月,阿里发布了新一代安全架构,致力于从源头上防止安全威胁,构建安全系统,并为数字基础设施构建安全模型室。阿里安全公司开发的深度假冒检测技术作为新一代安全架构的核心人工智能技术,在数字基础设施的安全建设中发挥了重要作用,并成功实现了其应用。

Ali Security Turing Lab的高级算法专家华堂表示,到目前为止,Ali已经将这种检测技术应用于内容安全领域,并将在未来的直播场景中展示出来。

网站地图