老撕鸡2024年10月13日发布:对抗“AI换脸”等风险欺诈，外滩大会首办全球Deepfake挑战赛

展开全文

VisionRush团队提供

98年出生的张欣怡，本科是香港中文大学的金融学，研究生所学专业为哥伦比亚大学运筹学。作为团队里唯一的女生，张欣怡提到，人工智能领域的女性工作者也越来越多，在数据处理等工作上，女生反而会更细腻、观察更仔细。

团队里一共有3位00后，最年轻的一位是来自东南大学的大三学生唐楚杰，擅长多模态内容生成，即将被保研，目前正在暑期实习。

王博毕业于北京大学，他说：“我本身就是学计算机专业的，对网络攻防很有兴趣，区别于黑客、木马病毒等传统信息安全，我研究的是多媒体内容安全，比如说文本、音视频等内容是否涉及违规有害内容。

现如今生成式AI爆火，图片和视频真假难辨，专业防御难度很大。“生成式技术发展很快，各种深度合成工具门槛越来越低，很难跟踪到每一种生成技术，很多时候都是事发生了，我们再去做分析和检测，然后去复盘下次怎么尽可能去规避风险。”王博说，现在互联网中的伪造数据爆发式增长，很难对全网数据进行审查，伪造和鉴伪的资源投入不平衡也是一大挑战。

他认为比赛很有意义，可以帮助更多的人关注和了解生成式人工智能、深度伪造这些技术，提高人们的警觉性。同时也可以吸引大量技术人才投身这个领域开展研究和开发工作，促进国家网络安全领域的发展和进步。

AIGC的生成伪造，今年攻击量增了近10倍

红星资本局了解到，本届外滩大会首次增设“科技智能创新大赛”，其中Deepfake大赛针对“AI换脸”的欺诈风险进行攻防实战演练，并设立100万元人民币的奖金池，鼓励推动AI向善的技术人才。大赛吸引了全球2200多名选手，1500多支队伍报名，覆盖中国、美国、印度、澳大利亚、日本、印尼、马来、新加坡、越南等26个国家和地区。

Deepfake攻防赛由中国工程院院士王耀南担任专家委员会名誉主席，蚂蚁数科ZOLOZ和天玑实验室作为大赛出题方，赛题包含图像和音视频两大主流的Deepfake研究方向，是CV(即计算机视觉)领域最权威赛事之一。

Deepfake赛事则是覆盖了最主流的图片和图像赛道，覆盖了从基础科研到商业转化的全过程。数据集由公开数据和伪造数据组成，其中，伪造图片数据涵盖了现实场景中超50种生成方式，伪造音视频中则纳入了超100种组合攻击方式，训练数据集总量超过100万。

全球Deepfake攻防挑战赛出题人、ZOLOZ技术总监姚伟斌在接受媒体采访时表示，AIGC的生成伪造，今年的攻击量比去年大概增加了10倍。整个风险其实是呈指数级上升的情况，不仅仅是在中国，在韩国，在菲律宾、印尼等等国家都有类似的情况发生。

他还透露，在外滩大会期间ZOLOZ将会发布一个人脸检测的行业标准，未来也会同国内外相关机构合作共同推进法律法规的落地。

红星新闻记者 王田

编辑 肖世清返回搜狐，查看更多