如今，可能很多人都有接到诈骗电话的经历。中国信通院人工智能研究中心安全与元宇宙部主任石霖也曾经历过。
在ZOLOZ Deepfake产品发布会上，他讲述了一个自己被假装同学的骗子诈骗的故事。后者谎称是他好久不见的大学同学，要求他给自己转点钱应急，当然他很快就识破了这一骗局。“这只是个简单的诈骗，但却很容易利用人们未经核实的记忆漏洞，顺利地把钱骗走。”石霖说。
其实，当AI出现之后，AI换脸、AI换视频……利用AI制作虚假图像或音视频以进行诈骗的情况，更是屡见不鲜。2023年，AIGC迎来大爆发，也让上述现象愈演愈烈。
无论是文本、图片，还是视频、数字人，全部都可以被深度伪造，而通过AIGC引发的欺诈现象，与此前相比也出现了10倍爆发式增长，由此造成的各方面损失更是不可估量。基于此，确保用户的身份安全变得前所未有地重要。
4月16日，蚂蚁数科在上述发布会上正式推出反深伪产品ZOLOZ Deeper，帮助用户规避刷脸认证场景中的“AI 换脸”风险。据悉，该产品目前已应用于身份安全领域。同时，ZOLOZ也与蚂蚁安全响应中心（AntSRC）联合设立超百万奖金池，用于支持安全极客挖掘ZOLOZ漏洞。
（来源：资料图）
“攻”与“防”两手抓：推出反深伪产品ZOLOZ Deeper，为安全极客设立超百万奖金池
深度伪造（Deepfake）一词源于深度学习（deep learning）和伪造（fake）两个单词的结合，是指利用深度学习算法从大量视频和图像数据中学习，从而伪造出逼真的面部动画和语音。它的出现，不仅提升了公众识别视频真伪的难度，也增加了诈骗、色情等违法犯罪活动发生的风险。
目前，我国已经从立法层面出发，对深度伪造技术开展广泛治理。另外，产业界也进行了诸多探索，ZOLOZ Deeper就是其中一个代表。
该产品搭建了端云一体的全链路技术体系，能应对硬件、服务器、应用等多环节引发的深度伪造安全威胁。
具体来说，在前端采集阶段，会通过精密的传感器校验与多维特征动态风控，严格审查摄像头状态、设备及网络环境，保证软硬件环境的安全和采集到的生物特征数据是真实无篡改的。
在用户操作过程中，会通过深度学习模型对用户的面部特征进行细微分析，以精确判断是否为真人实时互动。
此外，不仅让ZOLOZ Deeper通过蚂蚁集团天玑实验室生成的超30万测试样本进行判别训练，也会在每个月对其进行超过20000次攻防测评。
在此基础上，ZOLOZ还执行“化被动为主动”的安全策略，联合蚂蚁安全响应中心设立超百万奖金池。安全极客如果挖掘到ZOLOZ漏洞，可以通过“蚂蚁集团安全响应中心”官网提报漏洞情况。
（来源：资料图）
“Deepfake攻和防是一个相对且不断精进的过程，你在进步，Deepfake也在进步，我们要做的就是跑在它的前面，守护用户的安全感。”ZOLOZ 产品总监陶冶表示。
图丨陶冶（来源：资料图）
据悉，ZOLOZ Deeper在上线身份安全领域后，已经获得诸多客户的认可与好评，未来还将推出应用于视频和实时通讯等其他领域的产品。
累计服务用户超12亿，将在“攻”与“防”中不断提升安全技术能力
据介绍，ZOLOZ于2017年正式发布。该团队最初服务于蚂蚁自身的生态体系，后来逐渐发展到为中国、印尼等14个国家和地区的70余家合作伙伴提供技术服务，不仅覆盖金融、保险等多个行业，还将产品拓展至整个安全领域，累计服务用户超过12亿。
正如陶冶所说，“ZOLOZ的愿景是希望将自身的安全技术能力，通过高科技技术服务于所有数字生态客户，让信任更加简单”。
在发展过程中，ZOLOZ的产品获得多项国际权威认可，包括在2020年获得iBeta国际生物安全认证组织最高等级Level2认证等。
虽然ZOLOZ在安全领域积累了丰富经验和突出成就，但安全技术始终是在“攻”和“防”的演练过程中不断得到提升的。在这一状态下，其该如何保证自身比黑客早半步？
首先，搭建AIGC自动化生成和测试平台天玑实验室，通过模拟人和机械的方式开展大量攻防，来主动发现更多安全问题。
其次，设立如上所说的安全极客奖金池，让白帽子黑客帮助ZOLOZ找到更多漏洞问题，便于后者进行漏洞弥补。
最后，通过举办行业研讨会等方式，呼吁群众增强自身对于安全保护和防范的意识。
显而易见，普通人才是安全风险的最终受害者。那么，他们在AIGC时代又该如何做好个人信息安全防护？
对此，石霖给出了以下三点建议。其一，优先使用大厂或具备多年信息保护经验的公司开发的产品。其二，使用APP时减少对个人资料的留存和个人照片的上传，避免在社交平台上暴露个人信息。其三，减少在线下场合登记个人真实信息的情况。
综上来看，深度伪造技术不可避免地会给用户带来诸多安全风险，但不断开发新的反深伪产品，用技术对抗技术风险，将成为一条行之有效的解决之道。在技术的帮助之下，同时自己也注意防范，才能更好地规避风险。