集微网2024年10月13日发布:远程开门，换脸换声？AI时代如何保障安全？

网络安全专家邓钦洋：黑客通过网络入侵到我们车辆之后，进而进行横向移动，对零部件的相关漏洞进行利用。现在就是用户正在正常驾驶车辆，然后我这里就可以模拟黑客对我们的车门（系统）进行远程的攻击，实现远程开门的一个操作，现在就是我们系统检测到了行车过程中（遭到）远程开门的一个指令，那么在真实的驾驶过程中，我们的车门被打开是非常危险的事情。

专家介绍，如果安全漏洞只是针对应用层面的话，造成的威胁局限于个体。然而，如果黑客针对驾驶、通信等底层系统进行攻击的话，所带来的破坏性则会更加广泛。

筑牢“安全底座” 系好网络“安全带”

数据显示，2023年，针对国内车联网服务平台等的攻击达805万次，同比增长25.5%。筑牢智能网联汽车的“安全底座”已是刻不容缓。对此，我国已出台了多项相关法规，并发布实施了多项车端安全标准和十余项平台安全标准。

AI时代如何保障安全·辨别真伪

除了无人驾驶领域，许多不法分子还利用AI进行换脸、换声等操作，侵害公民个人隐私。一张“人像照片”、一段近距离的人物视频都有可能成为犯罪分子的新工具。

"换脸"伪造不雅照不法分子敲诈勒索

前不久，深圳的吴先生突然收到一个陌生手机号码发来的彩信，点开一看竟然是他和一名陌生女子在酒店房间内的不雅照片。

当事人吴先生：他当时威胁我，在几点之前要跟他联系给他转钱，我当时一想不对劲，就报警了。

警方接到报案后，立即进行侦查。通过梳理报案记录，警方发现有同样遭遇的不止吴先生一人。随着调查的深入，警方发现这是一个分工明确的犯罪团伙。有人负责修图，有人负责寻找目标，有人负责敲诈勒索。随后，警方展开统一收网行动，成功抓获以王某为首的10多名犯罪嫌疑人。

广东省深圳市公安局坪山分局民警张威：从嫌疑人电脑里面提取的相关证据，这些图片是嫌疑人从网上等各种渠道收集的被害人图片信息，然后他们进行合成处理，这就是嫌疑人合成的不雅照片，用来敲诈被害人。

只需一张照片就能以假乱真

那么这些伪造的照片是如何做到以假乱真的呢？网络安全专家为我们演示了“AI换脸”技术，仅需一张目标人物的静态照片，就能让照片中的人物动起来。

中国网络空间安全协会人工智能安全治理专业委员会委员张博：本身最右边是一张不会动的静态图片，那么通过我们的（演示者）他做一些动作之后，那么它（AI换脸软件）采集到了（演示者）面部动起来的特征，把这个特征融合到一个静态图片当中，就让这个图片照着我们（演示者）的动作动了起来。当前，AI换脸技术还是比较成熟，也能支持视频通话的实时换脸，如果再结合着换背景环境，换声音等等，那样逼真度就会更高，更加难以分辨。

加快相关反制技术的开发和应用

针对“AI换脸”等技术被滥用，日前，全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版，提出相应技术应对和综合防治措施，以及人工智能安全开发应用指引。对此，网络安全专家建议应加快相关反制技术的开发和应用，用AI来治理AI。

AI时代如何保障安全·个人隐私

防范AI带来的威胁，除了在技术方面升级努力，我们普通人在日常生活中又该注意些什么呢？

避免人脸指纹等信息过度公开

专家介绍，导致AI换脸等违法行为的最关键原因是个人隐私信息的泄露，因此，我们在日常上网过程中，要尽量避免人脸、指纹等个人生物信息的过度公开和分享。如果接到貌似“家人”“领导”等转账、汇款的视频，一定要用心甄别。

警惕！这三类照片千万不要随便发