上传一张照片，经过AI技术算法合成，立即秒变一张你想要的人脸……这样的事听起来是不是很有趣？但有趣的同时，AI换脸也带来不少问题：

不法分子借此制作虚假视频诈骗钱财、利用换脸方式侵害他人肖像、伪造人脸识别认证从事非法活动等。专家表示，人工智能新技术给社会生活带来方便的同时，也给人们隐私保护、财产及人身安全等都敲响了警钟。

前不久，河北省高阳县网警破获一起制作、贩卖、传播淫秽物品牟利案。犯罪嫌疑人李豪通过QQ群自学AI换脸技术，用明星图片制作淫秽视频在网上以每10分钟300元的价格售卖，严重侵犯了当事人的肖像权和名誉权。

李豪还根据买家特殊需求，提供“私人定制”，由买家提供素人照片资料，李豪再将照片加工制作成淫秽视频或图片卖给买家。经调查，李豪通过制作、贩卖淫秽物品非法获利近3万元。

李豪被检察机关以涉嫌制作、复制、出版、贩卖、传播淫秽物品牟利罪提起公诉。目前，案件尚未宣判。

专家指出，随着人工智能的发展，AI换脸门槛逐渐降低，普通人也能方便地制作换脸视频，满足了人们猎奇、美颜、社交等各种需求。但是，当这项技术被用于诈骗、色情、盗窃、恶搞、非法逐利等方面时，其不良效应也引发了社会的关注和担忧——放任自流，任其异化，可能成为侵害他人合法权益和危害社会公共安全的工具。

面对网络新风险，需要行业自律与司法规制相结合加以遏制。不管是经营者还是使用者，都要秉持科技向善的原则，不能利用这项技术从事违法犯罪行为。

低门槛低成本AI换脸被滥用

AI换脸是人工智能新技术，能把一张脸换成另一张脸，且表情自然，效果逼真，通常只需一张照片即可在特定的软件上完成替换，准确度几乎乱真。当然，也有些技术差的、粗制滥造的“AI脸”是“肉眼可见”的假，只能骗骗低端需求。

“网上经常能看到一些明星、网红被换脸的视频，弄成什么样的都有。不论什么类型的作品，制作人都能够通过AI换脸技术将他想要看到的形象替换上去。”北京某影视公司动画技师杨先生告诉记者，因为制作门槛和成本越来越低，AI换脸现在有被滥用的趋势。

杨先生说，有的网站还出现了心怀不轨的人将一线女明星的形象安在了不堪入目的画面上，这对被害人女明星来说影响是很大的。大家都相信眼见为实，人们看到视频上不堪的画面时，难免都会对女明星产生一些不好的印象。

杨先生说，AI换脸技术发明之初本来是用于视频剪辑以及模拟智能学习领域，但现在越来越被滥用和不受控制。有人曾做过多次试探，发现将静态照片通过AI换脸软件生成动态视频后，在乘坐地铁进行刷脸支付进出站时可秒过。不仅如此，在刷脸认证小区门禁时也可直接上“视频”通行。

一名业内人士告诉记者，由于线上线下都有换脸需求，目前在一些电商平台已悄然形成一个黑灰产业链：有提供软件及技术的，有提供视频和照片定制的，也有售卖成品视频类的，“不过都比较隐蔽，大多数都进行了伪装，不会明目张胆地跟人交易，但懂行的人知道他们是干什么的”。

经人指点，记者在某宝网上搜索“AI换脸”“deepfake”（深度伪造）等关键词，出现了不少换脸软件售卖信息，包括“商业背书视频”“明星偶像互动视频”“恶搞视频”等，有的还专门标出了“动作逼真清晰”等字样，还有的能提供换脸视频制作服务等。一个某宝ID为“专业定制换脸视频”的卖家表示，可以代为制作换脸视频，3分钟以内价格为300元。

记者还在某二手交易平台上以3元的价格购买了一款名为“fakeApp”（一键换脸）的换脸软件，根据教程，导入提供的视频素材，只需要按“提取”和“合成”键等，就可以将视频素材中的人脸进行互换，几乎看不出痕迹。

“这项技术的传播就像打开了潘多拉的魔盒，相比于正向应用，人们更担心它会被用在灰色领域，成为违法犯罪的帮凶。”腾讯公司技术专家蒋增增介绍，在金融领域的一些安防场景、网点的柜面都有应用人脸识别技术。线上银行的远程开户，P2P借贷也有人脸识别核验的功能。这些刷脸支付的方式在方便生活的同时，也存在个人信息被盗用进而影响资金安全的隐患。

业内人士表示，一旦不法分子利用人工智能技术将他人照片进行活化，就可以作出模拟真人的点头、摇头、眨眼、说话等行为，极易被用作办理网贷、盗窃或实施精准诈骗。

背后暗藏不少法律风险和侵权纠纷

图片来源：摄图网

实际上，防止随意AI换脸不光是技术开发者和经营者的基本责任，也是每个人都要有的一种自我保护意识。

北京一位律师说，生活中我们遇到的一些AI换脸情况，主要是网红和明星居多，因为她（他）们社会关注度高，容易吸引眼球，大家就以为AI换脸好像是网红和明星的事，和普通人关系不大。实际上这是一种错觉，AI换脸不是网红、明星的专利，它离我们每个人其实很近，有时就在身边。

北京某安防公司一位专家说，从技术上看，现在的技术采集人脸信息非常简单，只要有摄像头就可以不间断采集。很多人都有这种感受，收集并使用人脸数据的工具和场景，正变得越来越多：

拥有相册读取权限的App、提供人脸解锁功能的手机厂商、进行身份验证和面部检测的各种金融类App，甚至是办公楼里的刷脸出入系统，以及无处不在的安防摄像头等。

这位专家说，除了少数采集者有采集明示或获得用户同意外，大量场景下的人脸信息采集，悄无声息。部分商城会运用人脸识别技术，收集顾客的行为和购买手段。一些高校运用人脸识别技术收集学生的抬头率、微表情、上课的姿态。另外，基于人脸图像分析的换脸、美妆、性格判断、健康状态预测等应用也很常见。

“这些静悄悄的收集方式，具有无意识性与非接触性，可以远距离发挥作用，并能长时间大规模地积累数据而不被用户察觉，具有很强的侵入性。”一位法律人士告诉记者，近年来发生的一些AI换脸案件或纠纷，相关采集机构或人员就是这样收集人脸数据进而转卖进行牟利的。

2021年4月，安徽合肥警方打掉一个网络犯罪团伙，侦查人员从犯罪嫌疑人电脑里发现了10G多公民人脸数据，分门别类存放在不同电子文件夹中，而人脸数据中的当事人对此毫不知情。

法律人士提醒，防偷脸、防换脸不光是明星网红的事，普通人更要增强这方面的意识，看护好自己的人脸信息。

“作为普通个人，应当保护好自己的生物信息，避免使用收集指纹、人脸识别等生物信息的公共设施设备。对于居民小区、写字楼、经营场所强制要求业主或进出人员使用人脸、指纹识别通行，而未给予其他选择的，可向相关单位的监管部门反映和举报。”四川发现律师事务所律师黄鸿彬说。

黄鸿彬建议，个人在使用手机App或登录网站时，应仔细阅读相关的告知书和风险提示，如发现有泄露个人信息风险时应停止使用或者使用其他替代方式登录。“试用任何一款新型软件一定要认真阅读用户协议，多留个心眼。”他提醒居民，如果发现自己的人脸信息被盗用，可通过提起民事诉讼要求盗用人停止侵权、赔礼道歉并赔偿损失。如果发现盗用人可能存在大量收集个人信息的情况或者利用人脸信息实施其他犯罪时，可在第一时间向公安机关报案。

一些专业人士也建议，为防范被偷脸情况发生，有几件事尽量不要做——一是不要在网上乱发带有自己指纹信息的照片。不要在不可信的设备上录入自己的指纹。用完指纹锁或者手机后，把传感器表面上擦一下，通过这个动作可把指纹图像完全模糊化，让其失去提取的价值。

二是对于一些要求上传手持身份证照片或视频的服务，应保持警惕。

三是不下载、不使用来历不明的应用程序。避免使用陌生的无安全防护的Wi-Fi。

四是使用虹膜验证身份的敏感人群，不要随意上传照片到网络，也不要轻易接受他人拍摄照片的要求。

“家中有老人的，要做好宣传防范工作。提醒老年人在接到电话、短信时，要放下电话，再次拨打家人电话确认一下，不要贸然转账。尤其是对于不明平台发来的广告、中奖、交友等链接提高警惕，不要随意填写个人信息，上传照片，以免被骗子‘精准围猎’。”专家说，生物信息是个人信息安全的最后一道防线，一定要守护好。即便有识别技术，也应保持警惕心理，不以此技害人，也不被此技所害。

拧紧安全阀需要法律和技术双管齐下

专家指出，深度伪造技术的滥用，确实给人们生活和社会稳定带来诸多问题和挑战，而且随着仿真精度的提升，这种问题还有愈演愈烈的趋势。但技术毕竟是中立的，也是不可遏制的潮流，大众对此无须谈之色变，而更应审视技术背后的责任和意图以及如何管控。

几位技术研究人员告诉记者，既然AI时代已经到来，那大家应该做好积极应对，保证新技术被正当使用，不能放任自流，任其异化，成为侵害他人合法权益和危害社会公共安全的工具。

“重要的是拧紧‘安全阀’，这就需要法律和技术双管齐下——在法律层面，AI作恶必须有‘紧箍咒’管它；在技术层面，‘魔高一尺’还要有‘道高一丈’进行抗衡。”

记者看到，针对近年来AI换脸乱象不断的情况，国家网信办、各地网警、检察机关、审判机关等相关部门协调配合，加大对涉及AI换脸违规违法现象的整治打击力度，办理了不少民事和刑事案件，出台了多项政策法规加强治理，效果非常明显。比如，检察公益诉讼在涉人脸识别公民个人信息保护中已经发挥了积极作用。

目前，我国刑法、民法典，以及国家有关部门出台的《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》等多部法律法规及政策规定，均涉及深度合成应用的规范、侵权责任等内容。

尤其是《互联网信息服务深度合成管理规定》，对深度合成内容的用途、标记、使用范围以及滥用处罚作出具体规定，并对作为深度合成服务提供者的平台方进行审核、评估、监管等都提出了明确的要求。

“现在能想象到的AI换脸技术运用场景，都没有逸出现行法律法规及行业规定约束范围，一些机构和人员一旦涉及违法，都能找到相应领域的法律和制度规范予以打击。所以，大众对AI换脸技术不用过于担心，只要增强防范意识就好。”一位律师说。

不过，在一些专业人士看来，目前对于深度合成服务与应用方面的规范还需进一步细化和明确，要从法律和技术方面加以约束。

浙江垦丁律师事务所元宇宙法律研究部成员程念认为，深度合成技术相关的一些概念界定、平台责任边界等问题的确定，在法律上面临挑战，需要加以明晰。

专业人员说，网络平台应强化内容审核，强制要求使用深度合成技术的内容信息必须提供显著标识功能，对发布者故意将合成内容伪造成真实信息等问题，第一时间封停账号，并向监管部门报告。

北京京师律师事务所律师王琮玮认为，对于利用AI技术进行的犯罪行为，《互联网信息服务深度合成管理规定》所规范的只是提供符合市场需求的应用技术，而对于这一技术被滥用甚至从事违法犯罪行为并不能起到限制或禁止作用，当AI技术的使用上升到刑事法律层面，还需要刑法来调整。

北京瑞莱智慧科技有限公司专家唐家渝认为，在AI技术合规性方面，目前还缺乏一套科学严谨的标准机制。未来应引导学术界、产业界不断加强技术研究，利用技术创新、技术对抗等方式，持续提升和迭代深度合成检测能力，并扩展深度合成溯源、深度合成鉴定等方面的研究。

专家表示，深度伪造技术正在不断演进，AI换脸泄露个人隐私给人们造成的困扰是互联网技术发展过程中不可回避的问题。对于网络新风险的防控治理，腾讯安全专家石追认为，数据安全风险源复杂且动态，需要App开发者、应用分发商、操作系统、终端厂商、SDK和API等多环节多场景多主体共力协同，行业自律与司法实践相结合，才能发挥成效。

“尤其是行业和监管部门应当加快技术升级，研发相应的‘反换脸’检测技术，加快建立人工智能算法的安全评估制度，解决相关技术滥用问题。监管部门对于违法侵权视频，要重点关注和监测，对可能造成恶劣社会影响、危害国家安全和社会公共利益的换脸视频，要严格监管，对违法侵权行为重拳出击。”中国传媒大学教授王四新说。

（文中涉案人员均为化名。本文有删减，更多内容请关注《方圆》4月上期）