男子用AI换脸技术合成“明星淫秽视频”被提起公诉

用“AI换脸技术”合成淫秽视频，收费供他人观看，甚至根据顾客的需要使用不同的女明星形象进行“私人定制”，以及通过出售“换脸软件”非法获利。

澎湃新闻6月20日从杭州萧山区检察院获悉，除了此前以涉嫌制作、传播淫秽物品牟利罪对被告人虞某某提起公诉外，该院在审查时发现，被告人不仅涉嫌刑事犯罪，同时还存在损害社会公共利益的行为。对此，该院正式依法向杭州互联网法院提起民事公益诉讼。

据介绍，2020年，虞某某从互联网接触到“AI换脸”软件及技术，并通过学习掌握了该软件的使用方法。2021年开始，虞某某以牟利为目的，在未取得被编辑人同意的情况下，利用上述“AI换脸”软件，将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成，制作生成虚假的换脸淫秽视频，在网络社交软件上进行传播并获利。截至案发，公安机关共在虞某某所组建的公开群内查获淫秽视频1200余部、图片1600余张。

2022年11月30日，公安机关以涉嫌传播淫秽物品牟利罪将虞某某移送萧山区检察院审查起诉。该院在审查时发现，虞某某不仅涉嫌刑事犯罪（目前已对虞某某以制作、传播淫秽物品牟利罪提起公诉），同时还存在损害社会公共利益的行为。

经查，虞某某在使用“AI换脸”技术制作淫秽视频的同时，还为他人提供换脸视频定制服务，即根据客户提供的视频或照片，制作换脸视频。此外，虞某某还在网络社交软件上销售“AI换脸”软件、提供换脸素材并传授使用教程。

检察机关认为，人脸信息作为敏感个人信息，对于保障公民人身财产安全具有重要意义，应当依法受到严格保护。本案中，虞某某从互联网公共空间非法获取众多人脸信息，利用“AI换脸”等深度合成技术非法处理、制作淫秽视频后，在超过2000人的网络社交软件群组传播，同时提供换脸视频定制服务，使不特定群体成为潜在的被侵害对象，违反了法律法规和社会公德，混淆社会公众认知，污染社会风气，侵害了承载在不特定多数社会主体个人信息之上的公共信息安全，破坏社会公共秩序，构成对公共信息安全领域的社会公共利益侵害；除此之外，虞某某在明知他人可能将“AI换脸”软件用于侵犯个人信息等不正当目的的情况下，仍向他人销售“AI换脸”软件、提供换脸素材并传授使用教程，使得更多不特定主体个人信息被侵害的社会危险性进一步扩大。虞某某的行为违反了《中华人民共和国民法典》《个人信息保护法》等相关法律规定，应当承担相应的民事责任。

鉴于此，在依法履行诉前公告程序、无适格主体提起诉讼请求后，萧山区检察院于6月9日向杭州互联网法院提起民事公益诉讼，请求判令被告停止侵权，删除持有的所有涉案个人信息，不得再违法使用深度合成技术侵害社会公益；支付公益损害赔偿金人民币60000元（专门用于个人信息保护、人脸深度合成技术应用的治理等公益事项）；在国家级媒体上向社会公众公开赔礼道歉。

“人脸信息与个人的隐私权、名誉权、财产权等多种权益关系紧密，属于敏感个人信息，从司法实践来看，人脸信息的不正当使用将对社会公众的人身和财产安全带来重大风险，一旦造成侵害往往是长久的、持续的、难以弥补的。”承办该案的检察官说，近年来，利用“AI换脸”技术制作换脸视频，绕过人脸识别系统监管从而实施诈骗、盗窃等犯罪的情形时有发生。可以说，“AI换脸”技术在灰色领域甚至违法犯罪领域的滥用，给社会公众带来了极大危害。“我们希望通过该案的办理，能够进一步震慑犯罪分子，也提醒广大群众，在使用新兴技术时，不能忘记法律的规制、道德伦理的约束，这是所有技术发展应有的边界。”

来源：澎湃新闻