换脸、克隆声音……如何应对人工智能技术的滥

作者: bet356体育官方网站   点击次数:    发布时间: 2025-11-27 11:03

近期，不少直播间演员被人工智能变脸，冒充直播卖货的现象引起关注。然而，这种情况并非孤例。中国之声此前报道称，运动员、演员等名人深受人工智能换脸的困扰。事实上，人工智能换脸、语音克隆技术产生的灰链已经对个人权益和平台管理造成严重威胁。 尽管监管部门已出台相关规定，明确要求人工智能生成的内容必须进行标签化，平台也在采取措施加强管理，但仍存在不法分子通过不同方式逃避监管的情况。面对技术不断革新滥用的挑战，如何驾驭不安分的换脸和声音克隆的混乱，真正保护我们的“脸”和“声音”？ 前不久，有网友记者发现，一名演员同时出现在三个不同的直播间，穿着不同的衣服推销不同的产品，而且他的动作和举止与自己非常相似。后来发现，这三个直播间要么是录屏、剪图，要么是交易员窃取了演员之前的直播素材，通过深度合成，对图像进行了重塑，将声音嵌入直播间中进行模拟。 演员团队的成员在意识到该假视频在互联网上流传后，继续举报该视频。他们每天举报 50 个虚假账户。一些虚假账户被从平台上删除，而另一些账户被删除后又以不同的形式重新出现。据介绍，一些商家只需要破坏一个形象，利用简单的工具就可以生成虚假内容，但收集证据和吸引的过程却需要付出很大的努力。 演员的工作人员团队：他们想在凌晨三四点，大家都在休息的时候发布，以便在时间上有所作为。我们发送了一封律师函，包括他们的侵权活动、产品和相应的公司实体。这实际上只是其中的一部分。我们之前已经处理了一大批。 人工智能换脸的热潮不仅让名人感到恐惧，普通人的权利也时常发生，因为人工智能的进化侵犯了他们的权利。上个月，山东济南的陈先生在社交平台上网上购买了两条裤子，但只收到一袋小苏打。商家称货物发错人，双方因此发生争执。没想到，这名交易员利用人工智能换脸，并用陈先生妻子的形象在社交媒体上发布了令人厌恶的视频。 陈先生：有争议。我跟他说了一句话，他就打电话给我，辱骂了我10多分钟。挂断电话后我报告因为我有录音，所以将其发布到平台上。但后来他发布了一个AI换脸的视频，而换脸的人是我女朋友。 先生。陈先生称，商家通过购物记录找到了他在社交平台上的账号。起初，他在陈先生发布的视频下进行恶意评论，随后注册账户盗用陈先生妻子的图片并发布不雅视频。陈先生随后向平台投诉并向警方报案。违规帐户后来被封锁。 AI换脸技术的滥用不仅出现在民事侵犯肖像权案件中，甚至还触及刑事犯罪。此前，江苏省南京市宣武区人民法院审理了一起“会变形的人工智能”诈骗案。 Ang nasasakdal na FU ay gutagamit ng higit sa 1.95 milyong piraso ng individual na impormasyon ng mga mamamayan na ilegal na nakuha at ang software na nagbabago ng mukha upang mag-log in saMasira ang mga 账户 sa pagbabayad ng mga tao 窃取银行卡进行购物。 南京市宣武区人民检察院助理检察官张海月告诉记者，付某利用换脸软件，利用“人脸识别”登录了23名受害人的金融支付账户。其中，非法更改5人支付密码和绑定手机号码，并使用绑定1人支付账户的银行卡购买两部手机，共计15996元。 南京市宣武区人民检察院助理检察官 张海跃：通过技术融合，AI生成动态视频，左右摇晃、张嘴。这样，一些金融视频往往可以向kapag登录的用户提供指令，突破金融支付平台的防线。 这段时间，FU尝试用AI换脸，打破“人脸识别”的权威许多金融支付平台的诱导系统。 南京市宣武区人民检察院检察官徐佳：他一直在尝试，尝试了很多平台，但是其他平台可能风控系统比较严格，这个平台可能有一些漏洞，他最后成功了。 法院遂以侵犯公民个人信息罪、信用卡诈骗罪判处付某有期徒刑四年零六个月，并要求其支付公益金15996元，并删除所有存储的公民个人信息。此外，针对本案暴露的某金融支付平台的技术风险问题，检察院立即出具了法律风险警示函。目前，金融支付平台已建成。 记者在多个社交平台上发现，AI人脸教程和服务很容易找到，并且有博主上传了相关软件使用技巧。在网上购物平台，此类软件或服务的价格较低。记者还注意到，监管部门已出台应对人工智能虚假广播的措施。国家网信办等部门联合发布《关于人工智能生成合成内容标注的建议》，明确视频生成肖像数量要标注为人工智能生成，否则将面临最高10万元的罚款。然而，许多博主将注释隐藏在视频或直播片段的角落里，或者以很小的字体显示，让消费者很难注意到。 中国政法大学刑事司法学院教授谢舒：人工智能催生、改造语音克隆技术的灰色产业链，是互联网上黑灰产品的常见形态。此类犯罪涉及整个链条，需要系统分析和把握严重的判断。 中国政法大学刑事司法学院教授谢舒：这些潮起潮落的行为是可以通过刑法有效规制的。当前的主要挑战在于整理调查证据并准确识别各个环节的“主观知识”。我们要坚持全链条破解的思路，同时结合平台主体责任，对拒不履行网络安全管理义务的平台追究刑事责任。现有的刑事司法系统已经能够对此类技术的滥用产生强大的威慑力。关键在于通过严格执法、准确司法，将法律规定转化为实际治理效能。 目前，部分平台已采取专项措施应对AI假冒明星带货行为。不过，相关人士表示该平台负责人表示，人工智能违规识别是一个全行业的问题。利用黑灰产品手段，如凌晨发布、频繁更换账号等手段来规范行业。为规避监管，今后我们将继续加强管理，对违法行为从严处理。 人工智能变脸之乱，在于迫切需要通过全链条、多方协同进行综合治理。对于内容发布者来说，法律底线是不可逾越的。无论是盗用明星形象推销商品，还是换脸报复普通消费者，其行为均构成违法甚至犯罪。每个技术使用者都必须清楚地认识到，技术绝不是违法行为的盾牌。 平台作为内容传播的关键环节，不仅仅满足于“一事一办”的被动应对，但必须把防线前移，用技术手段打击黑灰产品。人工智能变脸治理是一场涉及技术、法律和道德的博弈。当出版商自律、平台负责、监管到位，形成合力治理的合力时，技术滥用的灰色产业链才能得到遏制，技术发展才能不偏离法治文明的轨道。