近日,知名音乐人高晓松,再次就AI合成声音冒充他本人一事发布声明,提醒大家不要上当受骗。这也是他2026年以来发布的第二个辟谣声明。
不止高晓松,跳水运动员全红婵、太乙真人配音演员张珈铭等,同样深受AI声音克隆侵权的困扰。
随着技术的进步,AI声音克隆日益泛滥。它不仅能生成逼真的声音,还能模仿人的各种情绪变化。而侵权成本低、举证难度大、维权成本高,让许多受害者选择息事宁人。
10元买20秒 让“余华”替你代言
记者以“有声书推广”为由,在多家电商平台搜索“AI声音克隆”“音色复刻”等关键词,咨询了大量提供配音服务的线上店铺,报价从10元到几百元/分钟不等。多数店家表示,能提取“线上已有素材”中的声音克隆,包括名人、明星。
记者随机选了一家店铺,花10元下单了20秒的AI声音克隆服务,并将一段作家余华的公开访谈片段发给了店家。店家没有核实记者身份,也未询问与余华的关系,更未提及任何授权问题。
十几分钟后,店家便发回一个音频文件。效果令人震惊——这段推荐图书的语音,声线、语调甚至独特的停顿节奏,都与余华本人高度相似。
最终,记者花80元从这家店买了一款所谓“AI语音克隆软件”。所谓的“软件”并非程序,而是一个网址链接。打开后发现,上传目标声音样本“资料提炼”后,短短十几秒,后台便完成了“建模”。
记者以宠物餐盘推广为由,又联系了一家AI声音克隆网店“AIGC时代”。
记者把一篇近500字的产品推广文案,以及网上找来的一段12秒长的演员张铁林的真人语音,发给店家。同样,店家没有任何询问,只是报了价格,“每200字1单、29.9元,你下3单就行。”
3个小时后,店家将制作好的音频发回,声音和语气十分逼真。店家认出了这个声音是张铁林的,主动说:“如果会牵涉版权问题的话我们不负责”。
记者循着该网店的注册地址来到一座大厦的15楼。但是,该处办公室大门紧闭。询问附近办公室的人,对方说平时没看到过有人进出。
一名县级市场监管局行政审批科负责人介绍,对于网店来说,线上线下同时经营的,需提供实体经营场所作为注册地址。而纯线上经营的,无需租赁实体办公室。个人从事便民劳务或者开展零星小额交易的,无须办理市场主体登记。
一台电脑就是一个“声音伪造工坊”,交易全部线上完成,无疑给监管和追责带来了更大困难。
只需1秒钟音频 声音失窃风险超出想象
和指纹、人脸一样,声纹也是每个人专属的身份密码。在短视频发布、语音聊天、播客录制等场景下,我们的声音被大量记录。而要复制、模仿一个人的声音,比你想象中的还要简单。
浙江大学计算机科学与技术学院—网络空间安全学院特聘研究员、博士生导师卢立的团队曾做过测试,合成声音不仅骗过了人耳,连银行的声纹锁都能攻破。“我们跟银行汇报,对方也觉得太危险,进行了声纹功能的下线整改。”
据介绍,《民法典》以及《个人信息保护法》都已将声音纳入法律保护。自2025年9月1日起施行的《人工智能生成合成内容标识办法》,还要求所有AI生成内容必须打上标识,方便溯源。
卢立提到一个更“主动”的防御思路:从源头干扰。“比如手机录音时,可以加一段人听不到的超声波噪声。这个噪声不影响听感,但能干扰AI模型,让它无法合成。”他透露,已经有手机厂商开始尝试这个技术。
2024年,北京互联网法院判决5家涉案公司中的相关责任方向配音演员支付25万元赔偿,并赔礼道歉,原因是相关公司未经同意克隆了该配音演员的声音并商用。这也是中国首例保护语音权免遭人工智能克隆的法律判决。
但与侵权的低成本相对应的,是举证、维权上的高难度、高成本。例如,声音克隆只需要几十元,而举证时,光声纹鉴定就要花上千元,打官司还要走漫长的司法流程,能拿到多少赔偿,不好说。
相关部门开展核查 平台称会严厉处理
网店“AIGC时代”注册地所在的义乌市市场监管部门相关负责人告诉记者,他们已派人去核查该店铺。市场监管部门也会督促平台履责,对违法网店采取相应处罚措施。
针对网上相关店铺提供AI声音克隆服务情况,某电商平台官方客服回复记者,他们已经注意到了这个现象,一旦确认有卖家提供非法的AI克隆声音或相关违法软件,将会对此类行为进行严肃处理,并对相关商品做出下架扣分甚至关店等处罚,保障平台用户信息安全。
记者发现,一些平台已开始主动加设门槛。例如,剪映等主流视音频处理软件,今年初已对AI克隆声音功能,增设了实质性的审核环节:用户若想复刻某个声音,必须由该声音的本人现场读出系统给出的条款文字,经核验匹配后方可生成。
“平台,才是治理的关键一环。”AI治理专著《人工智能的新衣》作者、浙江大学科技与法律研究中心研究员郭喨也认为,确权、模型备案、音频水印等举措都有意义,但最关键的是压实平台责任。他建议平台设置“声音非法使用预赔付金”,责任明确后由受害者直接向平台索赔,平台再追责具体商户。
台州市公安局科技信息化支队副支队长翁燕敏表示,为确保技术用于正道,一方面要加强对违法犯罪行为的打击。同时,市民也要加强自我防范,特别是在大额转账中,更要多次核对。
据《钱江晚报》


