(网经社讯)如果有一天，你接到家人打来的电话，对方用熟悉的声音告诉你遇到了急事，需要马上转账。你会怀疑电话那头的人吗？

AI语音克隆技术的发展，让这种信任正面临坍塌。10月11日，国家安全部发布安全提醒：接到陌生来电可以先沉默三秒，防止不法分子利用语音样本进行AI声纹克隆。这条提醒引发关注，更多人开始思考：当声音都能被模仿，我们还能靠什么确认对方是谁？

多位信息安全专家对第四波表示，克隆效果仍受音频质量和技术方案影响，并非任何人都能凭三秒录音完美复制另一个人。

但需要提醒的是，诈骗者制作的声音不必完全以假乱真，就很容易让人相信并上当受骗，需要加强防范。

01三秒沉默有用，但别把它当护身符

“陌生来电先沉默三秒”做起来不难，但它究竟能防住什么？安恒信息一位安全专家对第四波说，沉默可以减少本次通话中的语音暴露，却不是可靠的身份认证手段。如果个人声音早已出现在公开视频、直播或其他音频中，沉默也无法消除此前的信息泄露风险。

因此，判断一通电话是否可信，不能只听声音像不像，还要看对方要求做什么。凡是涉及转账、验证码、账户变更等操作，都应通过其他可信渠道与当事人确认。

来源：AI图片

当人耳难以可靠地区分真实声音与AI合成声音，技术能否补上这个缺口？

网经社电子商务研究中心特约研究员、上海正策律师事务所律师董毅智对第四波表示，“用AI识别AI”已经成为声纹反诈的重要技术方向。检测端可以通过分析声学高阶特征等信息识别合成语音；防御端则可以在音频源头加入干扰，增加克隆难度，并在使用入口部署活体声纹检测、结合其他生物特征进行交叉核验。

他提到，AntiFake等技术尝试通过音频保护机制干扰语音克隆，相关研究曾报告可使95%以上的样本失效。不过，这类效果与具体测试条件和攻击模型有关，不能直接理解为所有场景下都能达到同样的防护水平。

技术对抗也很难一劳永逸。合成模型不断迭代，检测方法也需要持续更新。董毅智认为，声纹反诈是一场没有终点的技术对抗，不能把全部希望寄托在检测系统上。家庭暗号、独立回拨等传统核验方式，仍然具有现实价值。

对普通用户而言，减少不必要的音视频公开、提前与家人约定核验方式，都是可行的防范措施。但固定暗号也可能泄露，涉及重要事项时，仍应通过独立渠道确认身份。

02从识别假声音，到追究造假者的责任

如果AI语音被用于诈骗，受害者能否找到责任人，又该如何证明自己的权益受到侵害？

董毅智认为，这类案件的突出难点在于，侵权成本较低，维权成本却可能很高。

首先是责任主体认定难。一段合成语音可能涉及原始数据采集、模型训练、内容生成和平台传播等多个环节。内容经过多个平台转载后，受害者需要厘清谁实施了侵权行为，以及各方应承担什么责任。

其次是举证难。AI合成语音可能让一个人说出其从未说过的话。即使声音与本人高度相似，也不能仅凭音色相似就认定是本人发声，更不能直接证明是谁生成、传播了这段内容。如何证明声音与本人之间的关联、追查合成内容的来源，都会影响维权效果。

法律定性同样需要结合具体事实。董毅智指出，现行法律并不需要专门设立一个“AI诈骗罪名”，关键在于行为是否符合相应违法犯罪的构成要件。例如，诈骗案件需要结合行为人是否实施欺骗、是否使被害人产生错误认识并处分财产等因素综合判断。如果涉及未经授权使用个人声音，还可能产生人格权或个人信息权益方面的争议。

企业同样不能只靠员工听声音辨认身份。如果有人利用AI语音冒充领导要求紧急付款，或冒充合作伙伴要求修改收款账户，企业应在付款、账户变更等关键环节设置独立核验和复核流程。

安恒信息提出的防护思路也包括语音反欺骗检测、来电与通信链路分析、动态活体核验和业务风险控制等。但这些技术可能受到环境噪声、音频压缩和合成模型变化等因素影响，不能作为唯一的判断依据。相比寄希望于某个工具识破所有假声音，完善关键业务的核验流程更为实际。

03声音数据的商业边界，也需要重新划定

AI声纹克隆带来的风险，还不止于电信诈骗。

随着语音合成技术被用于智能客服、数字人、直播带货和内容创作，普通人的声音也可能进入商业数据链条。一段原本用于广告配音或公开视频的录音，可能被进一步用于训练语音模型，甚至生成说话者从未表达过的内容。

一个人同意自己的声音用于某个商业项目，是否就意味着他同意自己的声音被用于AI训练和合成？

董毅智指出，声纹属于敏感个人信息，处理时需要满足法律规定的相关要求，并依法取得单独同意。他同时强调，知识产权授权不等于人格权授权，原有授权也不能当然覆盖所有后续用途。

例如，某人同意为一段广告配音，并不意味着企业可以不加限制地利用这段录音训练语音模型，再生成大量由其声音演绎的新内容。具体需要取得何种授权，应结合数据来源、处理目的、使用方式和相关法律规定判断。

在董毅智看来，商业生态治理需要从几个方面入手。

首先，明确语音数据的使用边界。企业收集声音时，应当说明数据用途，避免通过笼统授权，将语音采集、模型训练和后续商业使用全部打包。对于超出原有目的的新用途，应根据适用法律重新评估告知、同意等要求。

其次，平台需要完善侵权投诉和处理机制，对利用他人声音实施诈骗、仿冒或未经授权进行商业化使用的行为及时采取措施。

此外，行业可以探索更完善的授权和追溯机制，通过行业标准、合同示范文本明确声音数据的授权范围和使用场景，并探索统一授权、集体维权等方式，降低个人维权成本。

对合成内容进行标识、保留必要的生成记录，也有助于发生争议后追溯来源。董毅智还提出，可以加强对AI训练平台的数据来源审查，并研究在特定情形下合理分配举证责任，具体仍需以现行法律规定为基础。

当声音成为可以被采集、训练、复制和交易的数据资源，个人需要知道自己的声音被谁使用、用于什么目的，以及出现问题后可以向谁追责。

对普通人来说，涉及资金、账户等重要事项时，先核实身份，再采取行动，仍然是最实际的防范方式。对于行业而言，提升技术防御能力、明确声音数据的使用边界，并建立有效的侵权追责机制，才有可能让AI语音技术在商业应用中获得更可靠的信任。