！如何整治AI滥用危机 被AI配音恶搞的雷军 怒了 (如何整治爱占小便宜的人)

近几日， 短视频平台出现了大批的“雷军”配音的视频，这些视频内容锐评了堵车、假期、调休、游戏等一切抢手话题，不只言辞犀利，甚至还有一些不文明用语交叉其间，引发网络关注。

要求指出的是，这些视频中的声响并非出自雷军自己，而是AI配音。

对此事情， 雷军自己在社交媒体平台则是回复了三个愤怒表情，表达自己的态度。

有网友在小米集团公关部总经理王化的微博评论区留言称，“把雷军AI语音骂人的事情先处置一下吧”并@小米法务部。对此，王化回复称，“曾经转给他们。”

AI技术的提高，让图像和音视频的深度伪造技术变得越来越容易失掉和经常经常使用。与雷军AI配音相关的事情，小米正在处置应中。关于此番雷军AI配音引发的热议，外界更关心的还是AI滥用或许形成的伦理和侵权疑问。

▍涉事AI语音公司正处置雷军配音

当下，随着大模型技术的一日千里，AI分解内容曾经变得愈加容易。

西湖心辰CEO蓝振忠在接受《科创板日报》记者采访时剖析表示，AI语音分解关键基于深度学习和神经网络模型成功。经过大批的声响样本训练，AI可以学习到特定人的声响特征，并生成相似的语音。 目前，这些技术的门槛确实确实变得很低了，一些开源的软件友好台使得即使没有专业知识的普通用户也能启动声响克隆和分解。

依据《科创板日报》记者的观察，目前网上曾经有很多开箱即用的TTS声响模型网站。

例如近期DAU飙升的AI语音平台“Reecho睿声”，该平台的“声响市场”，一些用户上传了多段雷军语音的音频示例，在此基础上，其他用户输入恣意语句，即可制造对应的“雷军”AI配音。

而近期少数雷军的恶搞音频，是网友经常经常使用“Reecho睿声”平台制造生成。

前述“Reecho睿声”平台面前的公司主体是深圳市言域科技有限公司（言域科技），公司CEO谢伟铎走漏， 目前接到了小米公司的咨询，对方了解到大部分外容是由“Reecho睿声”生成的。言域科技正配合小米予以处置，会告知用户启动下架或修正触及雷军的配音。

谢伟铎坦言，“Reecho睿声”平台 有些配音确实不太文明，但言域科技只是创作工具提供方，没有足够的力气控制事态的演化，“对此也感到比拟遗憾”。

谢伟铎解释说，“Reecho睿声”平台只能遵照原样，将用户输入的文本转换为语音。尽管后台监测系统可以识别用户输入的脏话，但假定直接阻拦，“误杀面太广了”。他表示， 作为AI语音克隆工具，或许不太适宜在脚本内容没有清楚违法的状况下过多干预用户的创作。

“关于平台的‘声响市场’在线社区版块，公司会参照其他UGC平台的方式去控制，在必要时积极配合权益方诉求启动处置。”谢伟铎说。

▍如何整治AI滥用危机？

去年也有一批AI配音爆火出圈，以“AI孙燕姿”为代表的AI分解声响风行一时，同时也无运行AI克隆出了“郭德纲用英语说相声”“霉霉讲中文”等的配音视频。

但与前一轮不同，本次AI分解的雷军声响，迅速引发普遍争议。 这些AI分解的配音内容与雷军自己素日品格之间有微小反差，部分外容已超出普通开玩笑玩梗的水平。当然，更为外界所关心的，还是AI滥用形成的伦理和侵权疑问。

西湖心辰CEO蓝振忠蓝振忠表示， 随着AI技术的提高，AI语音克隆，图像和视频的深度伪造技术变得越来越容易失掉和经常经常使用，这形成了一些滥用现象，比如伪造名人语音启动欺骗等。这不只对集团隐私构成要挟，也或许对社会次第构成干扰。

在往年的外滩大会时期，全球Deepfake攻防应战赛出题人、ZOLOZ技术总监姚伟斌在接受《科创板日报》等媒体采访时表示， AIGC的生成伪造，往年的攻击量比去年大约介入了10倍。 整个风险其实是呈指数级上升的状况，不只仅是在中国，在韩国，在菲律宾、印尼等等国度都有相似的状况出现。

不久前，直播头部公司三只羊的“录音门”事情中，内容拉低下限，触及到多位高管和主播，但最后依据警方考察，音频内容不实，是AI伪造。

蓝振忠通知《科创板日报》记者，为了防止AI语音滥用，业界采取了一些技术和战略，例如， 多重身份验证措施，如生物识别和短信验证，以增加语音欺骗的损失。AI技术提供商也在开发检测工具，以识别和防止AI语音的滥用，这方面如今的准确度也比拟高。研讨机构如西湖大学也无相关的人员在研讨相似的检测技术。

往年2月，OpenAI团队也推出“AI生成内容识别器”，旨在识别文本是由电脑智能生成还是人类撰写，其实质上是一个区别真实内容和AI生成内容的分类器。不过，OpenAI在博客中指出，此识别器对AI撰写内容的检出成功率仅为26%。

但是蓝振中也提到， 通常上AI滥用出现的疑问很难根除，目前只能是从微观法律的角度，启动控制规范。

往年9月，网信办发布的《人工智能生成分解内容标识方法（征求意见稿）》提出，AI生成分解内容，应当介入显式标识和隐式标识，前者可被清楚感知，后者介入在元数据中。

2023年6月，国度网信办等三个部门结合发布并实施的《互联网信息服务深度分解控制规则》，这是我国第一部专门规范AI生成内容的部门；2023年7月，国度网信办等七部门结合发布了《生成式人工智能服务控制暂行方法》，规则了生成式AI服务提供者应当承当网络信息内容消费者的责任，肯定水平上给AI技术提供者划定了“红线”。

在国际方面，欧盟最新经过的《人工智能法案》（AI Act）围绕人工智能产品和服务的开发、市场投放及经常经常使用明白了一个分歧的监管框架。

京师律师事务所律师彭威武对《科创板日报》记者表示，与展开一日千里的AI大模型技术相比，以后的法律控制规范还有进一步细化的空间。但目前经过法律法规规范、平台内容控制、产业界提供技术和工具等多方综合控制，AI滥用出现的风险有望会有所紧张。