AI

雷军AI语音屡禁不绝,谁该为此负责?

AI音频制作者、语音角色创作者、AI音频应用和分享社区、互联网平台,共同构成了制作公众人物AI音频的上下游链条。

马云雷军周杰伦、特朗普……这些国内外公众人物的真实声音,被一些创作者使用AI音频应用克隆后,制作成语音角色,并发布在AI音频分享社区。用户只需几十秒钟,便可依靠这些语音角色生成一段接近真人讲话音质的AI音频。

“十一”假期期间,网友制作了大量小米公司创始人雷军的AI音频,并在结合画面合成音视频后,将此类内容上传到抖音、快手和B站等互联网平台,其中不乏骂人、恶搞小米产品的语音,成为舆论热点。而在9月底,一名犯罪嫌疑人利用AI音频应用Reecho睿声(下称“睿声”)伪造了三只羊创始人卢文庆的录音,更是导致警方介入调查。

雷军AI音频事件发酵后,互联网平台上的大量相关音视频被删除,但仍有少量剩余。经济观察网记者在10月13日发现,用户依然能够使用睿声AI音频分享社区(下称“睿声社区”)里名为“雷军”的语音角色制作音频,一个“雷军”语音角色已被使用60.3万次。

睿声是深圳市言域科技有限公司(下称“言域科技”)旗下的AI音频应用和分享社区。言域科技创始人谢伟铎告诉经济观察网,小米法务方面已与该公司取得联系,希望其能对社区中涉及雷军的音频内容进行管控。目前,言域科技已通知原作者下架相关内容,如果原作者在7个工作日内没有下架,该公司会进行强制删除。

AI音频制作者、语音角色创作者、AI音频应用和分享社区、互联网平台,共同构成了制作公众人物AI音频的上下游链条。当此类音频引发负面舆情时,链条上的涉事各方分别需要承担什么责任?被侵权人能否利用现有技术精准追溯到肇事方?

01 制作者的责任

目前,AI音频制作者主

违法和不良信息举报电话:010-64158500-8113,18610056652    举报邮箱:infoweb@zero2ipo.com.cn    举报网上不良信息