锐角|治理AI声音滥用乱象须多措并举

从“张文宏医生”推销蛋白棒视频“走红”网络,后被本人“打假”,到多位配音演员称声音被AI“偷走”,公开维权……随着人工智能技术和语音大模型应用的发展,AI合成声音App大量出现,最快只需十几秒便可“克隆”出来。与此同时,AI声音滥用现象愈发突出,不时引发争议。(2月12日新华社)

随着人工智能技术的飞速发展,AI语音合成技术日益成熟,其应用也愈发广泛。然而,在享受AI技术带来便利的同时,我们也面临着AI声音滥用的严峻挑战。从伪造名人言论到恶意骚扰,再到诈骗犯罪,AI声音滥用乱象频发,不仅侵犯了个人权益,也严重扰乱了社会秩序。因此,亟须厘清法治规则和边界,以有效遏制AI声音滥用乱象。

新华社发

AI声音滥用的危害不容小觑。一方面,它可能侵犯他人的声音权益、肖像权和名誉权。例如,一些网友利用AI软件,模仿知名企业家的声音进行恶搞,这不仅损害了企业家的个人形象,还可能对其声誉造成严重影响。另一方面,AI声音滥用可能被用于传播虚假信息、制造社会恐慌,甚至引发信任危机。一旦公众对信息的真实性产生怀疑,社会的稳定与和谐也将面临威胁。

加强监管是首要之举。政府应制定相关法律法规,明确AI创作的边界,规范AI技术应用。近年来,我国已出台一系列涉及AI技术管理的政策文件,如《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》和《人工智能生成合成内容标识办法》等,为刚性治理提供了依据。然而,仅有法律法规还不够,关键在于严格执行。政府部门应加大对侵犯知识产权和滥用AI技术行为的打击力度,提高违法成本,形成强有力的威慑。

科技公司也应承担起社会责任。作为AI技术的开发者和应用者,科技公司不仅要追求技术创新,更要注重技术伦理。他们应强化对源头素材的把控和对生成内容的监管,完善运营规则,并在出现问题时积极配合有关部门。此外,科技公司还应开发有效的虚假音频识别和过滤工具,提高用户对伪造声音的辨别能力,从技术层面遏制AI声音滥用。

内容传播平台同样肩负重要责任。短视频等传播平台应加强对上传内容的审核和监管,利用技术手段提高虚假信息的识别能力,及时删除和封禁涉及“AI换声”等违法违规的视频。同时,平台还应提醒用户,主动声明发布内容中是否包含生成合成内容,引导用户理性看待网络信息,提高媒介素养。

除了政府和企业的努力,公众的参与不可或缺。公众应增强对AI语音技术的理解和警惕性,提高自我保护意识。在接收到陌生声音时,要通过其他渠道进行核实,切勿轻信。学校应将AI伦理纳入课程,帮助学生认识到技术对社会的影响及其责任。家长也应与孩子进行沟通,说明滥用AI技术的后果,培养他们良好的科技使用习惯。

AI技术是一把双刃剑,合理利用能够为社会带来诸多便利,而滥用则可能带来巨大危害。只有政府、企业、公众齐心协力,共同推动AI创作健康、可持续发展,才能充分发挥AI技术的优势,让AI技术在合规的前提下更好地服务社会。

文字:张西流 图片:新华社 编辑:陈海阔 责任编辑:李梅容
锐角|治理AI声音滥用乱象须多措并举
珠海特区报 2025-02-12 23:42

从“张文宏医生”推销蛋白棒视频“走红”网络,后被本人“打假”,到多位配音演员称声音被AI“偷走”,公开维权……随着人工智能技术和语音大模型应用的发展,AI合成声音App大量出现,最快只需十几秒便可“克隆”出来。与此同时,AI声音滥用现象愈发突出,不时引发争议。(2月12日新华社)

随着人工智能技术的飞速发展,AI语音合成技术日益成熟,其应用也愈发广泛。然而,在享受AI技术带来便利的同时,我们也面临着AI声音滥用的严峻挑战。从伪造名人言论到恶意骚扰,再到诈骗犯罪,AI声音滥用乱象频发,不仅侵犯了个人权益,也严重扰乱了社会秩序。因此,亟须厘清法治规则和边界,以有效遏制AI声音滥用乱象。

新华社发

AI声音滥用的危害不容小觑。一方面,它可能侵犯他人的声音权益、肖像权和名誉权。例如,一些网友利用AI软件,模仿知名企业家的声音进行恶搞,这不仅损害了企业家的个人形象,还可能对其声誉造成严重影响。另一方面,AI声音滥用可能被用于传播虚假信息、制造社会恐慌,甚至引发信任危机。一旦公众对信息的真实性产生怀疑,社会的稳定与和谐也将面临威胁。

加强监管是首要之举。政府应制定相关法律法规,明确AI创作的边界,规范AI技术应用。近年来,我国已出台一系列涉及AI技术管理的政策文件,如《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》和《人工智能生成合成内容标识办法》等,为刚性治理提供了依据。然而,仅有法律法规还不够,关键在于严格执行。政府部门应加大对侵犯知识产权和滥用AI技术行为的打击力度,提高违法成本,形成强有力的威慑。

科技公司也应承担起社会责任。作为AI技术的开发者和应用者,科技公司不仅要追求技术创新,更要注重技术伦理。他们应强化对源头素材的把控和对生成内容的监管,完善运营规则,并在出现问题时积极配合有关部门。此外,科技公司还应开发有效的虚假音频识别和过滤工具,提高用户对伪造声音的辨别能力,从技术层面遏制AI声音滥用。

内容传播平台同样肩负重要责任。短视频等传播平台应加强对上传内容的审核和监管,利用技术手段提高虚假信息的识别能力,及时删除和封禁涉及“AI换声”等违法违规的视频。同时,平台还应提醒用户,主动声明发布内容中是否包含生成合成内容,引导用户理性看待网络信息,提高媒介素养。

除了政府和企业的努力,公众的参与不可或缺。公众应增强对AI语音技术的理解和警惕性,提高自我保护意识。在接收到陌生声音时,要通过其他渠道进行核实,切勿轻信。学校应将AI伦理纳入课程,帮助学生认识到技术对社会的影响及其责任。家长也应与孩子进行沟通,说明滥用AI技术的后果,培养他们良好的科技使用习惯。

AI技术是一把双刃剑,合理利用能够为社会带来诸多便利,而滥用则可能带来巨大危害。只有政府、企业、公众齐心协力,共同推动AI创作健康、可持续发展,才能充分发挥AI技术的优势,让AI技术在合规的前提下更好地服务社会。

文字:张西流 图片:新华社 编辑:陈海阔 责任编辑:李梅容