靳东呼吁关注AI换脸滥用现象:粉丝深受其害,亟需出台相关法律法规规范技术使用

admin102025-03-06 11:08:56

标题:AI换脸技术滥用问题引发关注,专家呼吁加强立法规范

正文:

近日,据人民日报报道,在3月5日的政协小组讨论会上,全国政协委员靳东就AI换脸技术引发的诈骗问题发表了看法。他表示,一些热衷于靳东作品的观众不幸成为了AI换脸视频的受害者,这种情况性质极其恶劣,并呼吁建立更为完善的规则以遏制此类事件的发生。

以下为相关报道的视频链接,供观众进一步了解靳东的观点: 观看视频

靳东在视频中强调,AI换脸技术的不当使用已经对公众造成了严重的伤害。从恶搞企业家雷军到AI制作张文宏医生的音视频为自己带货,甚至有不法分子利用AI深度合成视频进行诈骗。过去一年,AI深度合成音视频侵权现象愈发严重。

不仅如此,AI技术的滥用甚至已经蔓延至娱乐圈。此前,就有网友利用AI制作的刘德华声音来吸引关注,刘德华的电影公司也紧急发布声明,提醒公众警惕利用AI伪造刘德华声音的骗局。

记者调查发现,实现AI深度合成音视频并不困难,甚至在某些购物平台上,AI深度合成技术已经成为商家牟利的手段。仅需花费几十元,商家就能定制AI深度合成名人音视频。

那么,在网络上使用AI深度合成技术制作和销售名人音视频,是否触犯了相关法律呢?专家表示,根据《中华人民共和国民法典》和《互联网信息服务深度合成管理规定》,未经授权深度合成制作并发布他人信息是侵权行为,网店若进行此类操作,将承担相应的法律责任。

中国计算机学会计算机安全专业委员会委员吕延辉指出,《中华人民共和国民法典》规定,自然人享有肖像、声音等权益,任何组织或个人利用信息技术伪造均属侵权行为。同时,国家网信办、工信部、公安部联合发布的《互联网信息服务深度合成管理规定》明确要求,任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。此外,《人工智能生成合成内容标识办法(征求意见稿)》也提出了对AI生成合成内容进行标识的要求,以防止误导性信息的传播。

针对网店使用AI深度合成技术制作名人视频的法律责任问题,北京航空航天大学法学院副教授赵精武表示,在司法实践中,我国已经审结了首例AI生成声音人格权侵权案。在该案中,法院认定被告未经授权使用配音演员的声音进行AI生成并对外销售的行为构成侵权。

总结以上信息,我们可以看到,AI换脸技术的滥用已经引起了广泛关注。为了维护公众权益,专家呼吁加强立法规范,严厉打击侵权行为,确保AI技术的发展能够造福社会,而非成为伤害他人的工具。

[来源:人民日报、央视新闻、红星新闻]