米乐(中国)官方网站

争议中的“AI复活”已成一门生意边界在哪?

M6(米乐)

导航切换

联系电话:
021-66889888     1399520488

M6(米乐)

M6(米乐)
当前位置: 主页 > 新校动态

争议中的“AI复活”已成一门生意边界在哪?

作者: 小编 来源: 网络   日期:2024-04-02 20:39

  米乐中国 m6平台官网米乐中国 m6平台官网随着大模型、人工智能技术的发展,一些AI技术的运用逐渐走向更多行业。几张照片和音频就能够“复活”亲人,今年清明节,“AI复活”走向了大众视野,引来热议。

  “AI复活”商业化的运用正在推广开来,发展成为一门生意,网络上不少商家向消费者提供此服务,还顺带销售教程,“授人以鱼,也授人以渔”。有的人从中感受到慰藉,有的人感受到失落。有的人认为这大有益处,也有人保持警惕。律师提醒其中带有法律风险,呼吁加强监管。专家学者表示,当前被运用的技术仍显得传统,未来将有更逼真的效果。

  当前,大众对“AI复活”的态度如何?隐藏的法律风险在哪?它的边界在哪?南都记者就此展开了调查。

  “你们好吗,我是CoCo李玟,我知道你们可能会感到惊讶,甚至有些不真实。在我离开这个世界的那一刻起,我一直能感受到你们无尽的爱与支持……”视频中的“李玟”坐在镜头前,对粉丝诉说着暖心话语。这段“逼真”的视频实际由AI生成,在社交平台上被广泛传播。

  3月28日,已故知名歌手李玟的母亲委托广东梦海律师事务所就部分网络用户制作、传播“AI复活李玟”相关短视频事宜,公开发布了一则律师声明。声明称,根据已掌握的证据资料显示,近期部分网络用户未经李玟女士近亲属同意,利用李玟肖像制作、发布“AI复活李玟”系列短视频,以温情之名非法牟利,借机售卖AI服务、恶意转评引流推广个人业务。此类视频的广泛传播已经对李玟母亲及其家人的工作和生活造成了严重干扰,同时也给本就深陷痛苦的李玟母亲及家人带来了巨大的心理冲击和二次伤害。严正警告涉嫌侵权责任人,于本声明发布之日起7日内下架、删除含有上述侵权内容的相关图片、视频及文章,立即停止实施相应侵权行为。

  不仅仅是李玟。被AI“复活”的已故明星还有高以翔和乔任梁。而他们的家人均表示对此不能接受。“他们未征求我们同意,这是在揭伤疤。”乔任梁父亲在接受媒体采访时说道。

  仅凭照片和音视频便能“复活”已逝之人,“AI复活”的争议首先发生在了在网络上流传有大量个人资料的明星身上。

  这一AI技术的运用也被更多图谋利的商家看上,在网络上做起了相关的生意。在多个电商平台,记者以“AI复活”为关键词,有多个链接弹出,价格在几元至万元不等。记者注意到,这些链接大多以看起来是老年人的照片为封面,且标注着“怀念亲人”“照片开口说话”等,有销量高的链接里显示,一周内500+人已买,超500人加购。而在评论区,有人认为视频非常不错,也有人表示视频有些吓人。

  记者随机询问了几位商家,有商家表示,主页展示的视频使用的是数字人,商品具体价格要根据要求来定,如果只是让照片里的人动起来,仅需提供正面照。如果想要让照片里的人说话,则需提供正面照片和音频。如果没有音频,商家给配固定AI声音,且均需自行提供文本。商家还强调,动态照片开口说话只用于怀念亲人,其他用途勿扰。

  还有商家链接上有“教程教学”的选项,客服表示,若是要进行教学则需要交费1500元,“会教你怎么制作视频,让照片动起来说话。”但更多的内容,则不愿意多说。

  提供资料越多越线月,老尧(化名)开始正式进入这个行业。他告诉记者,原本他就学习过AI算法。去年,老尧一个朋友的父亲去世,他就用“AI复活”这个技术先帮朋友实现了“复活”父亲。“后来我发现这是一个可以帮助别人的事情,又能够成为一个商机,所以就慢慢进入这个行业。”

  老尧介绍,现在他提供的“AI复活”服务主要是将逝者的照片与还原后的音频结合,让照片中的人物嘴巴动起来,说出逝者的亲人想要听到的逝者留下的话。想要实现这样的“复活”,需要客户提供足够的素材。首先逝者的声音是必须的,若是想要达到更好的还原效果,则需提供至少一分钟的清晰音频;照片也最好是清晰无遮挡的,但若只提供照片,就只能在照片的基础上让人物动起来,效果不是太好,如果能提供逝者的视频,那可能可以做成更加真实的数字人。“但是我接触了很多的客户,基本上没有能提供大量视频素材来进行数字人还原的,因为不会想到这一步,所以没有在亲人生前录这么多的素材。”

  “我会先把客户亲人的声音还原出来,然后根据客户给我的想要自己亲人说的一段话,和给的照片一起,做音频和嘴唇张合的匹配。”老尧说客户会觉得“复活”的亲人不够真实,因为技术实现的复活不能还原客户心中亲人还在世时的形象,所以只能作为一种缅怀的方式。但他提到最近又出现了一些新技术,能够让照片中的人物在说话的同时整个身子跟着一起动,就不会像之前只是照片中人物的嘴唇动而显得那么生硬,会显得更真实。

  找老尧“复活”亲人的客户中有亲人是最近离世的,也有离世几年甚至更久的,但大多是看到老尧在社交平台上发的一些“复活”作品后才联系他。老尧表示,他的大多数客户“复活”亲人都是想在家庭聚会的时候给家人们看,让整个家庭的人一起怀念逝者,并得到一定的安慰。“尤其是去年过年期间,这个需求比较大。”而清明节将至,找老尧实现“AI复活”的人并没有增多。

  近日,南都记者在网络上发起有关“AI复活”的问卷调查,共收回89份有效问卷,其中82.02%的受访者知道“AI复活”技术,但只有37.08%的受访者表示愿意用AI“复活”自己的亲人,且有超半数的受访者对这项技术运用持中立态度。担心这项技术“对道德伦理有挑战”“有泄露隐私的风险”以及“有实施诈骗的风险”的人数比例相近。

  小柯(化名)觉得使用“AI复活”亲人事情很可怕,“虽然能理解别人为什么要用AI复活亲人,但毕竟是一种技术建构起来的幻觉,我是不太接受的。”她认为那些致力于复活亲人的人无所谓生活在真实还是幻想中。而且技术总是反过来会对创造其的人有反作用,现在也有显现出来一些迹象了,“我不太希望这些东西打扰到正常人的生活。”

  小付(化名)也对“AI复活逝者”持反对态度。她认为既然逝者已经离世了,即使在世的人很想念逝者,但是“复活”出来的那个“数字人”并不是她记忆中那个活生生的亲人,而且现在的技术完全达不到“复活”的那个程度。“利用‘AI复活’出来的形象一点都不真实,很像是被模拟出来的数字玩偶。”并且她认为这样的“复活”没有考虑过逝者的意愿。如果从她的角度出发,她不会愿意自己离世之后被“复活”成为一个没有灵魂的数字人。

  邹女士也表示如果有机会,应该也会通过AI“复活”自己的亲人,“虽然知道‘AI复活’会扰乱一些秩序,但真的很想念逝去的亲人。”她告诉记者,她最想复活的是自己的爷爷,因为从小跟着爷爷长大,所以祖孙俩之间的感情非常深,但是2020年爷爷的突然离世让她不太能接受。如果能复活他,“想他还像平常一样,会问我在干嘛呀,吃饭没有呀,很平常的一个问候就好了。”虽然她知道被复活出来的形象会很不真实,但是因为非常想念逝去的亲人,所以这也算对自己的一种心理安慰。

  “它所运用的底层技术,包括算法、模型和计算框架都是相对传统的。”华南理工大学计算机科学与工程学院副院长、琶洲实验室AI大模型与智能认知研究中心研究员张通向南都记者表示,时下热门的“AI复活”的技术内核并不新,也不复杂。

  广东法制盛邦律师事务所律师汪冰洋表示,“AI复活”技术需要使用到逝者生前的图片、音视频等资料,其在制作、传播过程中,极易产生肖像权、名誉权、隐私权侵权等问题。据此,普通人使用AI复活技术,在未征得肖像权人家属同意的情况下,将可能存在民事侵权的法律风险。

  不过她也提到,法无禁止即自由。逝者家属为了寄托哀思,付费购买AI复活亲人的服务,并不违反相关法律规定。但是,前述虚拟的“数字人”的应用场景,应当限定于逝者家属范围内的私人领域,尤其在逝者为英雄烈士等公众人物的情况下,更应对其家属制作、使用、传播该使用AI技术复活的“数字人”的行为进行严格规制,以防止不法分子利用数字人开展违法、犯罪活动行为的发生。

  对于技术的使用,汪冰洋认为,虽说技术本身没有好坏之分,但也不存在绝对的技术中立。AI复活技术作为一种新型技术,在尚未完善对其进行数字化监控、认证等监管的情况下,普通人在公共网络平台上很难检测和辨认“数字人”与生物人的区别。AI复活技术如果被不当地使用,将会引发一系列道德、伦理、法律等问题。“因此,我们在鼓励技术发展的同时,也应当积极防范技术发展而带来的社会风险。”

  汪冰洋介绍,目前,我们还处于建立人工智能监管法律法规体系的探索阶段。提供AI复活服务的商家,掌握了大量的照片、音频、视频等人类生物信息,一旦缺乏有效监管,将催生出大量滥用、伪造生物识别信息实施犯罪的不法行为发生。2023年7月,我国发布了《生成式人工智能服务管理暂行办法》,根据相关规定,通过AI复活技术制作“数字人”,也必须依照规定进行数据标注,以帮助社会公众进行有效辨认,避免“数字人”被非法利用。但是,就目前而言,购买AI复活服务的消费者并不都清楚前述AI产品“数据标注”规定的存在,相关商家也并未完全按照前述规对AI产品进行标注。

  对于AI复活技术的监管,她建议:首先,针对AI复活服务的提供者,可以设立资质准入、登记备案制度,保证所有AI产品能够追溯来源、明确责任人;其次,可以根据应用场景的不同以及复活对象的不同,设置分级审查制度,比如对于英雄、烈士等公众人物的AI复活制作,应当采用更加严格的产品审查、发布标准。再者,可以建立强制数据标注制度,使用数字水印等方式对“数字人”进行强制标注,便于公众识别。最后,还可加大对使用AI复活技术传播虚假信息、实施诈骗等违法犯罪活动的惩罚力度,加重行为人的违法成本。总之,对于AI复活等人工智能的监管,立法应当采取包容、审慎的监管态度,在鼓励技术创新与维护会秩序之间寻求价值平衡。m6米乐平台 米乐官方网站m6米乐平台 米乐官方网站