AI“复活”逝者成完整产业链,谁有权利使用?应用边界在哪?专家解读

2024-03-22 07:33 央视新闻阅读 (145074) 扫描到手机

在一段视频中,奶奶笑容慈祥,声音略微沙哑,带着浓浓的湖北口音,可实际上,这位奶奶已经去世几个月了,我们看到的影像,只不过是依靠AI技术“复活”的虚拟人。一段段毫无表情的数字代码,就编出了奶奶生前的音容笑貌,这是目前AI界超级炫酷的“复活黑科技”。

其实,这类靠AI技术“复活”亲人的案例远不止这一个,这种用AI技术让逝者“归来”的行为,是在传递思念还是消费逝者?有哪些潜在风险?是否涉嫌违法?应用的边界又在哪?

“穿越生死只为‘见’一面”已成完整产业链

记者通过搜索发现,在短视频平台上发布AI复活人物视频的博主,有不少都在经营AI复活业务,还有的培训收徒。不少开展此类业务的账号,有的声称可以“定制数字亲人视频,只需1张照片,用时1天内”,有的账号甚至还制作了教程视频。

记者调查发现,目前“AI复活亲人”已经形成相关产业链,有代理发布相关视频吸引目标客户,有制作团队专门收费制作相关视频。有从业者说,AI“复活”已故的亲人,一个月甚至能接到七十多单,这个市场的需求难以想象。

从业者:一张照片一段录音就能“复活”

所谓“AI复活”,是指利用人工智能技术将逝去亲人的文字描述、图片、视频和声音资料输入AI算法模型,从而模拟生成一个数字人形象,拥有逝者的性格、记忆、图像、视频和声音。

记者发现,目前在一些电商平台有部分商家已经推出了AI“复活”亲人的服务,其中有的商家写着:只需一张照片+一段录音,让你爱的人,永远陪伴你,此类的服务价格也是从几十元到上百元不等。

北京航空航天大学法学院副教授 赵精武:如果能够及时获得死者近亲属的同意,这种技术的应用方法,也未尝不是一种缅怀亲人的方式,尤其是对于普通民众而言,比如说在老照片模糊,或者生前没有留下任何影像的情况下,以AI技术修复老照片或者这些视频,反而能够在一定程度上弥补死者近亲属内心的遗憾。

据记者了解,目前利用AI技术制作的虚拟数字人除了能实现亲人“复活”、老照片复原等功能外,虚拟数字人这项技术已经在影音娱乐、电商带货、虚拟社交等行业领域广泛应用。专家表示,无论技术以何种方式创新,都不应当以牺牲公民的基本权利为代价,技术发展的前提应当是“技术服务于人,服务于社会”。

北京航空航天大学法学院副教授 赵精武:虽然AI技术“复活”死者的争议很大,但是如果这样的技术应用在寻找拐卖儿童领域,未尝不是造福社会的一种技术方法。因为儿童的成长可能会导致原有的旧相片难以发挥寻人作用,因为孩子会越长越大,那么利用AI技术预估被拐儿童长大后的样子,或许更有助于发现被拐卖的儿童,实现技术的良性治理。

“数字人”技术尚不成熟 警惕过度依赖

AI“复活”技术,对很多人来说是一剂良药,专家也表示,如果仅仅是满足个人的思念,既没有突破人伦道德的底线,也没有用于商业甚至犯罪目的,就无需过度焦虑。但是“数字人”技术尚不成熟,如果过度依赖也会适得其反。

中国科学院自动化研究所人工智能伦理与治理中心主任曾毅介绍,采用人工智能去模拟或者是克隆真人的技术,专业领域称为“数字人”或是“数字克隆”。基于人工智能技术构建的所谓的“数字人”其实只是一个信息处理的工具,它与真人或者真人拥有的智慧是没有任何关系的,“数字人”并不能看作是真实人类的复刻。

中国科学院自动化研究所人工智能伦理与治理中心主任 曾毅:现在的科学技术远远达不到这样的水平,现在的“数字人”技术就是真实人的一个非常浅层的、表象的数字映像,但是其实跟真实社会当中的人,以及他所拥有的智慧,以及你在跟他对话的时候你期待原本的这个人表现出来的智慧,其实都是有千差万别的。

据介绍,目前的“数字人”技术很容易让公众产生一些幻想,甚至走进一个心理误区。假如一些人是希望通过与“数字人”交流的方式来达到慰藉自己心灵的目的,这种方式本身就存在很多隐患。

中国科学院自动化研究所人工智能伦理与治理中心主任 曾毅:比如说,拥有了“数字逝者”的时候,会不会使得人长期沉迷于与“数字逝者”之间的交互,从而对心理产生非常负面的影响。这个是“数字逝者”的这项人工智能的应用技术可能给社会带来的长期的、潜在的隐患,也是我们是否应当开发这样的人工智能技术必须去思考的伦理道德的问题。

“网友用AI复活已逝明星”引发争议

“黑科技”赋予逝者“数字化永生”的能力,让我们可以和想念的人以新的方式“重逢”,慰藉相思之苦。不过,现在也有从业者将这门生意对准了已逝的明星。

近日,“网友用AI复活李玟”的话题登上了微博热搜,阅读量超过8000多万。在这个话题相关的视频中,已经去世8个月的李玟被网络博主利用AI数字技术“复活”,画面中还原出了李玟生前的声音和影像。

记者发现,网络上被AI复活的还有张国荣、高以翔、乔任梁等已经逝去的公众人物,虽然画面中他们衣着各异,但是面对镜头时表达的内容都大同小异,首先是向粉丝问好,再诉说对粉丝的思念等暖心、激励的话语。

“复活”视频再传播 家属表达强烈不满

针对网络上出现大量被AI“复活”的已逝明星视频,他们的家属表达了强烈的不满。

3月15日,高以翔生前经纪人转达高以翔家人的意见称,不希望高以翔肖像被他人任意使用,严厉地谴责并坚决抵制该行为,若不立即停止侵权行为,家人会采取法律行动。同时,其家人也呼吁粉丝朋友们保持理智,切勿轻易相信涉事博主发布的信息。

3月16日,针对儿子肖像被侵权使用一事,乔任梁的父亲表示不能接受,这让家人感到不适,希望制作该视频的网络博主尽快下架相关内容。

专家解读:到底谁有权利用AI“复活”逝者

AI复活亲人这项技术和服务,用来抚慰和缓释遗憾的同时,情感、伦理和法律方面的争论,也随之而来。比如,谁有权利用AI“复活”逝者?产生的数据属于何种权益?而一些无关人员未经亲属同意,擅自用公众人物逝者信息制作AI视频,是不是有打着怀念的名义有侵权炒作之嫌?使用AI技术“复活”逝世明星,这种行为到底合法不合法?

北京航空航天大学法学院副教授 赵精武:如果没有经过死者近亲属同意的话,那么擅自利用AI技术复活死者的行为就属于非常典型的侵权行为。因为逝者的肖像、名誉权仍然受到法律的保护。

我国民法典第九百九十四条明确规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。

中国人民大学未来法治研究院执行院长 法学院副教授 张吉豫:在法律里面特别规定了,逝者可以由他的配偶、子女、父母来去行使相应的权利,去保护他的肖像权。同时实际上也要去看生成的内容,如果生成的内容里面明显带有侮辱性,或者是进行了一些明显会有损于已逝明星的名誉的行为,还可能涉及到侵犯他的名誉权等其他的问题。如果再用这种明星的口去说出一些虚假的信息、误导公众的信息等等,制造者、传播者要承担相应的传播虚假信息的法律责任。

专家介绍,数字复活是生成式AI技术落地应用的一个细分领域,在新技术被广泛应用的同时,也要充分保障及尊重个体情感和人格尊严。

北京航空航天大学法学院副教授 赵精武:在没有取得近亲属同意的情况下,AI视频的生成人需要承担相应的责任,这些责任的类型可能包括对逝者的肖像权的侵犯,对于逝者的生前的著作权的侵犯,比如逝者生前一些拍摄的视频,也会受到国家著作权法的保护,同时这些相关的内容也构成了对逝者的个人信息权益的侵犯。这三种权益按照我们国家的法律规定,生成AI视频的人都需要承担相应的民事责任,包括不限于赔礼道歉以外的停止侵权、赔偿损失等方式。

我国出台系列政策措施规范人工智能

随着人工智能技术的发展,也带来了一些风险。为此我国先后出台了一系列政策措施,引导人工智能走上“科技向善”的健康发展道路。

2019年,中国就发布了《新一代人工智能治理原则》,2021年进行细化,发布了《新一代人工智能伦理规范》;此外,在2023年正式实施的《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》中,为深度合成服务划定了“底线”和“红线”。

专家建议AI技术产品应用前进行伦理审查

专家表示,AI技术风险的预防需要通过立法、技术更新、行业自律等方式实现协同治理,要引导人工智能产业按照以人为本的方向良性发展,可以通过科技伦理审查制度、人工介入制度等措施来填补治理方面的空白,规范人工智能技术的应用发展。

北京航空航天大学法学院副教授赵精武表示,在人工智能技术产品投入应用之前进行伦理审查,并且进行一个动态化的跟踪,对于一些高危可能涉及对人身权益有重大侵害的人工智能,需要及时提供人工可以随时介入的渠道。

专家也建议,针对数据隐私、AI诈骗、伦理争议等问题,一方面要不断完善相应的法律法规,另一方面,相关的行业领域也要保持自律,每一位从业者都应守住法律和道德底线。