当前位置 新财界 企业分析 正文

AI乔任梁、李玟“复活”背后成本不足百元 律师:或构成违法行为

逝世明星的AI视频近期频繁出现在短视频平台,视频中,AI李玟表示“希望你们都能活得很好”,AI高以翔称“你们的每一个留言、每一份关怀我都感受到了”,AI乔任梁也在跟粉丝问好。

但此类AI视频很快引起逝者家属意见反弹,乔任梁父亲3月16日公开称,“不能接受,感到不舒适,希望对方下架”,并表示“他们未征求我们同意,是我侄女刷到视频发给我的,这是在揭伤疤” 。

记者3月17日在视频平台看到,一些此前流传的AI乔任梁视频已搜索不到,但仍有不少AI李玟、AI科比、AI姚贝娜、AI高以翔等已逝明星的AI视频存在。第一财经记者以AI视频潜在购买者或合作者身份咨询制作者,了解到目前制作一条30秒~1分钟时长的视频价格80~600元,拿到视频后可自行在视频平台发布。不少发布视频的创作者对外接单,有的在招收学徒和代理。

电商平台上也出现了低价的明星模型,这些“免训练、可直接合成”的女明星“万能模型”售价几乎都在8元-25元以下。AI合成明星正形成一个灰色产业,律师提醒,合成明星视频后发布有违法违规的风险。

AI“复活”成生意

不久前,商汤创始人汤晓鸥以AI数字人的方式出现在商汤线上年会,商汤技术团队征得家属同意,使用商汤如影技术高度还原了汤晓鸥的神态等细节。AI技术“复活”,成为亲人朋友追思逝者的新方式。但随着越来越多AI“复活”明星的视频出现在视频平台,引起的争论开始发酵。

在一些视频平台上,已逝明星在AI视频中表达着他们的“想法”。AI高以翔称“听说我离开的这段时间里,有人开始健身,有人学会了做饭……我不在你们身边,但我一直在另一个世界陪伴着你们”。AI姚贝娜称“我去的地方还是能尽情歌唱”。AI科比用英语表示“很高兴以这样的方式再次和你们相见”。

视频平台上AI“复活”明星的视频

视频平台上AI“复活”明星的视频

相比汤晓鸥演讲视频的高还原度,这些AI明星视频在细节处显得粗糙,脸部表情、嘴巴和眼睛的动作有不流畅之处,但若不仔细看,仍像是真人在说话。评论区中,有粉丝希望视频制作者能继续发布其喜欢的明星的AI视频,也有人认为AI视频应由逝者家属发布更合适。

发布AI“复活”明星的视频,是短视频平台上这些制作者招揽客户的一种方式,一些制作者的主页显示承接数字人制作、“复活”亲人等业务。记者以AI视频潜在购买者或合作者身份咨询了这些制作者。一名制作者表示可以制作一名已逝明星的AI视频,“只需提供已逝亲人的照片及想表达的话即可定制,30秒内89元”。AI视频制作完成后,付费购买者可以发布在视频平台上,视频制作者征求同意后也会发布在其账号上。

另一名制作者表示,只要提供素材便可复活已逝明星,包括1分钟清晰讲话声音素材和正脸视频画面。生成1分钟讲话画面收费200元,后续每分钟收费20元,若除了讲话画面还需加入其他画面剪辑,每分钟需加收50元剪辑费,下单要转至电商平台。记者看到,其店铺销售AI数字人制作、AI视频制作、AI音频处理,相关产品售出30余份。

此外,有AI明星视频制作者发出了价格单,显示提供逝者照片后生成1分钟内说话视频,若选择AI配音收费198元,若选择逝者声音则收费398元。除普通话外,视频还能以逝者的音色生成方言,根据声音的生成方式和还原度,收费398~598元。后续,制作团队还计划推出语音及文字实时互动聊天、实时视频通话聊天产品。

AI视频制作者发来的价格表

AI视频制作者发来的价格表

该团队还在招学徒和代理,要成为代理,需向其交980元,由该团队提供视频并制作,代理在外接单,该团队向代理的报价是价格表的6折,差价是代理的收益。该制作者称,学徒的收费更高,但并未透露收费价格。

目前已有多种AI工具可用于制作AI数字人。此前,有B站UP主制作了已逝亲人的AI视频,并介绍了AI“复活”的过程。包括将照片上传至Midjourney并优化、录音导入音频编辑软件并切割成短音频、将语音上传到百度飞桨AI
Studio语音合成项目训练模型、输入文本尝试语音合成、将合成的语音包下载到本地。还可以让ChatGPT角色扮演进行对话,再用D-ID数字人AI视频平台网站,上传头像生成模型、上传文字和音频,进行合成。

普通人要使用AI工具制作视频,收费门槛不算太高。其中,记者从AI视频创作者了解到,Midjourney
fast快速出图模式每月时长15小时,收费约300元,在非专业影视制作者使用且非大量出图的情况下基本够用。D-ID试用前两周免费,按年收费不同模式下价格为56~1293美元。

电商平台9.9元可“合成”明星

要合成明星视频,还有一种“自己动手”收费更低的方式。在淘宝上,“9.9元生成杨幂”已不是梦。

3月17日,记者查看淘宝发现,搜索“AI女明星”等关键词,一些女明星的形象正被制作成人物模型素材包,以方便购买者实现AI换脸女明星。这些“免训练、可直接合成”的女明星“万能模型”售价几乎都在8元-25元以下,消费者下单后,后台立刻发货。

记者尝试拍下了一件标价为9元的杨幂万能模型,后台立刻自动回复了一个网盘链接,网盘中有一个可供下载的压缩文件,包含1.4G的杨幂相关素材,商家表示,通过DeepFaceLab软件,配合该杨幂模型,用户可以将导入的视频中的人全部换成杨幂。同时,记者还注意到了一件名为“SRC高质量稀有明星人脸素材”的商品标价23.8元,涉及唐嫣、杨紫、倪妮等众多明星,商品详情页面显示,该人物模型合集包括10万张明星图片,包含众多影片截图、剧照等。

电商平台上的明星人脸素材商品介绍

电商平台上的明星人脸素材商品介绍

DeepFaceLab是一款用于AI换脸的开源软件。而对于难以自行下载或对官方版本存在使用困难的用户,淘宝商家还推出了DeepFaceLab的新版本,表示“全部汉化,修复了很多BUG,新增很多功能,可以查看角度”,售价为10元。

“生成女明星”似乎正在变成一件低成本、低门槛的事,但实际上,许多风险暗藏其中。

记者注意到,该类产品几乎都不支持7天无理由退货,且均在详情页面或自动回复中表示产品为虚拟产品,一经发货、概不退换,这也意味着,若消费者购买的产品与预期不符或“换脸”效果不佳时,可能存在维权困难。

私下向视频制作者付费而不通过平台,以制作喜爱明星或已逝亲人的AI视频,也有一定潜在风险。一名视频制作者表示,下单方式是直接向其支付宝转账,但其对于私下交易是否安全的问题并未回应。另一名视频制作者表示,直接下单或要成为代理需私下加其社交账号沟通,关于私下交易的安全性,该制作者则称可用人格担保。

记者从律师了解到,不论是生成已逝明星AI视频并发布在视频平台,还是在电商平台上销售明星模型,都可能是违法违规的行为。

广东国鼎律师事务所律师廖建勋告诉记者,未经去世明星家属同意发布AI“复活”视频甚至用于商业牟利是侵权行为,侵犯了肖像权。据《民法典》规定,死者姓名、肖像等受到侵害,亲属有权请求行为人承担民事责任,要求消除不良影响、支付精神损害抚慰金等,且可要求平台删除侵权视频。相对粉丝制作视频不用于商业牟利,商业牟利者需承担的责任更重。

河南泽槿律师事务所主任付建则提醒,由于商家售卖的明星模型是在没有授权的情况下提供给消费者使用,可能会侵犯明星的肖像权、名誉权或者隐私权。这些商品还可能为不法分子实施违法犯罪提供便利,造成不良社会影响。

付建认为,消费者在购买这些服务时,应该注意是否违反法律法规的规定,是否侵犯他人合法权益,是否在法律所允许的范围内进行使用服务。例如,当消费者在未经允许的情况下擅自生成他人的AI视频,并在互联网传播时,便有可能侵犯他人的肖像权和名誉权。根据《民法典》的规定,被侵权人可以要求对方停止侵害肖像权和名誉权的活动、消除影响、赔礼道歉、赔偿损失、恢复名誉等;如果情节严重,构成犯罪的,侵权人还需要依法承担相应的刑事责任。

联系我们

联系我们

在线咨询: QQ交谈

邮箱: 89934208@qq.com

工作时间:周一至周日,9:00-24:00,有问题联系值班客服
关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部