近日,多个电商直播间被爆出使用明星AI换脸直播,引发争议。南都记者留意到,有不少直播间里出现了“明星脸”,还是不同的主播共享同一张明星脸。
(相关资料图)
不同时段、不同主播同一张“杨幂”脸,她们都在向网友推销某个女装品牌;换一个直播间,网友又看到了“迪丽热巴”在推销茶叶……眼前的明星光彩夺目,但在主播低头、转身时,又会暴露出其实这不过是“换脸”后的结果。
在一般人看来,使用“明星脸”无论如何应该算是高科技了,但实际上专业人士透露:“AI换脸直播对算力的要求会低很多,也不涉及什么大模型,就只是一个面部轮廓,然后中间某些区域的合成。”更让人吃惊的是AI换脸直播的成本。南都记者咨询了一家提供AI换脸直播软件的企业,对方收费仅99元……
不算高端的技术、低廉的费用,意味着使用门槛很低。这一点又会带来什么样的结果,产生什么样的影响?
使用明星AI换脸直播,性质并不模糊。根据法律,直播间未经明星同意,利用深度合成技术使用其肖像制作“AI换脸”行为,对明星来说属于侵权,同时它又涉嫌“故意告知消费者虚假情况或者故意隐瞒真实情况,诱使消费者作出错误意思表示的行为”,已构成欺诈。
随着AI技术的应用越来越广泛、越来越智能化,惹出的事端越来越多了。
最近,“AI孙燕姿”因其翻唱《下雨天》等歌曲走红网络。而且“AI孙燕姿”居然连其“换气声”都可以模仿,一时间“AI出来后第一个失业的是孙燕姿”等话题被推上热搜。
面对AI孙燕姿,尽管孙燕姿本人给予了包容,而且从产业发展的角度,“AI孙燕姿”的出圈宣告人工智能技术对音乐产业有了比较深入的渗透,但是声音权、著作报酬分配权等法律问题注定无法绕过。
如果说使用明星AI换脸直播、“AI孙燕姿”等事件为AI技术应用增加了话题性,那么另外一些事件就让人不寒而栗了。
此前人们或许听说过应用AI技术的声音合成诈骗。声音合成诈骗,骗子会先通过骚扰电话录音等来提取某人声音,获取素材后进行声音合成,从而可以用伪造的声音骗过目标,达成目的。但福州市某科技公司法定代表人郭先生10分钟内被骗430万元,骗术显然要远较声音合成诈骗“高级”,因为对方是通过智能AI换脸技术,佯装成好友对他实施了诈骗。
声音对上了,“脸”也对上了,碰到这样的骗术,谁能抵御?
科技的进步一日千里,但若用之于不善,也会让作恶的效率大幅提升,并且增加人们防范的难度。
面对AI相关的侵权、诈骗事件频发,专家提醒不要轻易提供人脸、指纹等个人生物信息给他人,不过度公开或分享动图、视频。这些提醒是及时的,信息安全意识对每个人都是必需的,但是现代生活的便捷不正是拜技术进步之赐吗?
AI技术改变了公众的生活,也带来了很多挑战。显然,驯化而非拒绝,才是适宜的态度。
4月11日,国家互联网信息办公室发布了《生成式人工智能服务管理办法(征求意见稿)》。其中明确提出,利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人,不仅要承担该产品生成内容生产者的责任,还要承担个人信息处理者的法定责任,履行个人信息保护义务。
可以看出,《办法》既是对生成式人工智能的规范管理,也凸显了国家对其未来发展的明确支持。只有协调好创新发展和风险防控之间的关系,确保生成式人工智能的行为服务全部处于监管之下,才能使其慢慢步入正轨,行稳致远。
驯服AI技术,法律和伦理规制都要跟上。因为要维系其良好生态,离不开政府监管,也需要企业履责、社会监督和网民自律,任何时候,科技向善的底线都必须坚守。
X 关闭
X 关闭
5月20日,在建的广西最长跨海大桥——龙门大桥东主塔顺利封顶。至此,龙门大桥东、西两岸主塔全部实现封顶,标志着该桥进入缆索系统施工阶
中新网上海3月30日电 (记者 陈静)上海正面临常态化防控以来疫情形势最严峻复杂的挑战,单日新增阳性感染者数量不断刷新纪录。记者30日获
中新网3月30日电 据国家地震台网官方微博消息,中国地震台网正式测定:3月30日18时14分在新疆和田地区皮山县(北纬36 01度,东经77 89度)发
上海市委常委会今天上午(3月30日)举行会议,听取当前疫情应急处置和核酸筛查相关工作汇报,研究部署下一步疫情防控重点工作。市委书记
(抗击新冠肺炎)江苏无锡一男子隐匿行程轨迹被警方立案侦查 中新网无锡3月30日电 (记者 孙权)3月30日,无锡市在“应检尽检”人员核
(抗击新冠肺炎)官方称吉林市疫情扩散势头得到遏制 中新网吉林3月30日电 (记者 石洪宇)记者30日从吉林市政府新闻办召开的疫情防控
中新网唐山3月30日电 (白云水 孟潮)3月30日,河北省唐山市召开新冠肺炎疫情防控工作新闻发布会通报称,3月29日0时至24时,唐山市新增
浙江省嘉兴市秀洲区新型冠状病毒感染肺炎疫情防控指挥部办公室发布通告: 3月30日上午,秀洲区发现1例新冠肺炎阳性感染者,该感染者
今天(3月30日)下午,新疆乌鲁木齐市人民政府新闻办公室召开疫情防控新闻发布会,通报乌鲁木齐市新冠肺炎疫情和疫情防控最新情况。会上
中新网天津3月30日电 (记者 王君妍)记者30日从天津市水务局获悉,为充分发挥河湖长制优势,近日,天津市将南水北调中线天津干线(天津