ai换脸的法律问题(语音社交和AI换脸引发乱象多家企业被约谈)
ai换脸的法律问题(语音社交和AI换脸引发乱象多家企业被约谈)
2024-11-22 11:19:41  作者:兲祐鴹爺  网址:https://m.xinb2b.cn/sport/olb366992.html

来源:央广网


AI换脸技术(央广网发 图片来源:CFP)

央广网北京3月19日消息(记者冯烁)据中央广播电视总台中国之声《新闻纵横》报道,近日,国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作,并依法约谈映客、小米等11家企业。“深度伪造技术”究竟是什么意思?如何让技术不跨越危险的边界?

一年前,一条“爱因斯坦生前预告新冠肺炎”的视频流传于网络,这段视频里的爱因斯坦看上去如假包换,如果他说的不是新冠肺炎病毒,确实会让人信以为真。

而这个视频里运用的技术就是“深度合成技术”。所谓深度伪造(Deep Fake)是深度合成技术的一个具体应用,指借助深度合成技术伪造以人为主体(不光是人脸,还有头部、肢体和声音)的视听觉内容,以达到欺骗的目的。

当我们为这样的技术催生了一些娱乐视频而哈哈大笑时,却不知在大洋彼岸,这样的技术也能成为攻击他人的利器。

就在本月,美国宾夕法尼亚州东部的一名女子在一场骚扰和欺凌活动中制作了一系列深度伪造视频,意在恐吓跟她女儿竞争的十几岁女孩并将她们踢出当地的拉拉队。受迫害的女孩们在被伪造的视频中看起来像是裸体,吸电子烟或喝酒。

从技术溯源的角度讲,深度合成技术本身没有善恶之分,问题的出现是在于有人滥用技术,跨越了伦理和法理的边界。中国科学院自动化研究所模式识别国家重点实验室研究员赫然告诉记者,深度合成技术是人工智能技术的前沿方向,但它和人工智能技术一样都存在两面性。赫然说:“深度合成技术实际上是广泛存在于我们现实生活中的,比如说语音导航、智能语音客服,我们平常见到的虚拟主播、银行的虚拟客服,平常使用的美颜相机里面的换脸或者换发型,都属于深度合成,所以整个技术还是有正面意义的,它也代表人工智能在生活方面的前沿应用。但是深度合成如果被不法分子所使用的时候,就会产生比较大的影响或者产生恶劣的影响。”

深度伪造技术的可怕之处在于——普通人难辨真假。除了AI换脸有可能带来的色情泛滥以外,人们更加担心“深度伪造”技术在侵犯隐私、操纵政治选举等方面带来的挑战。美国加利福尼亚大学伯克利分校教授哈尼·法里德表示,如果相关的伪造信息在互联网中肆意蔓延,将会进一步冲毁互联网世界的真实性边界。哈尼·法里德说:“我们应该担心‘深度伪造视频’的出现,如果我们不能相信看到的来自世界各地的视频、听到的音频,那就是很危险的,事关国家安全。”

这也是为什么此次国家网信办及公安部加强对涉“深度伪造”技术的互联网新技术新应用进行安全评估工作。目前为止,从国家监管层再到业界、学界也都在不断探索,如何去为合成技术铸造一道墙,避免人们对它的恶意运用。科大讯飞AI研究院视频分析技术专家吴子扬说:“比如说我们结合着一些语音假音检测、口型的口唇识别,包括一些音视频的同步性检测,人脸的一些活体的检测,其实都对深度伪造有一定的抵抗力。”

不过有观点认为,技术发展和监管之间始终在上演“道高一尺魔高一丈”的博弈。在赫然看来,要想让技术能在合理的范围内被人们善用,关键在于不断研发鉴伪技术,并配合管控政策一起打一套“组合拳”。

赫然说:“现在学术界有很多具体的算法去鉴别合成的视频是否是真实的,但是由于深度合成技术它发展比较快,所以鉴别难度还是比较大的,它相当于一个矛盾的对抗体,它们都是快速发展的。但是专业的机构,比如说大的企业,还有国家层面的机构,它们有一定的计算能力去区分合成的结果。”

目前从我国的相关法律法规来看,如果未经本人许可,换脸行为是被法律所禁止的。同时,民法典第一千零一十九条第一款规定,不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人肖像权。此次两部门的加强管理其实也释放出一个明显的信号:那就是要进一步遏制由深度伪造技术引发的乱象。北京岳成律师事务所高级合伙人岳屾山说:“在我们国家就很明确的把不管是丑化还是进行深度伪造,至少现在在民法层面有一个非常明确的禁止性规定了。”

  • 翡翠的色根是什么意思(翡翠的色根的解释)
  • 2024-11-22翡翠的色根的解释翡翠色根是指翡翠中颜色聚集在一起的现象;在绿色翡翠或其它颜色的翡翠成品或翡翠原料中,经常可以看见一点状或者是条带状的,颜色比较深一些的颜色(如绿色),慢慢渐变过渡到相对较浅的颜色,这类颜色深一些的颜色。
  • 明星涂口红的电影是什么(戴口罩也要涂口红)
  • 2024-11-22戴口罩也要涂口红转自公众号:文案圈(ID:cwcode)现在的电影市场是越来越卷了宣发电影海报都用劲十足不过圈仔发现昨天官宣的《穿过寒冬拥抱你》海报文案好像引发了不少的争议?戴口罩也要涂口红和病人说话都会更好听《穿过。
  • 上月竞拍粤b最低价(第12期粤B牌均价38569元)
  • 2024-11-22第12期粤B牌均价38569元深圳晚报2019年12月25日讯12月25日15时,深圳市第12期车牌竞价结果出炉相比上期的下跌态势,本期粤B牌竞价继续呈下跌状态第12期个人粤B牌均价为38569元,相比上期44929元的均价下跌6。
  • 电梯夹门事故(杭州发生电梯夹人悲剧)
  • 2024-11-22杭州发生电梯夹人悲剧浙江在线07月31日讯(浙江日报记者廖小清通讯员丁明伟王鹏程)连日来,因为湖北荆州某百货商场发生“扶梯吞人”事件,人们格外关注扶梯、电梯的安全,杭州随即也对同品牌电梯作了排查然而,让人意想不到的是,电。
  • 红楼梦各个人物介绍(红楼梦人物介绍)
  • 2024-11-22红楼梦人物介绍1、贾宝玉,是神瑛侍者转世真身,出生时口中即含玉,此玉相传是女娲炼石补天之时,单留下一块未用,弃在青埂峰下,后通了灵性,一僧一道见后,便在石上镌上“莫失莫忘,仙寿恒昌”几个字,让它与神瑛侍者一起入世,。
  • 鬼丈夫的情话(再识大体的女人)
  • 2024-11-22再识大体的女人《鬼丈夫》里,最美的角色不是清新脱俗的女主乐梅,也不是玲珑剔透的丫头紫烟,而是人到中年,风韵犹存的起轩母亲第一集的弹幕里,就有网友惊呼:男主的母亲太美了这个角色在剧中连个名字都没有,但观众却对她念念不。
  • 小学40篇优秀作文题目(小学生作文让老师无奈)
  • 2024-11-22小学生作文让老师无奈现在是信息时代,小学生接触到的媒体越来越多,原本就处于脑洞大开的年龄,做题目更是不拘一格,老师批改卷子的时候,时常会遇到一些棘手的作答,不同寻常的思路让老师很无奈,想想当年自己循规蹈矩过来,现在的孩子。
  • 辩机和尚和高阳公主的故事(不负如来不负卿)
  • 2024-11-22不负如来不负卿好一句“世间安得双全法,不负如来不负卿”仓央嘉措的诗,多情又惊艳透露出他的无奈与纠结历史上也出过这么一位多情风流的得道高僧,与他相恋的是高高在上的大唐公主然而这场与世俗所不容的不伦之恋,注定下场凄惨辩。
  • 虎牢关黄河(过黄河拉大炭)
  • 2024-11-22过黄河拉大炭过黄河,拉大炭作者:岳乃炳五十年前,我下乡到内蒙古生产建设兵团二师十七团七连,即现在的巴盟乌拉特前旗中滩农场七分场全连有二百多号人,除了家属,多是单身知青,住集体大宿舍连队有食堂,平时做饭用的煤,是从。
  • 明兰为什么要耍花招 明兰的这一思想
  • 2024-11-22明兰为什么要耍花招 明兰的这一思想在盛家庄学究的课堂上,庄学究曾提了这样一个问题:“立嫡长乎,立贤能乎,孰佳?”,这就像一个辩论题一样,引的底下坐的每个人都据理力争,就比如说小公爷和顾二叔,两人就分属两派,一个支持立长,一个支持立贤,。