ai换脸的法律问题(语音社交和AI换脸引发乱象多家企业被约谈)
ai换脸的法律问题(语音社交和AI换脸引发乱象多家企业被约谈)
2024-11-14 10:06:28  作者:兲祐鴹爺  网址:https://m.xinb2b.cn/sport/olb366992.html

来源:央广网


AI换脸技术(央广网发 图片来源:CFP)

央广网北京3月19日消息(记者冯烁)据中央广播电视总台中国之声《新闻纵横》报道,近日,国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作,并依法约谈映客、小米等11家企业。“深度伪造技术”究竟是什么意思?如何让技术不跨越危险的边界?

一年前,一条“爱因斯坦生前预告新冠肺炎”的视频流传于网络,这段视频里的爱因斯坦看上去如假包换,如果他说的不是新冠肺炎病毒,确实会让人信以为真。

而这个视频里运用的技术就是“深度合成技术”。所谓深度伪造(Deep Fake)是深度合成技术的一个具体应用,指借助深度合成技术伪造以人为主体(不光是人脸,还有头部、肢体和声音)的视听觉内容,以达到欺骗的目的。

当我们为这样的技术催生了一些娱乐视频而哈哈大笑时,却不知在大洋彼岸,这样的技术也能成为攻击他人的利器。

就在本月,美国宾夕法尼亚州东部的一名女子在一场骚扰和欺凌活动中制作了一系列深度伪造视频,意在恐吓跟她女儿竞争的十几岁女孩并将她们踢出当地的拉拉队。受迫害的女孩们在被伪造的视频中看起来像是裸体,吸电子烟或喝酒。

从技术溯源的角度讲,深度合成技术本身没有善恶之分,问题的出现是在于有人滥用技术,跨越了伦理和法理的边界。中国科学院自动化研究所模式识别国家重点实验室研究员赫然告诉记者,深度合成技术是人工智能技术的前沿方向,但它和人工智能技术一样都存在两面性。赫然说:“深度合成技术实际上是广泛存在于我们现实生活中的,比如说语音导航、智能语音客服,我们平常见到的虚拟主播、银行的虚拟客服,平常使用的美颜相机里面的换脸或者换发型,都属于深度合成,所以整个技术还是有正面意义的,它也代表人工智能在生活方面的前沿应用。但是深度合成如果被不法分子所使用的时候,就会产生比较大的影响或者产生恶劣的影响。”

深度伪造技术的可怕之处在于——普通人难辨真假。除了AI换脸有可能带来的色情泛滥以外,人们更加担心“深度伪造”技术在侵犯隐私、操纵政治选举等方面带来的挑战。美国加利福尼亚大学伯克利分校教授哈尼·法里德表示,如果相关的伪造信息在互联网中肆意蔓延,将会进一步冲毁互联网世界的真实性边界。哈尼·法里德说:“我们应该担心‘深度伪造视频’的出现,如果我们不能相信看到的来自世界各地的视频、听到的音频,那就是很危险的,事关国家安全。”

这也是为什么此次国家网信办及公安部加强对涉“深度伪造”技术的互联网新技术新应用进行安全评估工作。目前为止,从国家监管层再到业界、学界也都在不断探索,如何去为合成技术铸造一道墙,避免人们对它的恶意运用。科大讯飞AI研究院视频分析技术专家吴子扬说:“比如说我们结合着一些语音假音检测、口型的口唇识别,包括一些音视频的同步性检测,人脸的一些活体的检测,其实都对深度伪造有一定的抵抗力。”

不过有观点认为,技术发展和监管之间始终在上演“道高一尺魔高一丈”的博弈。在赫然看来,要想让技术能在合理的范围内被人们善用,关键在于不断研发鉴伪技术,并配合管控政策一起打一套“组合拳”。

赫然说:“现在学术界有很多具体的算法去鉴别合成的视频是否是真实的,但是由于深度合成技术它发展比较快,所以鉴别难度还是比较大的,它相当于一个矛盾的对抗体,它们都是快速发展的。但是专业的机构,比如说大的企业,还有国家层面的机构,它们有一定的计算能力去区分合成的结果。”

目前从我国的相关法律法规来看,如果未经本人许可,换脸行为是被法律所禁止的。同时,民法典第一千零一十九条第一款规定,不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人肖像权。此次两部门的加强管理其实也释放出一个明显的信号:那就是要进一步遏制由深度伪造技术引发的乱象。北京岳成律师事务所高级合伙人岳屾山说:“在我们国家就很明确的把不管是丑化还是进行深度伪造,至少现在在民法层面有一个非常明确的禁止性规定了。”

  • 你瞒我瞒live陈柏宇(你瞒我瞒陈柏宇)
  • 2024-11-14你瞒我瞒陈柏宇《你瞒我瞒》是由陈光荣作曲,林夕填词,陈柏宇(JasonChan)演唱,收录在其2009年发行的《CLOSEUP》专辑中该曲在2009年度叱咤乐坛流行榜颁奖典礼中获专业推介叱咤十大第三位;并获得201。
  • 适合摩旅的入门机车品牌(想长途铺装路面摩旅)
  • 2024-11-14想长途铺装路面摩旅身高180,想长途铺装路面摩旅,3万左右骑行舒适的车型,求推荐这是后台一位车友留言的一个问题,他的描述如标题根据描述来看,这位车友选择摩托车的用途主要以摩旅为主,在这个过程中会比较注重车辆的舒适性,那。
  • 卧蚕和眼袋是一回事吗(卧蚕是不是眼袋)
  • 2024-11-14卧蚕是不是眼袋卧蚕和眼袋不一样,首先卧蚕容易出现在大眼睛的人身上,并且眼睛能展现出独有的魅力而眼袋会让人看起来整个人比较憔悴所以两者性质是不同的还有眼轮匝肌专业名词叫肌性眼袋,人称卧蚕,而眼袋是因为脂肪凸出才形成的。
  • 香菇鸡肉做法(家常菜香菇鸡肉的做法)
  • 2024-11-14家常菜香菇鸡肉的做法原料:小鸡腿、胡萝卜、干香菇、青椒、生抽、老抽、盐、油、生姜、青葱干香菇用温水泡发备用(也可以直接买湿香菇就不用泡了)胡萝卜切大一点的块备用青椒切块鸡腿肉去骨切成小块(也可以换成其他鸡肉)起锅烧油,油。
  • 怎么将cad版本转换为其他版本?1分钟包你学会
  • 2024-11-14怎么将cad版本转换为其他版本?1分钟包你学会有很多的建筑、装饰、设计方面的小伙伴经常需要查看或更改CAD图纸,但是一部分的小伙伴都遇到过CAD文件的版本不对,打不开的情况CAD制图软件有着非常多的版本,当低版本的CAD制图软件打开高版本CAD文。
  • 有哪些德国二战时期的电影(有关德国二战的电影有哪些)
  • 2024-11-14有关德国二战的电影有哪些战争就是“绞肉机”、“嗜血恶魔”,人们对战争又畏惧又好奇人们不希望在现实当中上演残酷的战争,于是只能通过影视作品来领域一二战争中宏大的场面、炮弹的轰鸣、人类的惨叫、人命如草芥......观看战争片不是。
  • 厕所蹲坑堵塞如何疏通(厕所蹲坑堵塞的疏通技巧)
  • 2024-11-14厕所蹲坑堵塞的疏通技巧找一根竹条、圆头软体的刷子或没用的拖把伸进马桶中用力捣鼓,一边往马桶中冲水,一边对准下水道的洞,按压拖把或刷子的速度要快,才能产生巨大的压力将马桶疏通买一些烧碱或草酸,加入水中使其融化,接着倒入马桶中。
  • 冠心病能种植牙吗(非得拔掉松牙)
  • 2024-11-14非得拔掉松牙据不完全统计,60岁以上老人患各种口腔疾病高达90%以上,口腔疾病可使很多中老年人牙龈红肿出血、过早丧失咀嚼功能,降低生活质量还可引起消化病、糖尿病、心脑血管及并发症,严重影响身体健康其中牙齿松动、残。
  • 三星堆出土青铜神兽(三星堆迄今最大神兽出土)
  • 2024-11-14三星堆迄今最大神兽出土来源:视觉中国2022年8月24日下午,四川广汉三星堆遗址8号祭祀坑成功提取出一件大型立人神兽,是截至目前三星堆出土众多动物造型青铜器中最大的一件2022年8月24日下午,四川广汉三星堆遗址8号祭祀坑。
  • 护士资格证考的什么(护士资格证考的内容)
  • 2024-11-14护士资格证考的内容护士执业资格考试包括专业实务和实践能力两个科目,采用纸笔作答方式(自2017年起,已采用人机对话方式)进行一次考试通过两个科目为考试成绩合格护士资格就是通过卫生部负责组织实施护士执业资格考试后拿到的证。
  • 靳东和赵子琪的电视剧(底线靳东跟赵子琪演夫妻)
  • 2024-11-14底线靳东跟赵子琪演夫妻《底线》作为一部司法题材的电视剧,除了展现司法人员的工作场景外,同时还展现了司法人员本身生活中充满烟火气的画面,比如靳东饰演的方远,虽然他是立案庭的庭长是法官,但生活中也是一个普通的丈夫和父亲,他跟赵。
  • 蓝盈莹的珠宝搭配(蓝盈莹cosplay金角大王)
  • 2024-11-14蓝盈莹cosplay金角大王#时尚看官点#欧洲人与亚洲人在面部轮廓及五官的立体程度有着很大的差异,欧洲人的五官相较亚洲人而言更显立体,眉骨更高,轮廓更深亚洲人的面部是较平的,所以欧洲人化起欧美风的妆容会比亚洲人更好看亚洲人若要驾。