视点|声音也能被深度伪造,“一键换音”我们还安全吗

当前位置: 火里新闻 > 科技 > 视点|声音也能被深度伪造,“一键换音”我们还安全吗

2019-11-02 16:15:14
人气:1902

随着信息技术和人工智能的飞速发展,借助人工智能的深水假货也进入了人们的生活,激起了巨大的涟漪,影响了人们的神经。在变脸假唱之后,语音合成的深层假唱也被释放出来。这项技术可以模拟任何人的声音。据报道,媒体记者万斯(Vance)用电脑合成语音给他母亲打电话。他的母亲不知道这是声音合成的真儿子还是假儿子。

万斯告诉母亲他的声音是由电脑合成的后,他问她:“你认为这是可怕的还是好的?”母亲的回答是,“当涉及到非常重要的事情时,这真的很可怕。”

万斯的母亲不是唯一一个会认为深沉的假声令人恐惧的人,世界上所有的母亲都会感到恐惧。无论是面部外观还是语音深度,都涉及到技术的两个方面。当谈到技术的两面时,人们会引用刘易斯·芒福德(lewis mumford)的《技术与文明》,认为人类发明技术原本是为了方便和舒适,但最终他们的生活被无情地改变,甚至被技术所主宰。

网络、信息技术和人工智能当然是人类智慧的结晶。向善的发展和对人类和社会有益的方向将把人类社会带入一个新的文明。然而,如果这些技术被犯罪分子使用并且没有得到适当的控制,每个人都会受到伤害。

当今信息技术的发展早已超越了“技术与文明”所描述的特征,人们普遍认为,只有运用每一种科技手段和成果,信息技术才能发现问题,并有时间和精力去监督它们。然而,信息技术的利与弊与其特征是一样的。一旦出现,就不会有时差,只要有网络和wifi布局,它就会以网络传输的速度迅速传播到人类社会的每个角落。

对于信息技术和人工智能产品,具有全球社会责任感的研究人员和公司早就有同样的感觉。如果仅仅把新产品的研发和新技术的应用作为赚钱的工具,势必会造成社会的混乱和无序。因此,微软提出了一些人工智能伦理,包括公平、可靠性和安全性、隐私和安全性、宽容、透明和责任等。此外,这些准则已经达成共识。

然而,仅仅这些指导方针是远远不够的。许多产品在发音、面部和外观上都存在严重欺诈。中国有zao,美国有FAKE APP(2018年1月推出),所有这些软件都可以“一键换脸”。现在有了“一键式声音改变”软件和应用程序。然而,这些产品在上市前显然没有经过伦理审查和法律评估。因此,一旦他们上网,他们的负面影响将与正面影响同时出现。不仅有太多的漏洞,而且还有各种各样的“技术作恶”的可能性,如欺诈、制造外交争端、煽动政治暴力、破坏选举、危害国家安全等。

这也意味着信息技术和人工智能产品不等同于一般产品,如汽车。只有在交通事故发生后,交通规则才会被用来管理它们,但需要一个预先的时间表。此外,信息技术和人工智能产品还有另一个特点:桥下有水。例如,一键式变脸fakeapp已经被reddit和其他网站禁止,但仍有9万多用户在reddit上传播变脸视频和图片。因此,在每个人工智能产品和应用发布并投放市场之前,必须进行道德和法律评估。

同步甚至预监控信息技术产品已成为一种强烈的现实需求。世界上已经有了法律和伦理基础——欧盟于2018年5月25日颁布并实施的通用数据保护条例(gdpr),该条例将个人数据置于欧盟现行法律的保护之下。目前,该公司已对谷歌地图、facebook等产品可能导致个人隐私泄露的严重担忧做出回应。今后,将通过进一步制定《数据保护法》来补充全球数据保护政策。与此同时,人工智能和信息技术伦理委员会还将审查技术公司推出和发布的人工智能产品。该委员会应由工程师、科学家、律师、社会学家、公共代表、法人或技术公司领导人组成。

对信息技术产品,特别是人工智能产品的科技伦理和法律审查,不是要阻碍和束缚科技的发展,而是要为科技创新划出一条正确的渠道和必须遵守的价值底线。只有这样才能加速科学技术的发展。只有当制度能够保证科学技术是好的,人类社会和社会文明才有前途。(张天侃)

寻找记者、寻求报道、寻求帮助,各大应用市场下载齐鲁一店应用或搜索微信小程序一店智能站,全省600多名主流媒体记者等着你在线报道!

云南快乐十分开奖结果