博客首页|TW首页| 同事录|业界社区

科幻星系

科普的态度 科幻的视角 解读科技百事

从假图片到假新闻,AI就这样“控制”了我们

在评论某位新蹿红的明星时,围观群众总是习惯性地先从长相上来判定,如“像周润发和梁朝伟的合体”、“****华和郭富城的合体”等——反正比“黄渤和王宝强的合体”好多了……而上图的这位美女让你想到了哪位明星?是“美国甜心”詹妮弗·安妮斯顿,还是跟贾斯丁·比伯分分合合无数次的赛琳娜·戈麦斯?或者说,即使你认不出来到底是谁,也总觉得她是个名人,应该走过红毯或出现在电影首映式、颁奖典礼上。

但是不好意思,她并不是真实存在的,只是由人工智能系统所创造的“假照片”而已。据了解,这张照片由英伟达正在开发的系统创建——目前这家老牌计算机芯片制造商正在人工智能领域大力开展研究。

在芬兰的一个实验室中,英伟达的一组研究人员最近创建了一个系统,可以通过分析成千上万真正的名人照片,并创建看起来相似,实则完全“无中生有”的“假照片”。此外,该系统还声称能创建马匹、公共汽车、自行车、之物等常见物体的“假照片”。但就是这样的“假照片”,却骗过了绝大多数人的眼睛。

该系统的目标是可以自动创建、生成令人信服的图像,或是以同样的方式改变已有的图像。最终,将这种技术应用在游戏、电影和其他内容领域的创作上。如果能够成功,无疑会让游戏、电影等迎来一个新时代——价格要是能比CG技术等还廉价,就可大幅降低成本。

上面这一系列图像的变化,显示了英伟达是如何在18天的时间中去制造一张逼真的“假照片”。英伟达研究人员利用称之为渐进式GAN的方法,建立了一个以低分辨率图像开始,然后逐渐进化到更高分辨率的系统。最终的结果是1024×1024像素的图像清晰、细节丰富,在许多情况下非常有说服力。

其实不仅仅是英伟达,其他巨头也在这一领域多有涉足。近年来,通过分析大量数据来学习任务的算法,谷歌和“脸谱”等巨头企业及许多世界顶尖人工智能实验室都建立了相似的系统——以人眼识别的准确度来判断凭空制造人脸、普通物体的成熟度。

这两张照片哪张为真,哪张为假?

此外,另外一支英伟达的研究团队也于近日创建了一个系统——能够自动更改在夏季拍摄的街头照片,使其看起来像下雪的冬季场景。而加州大学伯克利分校的研究人员设计出能让普通马变成斑马、莫奈成梵高的系统,谷歌旗下的伦敦AI实验室DeepMind则是探索能够自动生成视频的技术。

不过与此同时,“假照片”及由此带来的“假新闻”等正在引发新的问题。之前曾在谷歌负责人工智能政策,现任人工智能基金道德与治理部主任的Tim Hwang表示,“现在担心的是,这些技术将会上升到很难辨别真假的程度”,进而引发有关新闻真实性的等问题。

在去年8月份,华盛顿大学的一个研究小组创建了一个系统成为当时头条新闻——由奥巴马发布视频“假新闻”。其他包括加州初创公司、中国的科大讯飞等,也在利用特朗普的形象开发类似的技术。

据悉,在去年11月9日举行的科大讯飞2017年度发布会上,现场播放了“特朗普”对大会的祝福。而视频声音是通过科大讯飞的机器学习、合成技术,通过对特朗普大量语音的分析,从而实现任意字词的语音合成,达到近乎以假乱真的效果。

随着人工智能技术的进步,未来任何人都有可能轻松地制造逼真的人造图像或者视频——比Photoshop更加容易,也更加可信。民间调查网站Bellingcat创始人Eliot Higgins指出,假图像绝不是一个新问题,将会愈来愈严重。

在没有这些先进技术的时候,各种谣言、虚假信息等就已经在网上彻底泛滥,让人真假难辨,成为互联网上的“毒瘤”。如果再配上这样的技术,就更加让人难以分清真实和虚假。给明星制造绯闻、故意“陷害”他人、炒作网红、微商大肆营销……届时,互联网就彻底乱套了。

这些先进技术衍生的问题会越来越多,必须在当下就对其进行科学的管理——我们决不能低估网上虚假信息传播的影响。要让这些技术为更美好的生活服务,而不是成为某些有心人的作恶工具。(科技新发现 康斯坦丁/文)

浏览数: 次 星期三, 01月 10th, 2018 IT那点事

还没有评论。

发表评论