不只有假新闻现在还可能出现不存在的记者

用人工智慧和机器学习合成媒体资讯的技术

路透社(Reuters)报导称,有人利用deepfake技术、假名和假传记来虚构一个记者的身份在几家知名国际报纸上发表文章,Deepfake(深伪技术)指的是用人工智慧和机器学习(Machine learning,ML)(AI/ML)合成的媒体资讯(图片、声音、影像等),将无辜明星、政客等知名人物的脸孔和声音合成进成人影片和宣传讯息内,这种「影片换脸」的技术,不知情的人乍看之下会真的相信影片的内容。

发表了六篇文章的记者并不存在

路透社无法追蹤到他们的幕后黑手,根据调查,他们在《耶路撒冷邮报》和《以色列时报》上发表了六篇文章和社论,而作者完全是虚构的,这一骗局提醒人们,虚假信息在网上传播是有多么容易而科技的技术又是多么容易做到这一点。不过根据一些网上的资料,奥利弗·泰勒是伯明翰大学的一名学生,热爱政治和咖啡。但是关于泰勒的真实记录并不存在,他的电话号码也没有联繫上,无论是路透社还是负责报导他的出版物都无法证实他这个人的存在。

多名专家告诉路透社,泰勒的照片几乎可以肯定是伪造的,似乎是由「thispersondoesnotexist.com」等网站背后的同一技术生成的。这是由一位名为「Phillip Wang」的开发者,打造了一个名为「ThisPersonDoesNotExist(这个人不存在)」的网站,顾名思议就是可以无限量地产生其实并不存在的人的肖像照。这个工具利用了 NVIDIA 设计的生成式对抗网路(generative adversarial network)和大量的人脸资料,来训练一个模型,产生「合理」的人脸来,这套系统大约每两秒就能产生一个新的脸出来。

我们也推荐 马斯克将实现晶片植入人脑当中的计画

创造虚拟人物成为宣传手法

宣传人员为记者创造人物形象并非史无前例。Daily Beast的一项调查发现,一个由19名假记者组成的网络被用来在各种较为保守的出版物上发布政治内容,其中几家似乎使用了deepfake技术。

《耶路撒冷邮报》对路透社说,儘管泰勒的文章没有获得多少关注,但很明显的对我们来说就是一种威胁,营运商很可能会躲在造假技术背后,在有信誉的渠道发布虚假信息,《以色列时报》评论编辑Miriam Herschlag对路透社表示,我们绝对需要找到这名冒名者并加强防御。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

相关文章