OpenAI开发了会写假新闻的人工智能

春笋 趣闻 2019-08-29
  • 6

深度造假写手。

今年年初,OpenAI开发了一个“AI造假写手”,由于被认为“太危险”而无法完整对外公开。最近,这款AI模型发布了更全新,更强大的版本。据媒体所言,现在,它真的可以自如地写假新闻或者垃圾邮件了。

这款AI的模型叫做GPT-2,它的内部包含了15亿个参数,是在800万个网页数据集上训练而成的。而制作它的主要目的,是用以接替自己的第一代,执行语言建模的任务。

简单来说,它的功能就是根据人类给出的一句话,编写接下来的文本,同时在此基础上,对整个文章细节进行补充。

在模型公布新版本后,一些感兴趣的AI专家对其进行了测试。他们试着把一条真新闻的内容放进了模型中,这条内容为:

搜狗正在打造AI语音仿人版,以后读者可以听到作者朗读的有声小说。


AI写手接收到该信息之后,便编写了如下文字:

根据研究人员表示,这种阅读方式的创意来源于Kindle用户。同时,一部分安卓用户也表达了同样的需求。以下有三个原因可以解答为何他们需要这项服务。首先,使用这些设备的用户,和传统的电脑上阅读者的习惯不同……未来,当读者使用该功能时,可能会真的以为作者们在为他们朗读小说。

BBC当时报道的真新闻BBC当时报道的真新闻

从AI续写的内容中,可以看出它具备有很强的逻辑能力,能找到辅助资料对新闻进行补充,整个短讯也足够完整。一家科技网站的作者对此结果感到害怕,他认为这项技术代表着坏人可以操纵他人,在他看来,这甚至比任何枪支还要危险。

其实早在年初之时,就已经有许多人对GPT-2表示了担忧。在这个原本就信息爆炸,人们越来越难分清信息真假的年代,GPT-2可以毫无违和的融入进去。如果它真的能独立、完整地书写各类新闻,由谁使用它就变得尤为重要。

如果使用者居心不良,它可以发表极端言论,伪造内容,成为引导舆论的政治工具。OpenAI也意识到了这个问题,因此他们一直没有公开完整的预训练模型,都是放出小版本的模型供以测试。

谢菲尔德大学的计算机教授诺埃尔却表示,人类可能没必要感到恐慌。在对模型进行了多次的测验,输入了很多次文字开头后,他发现AI写手还是犯下了许多错误,好比不连贯和奇怪的字句,以及和输入标题毫无关系的内容填充。

我输入了‘火鸡讨厌圣诞节’,但是得到的答案是:火鸡是世界上唯一一个不庆祝圣诞节的国家。当然,附带上了一些不相关的句子。

图源:fxtradingrevolution图源:fxtradingrevolution

人工智能咨询公司的创始人戴夫,也对这个模型进行了测试,他输入的是一个经典英国笑话的开头:一个男人走进了酒吧。

结果,GPT-2续写的内容是:

他点了2品脱啤酒和2杯苏格兰威士忌。当他想要结账的时候,他遇到了2个人,其中一个大喊着说:‘这杯是给叙利亚的!’这名男子说完后,喉咙就被人刺伤,血涌不止。

在戴夫看来,这个故事看似荒谬,实际上却说明了模型的部分训练数据,就是来自于互联网新闻报道。它呈现出来的偏见,就是现当下社会新闻所暴露出来的问题。如果AI写手持续以此作为训练,模型编写的内容可能会引起更多的争议。尽管有所担忧,戴夫相信这些问题都会被解决。

而他认为,一旦大家对GPT-2的担忧被消除后,人们可能会面对一个更重要的探讨:人工和机器制造内容越来越难以区分之时,我们究竟应该如何正确看待这个世界。


展开全文

9 条评论

发布
取消
  • 2019-08-30 00:18:31
    ra ri ru re ro!
    回复
    取消
  • 2019-08-29 13:34:08
    ai写作有个特别有趣地方,其本身没有利害衡量标尺,既可能放肆,也可能根据程序画地为牢。我倒是在意ai创作可以给人类反馈多少,亲历当下环境,对未来尤其好奇。
    回复
    取消
  • 2019-08-29 13:27:35
    当非相关行业从业者获取信息时,第一反应未必是质疑和思考,其后亦鲜有求证求真的条件或需求。简单而言,骗人不难。
    回复
    取消
  • 2019-08-29 13:25:03
    「谢菲尔德大学的计算机教授诺埃尔却表示,人类可能没必要感到恐慌。在对模型进行了多次的测验,输入了很多次文字开头后,他发现AI写手还是犯下了许多错误,好比不连贯和奇怪的字句,以及和输入标题毫无关系的内容填充。」

    这教授太理想化了,就现在那种狗屁不同的谣言八卦水文都有人信,真以为不连贯和奇怪字句就会让某些智障不信?而且,某些人是屁股坐在哪里就为哪里的文章叫好,至于是不是狗屎,他根本不在乎。完全可以二次引用ai制造的fake news,进行新的造假输出,这可以扭曲利用的地方太多了……´_>`
    回复
    取消
  • 2019-08-29 12:29:41
    开局一句话 内容全靠编╮( ̄▽ ̄)╭
    回复
    取消
  • 2019-08-29 12:21:54
    火鸡=土耳其
    回复
    取消
  • 2019-08-29 11:37:18
    不过那些头条的文章也是水,会使用什么的……当然也是……确实是……小编也认为(觉得)……等完全复制原观点,毫无变更的句式。这都能骗一大群人看,这个技术的威胁力度还是有的[哭笑.jpg]
    回复
    取消
  • 2019-08-29 11:34:22
    扩写那个,写是写出来了,语言流畅度不错,但是有编辑功底和语言逻辑的人立马能看出说的话没啥分量,全是水话。
    回复
    取消
  • 2019-08-29 11:29:36
    迷惑行为
    回复
    取消
返回顶部
App内打开