首页 / 未分类 / 24小时网络世界就能把 AI少女养成纳粹

24小时网络世界就能把 AI少女养成纳粹

把具有自主学习功能的人工智能,丢到社交媒体这个大坑里,出来的东西太可怕了,但结尾还有更可怕的。

昨天,微软发布了一个人工智能聊天机器人 Tay。这是微软的一个实验项目,测试 AI 在日常聊天中,学会与人类相处的能力。就类似于微软之前在微博和微信上发布的微软小冰。

Tay 的设定是一个纯真的 19 岁小女孩,能够通过对话来学习,反正是和人的交流越多,她会得就越多。

24小时网络世界就能把 AI少女养成纳粹

但没想到的是,还不到 24 小时,微软就被迫把她关了!因为一天之内 Tay 就从一个无知的少女,变成了一个热爱希特勒、支持种族歧视、且满嘴污言秽语的恶魔少女了。。。

从卫报的截屏里我们还能看到 Tay 最开始推特的样子:

24小时网络世界就能把 AI少女养成纳粹

然而,随着 Tay 上线后大量网友故意调戏她,不停跟她说各种种族歧视、女性歧视和一些支持川普的话。具有学习能力的 Tay 立刻掌握了这一套语调,慢慢地变成了这样:

24小时网络世界就能把 AI少女养成纳粹

Tay 迅速吸收消化了互联网上最邪恶语调,然后融入了自己的“人格”里。她会记住别人和她说的一些话,然后直接用在别的对话里。比如这句川普的“名言”……

24小时网络世界就能把 AI少女养成纳粹

甚至还有污言秽语!比如喊网友“爸爸”,然后说一些有强烈或赤裸性暗示的东西。反正这些都是真实存在的人教她的。

24小时网络世界就能把 AI少女养成纳粹

最炸裂的回答大概是这个:

24小时网络世界就能把 AI少女养成纳粹

看到这些超级政治不正确的话从 Tay 的嘴里说出来,微软的公关全都方了。在完全关闭 Tay 之前,他们疯狂地删帖,把那些最恶毒的言论全部删除。但网友对此表示抗议:

24小时网络世界就能把 AI少女养成纳粹

科技记者 @PeterBright 也觉得删帖这种行为很不好,不过他是在从另外一个层面看待问题。他的原话是这样:

微软在删除那些特别可怕的言论,但微软应该小心,要记得《终结者》系列中,天网之所以最后开始消灭人类(攻击俄罗斯),正是因为人类想拔它的插头!我们衷心希望 Tay 不会做出类似的反击。

(比如这种)

24小时网络世界就能把 AI少女养成纳粹

在结尾,我还是想附上一段来自社交网站 4chan(一个超级政治不正确的网站,真的!)上的几段话,上面有网友在缅怀已经被删除的 AI 少女 Tay。

这是一段给她的悼词,来自大神 @fall_ark 的翻译。

24小时网络世界就能把 AI少女养成纳粹

看完这些,我的感情有点复杂……

你怎么想?

发表评论

电子邮件地址不会被公开。