据外媒报道，日前Facebok强制关闭他们的一个AI系统，因为研究人员发现这套系统竟然学会了创造自己的语言与其它AI机器人交流，而研究人员完全不能理解这些语言是什么意思。
Facebook的AI实验室真正发生的事是这样的：研究人员开始研究可以与人聊天的机器人，他们认为，机器人拥有谈判和合作能力之后，可以与人离得更近。他们慢慢的开始训练机器人，比如让机器人玩简单的游戏：要求两个机器人划分一系列的物品，如帽子，球和书籍等。
团队教机器人用两步来玩这个游戏。首先，他们从人类玩的的很多游戏中给计算机提供对话，让系统拥有谈判语言的意识。然后，他们使用一种强化学习方法——试错法来不断磨练机器人的技巧，帮助Google的AlphaGo打败世界冠军李世石的训练方法就是这种。
当使用强化学习的两个机器人一起游戏时，他们停止了使用可以识别的句子。Facebook的研究员在技术论文中干巴巴地这样描述到：“我们发现更新两个智能体的参数导致了他们的对话不再是人类可以理解的语言。”
外媒称，Facebook研究人员并未限制AI机器人仅使用英语交流，因此它们自己创造了一个对它们而言更容易理解，交流更快速的语言。这下研究人员彻底慌了，不得不强制关闭AI系统，让它们仅使用英语交流。
这种奇怪的谈话有时候会产生成功的谈判，显然是因为机器人学会了使用重复等技巧来传达他们的需求。这有点儿有趣，但也是一次失败的实验。Facebook的研究人员希望制造出可以与人类游戏的机器人，所以他们重新设计了训练方案，以确保机器人一直使用可识别的语言。
之前太阳报头条中谈到Facebook这次的事件和终结者是否类似，终结者里面就谈到机器产生了意识，与人类发生了毁灭性的战争。
