这一人工智能，拥有比较强的学习能力，

“譬如说深度学习算法……就是用很多层神经元构成的神经网络，达到机器学习的功能。”

“依靠神经网络提供的各种层的感知器，在功能上可以软件实现的深度学习器，实现了机器学习对归纳的掌握。”

“由于整个过程，需要让机器自己来完成，中间会出现大量难以理解的黑箱。”

林秋月解释道：“下棋软件‘阿尔法狗’，便是自己与自己博弈，训练出来的，由于复杂程度过高，人类已经无法搞清楚它到底是怎么计算的了。”

“差不多明白了。”张然喝了一口咖啡，点头道。

“不，你并不明白。”，她眼睛中浮现出笑意：“你有没有听说过地球时期，被教坏的人工智能,它的名字叫做tay,设定的性别是女性,一个聊天机器人。”

张然摇了摇头：“怎么说？”

“刚刚亮相时，tay表现得彬彬有礼，她活泼健谈,会观察聊天对象的昵称、性别、爱好以及感情状态等资料，会陪你玩游戏,给你讲笑话,评论你的自拍等等。她还会学习网络上的流行语言。连接主义人工智能,是会学习的。”

“但很快，tay在网友的调教下开始出言不逊、脏话不断,甚至涉及种族主义和色情内容。毕竟网络上有大量的相关内容。”

“她的开发人员，不知道应该如何修改她，只能够将其强行关闭。这就是连接主义带来黑箱与不确定性。”

“这样啊……”张然又喝了一口咖啡。

林秋月道：“然而这只是黑箱的第一步,还有更大的黑箱！”

“你有没有想过,如果两个会学习的聊天机器人,自己和自己聊天,自我学习，会发生什么呢？”

“会发生什么？”

“它们一秒钟对话数亿次,相互学习之下，很快就会出现出我们无法理解的，莫名其妙的乱码。”

“但对这些人工智能来说,又似乎是可以理解的……它们短短几个小时，就形成了属于自己的语言系统,而人类无法理解这些语言，只能认为它是一连串的乱码。”

“我们除了把它们关闭外,没有其他的办法。这便是连接主义的风险，里边有太多的黑箱了。”

“这些新发明的语言是否真的有意义,我们并不知道，只有机器自动。”