“德拉曼公司的内部优化过程完全合法合规,为了降低成本,公司经历了漫长的改革.”
布莱斯没好气地说到:“伱能闭嘴吗?现在是私人会谈!”
“明白了,德拉曼将为您提供静谧舒适的会谈体验。”
一阵柔和的音乐响起,非常细微,几乎不会影响交谈,车速也随之变慢。
德拉曼的人类形象也消失在了电子屏里,车内气氛变得更加专业。
里尔心情有些微妙——所以网络监察不只是知道德拉曼公司的情况,甚至是关注很久了。
“解决”了德拉曼这个大问题,布莱斯继续往下引申:
“这样的AI诞生完全是基于巧合,但大部分时候,它们都起源于人类用于处理事务的软件或者程序。
德拉曼就是这样一个AI,它的公司本想定制一个用于提高公司竞争力的管理型AI。
可是使用者因为一次又一次从德拉曼的建议中获利,开放了更高的权限,最终AI认为公司不应该存在人类,那会提高成本。
于是它就开掉了所有工人和管理层,甚至采用一系列商战手段赶走了股东和董事。
当它接收到的外界刺激足够时.它就有概率具备真正的自主智能和意识,那个时候,它就会变成危险临界体。
这个时机完全无法预测,目前来说,人类还无法理解这样的变化过程。”
“就像远古海洋中的第一个细胞?”
“对。”布莱斯点头肯定了里尔的比喻,“纯天然,我们要对付的就是这样的AI。”
“那为什么会放任德拉曼开公司?”
问题提出,车子仍然平稳运行。
这个问题几乎是在问:为什么不干掉德拉曼,但老德完全没有反应。
可以说是非常有职业素养了,说闭嘴就闭嘴。
布莱斯揉了揉眉头,对德拉曼说到:“接下来的话不允许做任何记录,引用个人隐私条款第3、17和22条。”
“明白了,出租车的记录功能已经关闭,并为您检测任何可能存在的监控装置。”
“如果.”布莱斯看向里尔,“如果生物学家有机会观察第一个生命是如何诞生的,你认为他是会继续观察,还是因为这可能变成恐怖的生物或者某种病毒先把培养皿给砸了?”
里尔微微颔首:“如果是我的话,我会为了了解那些恐怖生物和某种病毒,观察生命诞生的过程。”
“就是这样。”布莱斯微微一笑,“你看,你已经明白了——正是因为我们不理解,所以我们想要观察这个过程。”
(本章完)