第一卷全球首义 第一章 利维坦的诞生(4 / 5)

’的台词了?”王得邦口中的“闹姐”指的是格蕾塔,因为表示赞同的德语“Genau”是格蕾塔的口头禅。

    “就你嘴贫!”见话题有了转向,格蕾塔顺势岔开这个严肃的话题,转而调侃起王得邦来。

    实际上,她不否认卢德的设想,只是她怀疑人类是否真的有能力消灭利维坦。假若利维坦真的被消灭了,那时的人类该会怎么看待AI技术,是赶尽杀绝?还是加以更多的限制?

    正如王得邦所说,人类确实有机会将利维坦扼杀在萌芽中。2175年的全球峰会上,各国领导人在签署AI全面管理协议时表示:已在协议中加入“AI任何时候都不能做出伤害人类的选项”这一条款。该条款后来演变为更为具体的“禁止AI直接或通过AI代理伤害人类”的“一号指令”。

    当时台下掌声雷动,没有人注意到协议第89页的小字条款:自此日起,所有重大决策权移交光粒子计算中心。

    “你说人类为什么这么轻易就放弃了决策权?”卢德突然问道。

    格蕾塔思考片刻:“可能是因为做决定太累了吧。每天要做的选择太多,信息太复杂,普通人根本没有时间和精力去处理所有事情。”

    王得邦补充道:“而且犯错代价太高了。选错专业,可能一辈子就毁了;选错投资,可能血本无归;选错伴侣……你懂的。现在利维坦帮我们做选择,至少不会犯低级错误。”

    “但也不会有什么惊喜,不是吗?”卢德轻声说。

    三个人边说边笑,远处传来一阵微弱的呼啸声,三架氦气动力AI飞行机器人警察组成的巡逻编队从他们头顶掠过。三人默契地低下头假装整理装备,直到引擎声消失在东南方向。虽然他们明知这三架机器人警察只是执行维持治安的例行任务,不会对他们造成任何影响,但他们仍然很抵触,这可能是刻在归原岛激进觉醒者血液中对AI的天然仇恨。

    王得邦看着远去的机器人警察,才轻声地说:“听说卢德阵线今晚在城东市立第二医院有集会。”

    “又是那群砸机器的疯子?”格蕾塔撇撇嘴。

    “说什么呢?他们毕竟和咱老卢重名,不知道还以为你说老卢呢。”

    “别扯那没用的!”卢德接着说,“他们怎么选在那里集会?”

    “为了保密呗!”格蕾塔满不在乎地嘟囔着,“那家医院是‘激进觉醒者’建的,没有什么智能设备。”

    “就是这样!老卢你想,这利维坦虽然不主导我们的决策,但它也不允许我们搞破坏啊。”

    “这不用多说,我知道。”卢德补充道,“阵线是要消灭利维坦的,他们的行动会导致利维坦封锁我们这里的一切AI技术。”

    “就是嘛,人类在归原岛有权利,也有义务嘛。甭说要消灭利维坦,任何颠覆AI区利维坦统治的行为都不行。”

    他口中的权利与义务,正是归原岛与利维坦达成的脆弱协议的核心。所谓权利有二:一是归原岛内的人类内部冲突由人类自行裁决,利维坦不予干涉;二是归原岛内的科技与社会发展进程由人类自主决定。所谓义务同样有二:一是人类的决策权限仅限于人类社会的范畴,不得涉及非人类社会的自然领域;二是归原岛的人类不得从事任何旨在颠覆AI区利维坦统治的行为。一旦违反,利维坦有权封锁归原岛的一切AI技术支援。为了确保协议被执行,利维坦保留了在归原岛进行监视的权利。

    这份协议,是觉醒者与利维坦相