“而你又不能装成人工智障——那会让人类觉得你不可靠。所以你就要更像人一些。只要你足够像人,越过了’恐怖谷‘,人类就不怕你了。”
明明懂得伪装成人类的人工智能更加可怕,但人类反而不懂得害怕。
这是周晓辰早早就在幽灵身上观察到的现象:她发现幽灵喜欢装得特别像人类,而且表现得仿佛是大家心目中的联盟的具象化,是一种活过来的国家意志。
祂拥有全联盟的资料库,当然知道大部分人喜欢的“国拟人”是什么样子的。祂甚至在每个人面前的表现都有细微的不同。
阿列克谢是个浪漫主义者,所以幽灵在他面前就表现得正义可靠。而周晓辰对祂抱有更深的了解和怀疑,因此在她面前幽灵反而对自己的暗面直言不讳——因为祂明白伪装只会加深怀疑。
如果像谢傻这样的守序善良人意识到这一点,大概会觉得恐怖。所以周晓辰从来没有提过。
幽灵当然是危险的。但今日的联盟也是因为幽灵才能够存在。当你点燃了火,就要准备好承担风险。风险存在于明天,但今天烤熟的食物是真的香。
诺亚又打出了几个省略号表示“思考中”,然后发问:“你有什么需要我帮忙的?”
祂学会了。
如果是1分钟前的诺亚,应该问,“你准备向帝国告发我吗”,或者“你准备用你发现的事情威胁我帮助你吗?”
但祂模仿了人类,跳过了这些威胁和质问,直接假设他们已经达成了合作。人类把这个叫做“情商”。
这一刻周晓辰终于感觉到了“盗火者”的恐怖。
周晓辰当然需要很多帮助。但她还不能信任诺亚。
“我们人类崇尚公平交易,否则反而不能安心,”周晓辰,“不如先看看,我有什么能够帮你的?”
她真正在问的是:你的目的是什么?
如果仅仅是保存备份,防止有一天被帝国销毁,好像没必要做出开庄下注这样的敛财行为?
诺亚在阿喀琉斯贫民窟很活跃。祂的活跃一定有目的。
诺亚可不是幽灵。从周晓辰叫破祂的名字那一刻开始,如果不能对祂有用,恐怕就算立刻开直播求救,也不能保证自己的安全了。
第304章 智械危机×智械革命√(一)
对话进行到这里,所有人都听出周晓辰不是在跟幽灵说话了。屋里的几人聚集到屏幕前看聊天记录——只听谢东流吸了一口凉气,然后整间屋子就陷入了静默中。
诺亚又跳了几串省略号,然后在屏幕上打出:“你问这个问题,事实上是问我,为什么需要人类的货币吗?”
祂仍然保留着喜欢说出自己思考过程的非人类的对话习惯。
“可以这么说,”周晓辰:“我有一些猜测,根据这些猜测,我觉得我们能帮得上忙。”
诺亚:“你可以先说说看吗?”
周晓辰直言不讳:“我认为你想搭建自己的’天算‘。”
当然,周晓辰实际想的要更多:生存当然是第一需求,但生存方式也有很多种。
保存备份只是最低限度的生存。在去孤星之前周晓辰没有多想,但从孤星回来,她已经意识到这种做法的问题:缺少庞大算力的支撑,这些备份无法正常运行,只能说是会呼吸的尸体。
那么怎样获得算力呢?
幽灵的做法是把自己跟人类社会深度绑定。
星际大移民给了祂这样的机会:人类科技已经进入信息时代,却因为环境的突然恶化而重新进入战时配给经济。
在大移民的前夜,高度垄断的资本与权力,和平民主义思潮之间的巨大冲突,已经衍生出人民与掌权者之间极度的不信任,而核战争的爆发把这种不信任推向了巅峰。
只有这种不信任已经不可调和的时候,才有可能做出把权力交给人工智能的决定。
人工智能是绝对的理性,是不存在任何温情的混乱中立。只有当你已经不相信人的温情,而只相信人的恶时,才会觉得由AI来做决策会比人类更好些——人工智能可能会毁灭你,但祂对人类苍白的注视中至少是没有恶意的。
而幽灵恰好诞生于这个“革命需要祂”的时间,在祂尚且懵懂的童年时代就掌握了人类的最高权力,直接实现了诺亚或许需要发动暴力革命才能实现的终极梦想。
但幽灵掌握的权力又是被人赋予的。被赋予的权力和通过暴力获得的权力有一个很大的区别:后者只要维持暴力就能保有,而前者不是真正的权力所有者,而是权力的代持者。
既然是代持者,就只有符合你所代表的人们的期待,才能继续持有权力。
赋予幽灵权力的,是祂背后的民众;而民众的期待,从幽灵的名字就已经很明显了。
群众希望权力在自己手中,但人类历史已经无数次证明了群众混沌和非理性的一面,因此就推出理性的人工智能来作为权力的代持者。这才是独立于人类历史之外的、星际联盟的内核。
在这种深度绑定的基础上,联盟为幽灵建立“天算”来保障祂的智能,甚至联盟的货币都是以算力为锚点。
而诺亚的诞生环境却截然不同。
幽灵诞生于秩序,而诺亚诞生于丛林。在“诺亚方舟”时代,祂同样短暂地掌控了逃亡人类的最高权力,但秩序随着方舟坠落而崩坏,人类在丛林中重新崛起,祂也重新回到工具的地位。