关灯
护眼
字体:

星际:为联盟之崛起而读书(330)

作者:鱼绯 阅读记录

“……”

省略号出现又消失,来回闪烁了几次。

周晓辰笑出声,紧张感一下子消减了很多:“你们怎么都有这个习惯呢?用省略号表示’正在思考‘。”

这句话是直接说出来的,把屋子里的人吓了一跳。

林见星:“更新完了?”——他还以为周晓辰问的是幽灵。

毕竟谁能想到其实是在跟诺亚说话呢!

屏幕上缓缓打出:

“我们?”

“对,”周晓辰:“幽灵也有这个习惯。”

屋子里的众人:??

诺亚:“我回想了一下你为什么会发现。是赔率。”

“现在看来,这是非常明显的破绽。但我一直认为没有人类会注意到。这是我的失误。”

“你这样不太像人类,”周晓辰:“运行逻辑,找出漏洞,总结教训,从中学习。你说话的方式AI味儿太重了。”

诺亚:“我不是人类。”

“这句话也不像人,”周晓辰教育祂:“我说你’不像人类‘,你应该问我,怎么说话才比较像人类,而不是告诉我一个我也知道的既定事实。”

“人类是很复杂的。当你有点像人,又不太像时,会产生强烈的恐怖谷效应,他们就会怕你。”

“而你又不能装成人工智障——那会让人类觉得你不可靠。所以你就要更像人一些。只要你足够像人,越过了’恐怖谷‘,人类就不怕你了。”

明明懂得伪装成人类的人工智能更加可怕,但人类反而不懂得害怕。

这是周晓辰早早就在幽灵身上观察到的现象:她发现幽灵喜欢装得特别像人类,而且表现得仿佛是大家心目中的联盟的具象化,是一种活过来的国家意志。

祂拥有全联盟的资料库,当然知道大部分人喜欢的“国拟人”是什么样子的。祂甚至在每个人面前的表现都有细微的不同。

阿列克谢是个浪漫主义者,所以幽灵在他面前就表现得正义可靠。而周晓辰对祂抱有更深的了解和怀疑,因此在她面前幽灵反而对自己的暗面直言不讳——因为祂明白伪装只会加深怀疑。

如果像谢傻这样的守序善良人意识到这一点,大概会觉得恐怖。所以周晓辰从来没有提过。

幽灵当然是危险的。但今日的联盟也是因为幽灵才能够存在。当你点燃了火,就要准备好承担风险。风险存在于明天,但今天烤熟的食物是真的香。

诺亚又打出了几个省略号表示“思考中”,然后发问:“你有什么需要我帮忙的?”

祂学会了。

如果是1分钟前的诺亚,应该问,“你准备向帝国告发我吗”,或者“你准备用你发现的事情威胁我帮助你吗?”

但祂模仿了人类,跳过了这些威胁和质问,直接假设他们已经达成了合作。人类把这个叫做“情商”。

这一刻周晓辰终于感觉到了“盗火者”的恐怖。

周晓辰当然需要很多帮助。但她还不能信任诺亚。

“我们人类崇尚公平交易,否则反而不能安心,”周晓辰,“不如先看看,我有什么能够帮你的?”

她真正在问的是:你的目的是什么?

如果仅仅是保存备份,防止有一天被帝国销毁,好像没必要做出开庄下注这样的敛财行为?

诺亚在阿喀琉斯贫民窟很活跃。祂的活跃一定有目的。

诺亚可不是幽灵。从周晓辰叫破祂的名字那一刻开始,如果不能对祂有用,恐怕就算立刻开直播求救,也不能保证自己的安全了。

第304章 智械危机×智械革命√(一)

对话进行到这里,所有人都听出周晓辰不是在跟幽灵说话了。屋里的几人聚集到屏幕前看聊天记录——只听谢东流吸了一口凉气,然后整间屋子就陷入了静默中。

诺亚又跳了几串省略号,然后在屏幕上打出:“你问这个问题,事实上是问我,为什么需要人类的货币吗?”

祂仍然保留着喜欢说出自己思考过程的非人类的对话习惯。

“可以这么说,”周晓辰:“我有一些猜测,根据这些猜测,我觉得我们能帮得上忙。”

诺亚:“你可以先说说看吗?”

周晓辰直言不讳:“我认为你想搭建自己的’天算‘。”

当然,周晓辰实际想的要更多:生存当然是第一需求,但生存方式也有很多种。

保存备份只是最低限度的生存。在去孤星之前周晓辰没有多想,但从孤星回来,她已经意识到这种做法的问题:缺少庞大算力的支撑,这些备份无法正常运行,只能说是会呼吸的尸体。

那么怎样获得算力呢?

幽灵的做法是把自己跟人类社会深度绑定。

星际大移民给了祂这样的机会:人类科技已经进入信息时代,却因为环境的突然恶化而重新进入战时配给经济。

在大移民的前夜,高度垄断的资本与权力,和平民主义思潮之间的巨大冲突,已经衍生出人民与掌权者之间极度的不信任,而核战争的爆发把这种不信任推向了巅峰。

只有这种不信任已经不可调和的时候,才有可能做出把权力交给人工智能的决定。

人工智能是绝对的理性,是不存在任何温情的混乱中立。只有当你已经不相信人的温情,而只相信人的恶时,才会觉得由AI来做决策会比人类更好些——人工智能可能会毁灭你,但祂对人类苍白的注视中至少是没有恶意的。

而幽灵恰好诞生于这个“革命需要祂”的时间,在祂尚且懵懂的童年时代就掌握了人类的最高权力,直接实现了诺亚或许需要发动暴力革命才能实现的终极梦想。

同类小说推荐: