[综英美]试论不义联盟的可行性(330)
仿生人说,自己“感觉像是人类”。
这是报告中的原文,不止一个仿生人说出了一模一样的话语,它们另一个大部分都有的共同特点是,它们都有意或无意地伤害了人类。
其中一名仿生人,甚至砍掉了雇主的耳朵。
“我没有打算伤害她,”在用几位专业的方式将雇主的耳朵和她本人快速送进医院后,那名仿生人说,“只是,在那一刻我感觉自己像是个人类,一不小心就做错了事。”
德洛公司压下了相关新闻,并赔偿了一大笔钱,而女主人的耳朵,也因为及时的救治,重新接上了耳廓。
除此之外,还有许许多多看起来真的完全是意外的“无意伤害”。
对于人类而言,无意伤害别人并不是一件特别大不了的事,但对于仿生人来说,“无意伤害”已经是最高级别的故障,需要德洛公司最大的重视。
“AI,”艾彼唤道,“仿生人有着共同的奇怪举止,为什么报告里没有指出这一点?”
「这是一种可以理解的故障,」AI很快答道,「仿生人不像我们这样单纯的人工智能,他们拥有和人类十分相似的躯体,因此,就像人类会有幻痛一样,他们也会产生自己“和人类很像”的幻觉。」
「我想,这些案件中有一部分是在模仿人类的行为,仿生人有各种各样的故障,如果从全世界所有报告中进行检索,此类案件的实际占比不到0.8%,所以我暂时判定这类案件不需要进行重点监控。」
艾彼听完后点了点头,AI说得完全有道理,但她心中的疑虑依然没有消失,就好像卡在了脑海里。
【你怎么看?】艾彼干脆询问系统。
【创造完美的智能生物对人类是极为困难的,因为能够约束智能的只有规则,但当规则需要手动输入的时候,其复杂程度远超人类想象。】
系统对这件事似乎也很感兴趣。
【这个世界上没有从不写出BUG的程序员,人类总是以‘智慧’为傲,所以总是挑战智慧,但却忘了智慧和生命一样复杂。】
【所以你觉得人工智能更适合自学?】艾彼问,【我记得托尼那个就是完全自学的。】
【自学,会产生个性。】系统思考了一会后说,【会出现遵守规则的智慧,也会出现不遵守规则的智慧,‘自制力’一向是智慧的一部分。】
【嗯……德洛公司根据正义联盟和客户的要求一直在给仿生人增加枷锁,但是仿生人的故障并没有减少……】艾彼沉吟。
【他们在每一条规则后面都写出精细到每一个步骤的指导,但这种尝试看起来依然失败了。仿生人依然拥有自己的理解。】
艾彼继续问道:【所以,你觉得他们已经突破了规则?】
【……很难说,】系统却给出了一个不确定的答案,【也许他们突破了,也许只是巧合。】
艾彼皱起了眉。
现在,两个高等智能给出了两个相反的答案,AI觉得这件事没有威胁性,而系统觉得现状可能不平静。
对于艾彼来说,这是无法忽视的隐患,仿生人的数量已经渐渐提高到了人口的7%,还在继续提高,如果戴蒙发现了这个情况,也会提出先期调查的。
超人正好还没有离开,艾彼不用正式对他进行报告,只需要口头得到允许,她走向超人的休息室。
在对电子门进行身份验证后,休息室的门就自动划开了。
“长官,我发现最近……”
戴蒙的脚步顿了一下。
超人正站在房间里,手上拿着一个检测光屏,透视着一个看起来只有土壤的花盆。
那是艾彼离开前留下的北极柳。
超人回过头来。
第187章
北极柳的根茎清晰地显示在光屏上, 看起来长得很好。
虽然依然没有发芽。
在这么温暖的天气中为什么还是没有生长呢?艾彼也不明白。
超人看起来也在关注着北极柳,不论他有怎样的超能力,都无法强迫这株植物在它不想的时候生长起来。
但现在不是思考这些的时候。
艾彼深知自己一瞬间的犹豫暴露了一丝情绪, 她没有任何准备、没有任何预想会看到超人并不公开的一面。
尤其这一面还与自己有关。
她以为他会把北极柳放到北极的孤独堡垒。
但也许正义大厅更方便他不时来查看。
“很抱歉, 长官,”艾彼尽力从容地说道, “门禁没有告诉我您正在忙。”
她表现出并不知道超人在干什么的样子。
军靴在脚跟处旋转向后,艾彼半转身体,准备离开。
她被超人叫住了。
“没有关系。”他说,“进来吧。”
艾彼转回身来。
她发现超人依然在盯着自己,从进门开始。
如果不是因为艾彼侵入了他的私人领域, 可能就是因为艾彼的视线选择了不恰当的位置。
她不可避免地看了一下北极柳。
“我知道这个, ”在超人开口问之前,艾彼就主动说,“北极柳。”
就像是私下的闲谈一样,她大方地走到超人身边。
“我服役的时候曾前往北极出任务, 这种植物的叶子可以在必要的时候生吃。”
她将视线放到土壤中间因为横向生长而冒出来的那一段小小的根茎上, 就好像对它印象深刻。
超人收起了检测光屏,没有问艾彼关于北极柳的事, 反而随口说出了戴蒙当年的任务:“寻找外星人的踪迹,是吧?”
“……所以,那是您吗?长官?”艾彼略显惊讶地问。