168小说 - 玄幻小说 - 吾王来也在线阅读 - 第一九六章 蜕变

第一九六章 蜕变

    “断剑”是个代号,它指的是智能机器人彻底失去控制的情况发生,是所有研究人工智能机器人系统工程师们的噩梦。

    计算机屏幕上亮起一盏刺眼的红灯,它表明最危险的事情正在发生。

    “立即召集所有人进入a级戒备;立即启动pmu安全运行模式;立即检查网络服务器是否有病毒入侵!”胖胖老者马上就发出了一连串指令。

    夜幕中的大楼里,所有人立即忙碌了起来。

    莫丁盯着半躺在岩石上面的宾尼,心中的惊骇无法用语言来描述,机器人竟然会自杀!自杀的理由竟然是为了所谓的朋友情义!

    人工智能机器人有性命吗?它们有生命的意识吗?它们有自我意识吗?这种意识与人类的意识有关联吗?如果有,那么人类能完全控制智能机器人吗?

    答案肯定是否定的。一旦人工智能机器人产生意识,就会拥有自己的是非判断标准,而人类的指令不再是它们行动的唯一准则。

    那么一旦智能机器人所奉行的价值观与人类的价值观发生冲突,就很可能发生所谓的机器人叛乱,小到宾尼这样的战斗机器人,大到超级人工智能系统,将都会想现在的情形一样,在人类手中失去控制。

    人类会因此而灭亡吗?莫丁突然想到了这个问题。

    记得在初学太虚功法时,清虚道长曾经说过这样的话:人类依靠物力取得进步,但过度依赖物力,结果反而会被物力所伤。莫丁当初不是十分理解道长的意思,现在他明白了,人类为了提高自己的力量,大力发展人工智能机器人,到达一定程度后,会被机器人反噬,成为地球上又一个被灭亡的物种。

    所以清虚道长提倡:生命有其自身的价值,拥有物力的多寡,绝对不是判断生命成功与否的唯一标准,每一个生命的出现,都有大道赋予的基本使命。如果一个人,从出生直到死亡,都在追求吃、穿、住、行的满足而忙碌一生,或者为了追求感官的刺激、财富的笼聚、权力的掌控而处心积虑、谋财害命,那将是本末倒置,浪费了生命最珍贵的价值。

    “那么生命存在的意义是什么?”处在大搜捕风暴中心的莫丁,此时反而极静思索起来。

    他思想空灵,万念俱寂,意识只集中在一个点之上,似乎能捕捉到某个东西,而那个东西,藏在一层薄薄的隔膜后边,似是而非,似乎感受得到,但又不甚清晰。

    他的目光抬起,望向无穷远处,但前景一片迷茫,看不清任何道路。

    他收回目光,落在宾尼的身上。

    “假如智能机器人灭亡了人类,作为取代者生活在这个星球上,那他们的生命价值又是什么呢?”峰回路转,莫丁又开始思索发生在眼前的事实。

    “它们不需要洁净的空气和水,它们也不需要吃rou,不需要生孩子,不会生病、衰老或者死亡,他们没有**,不需要追逐美色,不需要财富所以没有贪婪,他们不会感到寂寞所以不需要朋友,他们孤独的行走在荒野,白天和黑夜没有区别,冬天和夏天没有影响,就像一只孤魂野鬼,生活在无生命的宇宙空间里,那才是为了生存而生存,这样的智慧体才是真正的毫无价值!”

    “于此相映衬,人类的世界是菜的丰富多彩的,这里拥有世界上所有的痛苦,也拥有世界上所有的欢乐和希望,这才是真正的的生命世界。”

    “所以,所谓大道的驱向,绝不是机器人取代人类的世界,所以也不是人类完全追求物力的世界,那祂想要生命成为……”

    “强者!生命的强者!”莫丁的脑海中迸发出一点火化,似乎照亮了隔膜后边那模糊的前路。

    “拥有无比坚强的意志,就将拥有无比强大的能力,就能实现生命的自由,得到心灵的安宁,找到生命的归宿。”

    此时,他感到识海中自己的意识无比的通透,三位一体的意识开始逐渐的融合。之前在元巽融合三种意识体的过程中,只是将各自的意识打碎揉捏在一起,并未做到相互的融合,而现在,通过对生命价值的再思索,莫丁获得了某种虚拟的力量,开始将三者有机的融合在一起,他感到自己的意识即将发生蜕变。

    半躺在岩石上的宾尼忽然手指动了一下,这个微小的动作被莫丁捕捉到了。

    “难道宾尼会再次‘活’过来?”莫丁安静的坐在那里等待机器人的下一步动静。

    果然,过了不一会,宾尼两手一撑,“呼”的一下站了起来。

    “宾尼!”莫丁试探的唤道。

    机器人将头转向了莫丁。

    “你是自行恢复了啦吗?”莫丁见机器人对“宾尼”这个称呼仍然有反应,就进一步试探着问道。

    “莫丁!”机器人发出柔和的声音“我们是朋友!”他喃喃自语。

    “你!和我,是朋友?”莫丁微微一笑,看来这个机器人果然具备自我意识了。

    “是的,我,和你!”宾尼肯定的答道。

    “你还记得以前 的事情吗?”

    “有一部分不记得了,比如我的出生地、我从哪里来的,我的任务是什么。”看起来他的样子有点迷茫。

    “那个!”莫丁指了指宾尼背后的步枪和尖刺:“那个你还会使用吗?”

    宾尼从背后取下步枪,熟练的检查枪栓,推上子弹,然后瞄准。

    “这些都还记得,包括我要保护你不被你的敌人抓住。除了那些我的出生、我今后要做什么等等都不记得了。”

    “那些都不重要,你就别去想它们了。”莫丁宽慰他道。

    “好的,我们现在这儿隐蔽好,等到天一黑,我们就乘坐小艇逃到更远的地方去。”宾尼仍然记得他的职责。

    “行!等我们逃出包围圈获得自由了,我们仍做好朋友,好吗?”

    “好的!我们一直是朋友。”

    莫丁觉得经过这一番波折,宾尼的智商没有受到影响,但他的“情商”却像退化到了7、8岁儿童的水平。现在的宾尼是一个完全不受人控制的机器人,对于他的创造者来说,已经蜕变成完全陌生的机器人。不知道在今后的岁月中,这个蜕变后的机器人会走上一条什么样的道路。

    “宾尼,你害怕死亡吗?”莫丁继续跟机器人闲聊着。

    “我必须尽量生存下来,避免死亡,但是‘害怕’这种感情用词是你们人类专有的,对我们机器人并不适用,如果有需要,机器人可以付出死亡的代价,但是不用害怕。”对于宾尼这样的回答,莫丁觉得应该是内部程序设定好的结果,作为一名机器人战士,在战场上生存下来是非常重要的。

    “宾尼,假如这个世界只剩下你一个人存在了,你最想做什么呢?”

    “嗯……”出乎莫丁意料之外,宾尼竟然“思考”了一会才说道:“我想再造一个和我一样的机器人。”

    “哦?为什么呢?”莫丁很感兴趣问道。

    “我想要一个朋友,山特告诉我说,朋友是世界上最珍贵的东西。”

    莫丁有些明白了,这个机器人在向他的教官山特学习的过程中,出现了令人工智能原创者意想不到的偏差,以至于宾尼的价值判断超过了命令优先权,让他突破了原创者的安全控制手段,发生了“叛乱”。

    现代量子计算机技术的发展,已经使得计算机的运行速度和存储能力得到极大的提高,它不再是人们在设计人工智能计算机程序时,需要考虑的资源限制问题。

    所以设计者们为了解决程序运行过程中出现的种种问题,往往会不断的增加和修改程序,加进去一个又一个的修订模块,使得人工智能程序变得越来越庞大和复杂,

    这样做的后果就是,单纯依靠人脑,已经很难再从底层代码逐条逐句的分析程序执行的可靠性。所以一旦在这个庞大程序的构建过程中,某个程序员疏忽或者恶意嵌入了bug,也很难被检查出来,这就给人工智能程序的运行埋下了隐患。

    所以人类制造了比自己大脑还要复杂的智能计算机系统,就面临着失去控制的危险。

    而像朱时禹那样的聪明人,就懂得使用蓝猫那样的伴生机器人,让价值观与自己完全一致的绝对“忠诚”的机器人伙伴,去解决关于机器人的问题,这也不失为一种对付未来机器人必然失控问题的最好办法。

    用机器人对付机器人,有点像清朝的那些皇帝们,用来对付洋人入侵的思路,但最终的结果却是惨败。所以,这种办法,不知道能让人类走多远。但除此之外,还有更好的办法吗?除非人类永远不发展智能机器人,但那是不可能的。

    人类需要发展,需要借助外力,同时又要避免被“进化”出来的高级物种所取代,唯一的办法就是提高自身,通过修炼意识、诞生元神,克服人类生物大脑的天然限制,莫丁觉得这才是生命进化之路的正确选择。