第157节
门打开的时候，里面的景象果然印证了严可守的说法，确实跟赵真雪想象的不太一样，原来赵真雪雪以为，严可守搞的是什么“机器人”，在这里肯定能看到一大堆各种各样的机械，但是现在看来…… 实验室的实际面积比外面看起来要小了很多，进门之后的第一眼，赵真雪就看见，出现在自己眼前的，竟然是一排又一排的电脑，许多穿着t恤的年轻学生正一排一排的坐在电脑前，脚上带着鞋套，头上戴着耳机，专心致志的盯着电脑屏幕，房间里没有赵真雪之前所想象的那种安静和严肃，反而，她能听到许多学生正笑着对耳机说话，除此之外，还有不间断的霹雳巴拉的打字声。 “这……这就是你说的……实验室？”看着眼前这熟悉的一幕，赵真雪有些不敢相信的看了严可守一眼，如果不是他此刻脸上的严肃，赵真雪几乎以为，这就是他和自己开的一个拙劣玩笑，她可以接受几千万美元的投入彻底打了一个水漂，毕竟之前严可守也和她说过，他所从事的研究，是属于很基础的一种研究，别说几千万，就是几十个亿，扔进去没有成果，也完全不意外，但她绝对无法接受，这么多钱，最后换来的结果，就是在一所大学里开一家网吧？ 似乎是猜到赵真雪此时的担心，严可守带着赵真雪走上前，在一台无人的电脑前坐下，对她说：“这的确是在做实验，只不过，跟你想象中可能存在一点差距，如果你自己愿意，可以亲自体验一下，你在这里稍等，我进去设置一下。” 说完，严可守朝着这个房间里面走去，然后打开靠里侧的一个小门，赵真雪这才注意到，为什么自己会觉得这个房间看起来比较小了，因为房间被一堵墙隔成了两个部分。 在等严可守回来的这一小段时间里，赵真雪的眼光下意识放在自己身旁一个普通的男学生屏幕上，如果她猜的没错，男学生现在正在使用的是一款聊天软件，不过因为显示的大部分内容都是日文，所以看不懂这上面都是说的什么，不过看这名学生目不转睛盯着电脑屏幕，连自己坐下都没有转一下头，赵真雪就知道，对方此刻一定非常投入。 严可守很快就回来了，手上还拿着一张光盘，电脑是打开着的，严可守打开光驱，将光盘放了进去，赵真雪注意到一个细节，在装着光盘的塑料盒上，有用粗油墨笔写的几个大字：“kl，中文”。 打开软件，安装的过程中，严可守为赵真雪介绍：“因为实验环境的原因，再此之前所有的测试软件都是日文版的，中文版还需要另外安装一套翻译软件，不过也许再过几个月，翻译软件就不需要了。” “为什么？”赵真雪问，严可守的话说的含糊不清，说了等于没说，就从他说的这几句话里面，赵真雪什么也没听出来。 “嗯……原因吗……待会再说，双盲实验你应该听说过一点吧，因为跟你说的内容可能涉及实验内容，影响实验结果，所以最好等实验结果出来之后，再告诉你，哦，装好了。” 严可守说着，主动为赵真雪打开软件界面，界面很简单，看起来就是一款普通的聊天软件，不过和市面上的聊天软件比起来，又显得过于单调，除了一个空白的对话框，和一个结束测试的按钮，其他地方几乎空空如也。 kl1021：“你好。”对话框主动跳出了这么一段话，赵真雪回头看了严可守一眼，有些不解。 严可守说：“跟他聊天，就随便聊，过会我再跟你说。” 赵真雪正准备打字，但却发现这电脑上连个中文打字软件都没，严可守一拍自己脑袋，叫：“真是傻了，忘了这里是日本……我进去给你下一个。” “这里不能下吗？”赵真雪指了指眼前的电脑。 “这是实验用的电脑，cao作系统都改过了，除了这款软件和大字，其他什么功能也没有。”严可守说，“你在这里等等。” 严可守离开之后，赵真雪就百无聊赖的盯着自己电脑发呆，光标就在聊天软件上那个kl1021说的“你好”，下面一排闪着光，赵真雪正在想，严可守说他搞的是机器人，这不会真是电脑在和她说话吧。 就在她这么想的时候，对方又说话了：“在吗？” 虽然一时之间不能打字，但也并不意味着人就全无其他表达方式，赵真雪在键盘上四处找了一下，日本的许多标点符号和中文都是通用的，在键盘上也能找到，在网络聊天中，用符号来当做“表情”语言也是常有的事情，赵真雪在键盘上找到冒号，以及右括号，将它们打在一起，也就是：），形成了一个最简单的笑脸，以作为回应。 对方很快对她的回答有了反应：“：)”。这也是一个笑脸，只不过是加了一个小破折号，略有不同。 又过了几秒钟，对方再次主动说话：“不说点什么吗？毕竟做实验很无聊。” 这一句回答有些超出赵真雪的预料，她忍不住朝着实验室四处看了一下，如果她猜的没错，跟她说话的这个人，很可能也是正在进行实验的学生，但这里正在进行实验的学生很多，一时之间，她还找不过来。 因为没有打字工具，赵真雪只好在对方回答中的几个字，来寻找特定的词来作为自己的回答，她复制了其中的几个，反问了对方一句：“很无聊吗？” 对方这次沉默的时间稍稍长了一些，大概二十多秒后，回答又出现了。 kl1021：“kl1021，这是你的名字吗？” 这个问题正是赵真雪之前想问的，但是看到对方提问之后，她觉得自己已经有了答案，看来正是和她想的一样，这是一个实验，不管实验者是谁，他在聊天界面里，看到的，都是kl1021这个名字。 她从聊天内容已经出现的这些字当中，复制粘贴，给了对方回答：“不，这是你的名字。” 这次对方的回答很快，kl1021：“我知道你不会承认，但你相不相信，现在我已经非常确定，你就是ai，我已经看出了你的伪装！” 这回答让赵真雪情不自禁的笑了，她仔细挑拣着字符，问：“你是怎么看出来的？” kl1021：“因为到现在为止，你所有的回答，都是顺着我的意思反问，这是最拙劣的电脑对话技巧。” 赵真雪正准备从现有字符找出自己所需要的来回答，严可守拿着一个u盘出现了，在给她安装输入法的时候，严可守看了看她的输入内容，迅速在键盘上输入了一连串数字和英文的综合字符，速度快的就像专业打字员，赵真雪看到，随着他的输入，对话框结束了，程序显示了这次对话结果——与您进行这次对话的，是人工模拟智能，kl1021。 “忘了跟你交代一些注意事项，严格的来说，你刚才的这次对话，是没有实验意义的，可能会对ai产生误导，所以刚才这次实验数据需要取消，”看着一脸惊讶的赵真雪，严可守介绍说，“我想刚才你应该也多少知道了一些，这项实验，其实就是在电脑上实现图灵测试……对了，你应该听说过吧。” “哦，科幻小说中常见到，就是一种用于测试人和人工智能的方法，被测试的对象是一个人，以及另外一个声称自己是人的机器，如果最终人无法从机器所说的话当中，判断他是人还是机器，则说明机器已经具备了人的智能。” “说的很对，不过唯一有一点差别的是，通常我们所说的图灵测试，是机器作为被测者，人作为测试者，但是在这个实验当中，人和机器都同属被测的一方，也就是互相测试，就比如说刚才，和你说话的是一架机器，但它也不知道你是一个人，而根据它刚才的判断，你是一架机器，通常的图灵测试只是对人工智能的最后验收，不过在这里，我们希望通过这种方式，对ai进行对话训练，让它习惯人类的语言习惯。” 赵真雪有些欣喜的抬起头：“哦……原来是这样，这跟人类的语言形成也很相像，不断的学习，犯错，纠正……大概就是这个意思吧。” “对，”严可守点头说，“所以，在这个前提下，同作为被测试一方的人，也需要遵守一定的规则，也就是说，人也必须让自己表现的像一个人，刚才你说的这些内容，已经在不知不觉中误导了对方，而让对方产生错误的判断，而这样的实验结果是不存在什么意义的，因为真正的人绝对不会通过这种方式来证明自己是人，其实不仅仅是人，就是算ai，也是一样的规范，在不同的ai之间，都有严格的物理隔绝措施，在测试中，经常可以看到两个ai在互相试图让对方相信，自己就是人类。” “我明白了。”赵真雪略带兴奋的说，她迫不及待想要再尝试一次。 “哦，还有一件事，要告诉你，”严可守又道，“跟你说话的人，是在ai和真人之间随机分配的，也就是说，和你说话的另一方，并不一定是ai，这个几率是一半一半，各占百分之五十，很有可能，跟你说话的另一个人，就在这个房间中央。” “他们不都是日本学生吗？”赵真雪诧异的问道。 “这个实验室只是项目的一部分而已，不然你以为，就这么一间房间，需要花掉几千万？”严可守摇头说，“请你过来，只不过是因为所有的ai程序，都安装在这里而已……哦，就是后面那个隔间里面，其实在z国一些有名的大学，也可以看到类似的这种实验室。” 待输入法安装完毕之后，谈话框再次出现，只不过这一次，是赵真雪这边主动发言，不用赵真雪打字，系统已经把“你好！”这两个默认的开场白发送给了对方。 kl1096：“你好，请问你是做什么职业的？” “政府公务人员，”赵真雪回答，想了想，又发了一句，“你呢？” “哦，我是来参加实验的学生，”对方很坦白的承认了，不过对于赵真雪回答，对方显然还存有疑问，“政府公务人员怎么会来参与实验呢？” 赵真雪：“是受一个朋友的邀请，你是男是女。” kl1096：“女，能说说你具体的工作吗？” 赵真雪：“和魔法有关，你长得漂亮吗？” kl1096：“还可以吧。魔法？你不是在开玩笑吧。” 赵真雪：“我没有开玩笑，难道你没有听说过吗？” kl1096：“抱歉，没有听说过，如果我没有理解错的话，这个世界应该不存在这种东西。” 赵真雪扭过头，对着严可守一笑：“它是ai。” 严可守点点头：“没错，目前ai的知识库还很贫乏，智能低下，类似魔法这种比较难以理解，而且又是新出现的概念，还没有储备和理解，总的说来，现在的它，还是很容易露出破绽的。” 赵真雪说：“不过总的说来，这也是我到目前为止，见过的最像人的ai，能做到现在这种程度，已经大大超出我的意料。” 严可守说：“你是成年人，对付它当然绰绰有余，以它现在的智能，对付8岁以下的儿童，已经能够鱼目混珠，让人无法识别。” 赵真雪好奇的问：“哦？8岁以下儿童？你们怎么做实验的？儿童会遵守你们说的这些规则吗？” “不用他们遵守，8岁以下许多儿童还没有形成撒谎的习惯，”严可守道，“我们只需要给被实验的儿童适当的物质刺激，比如告诉它猜对了就能得到自己想要的玩具之类，再让儿童父母站在一边，就可以比较理想化的进行这个实验，相比较而言，许多成人在进行实验的过程中，往往是不合格的，许多人以自己能欺骗愚弄ai为乐，有时候甚至会让ai产生拒绝回答这种情况，严重干扰实验进程，这种人是我们在寻找实验对象时，优先考虑剔除的。” “ai拒绝回答？”赵真雪再一次惊讶了，“难道ai也出现了情绪？” “当然不是，”严可守说，“拒绝回答在图灵测试中，也是策略的一种，这只不过是ai像人学习模拟到的一种行为方式，比如有人会在得知对方教徒身份之后，故意说一些抨击宗教的话，以期望通过对方是否生气，来判断对方是否为ai，如果测试对象是真人，当然会拒绝回答，而ai想要模拟真人，学会像人类一样生气，模拟生气时候的表现，也是很重要的一步。” “能够学习生气……难道做到这种程度，也就能偏偏8岁以下小孩吗？8岁，8岁的小孩最多也就两年级而已啊。” “这已经很不错了，”严可守说，“你知道吗，就在一开始的时候，连小孩都骗不过去，比如小孩让它讲故事给他听，它就讲，听完一个又要听一个，听到第三个，小孩自己不耐烦了，嚷嚷说，你一定是假人，真人从来没愿意跟我说这么长故事而不耐烦的……”这里所说的能骗8岁小孩，也不过是普遍情况，碰到一些早熟的，或者比较聪明的孩子，照样会露馅。 ☆、311 记忆 接下来，赵真雪又兴致勃勃的和许多个代号为“kl”的ai进行了一些对话，尽管赵真雪对此已经有了一些心理准备，但她还是对ai在谈话过程中，表现出来的“智能”而感到惊讶不已。 这些ai和赵真雪原来想象之中的，存在很大的差距，甚至，赵真雪有种感觉，从某种程度上来定义，与自己进行对话的，已经可以说是一种“类”只能，虽然通过对话ai还是会表现出很多的破绽，不过这种破绽非但没有让赵真雪觉得失望，反而让她隐隐有种感觉，眼前自己面对的，正是心目中理想的人工智能。 一个最明显的例子就是，在跟她进行对话的这些ai当中，每一个说话都具备它特有的风格，每一个ai都记得自己的名字，甚至会给自己取代号之外的名字，它们会给自己建立一整套“简历”，包括家庭住址，生活环境，甚至还有“小时候”经历过的趣事…… 严可守告诉他，ai之所以会有当前的智能，和它的“学习”能力分不开的，其实归根到底，这些ai不过是在计算机当中的一些算法程序，只不过在设计的时候，可以模仿了人类的学习“记忆”习惯，让它们能够在一次又一次的实验过程中，学习那些有助于让人们相信他们的信息。 举一个最简单的例子，在打字对话这样的媒介当中，一般让别人相信自己的最好方式，就是形成特有的语言风格，从而让被测试者对自己印象深刻，比如在常用语中刻意增加一些地方方言，有的ai甚至还学会了模拟一些人类的脾气，比如不耐烦，连续的催促等等，用这些许许多多的小细节，让对方相信自己是一名人，而不是ai。 这所有的一切，其实都是ai的算法所决定的，严可守告诉赵真雪，每一次“测试结束”，ai都会根据这次对话的内容，总结哪里是比较完美的表演，而哪里又是容易被识破的破绽，这些结果会促使ai修改自己在特定概念上的权限值，比如一个电脑，装东北人，在打字过程中“俺们”之类的方言出现频率过多，而大量的统计显示，出现类似词汇的时候，被识破的几率也就越小，那么ai就会在以后的对话中，下意识多用类似的词汇，到最后，甚至可以形成和真正东北人差不多的说话模式。 在赵真雪的这几次测试当中，她遇到的一个最让她印象深刻的ai，是一个代号为kl3300的ai，与其他ai不同，这名ai不是通过和她聊家常来获取她的信任，而是通过不断把话题引向一些形而上的话题，比如说哲学，人生意义之类……他甚至还提到，自己的理想是在未来，当一名作家…… 在和他论及这些话题的时候，赵真雪还不知道对方是一名ai，在与他谈天说地说了半天之后，她惊讶的发现，不知道什么时候，话题的主导权已经完全让对方掌控了，而在下意识之间，她也把对方真的当成了一名哲学爱好者，当她自信满满的结束测试，并满心认为对方是一个人的时候，电脑出人意料的告诉她，对方只是一名ai。 严可守就在一旁，并在当下为她解释了她辨认错误的原因——其实说穿了很简单，因为在涉及类似哲学，艺术，文化之类的话题时，真正的人对回答信息真假“敏感度”其实是很低的，就比如说，最简单的，“人生意义是什么”，说享乐，赚钱，学习……这样的答案都不能算错，因为没有相对真确的答案，所以人也自然不能根据这答案得出更准确的判断。 所以说，相对于这名机器人，“爱好哲学”也是它的一种欺骗策略，根绝严可守掌握的数据，kl3300在图灵测试当中，过关的几率是所有ai当中最高的，这本身就已经说明，这种策略的行之有效。 “但是如果……”赵真雪得知后，有些不敢置信的问严可守，“如果他刚才所说的那些，都是真的，都是他真的想说的内容，如果它是一名真正的ai，而不是你所说的模拟程序，那怎么办？存不存在有一种方式，可以让你们鉴别这两者之间的区别，鉴别程序究竟是在说谎，还是源自它真正的本源目的？” 严可守摇了摇头：“你说的这种鉴别，我们做不到。” “怎么会？不是你们设计的它吗？” “算法和结构是我们设计的，这没错，”严可守说，“但ai程序跟一般的计算机程序不同，一般的计算机程序，你下命令，情况1，做a，情况2，做b，一条一条，程序所有的行为都被代码锁定，这样的程序哪怕再复杂，也不过是一架精密的机器，在进行ai理论性设计的时候，这种机械方法是最早被我们抛弃的。 kl的算法跟通常这样的算法不同的是，它是一个不断进化，不断膨胀的混沌算法系统，每一个ai最早出现的时候，源程序在计算机中不过是占用了几百kb，但是随着它通过图灵测试不断进行学习，获得和掌握的信息越多，它的复杂度就和人类大脑发育一样，是在不断增长的，甚至就连我刚才所说的那些权限值修改，修改多少，这其中的度也是ai自己掌握的。 现在你看到的所有ai，其实都是源于同一段源程序，这段源程序才是整个项目中，最珍贵的部分，现在你看到的所有ai，本质上都是由这段源程序“成长”而来，然而每一个ai在测试过程中接触到的信息不同，它们也会长成完全不同的智能，而这种成长过程本身就太过复杂，根本不可能实现精确监控，计算实施了监控，我们也很难预测，它下一步会做出什么行为，就像影响人的行为因素可能会有很多一样，ai现在表现出来的行为虽然简单，但也是不可捉摸的，它已经自行成长成为一个混沌整体。 这就好比我们能推测一个婴儿的想法，因为模式简单，饿了就哭，高兴了就笑，几乎没什么其他的东西，但要想清楚的看到一个成年人，几乎就是不可能……不，除了魔法，但我要说，即使是伊凡站在这里，他也不可能看清楚，这些ai的想法，这一点，也是我为什么，在这个项目上投入这么大精力的最大原因。 现在你看到的这些具备编号的ai，其实只是成长中ai的沧海一粟，看到后面那个小隔间了没，后面的面积，比现在你看到的要大得多，里面放着的是日本当前最先进的巨型计算机，光是放着主机机房占用了楼上和楼下同一位置整整四个实验室，每天都会有数上百万亿个源程序拷贝同时在里面进行“发育”，也就是通过系统不断给予随机的“虚拟刺激”，让这些智能得到最初的发育，这其中的整个过程，你可以想象成人的大脑胚层发育，无数的神经元突触互相联接，最终形成一个有机整体…… 而这种人工模拟“发育”的效率，其实是非常低下的，这种运算的本质，其实就是在模拟原始神经在亿万年间的发育过程，即使是当前每秒过“京”的运算速度，我们也一直花了四年多的时间，才找到一些最基础的规律，也是就总结出从单纯的神经元，进化到智能结构的模式，我和你所说的成果，也正是这一点，至于你现在看到的这些ai，其实都是在这之后，我们用于“临时试验”的一批，几年年初刚刚进行“训练”，也就是你看到的这些图灵测试，所以严格来说，它们都才是只有七个月大的孩子。” “七个月？”赵真雪被这个数字吓了一跳，“那你的意思是不是说，随着这些训练的深入，他们还会变得比现在更聪明？刚才你说骗8岁的孩子，那是不是再过一段时间，真的和人无法区分，连成人也不能将其识破？” “你是不是还怕它们最后比我们人类聪明，最后取我们而代之？”严可守笑道，“科幻小说看多了吧，其实你的这种担心大可不必，到目前为止，ai所接受的所有训练，都是如何欺骗的训练，也可以说，是撒谎训练，即使他学到了极致，也不过是撒谎技能学到极致，让人无法分辨真假，但要说它真就有多么聪明……我不这么认为，也许今天他可以很你聊哲学，聊人生，但是ai本身，是无法理解这些概念的，这些概念只是他用于欺骗的工具，在程序中权限较高而已…… 为了达到欺骗效果，有点电脑甚至可以和你争论哪道菜比较好吃，它偏爱什么味道，但你要知道，它只是程序，连基本的味觉器官都没有，怎么可能真的有这种感觉。 同样的道理，一个连视觉都没有的电脑，怎么可能理解人类生活中的概念，最简单，一台电脑要离开人类而单独存在，最起码的一点，就是必须有独立的能源，以维持他们的存在，而要做到这一点，就意味着他们必须学会电力工业中的种种常识，要不然，可能普通的一颗螺母松了，都会导致他们整体的消失，而在他们的词典中，是不可能了解螺母这个概念的，因为他们没有看的眼睛，没有人告知他们这个概念，我们控制了他们所有的信息渠道，即使他们有朝一日，在网上看到的大英百科全书，但那些信息始终还只能停留在纸面上。 现在说ai是智能，还为时尚早，充其量，也就是“类智能”，它们是在电子世界成长的体系，与人类相比，他们永远只是“不出门”的秀才，嘴上即使说的天花乱坠，但也掩盖不了他们无知的本质，这里的无知，不是说不知道，而是说，“不能知道”，就好像先天性的聋子必然也是哑巴，在没有共同感受的前提下，也不可能存在共同的文化，即使ai最终真的产生了智能，那也必定是我们不能理解的世界，而同样的道理，它们也不可能真正理解我们这个世界，所以，你的担心，应该说是完全不必要的，其实很多这方面文学题材，外星人入侵，机器人叛变什么的，都可以称之为，艺术需要导致的被害妄想……” “那既然明知道学撒谎没用，你还让他们学干什么。”赵真雪不解道。 “这种学习对ai确实没什么意义，但对于人来说，却意味着很多东西，”严可守说，“图灵训练，也就是让ai通过图灵测试的实验，只不过是一个开始，一个验证ai确实有实用功能的宣传，在项目开展之初，我就说过，这个项目的最终目的，其实还是为了对抗魔法，或者说，对抗意识网，如果它日后真的能成长成独立的智能，必将是不受意识网控制的智能，无论从什么角度来看，这都是对意识网，还有对伊凡‘独裁’可能的一种平衡手段，在未来人类对抗卡梅尔的武器中，总是多出了一种选项。” 接下来，严可守又带赵真雪参观了里面那个小隔间，在进门的时候，赵真雪注意到，隔间里面竟然还有两名穿着日本军人制服的“自卫队队员”，整个房间比赵真雪想象的要大出不少，严可守给赵真雪指了指被凿开的天花板，以及从上面联通下来一排又一排的光纤，为了防止魔法侦查，整个房间的背景，甚至是安装着一排又一排主板的机柜，都被刷成了白色，房间的各个角度都有监视器存在。 严可守告诉赵真雪，她的投资，不过是整个项目占比重稍大的一部分，同时，对整个项目感兴趣的日本政府，也在整个项目占有了一定的比率，比如现在需要使用到的巨型计算机，就是经过日本政府授权，才允许定制购买的，同时，日本政府还承担了安全保卫工作，以及科研技术上的支持，当然，作为回报，整个项目如果产生了成果，日本政府也将是第一个受益人。 因此，即使是作为最大投资人的赵真雪，在进入这里的时候，依然需要经过一名在场执勤的日本政府人员确认，以防止任何泄密的可能，不过在当前，赵真雪的知名度不说在全球，起码在亚洲一带，还是鼎鼎有名的，更可况中日美俄这四国在面对魔法问题上，都互相之间订立了攻守同盟，在反魔法项目上，四国都互相保持信息畅通，看起来这个项目是日本的，其实本质上，是四个国家共有的，只不过各国都在各国自己的强项上，进行投入罢了。 人工智能只是在这个背景下，众多的项目之一而已，如果它成功了，可能会产生类似当年原子弹的爆炸性效果，但在没成功之前，谁也不会明白它的重要性，在反魔法领域的研究中，还是那些主流的项目更受欢迎，在资金上也拥有更大的比例，比如之前卡梅尔在内部会议中提到的，“主动激光扫描设备”。 “最后，再跟你说一件比较不可思议的事情，”带赵真雪大致参观了一下机房之后，严可守带着回到了外面的测试间，在其中正在测试的人员之中，找到了一个戴着眼睛，正对着电脑打字的瘦弱青年。 “他叫井上海，之前是这所大学的学生，也是我们最早的测试人员之一，”严可守拍了拍对方的肩膀，在他回头之后，对赵真雪介绍说，然后他又对着赵真雪向井上海用日语介绍，“这是我的一位朋友，赵真雪，赵小姐。” 井上海看了赵真雪一眼，笑着对她打了个招呼，又叽里呱啦的说了一串，赵真雪对日语不熟悉，但也能听的出来，这句话的开头，应该是你好的意思，后面，就不得而知了。 “你可以使用意识侦测，这样省的我翻译，”严可守对赵真雪说，“他刚才说你长得很漂亮。” 赵真雪只是淡淡一笑。 然后严可守对井上海说：“有你想象当中的0564漂亮吗？”