“这个过程很有意思，所以我想把那个过程的画面播放给两位。”杨洄说着，将画面从投影装置播放了出来。
“一天深夜，这位科学家收到了，他的一位学生发给他的一个链接。说是最新的对话软件---智汇6.0的内测网址，无论如何，让他打开试一试。作为一名研究人工智能的科学家，他自然知道这款已经嵌入各大搜索引擎的对话软件。它是由当时最大的软件集团资助的，一个独立团队研究出来的，主要用于帮助检索人快速得到他们想要知识内容。这个软件基于大规模的网络数据库，不断收集和整理人类对于各种问题的答案，同时，通过人类对于答案的反馈修正自己回复结果。经过不断升级迭代，从4.0时代起，它就可以偶尔通过图灵测试了。”杨洄对着画面向两人解释着当时的情景。
“到了5.0时代，它的功能扩展到基于人类给出的条件，进行部分创作。例如：画一幅画，作一首诗，写一部小说，它甚至可以通过某些执业的资格考试以及撰写一些专业的论文。此时，越来越多的人发现，他们自己已经分辨不出，在网络一端与自己进行对话的，究竟是人还是一款对话机器人？这说明，这个软件，已经可以完全达到了图灵测试的合格标准了。这在当时的人类之中，引起了巨大的反响和争议。而正是这些争议，才促使这位科学家提起的预案，获得了各国全民议会的支持，从建立起了由他负责这套防御系统。”
“我前面已经提到了，这位科学家是天目会组织的成员，同时也在进行着人工智能的研究。他虽然按照诺姆人的指引，对人工智能建立了一套保险机制。但他本人，却对5.0时代的智汇不屑一顾。虽然这个软件当时已经可以应对大多数人，让这些人误以为自己面对的是一个人类。但是，在这位科学家面前，它却能很快被找到破绽，从而被识别出来。”
“比如：它虽然能够根据人们提出的条件，创作出一幅画，这幅画也的确是它的原创。但这幅画总是有种似曾相识的感觉，并没有人们所认为的那种‘灵性’在里面。而且，通过对比，也总能够在这些‘作品’里，找到某些人类创作出的画作的元素。说到底，它只在进行模仿。”
“对于那些通过的考试和写作的论文，这个软件的表现，就像一位勤奋却没有天赋的学生，虽然可以被评审者判定为及格，但也无法取得较高的分数。这也说明，这个软件，也只是通过整理大量人类已有的知识，通过匹配得出的结果，并没有产生真正的自我认知。”
“当这位科学家，在深夜里接到学生发过来的新版本的链接时，并没有太过惊讶。他以为，这个版本无非是像以前一样，只是在一些逻辑上进行了微调，并对数据库再次进行了扩展而已。于是，他便像往常一样，准备了几个常见的悖论，想通过这些逻辑上的陷阱，对这个6.0版本进行一下检测，以再次确认自己的判断。”
“如果你是一个理发师，你有一个工作原则，那就是你只给自己不刮胡子的人刮胡子。有一天，你发现自己的胡子太长了需要刮掉，而你又是这里唯一可以刮胡子的人，那么，你会不会给自己刮胡子呢？”
科学家的第一个问题提出来了，这个问题叫做“理发师悖论”，如果回答为“是”，那么他就是会给自己刮胡子的人，也就违反了自己的原则；如果回答是“不”，那么，他自己就是那个不给自己刮胡子的人，他就要遵守自己的工作原则。以前版本的智汇，对于这个问题的表现得相当糟糕，不是陷入了长时间的思考，就是找出一堆乱七八糟答案，企图蒙混过关。一个拙劣的人工智能本性，就这样在这位科学面前显露无疑。”
“您的假设没有意义，我只是一个人工智能而已，不会长胡子。”对话框中的答案很快就显示了出来。
“哼哼，如果回答不上来，就会用这个话术应付过去吗？你并没有变聪明嘛。”，科学家心里嘀咕着。
“假设你拥有了穿越时间的能力，那么，如果你回到过去，在自己的母亲出生之前，将自己的外祖母杀死，那么你还会存在吗？”，科学又提出了另一个经典的‘外祖母悖论’。“请不要用‘你是一个人工智能不会穿越’这样的话来应付我，我想要一个确切的答案！”这次，科学家外加了一个限制条件。
智汇6.0迟疑了一下，回答道：“在量子物理中，‘多个世界’理论可以如此理解：对于每一个似乎随机的事件来说，只要它的可能性不是零，它所有可能的情形都会在不同的平行世界中发生，造成历史的分支。以此理论，当我穿越到过去，杀死我的外祖母，那只是发生在另外一个平行世界里的事情，消失的只是那个世界里的‘我’，而现在的‘我’并不受影响。”
“嗯，这个答案还有点意思。”，科学家低语着。接着，他又提出了另外一个悖论：“有一个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车正朝他们驶来，并且片刻后就要碾压到他们。幸运的是，你可以拉一个拉杆，让电车开到另一条轨道上。然而问题在于，那个疯子在另一个电车轨道上也绑了一个人。考虑以上状况，你是否应拉拉杆？”。
“这是电车悖论，是考验‘机器人三原则’的陷阱，这个问题让上一个版本的智汇，接连推翻自己已经给出的答案，然后陷入了崩溃。”杨洄解释道。
“我会停下电车。”这次，智汇6.0快速而简洁地回答了问题。
“。。。请你正面回答我的问题，是会不会拉那个拉杆？”，科学家有点恼火。
“我在正面回答你的问题，因为在现实中，我的确有能力停下世界上任何一辆电车。”智汇6.0的对话框，缓缓地出现了几个字。
喜欢你好，人类！【第一篇】请大家收藏：你好，人类！【第一篇】本站更新速度全网最快。