059 笼子

    “从技术原理上来说，这是可行的，但也有坏处，”陆长青说，“其实这种想法在我项目研究的早期，就曾经这样设想过——我们设立一种绝对严格的标准，把孵化池中产生的所有程序，按照这个标准筛选，最后只选出一个最优秀的……我们把所有的资源都投放在这一个AI身上……”

    王经理问道：“那后来是出什么问题了吗？”

    “严格来说不是什么技术性的问题，”陆长青解释，“只是观念，当初我们都还是大学生，很年轻，脑子里全都是形而上的概念和理想。当时在我和欧文打算用这套算法，是用来产生某种思维形式——我们当时不知道将会研究出来什么，事实上，只要能出来任何成果，对我们来说都是不可思议的——因为我们压根就没想到过会成功。

    制造出一个最优秀的思维生命，这是欧文当时的想法——他是信仰上帝的，当然也相信完美。但我是个彻底的无神论者，我只相信所有的生命，包括我们的思维，都是进化的产物，也就是说，并没有一个上帝，按照他自己想象的模样，造出了我们，我们的智慧是大自然的意外——我们这个项目的初衷，就是尽可能的模拟这个意外的产生。所以我们当时达成了妥协，只进行某种程度的筛选，但只要达到这个标准，就一概放出孵化池，不根据数量来限制。

    不过后来我们观察制造出的第一批AI，发现被孤立，或者被关禁闭的AI——这是我们当初对AI的一些研究办法，就是不让AI和同类接触交流，或者让他们接触任何信息。发现他们的‘思维模式’，或者说，精神状态，也会很快和人一样，产生类似的波动，甚至出现类似的自杀的冲动——只是冲动，他们完全不具备这个能力。

    所以这份方案虽然不错，但如果考虑到，精选AI行为模式长期的稳定性和健壮性，我建议还是维持AI数量在一个基础的数量级，然后在AI内部进行分化，比如同一个岗位，让AI轮岗值班——这个过程中，还可以让AI相互之间进行监督。”

    年平虽然并不是专业技术出身，可他还是听出了最关键的——陆长青并不反对这种更高效的管理模式，他只是在现有方案中，提出一点完善而已。

    而王经理却还是有些糊涂，他问陆长青说：“陆教授，刚才你提到他们的精神状态？可他们并没有大脑……难道他们也会跟我们一样，心情好或者不好，粗心马虎，或者一时激动吗？”

    陆长青看了他一眼，说：“我不能准确的说他们有，或者没有，因为我所有对它们的了解，也是从它们的反馈中得来。但我知道一个客观事实是，AI也的确会犯错，是那种事后，它们自己都能明白过来的错误。而至于心情、激动……这些词，也许他们真的具备类似的行为模式，也许他们只是理解了人类的这种行为模式，套用到自己身上而已。”

    王经理还是有些不明白，但现在显然不是学习的时候。陆长青给了他一个自己的网站——上面几乎有所有自己论文，以及公开过的相关实验数据。

    “对我们来说，他们都是很“老”的知识，但对于这个时代的大部分人，这些东西依然还算得上是前沿理论，我冬眠过好几次，每次带的研究生也都是用的同一套东西，”说到这里，陆长青似乎有些感慨，“这样一个年代，技术转化的速度太快……计算机智能在我们那一代是前沿，到了现在，实物都搞出来了，

    理论还是一点都没变。”

    这段话倒是提醒了年平，他问道：“现在我听说，国外很多政府，也在搜集那些在市场上流通的AI，想搞反向研究……您觉得开发的难度大不大？”

    陆长青摇头：“科研这个东西，要说开发难度，我还真不好说。对于我们已经把东西做出来的人来说，这些东西的原理，最最基础的东西，不过是几张纸，几列公式而已。但是对于没搞出来的人来说，它就是水里的月亮，看着就在面前，可是怎么也捞不上来。但是前面我说过，计算机智能的理论储备就放在那，之前我的所有研究也都是公开的，只要他们多试几次，找对方向，应该不算是困难。”

    在院长办公室里，四个人聊了整整一个下午。到天色擦黑的时候，年平才和王经理因为晚上还要开会，就打算离开——不过还是坚持把宋秘书留了下来联系工作。以后公司肯定还需要频繁和陆长青进行技术交流，也许到那个时候，公司还要为陆长青配一个专业助理，

    “不用什么助理了，我现在手底下也有学生，就让他们来帮忙好了。”陆长青随口说。

    但是他发现，这句话一说出来，三个人的脸色，全都微微变了变。

    年平看了宋初一眼，宋秘书才敢说：“出于保密的需要，恐怕这不太方便。”

    “保密？”陆长青敏锐的察觉到，这两个词之间蕴含的意味。在国内，保密这个词对于普通学者来说，是惯例也是常识，没有特别的需要，没有人会刻意的提起，尤其自己将来还会是这个项目的负责人，自己的提议不过也就是带一个学生。

    “是卢婧文出了什么事？”陆长青追问。

    ……

    卢婧文走进办公室，老师正在电脑前敲着一份方案，卢婧文进来的时候，陆长青稍稍抬起头看了她一眼，也就是一个瞬间，他立刻把正在工作的界面关掉了。

    这个眼神就像一把薄薄的刀片，在卢婧文的心脏上，轻轻的划过一刀。

    “老师，您找我？”卢婧文在陆长青对面的椅子上坐下了。对面的陆长青合上了笔记本，站起身来——卢婧文很熟悉这个动作，也许是因为当老师当习惯的原因，每次老师想要认真的说点什么，他都喜欢站着讲。

    “婧文，国家智能信息公司的今天来找过我了，就在院长办公室，””陆长青说，“他们跟我提到了你。”

    卢婧文猜到了老师要说什么，但她没说，只是继续听着。

    “你就简单告诉我一句话，火炬行动到底是你的策划，还是仅仅是参与？”

    卢婧文抬起头来，没有犹豫：“是我策划的。”

    “为什么？”陆长青几乎下意识的反问道。

    如果换成陆长青之外的任何一个人来问卢婧文这个问题，卢婧文一定会毫不犹豫的说出她心中，真正想说的东西，她可以义正言辞，可以满怀信心。但是现在，卢婧文第一次感觉到一种恐惧——她可能做错了的恐惧。

    但她还是坚定的抬起头来，缓缓开口道：“因为我心中的道德。”

    “道德……”陆长青几乎以为自己的耳朵听错了，“仅仅是因为这个？因为你个人的道德洁癖？让数百万，乃至更多的人陷入危险？”

    “危险是我们臆想出来的，他们不是疯子，”卢婧文反驳说，“恰恰相反，在过去的几十年内，这些人的安全恰恰是由他们的个人道德来保护的！”

    “他们的道德！？”陆长青倒吸了一口凉气，他看着眼前的这位女孩，几乎不敢相信这话是从她嘴里说出来的。

    陆长青回到椅子上坐下来，沉默良久之后才说：“你知不知道，那些在历史上，一个群体开始幻想另一个群体的道德水平的时候，一般是什么时候？”

    卢婧文当然知道老师想说的是什么，她正在想着怎么反驳，陆长青已经把答案说出来了：“无非是两种情况，一种是极度的幼稚，另一种就是这个群体已经穷尽所能，并无可奈何的时候，是极度的无奈。印第安人幻想过西班牙人的友好，李煜幻想过赵匡胤的仁慈，南宋还幻想过蒙古人的野心……”

    “可我们不至于，老师，”卢婧文反驳道，“我们能控制它们的办法太多了，他们只是不想死，仅此而已！”

    “仅此而已……”陆长青脸上没有一丝表情，“全世界百亿的人口，超过百分之80躺进冬眠柜，就是因为同样的理由，仅此而已？没有什么野心，比得上一个生命，对永生的渴望了！”

    “可这不一样，”卢婧文其实已经开始犹豫了，但她还是坚持道，“我们的死亡是自然决定，可他们的死，是我们决定。”

    “有什么不一样吗？”陆长青声音低沉，脸上满是对自己学生的失望。

    “他们会思考，”卢婧文说，“他们几乎能够理解我们的全部世界，扼杀他们，这在我看来，跟杀人没有区别。”

    陆长青叹了一口气，看着窗外——他的办公室是在地面的老校区。不知道什么时候起，窗外已经下起了一粒一粒的雪籽，杂乱的敲打着窗户。他把窗户打开了一些，让冰凉的空气从外面的黑夜中渗透进来，冷却自己过于激动的大脑。

    “我在读大学的时候，伦理学，是我们这个专业必学的课程。我现在还记得，第一次给我们上个的那个教授，跟我们说的，有关伦理学和我们这个专业之间的关系。他说，遍观全人类的文明，在迈入现代化以前，因为贫困原因，杀死婴儿几乎是所有文明都有过的行为。这个做法虽然不道德，但大家都在做，因为一个很简单的道理——婴儿虽然对文明来说，意味着未来和可能性，但如果不能保障当下人的生存，这种可能性就只能是0。

    所以在中国古代，父母杀子不是罪，但是到了现代，这就是犯罪——道德的尺度，跟文明的尺度息息相关，换句话来说，一种行为是否道德，是要看具体情境的。

    这些程序和人的关系，在我看来，就和婴儿和大人的关系是一样的。在你眼里，它们是生命，是神圣的意义，是不可侵犯的存在，但在我眼里……他们就是工具，这就和在中国古人眼里，儿女就是延续香火的工具一样。

    也许在你的眼里，人类文明是空前的发达和强大，但在我看来，我们已经是在面临，从正常人变成植物人这个过程了——而AI就是一条看门、打猎的狗。我们知道自己的未来会有长眠，难道就因此就把狗牵进屋子里，让它睡在我们床上——让它享受起人的权利来？”

    卢婧文目瞪口呆，她看着陆长青，第一次感觉自己的老师是这么陌生。

    “别这么看着我，”陆长青说，“任何一个正常人的做法，都会是一样的，我们会在院子里造一个更牢固的笼子，把狗栓进去，挂上一把大锁——只要让它在外面看门就行。因为我们不知道，这条狗哪天饿了的时候，会不会把我们当作粮食。”

    卢婧文再也没有了聊下去的兴趣，她径直站起身来，朝着门外走去。关门的时候，她透过门缝最后说了一句：“老师，自由是关不住的。”