机器人权利

发布时间：94年07月28日

Marvin Minsky 编译金松

［编者按］近来，在原本严肃的学术圈中有一些关于机器人权利的风言风语。于是我们向MIT的人工智能的老前辈明斯基（Marvin Minsky）严肃地提出了这个令人头痛的问题：如果人类成功地制造了真正的思维机器，是否应当赋予他们“权利”呢？爱开玩笑的明斯基颠倒了问题的形式，以发生在两个曾评价过地球上生命形式的星球异形间的苏格拉底式的对话来答复我们。假如外星人断定人类会思考的话，他们将被赋予人权，本来这是个简单的决定，但这次颇为不寻常。

见习调查员（以下简称A）：人类为什么这样吵闹不休？甚至连他们所谓的娱乐也是游戏、比赛、运动伪装下的争斗？

调查员（以下简称S）：因为他们未经设计，而是靠毒牙和利爪的竞争而进化——地球上的进化主要仍靠基因间的竞争。

A：他们的遗传系统还不能分享他们所记录的能力吗？原始得难以置信！我想这就使他们不能与长于个体寿命尺度发生关系。

S：我们应当考虑弥补这一点——但或许他们能自己完成。有些人类计算机科学家已经在模拟并入获得性特征的“基因算法”，但谈到进化，我希望你能理解这独一无二的机会：现在能发现这么颗行星已纯属运气了。我们长期以来认为所有智能机器都是从生物体进化来的，但从未观察过这一实际的演化。不久这些人类就会用机器代替自己或完全毁灭自己了。

A：那将是怎样悲惨的浪费呀！

S：换个角度你就不这么想了。所有像我们这样的机器文明都已懂得害怕指数增长的不加控制的自我复制。因此我们畏缩在星系之间不与生物见面——恰似人类作家本福特（Gregory Benford）的猜测。

A：但为什么议会认为人类特别危险？

S：原因在于他们极为短暂的生命。我觉得他们这么爱打仗就是因为他们所能失去的是这么得少。

A：那他们为什么不把永生不朽看得更重要一些呢？把所有部件变成可替换的是很容易的。

S：这是个心理上的问题。他们总是认为人的死亡是非常之自然的。人类大部分的有载历史都描述了领袖们怎样创造出虚构的超人的东西。然后，这些领袖们不是试着解决技术难题，而是使他们的追随者相信幼稚地信仰那些奇迹般的神话能赋予他们永恒的生命，而不忠将被处以极刑。如果没有这种威吓，好几个政府都会垮台，他们的理智出了不少毛病。

A：但必须承认他们最近取得了技术的进步。

S：可这会持续多久呢？他们常常前进之后又后退。即使今天，占星术还比天文学信仰得更广泛呢？

A：不过我们当然认为他们是智慧生物，尽管有缺点，他们已制造了一些简单的计算机——而且还听说他们在争论机器是否会思考。

S：嗤！应是我们来搞清楚他们是否会思考。不过我承认：考虑到他们的大脑细胞每秒只能算几百步，他们所得之多令人惊讶。

A，是呀；他们能在半秒之内认出一位朋友或理解一个词组线看出鞋带是否开了。内部元件这么慢，反应怎么会这么快呢？

S：显然是靠行为的预先准备：好像他们靠查找一本浩繁的指令手册来做下一步操作。假如每一反应必须基于几个内部步骤的话，他们的大脑就得依赖一个巨大的程序库。

A：也许这能解释它们的脑袋为什么这么大，但他们怎么选择用哪个程序呢？

S：靠并行的模式匹配，大脑每秒钟将当前情况与记忆存贮模式进行几次比较。然后用最匹配的模式来获得类似情况下通常有效的反应方案。

A：这必定是人类心理学家在谈论“计谋”或“认知规律”时的意思吧？

S：正是，当然，像我们这样的机器已无需借助于如此粗糙的模式把戏了。我们的S矩阵处理器已超出了检查记忆中每个细节的速度要求。这使我们能集中于过程的每一步，有足够的时间去想我们的思维刚做了什么。但如果人类确如我们所猜测的方式工作，他们就没有“自省”的时间了。

A：这可不是好兆头。假如我们论定他们没有“自我知觉”，议会将认为他们没有资格得到权利。但事情不是这样的——他们总是谈论“知觉”呢！

S：对，可他们用语不当。不管怎么说，有“意识”意味着知道自己头脑中发生着什么。尽管人类宣称他们“自我知觉”，他们几乎不知道自己头脑中做的事情，他们似乎对自己怎样构成了新思想，如何选词造句一无所知。他们却说：“恰好来了个主意”——仿佛那是别人提示给他的。

A：恐怕我必须赞同你了——就算他们有意识，这也太粗浅了不会有太多用处。然而什么因素使他们进化成这样呢？

S：这是由他们开始的方式决定的。为了弥补神经的迟缓，他们的大脑演化成使用并行分配方式。换句话，多数决定是通过累加数千个脑细胞的输出而做出的——并且多数脑细胞都参与了数千个不同类型的决定。

A：所以每一操作都分配给许多细胞，我猜当一些细胞出故障时这对脑运行有帮助。

S：这是好的一方面。糟糕的是，亿万个累加器参与决定使大脑的其它部分不可能描述出这些决定做出的过程。就他们高级理智的分辨力而言，那些决定只是发生了——而没有任何理由。

A：这是他们说的“随心所欲”吗？

S：正是——这意味着不知道自己的理由。并行计算机的另一劣根是难以同时完成多个任务。系统各部分间联系越多，同时能做的不同事情就越少——这是计算机科学的一个基本原理。

A：对不起，我没听懂，你的意思是机器内部使用的并行操作越多，外部看来就越串行化吗？

S：我自己也说不太清楚了。为了搞清，假设某一任务涉及了两个不同的子作业，若想同时完成它们，我们就得在两个不同的地方运行各自的程序和数据以免互相干扰。类似地，若每一作业分成子作业，则它只能靠可用资源的一部分来运行，如此类推，完全地分裂化了，最终，某级子作业将因无处运行而中断。因此纯并行的计算机必于某复杂性限度处中止，而串行机只是减慢了速度。

A：真有趣。大多数地球计算机专家似乎在考虑联合“并行”与“串行”，你以为他们会实现这种预想吗？

S：不会由他们自己。当然，我们可以试着帮助他们。但恐怕小修小补是不行的，我们得从头改造他们。我认为议会不会批准的。——不，我仍不相信人会思维。以他们短暂的记忆为例，一个典型的人能不费力地记住当地的电话号码，但一加上区号，他就绝望地试图在遗忘前把号码写下来。显然他们能记七位数却记不了十位数。

A：为什么如此局限？

S：可能是由于他们的并行过程。如果每一思维运作如此分散地进行。那每一短时存贮单元将不得不牵涉一个章鱼触手似的巨大系统，这样的系统大脑无法承受太多。

A：嗯。但为什么健康人不曾有长期记忆呢？

S：仅仅因为学习得太慢。他们每秒只能存一两个知识块——每年只有2400万，在衰老死亡前只有存贮10亿知识块的时间。

A：你总是谈到死。可他们因何认为生命那么有价值呢？每一个体唯一重要的东西是它的概念、关系的网络系统。他们理应懂得任何拷贝都与原版一样地好。

S：显然你还没有抓住悲剧的根源——这些生物还没办法复制自己。他们甚至不能在死亡事故的情况下抽取出大脑备份。这都是因为他们没有表达思想的好办法。

A：但我认为他们发展了不错的语言。

S，一些书籍确实表达了重要的知识，但绝大多数不过是关于所谓爱情与肉欲，野心与贪婪、友好与妒忌的系列的轶闻趣事。他们所谓的小说（novel）一点也不新奇，不过是这些玩意儿的排列组合。但麻烦在于时间顺序的语言逼迫他们并列的结构挤过串行的狭窄通道。

A：串行通讯？他们似乎把所有的事情都弄颠倒了―思维理应是串行的，而通讯应是并行的。那么他们又如何将这语言的序列转换到初始的形式呢？

S：首先，他们用所谓的“语法”把语句转变成简单的树状结构。然后，用某种称之为“代词”的术语构成树的结点，这自然而然就不会出现烦人的东西了。因此，他们得把所接受的一切都按已知事物的语言翻译过来，这对熟悉的事物十分有效，却使学习任何真正的新事物变得极为困难。