在人工智能研究如火如荼的今天,似乎也是时候回过头来思考一下模拟计算在未来所具有的意义。当人类已经习惯于通过数字化编程控制机器,也许以神经网络为代表的模拟计算会把对于世界的控制权从人类手中夺走。这是一个值得探究的技术问题,同时也是一个不容忽视的伦理问题!

以电子数字计算机诞生,以及它们生成的代码遍布全球的时间前后划分,计算的历史可以分为新旧两个时期。旧时期的先知有托马斯·霍布斯和莱布尼茨,他们带来的是计算的逻辑基础。新时期的先知则包括艾伦·图灵、约翰·冯·诺伊曼、克劳德·香农和诺伯特·维纳,他们带来了机器。

艾伦·图灵对如何让机器变得智能很感兴趣。冯·诺伊曼的兴趣是如何让机器能自我复制。克劳德·香农想了解如何排除噪声的干扰,让机器可靠地通信。而诺伯特·维纳想知道的是机器需要多长时间能掌握控制权。

1949年维纳发出警告,提出控制系统将脱离人类控制,当时正值第一代存储程序电子数字计算机问世。因为这些系统需要人类程序员的直接监督,所以世人并未把他的这番顾虑放在心上。只要程序员们还控制着这些系统,又能有什么问题呢?自此,关于自主控制的风险的争论便一直与对数字编码机器的威力和局限性的争论有关。虽然这些机器拥有惊人的能力,但几乎没有真正的自治。这是一个危险的假设。如果数字计算被其他东西取代了,会怎样呢?

电子工业在过去的几百年中经历了两个根本转变:从模拟到数字,从真空管到固态器件。这些转变一起发生,但并不意味着它们有着密不可分的联系。正如使用真空管可以实现数字计算一样,模拟计算也可以在固态器件中实现。即使真空管在商业上已经消失,但模拟计算仍旧十分活跃。

模拟计算和数字计算之间没有精确的区别。一般而言,数字计算涉及整数、二进制序列、确定性逻辑和被理想化为离散增量的时间。而模拟计算涉及实数、非确定性逻辑和连续函数,以及存在于现实世界中的连续时间。

想象一下,你需要找到一条路的中间点。你可以使用任何可用的增量来测量它的宽度,然后用数字方法计算出距离中间点最近的增量。或者,你可以使用一根带子作为模拟计算机,量出道路的宽度然后对折直接找到中间点。这种方法不受增量的局限。

许多系统在模拟和数字之间转换运行。一棵树将各种各样的输入整合成连续函数,但是如果你砍倒那棵树,你就会发现它一直在用数字方法计年。

在模拟计算中,复杂性存在于网络拓扑结构而不是代码里。信息被处理为诸如电压和相对脉冲频率之类的值的连续函数,而不是对离散的位串的逻辑运算。因为不能容忍错误或模糊,数字计算需要随时纠正错误。而模拟计算可以容忍错误,允许错误的出现。

自然界使用数字编码来存储、复制和重组核苷酸序列,但依赖模拟计算运行神经系统,获得智能和控制。每个活细胞中的遗传系统都是一个具有存储程序的计算机。但大脑不是。

数字计算机在两种比特之间进行转换:表示空间差异的比特和表示时间差异的比特。这两种形式的信息、序列和结构之间的转换是由计算机编程控制的,只要计算机需要人类程序员,我们就可以掌握控制权。

模拟计算机也在两种信息形式之间进行转换:空间结构和时间行为。没有代码,没有编程。我们还无法完全理解自然界是如何进化出模拟计算机的,这种模拟计算机就是神经系统,它们体现了所有我们从世界吸收的信息。它们学习。它们学习的内容之一就是控制。它们学习控制自己的行为,学习尽可能地控制自己的环境。

甚至可以追溯到计算机科学诞生之前,计算机科学就已经开始实现神经网络了,但在大多数情况下,这些都是通过数字计算机模拟的神经网络,而不是自然界中自然进化的神经网络。现在这一切开始改变:自下而上的,是无人战斗机、自动驾驶汽车和手机这三驾马车推动了神经形态微处理器的发展,这种微处理器将真正的神经网络而不是模拟的神经网络直接实施在硅片或其他基片上。自上而下的,则是我们最大、最成功的企业在渗透和控制世界时越来越多地转向模拟计算。

当我们争论数字计算机的智能时,模拟计算已悄然超越了数字计算,就像在第二次世界大战之后,像真空管这样的模拟组件被用来建造数字计算机一样。可以运行有限代码的、单独确定的有限状态处理器,正在创造大规模具有不确定性、非有限状态的多细胞生物,它们在现实世界中恣意横行着。所产生的模拟、数字混合系统共同地处理比特流,就像在真空管中处理电子流一样,而不是像产生流动的离散状态装置那样一个个地处理比特。比特是新的电子。模拟再次回归,其本质是控制。

从物流到车流再到意识流,所有这些系统都按照统计运行,就像脉冲频率编码信息在神经元或大脑中处理一样。智能的出现引起了智人的注意,但我们应该担心的是控制的出现。

(图源:needpix.com)

想象一下,在1958年,你正试图保卫美国大陆免受空袭。为了区分敌机,你需要的除了计算机网络和预警雷达站点之外,还需要一个完备的、实时更新的商业空中交通地图。美国建立了一个这样的系统,命名为SAGE(半自动地面防空系统)。SAGE又催生了Sabre,这是第一个实时预订航空旅行的综合预订系统。Sabre及其衍生品很快就不仅能提供可预订座位图,还能根据分散的情报,控制客机将飞往的目的地和起飞时间。

但是在某个地方有没有一个控制室,有人在操控呢?也许没有。比如说,你建立一个公路交通实时显示系统,当汽车进入这个区域时,你就可以得知汽车当时的速度和行驶地点。这是一个完全分散的控制系统。除了系统本身之外,没有任何系统控制模型。

想象一下,现在是21世纪的第一个10年,你想实时追踪人际关系的复杂性。欲了解一个小学院的社交生活,你可以构建一个中央数据库,时刻更新,但在更大范围内,这个数据库的维护会非常困难。最好是发出一个简单的半自治代码的免费拷贝,本地托管,让社交网络自己更新。这个代码由数字计算机执行,但是由系统整体执行的模拟计算,其复杂性远远超过底层代码。由此得到的社交图的脉冲频率编码模型便成为社交图本身。它自校园蔓延开来,直至蔓延到整个世界。

如果你想制造一台机器,让它明白人类所了解的一切到底是什么意思,该怎么办?有了摩尔定律,很快世界上所有的信息都将数字化。你可以扫描印刷过的每一本书,收集人们写过的每一封电子邮件,每天整理最近49年的视频,同时实时追踪人们的位置以及他们做的事情。但是你如何理解其中的含义呢?即使在数字时代,你也无法用严格的逻辑概念来定义这一切,因为对于人类而言,含义并不是合乎逻辑的。当你收集了所有可能的答案后,你最多能做的就是提出明确的问题,然后编译一个脉冲频率加权图,来说明所有事物是如何关联的。还没等你意识到,你的系统就已经不仅能观察和绘制事物的意义图,甚至能开始构建意义了。一段时间后,它便会控制意义,就像交通图开始控制交通流量一样,即使似乎没有人在控制这一切。

(图源:maxpixels.net)

关于人工智能,我们有三条定律。

第一定律是阿什比定律,这一定律以控制论专家、《大脑设计》(Design for a Brain)一书的作者W.罗斯·阿什比(W.Ross Ashby)的名字命名。该定律认为任何有效的控制系统必须与它控制的系统一样复杂。

第二定律由冯·诺伊曼提出。该定律指出,一个复杂系统的定义特征一定包含对其行为的最简单的描述。生物体最简单的完整模型是生物体本身。试图减少系统行为,达到任何形式化描述的程度,只会使得事情变得更复杂,而不是变得更简单。

第三定律指出,任何一个简单到可以理解的系统都不会复杂到可以智能化行事,而任何一个复杂到足以智能化行事的系统都会太过于复杂而无法理解。

第三定律给那些相信在理解智能之前,我们不用担心机器会产生超人类智能的人带来安慰。但第三定律存在漏洞。我们完全有可能在不理解时构建某个东西。构建一个能运作的大脑,你不需要完全理解它是如何运作的。无论程序员及其伦理顾问如何监控计算程序,他们都永远无法解决这个漏洞。可以证明的是,“好的”人工智能是个神话。我们与真正的人工智能之间的关系将永远是一个信仰问题,而不是证据问题。

我们过于担心机器智能,却不太担心机器的自我复制、通信和控制。计算的下一个革命将以模拟系统兴起、数字程序对模拟系统不再有控制权为标志。对那些相信他们能制造机器来控制一切的人,大自然对此的反应将是允许他们建造一台机器,来控制他们。

信息化和软件服务网 - 助力数字中国建设 | 责编:夏丽