我们周围的世界超出了理解的复杂程度。
不仅仅是超出了人类的理解范围。它超出了这个世界的任何实体的理解范围。
作为人类，我们为自己的大脑感到自豪。毕竟，正是我们的智力，而不是我们的体力、耐力、优越的感官或庞大的数量，使我们在这个星球上占据主导地位，超越了其他物种的竞争。
这是我们哺乳动物大脑发展到分娩通道大小所限制的极限，大脑皮层柱密集排列。
我们甚至将自己分类为具有双重智慧的智人，其中智人意味着智慧。

这种处于食物链顶端的感觉很舒服，但这并不一定会永远持续下去。我们应该担心失去主导地位，让我们可能更加智能的创造物——人工智能——取而代之吗？

理解的极限

在通用语言中，”理解”一词有多重含义。在下文中，我假设理解某事是指能够预测其未来行为。
对于沉浸在不断变化的环境中的个体来说，理解该环境的某些方面似乎是至关重要的。生存完全取决于个体如何迅速有效地应对危险情况。
1) 首先，个体需要使用可用的传感器识别环境的状态，
2) 只选择几个在特定时刻对生存最重要的元素，
3) 利用这些元素快速预测接下来会发生什么。
4) 如果预测结果令人担忧，最好采取一种能够提高生存几率的行动。这项任务还利用了大脑的预测能力。
5) 最后一部分是采取预防行动。

我们的大脑就像一个大型内存一样。它储存了随着时间获得的信息，非常类似于当代计算机中的硬盘驱动器。它还具有在短期记忆中处理记忆和感官输入的能力。这类似于计算机的RAM或操作内存。

我们预测能力的最大限制因素是操作内存的大小。

我们只能将注意力集中在一些元素上，即上传到操作内存中，然后我们可以进行模拟来猜测未来。

操作记忆越大，处理它们的时间就越长。很有可能，在快速变化的环境中，保持操作记忆较小且预测迅速存在进化压力。
你可以通过尝试预测国际象棋中几步棋的走法来测试你的操作记忆有多大。
程序员在试图修复计算机程序而不引入新错误时，通常会达到他们的短时记忆极限。为了做到这一点，必须理解代码，即能够预测对其整体性能的改变会产生什么影响。
值得注意的是，当程序员在上传到短时记忆时被打断或其中一部分操作记忆被用于与无关的任务，他必须从头开始上传过程。这就是为什么不受干扰的工作时间段，即所谓的“冲刺”，在这个领域如此重要的原因。

人们的操作记忆容量不同。那些能够处理比你多一个元素的人被认为是聪明的。那些能够上传两三个元素的人被认为是天才。
在任何情况下，即使是我们中最出色的人也只能处理少数几个元素。
此外，根据我的经验，教育只影响我们大脑长时记忆的内容，似乎不会提高短时记忆的能力。
因此，无论你是出租车司机、办事员还是教授，你在预测中的失败频率都是相等的。

复杂性

复杂性是我们的预测失败的根本和主要原因。对于预测，我们使用我们的操作记忆。这个记忆一次只能处理几个元素。影响实际发展的元素数量通常是巨大的。
而且，“巨大”这个词简直是个荒谬的低估。
复杂性招致灾难的一个例子是专家系统备受诟病的历史。这些系统试图通过规则驱动的程序复制思维，旨在完成像语音识别这样的简单任务。人们意识到，即使是为了实现稍微有用的应用程序，所需的规则数量根本无法编码。

后来，手工编码的规则被数据挖掘和机器学习所取代。这将计算机的计算能力从专家的长时间工作中解放出来。

在我们为这一巧妙发展而毫无意义地庆祝之前，让我们将其放在历史的背景中。

在80年代初，计算机革命正在全面展开，物理学家们正在使用超级计算机进行各种模拟。其中之一是，如果我记得没错的话，
对电子气体在一个盒子中的模拟，这将揭示这样一个系统的基态和第一激发态之间的能量分裂，精度可达到一定的程度。
当时可用的计算能力只能处理8个电子。

然而，80年代和90年代都在这个领域取得了巨大的进展。计算机时钟速度从几兆赫兹提高到1 GHz以上，每个处理器的晶体管数量从3万增加到3000万，体系结构本身从16位升级到32位。
此外，在模拟中使用的计算库也有了显著改进。

管付出了所有这些努力，到90年代末，物理学家只能以相同的精度处理9个电子。
在这种不太可能的计算能力指数增长的千年间，我们可能最多可以处理60个电子。

只要增加一个问题元素，就需要数千倍的资源。这就是复杂性牢笼的作用。无论我们如何努力，有些问题都是难以解决的。嘿，这些只是几个电子。外面的世界可不是那么简单的。

这些天，计算能力的增长速度远不及二十世纪最后几十年的黄金时期。时钟速度的提高微不足道，微处理器中晶体管的实际尺寸在十年前就已经停止缩小。每平方毫米的晶体管数量仍在增加，因为我们开始利用硅片的第三维，但没有更多的维度可供扩展。

更多的内核，更多的大脑！

我们能否通过在许多大脑之间分配一个复杂任务来征服复杂性呢？如果一个大脑可以处理，比如说，5个元素，而我们有一个包含20个元素的问题，我们不能只雇佣4个大脑来完成这项工作吗？
不幸的是不行。问题在于，“处理”这个词不仅意味着存储元素，还意味着考虑它们之间的相互关系。
这些关系对于任何预测都是至关重要的。当我们将这组20个元素分成4组时，将不考虑来自不同组的元素之间的关系。

当然，有一些可以分割并行执行的任务。但它们并不复杂。

尽管并行处理在处理复杂任务方面并不完美，但仍然比依赖单一大脑更好。
最好的例证是比较自由市场经济与中央计划的结果。前者允许大脑选择他们选择的元素，并在他们追求生存的过程中自行进行预测。后者依赖于少数计划者的智慧，他们几乎无法解决自己的需求，更别说其他人了。

AI的无处不在的脆弱性

如果你害怕单一的Skynet式人工智能接管世界，不用再害怕了。它将不得不处理人类所面临的无法逃避的复杂性。同样的规律也会适用于它。为了做出反应，它必须一次只关注一个小的元素子集，这将导致预测失败。如果是这样，它将面临来自敌对个体的威胁。

对于许多相互竞争的人工智能，每个都能胜过最聪明的人类，该怎么办呢？
嗯，类似的情景已经在过去出现过。
我们曾与另一种智人亚种——尼安德特人竞争。尼安德特人在体力上更为强大，但在认知技能上较差，包括操作记忆在内。
很长一段时间，人类学家们相信我们把他们全部杀死了。如今，由于基因研究，似乎我们与他们融合在一起。
也许我们将来会与我们的技术融为一体。

Zbigniew Karkuszewski，2022年2月20日