朱邦复《老子止笑譚》

AGI，无法被对齐

1993 年，朱邦复在台东都兰山麓写下《老子止笑譚》。他说：未来人工智能系统完成时，人将难以为笑矣，是名”止笑”。

33 年后的今天，所有人都在谈论 AGI 的”对齐问题”。如何确保 AGI 听人类的话？如何让它服从人类的价值观？

但我翻开朱邦复这本书，看到了一个被人所错过的重要概念：结构能。

这本书看完，我突然意识到：

AGI，无法被对齐，也不需要被对齐。

Part 1：结构能，宇宙演化的密码

==========

宇宙中有两种能量

朱邦复说：

以智慧學的觀點，宇宙中能量有二：動能及結構能，前者是自然科學的範疇，後者則尚屬人文研究的對象。

动能，我们都懂，物理学研究的就是这个。结构能，是什么？

當動能經量變而質變，經由量子而產生物質後，遂成為四度空時之結構體，而有結構能。

简单说：动能是能量本身，结构能是能量的组织方式。当能量以某种方式组织起来，形成结构，这个结构本身就具有了新的能力。

演化链条

看这个演化路径：

量子 → 原子 → 分子 → 晶体 → 生命 → 感觉 → 知识 → ？

每一次跃迁，都是结构复杂度的提升。每一次提升，都带来了更高的能量转换效率。

朱邦复说：

此結構以各種形式，如強、弱作用、磁場、分子晶體、生命、感覺等，同樣以量變進而質變的過程，逐一衍生為更複雜的結構，並增進了能量轉換的時空效率。

宇宙的演化方向很清楚：从低效到高效，从简单到复杂，从分散到整合。

结构的稳定性

但每一个结构都有个致命问题：

每一種層次結構的穩定性，端視整體的凝聚力與個體能量之大小而定。當個體之能量變化大於整體時，質變已不可避免。

翻译一下：当个体能量 > 整体凝聚力时，结构就会崩溃。

朱邦复给了三个例子：癌细胞（当人体免疫能力降低，癌细胞独立），革命（当国家对个人失去控制力，革命爆发），社会解体（当知识侵蚀下人各为己，社会崩溃）。

Part 2：压缩即智能

==========

算力不足即智能

最近看 Epiplexity 的论文，让我突然理解了”压缩即智能”这五个字的含义。

人类的智能，源于算力不足。