阿什比盒:语境化与推测性复制(The Ashby Box: A Contextualization and Speculative Remake)
这个段落位置已不存在。请使用目录或当前章节查找内容。
Thomas Fischer and Andrei Cretu
Alan Turing 与 W. Ross Ashby 都借助机械化来探测两条主要知识途径的边界:演绎推理与基于经验的归纳。Turing 提出图灵机,以确定可被形式判定者的范围;Ashby 则建造了阿什比盒(Ashby Box),以展示基于经验之归纳的局限。图灵机作为一种假想的思想实验,本不打算被建造出来;阿什比盒作为黑箱(black box)的物理实现,也本不打算被破解,即不打算被“白化”。然而,正如图灵机已被实际实现一样,我们着手构造一台其外部行为与阿什比盒相吻合的装置。本章呈现这一努力的成果。为了把这项工作置于语境之中,我们追溯了一条由硬件机器与假想机器构成的谱系;这条谱系源自两者之间的摩擦(frictions):一边是使生活得以存续的可预测性,一边是使生活饶有趣味的不可预测性。这条谱系包括四端网络、图灵机、Enigma 密码机、同态调节器(homeostat)、黑箱、阿什比盒以及非平凡机器。
序幕(Prologue)
1935 年初夏,在他 23 岁生日前几周,Alan Turing 正在思考 David Hilbert 于 1928 年就数学之界限提出的三个问题之一(Hilbert and Ackermann [1928] 1950, 112–24; Hodges 2014, 117)。其中两个问题此时已由 Kurt Gödel 作出回答,一个关于数学的完备性,另一个关于数学的一致性;剩下的一个问题关乎可判定性,即所谓判定问题(Entscheidungsproblem)。Turing 大致这样表述它:“是否存在一种‘一般的机械过程’,可用以判断任一给定公式是否可证?”(Copeland 2017, 59)。这一表述带有剑桥大学讲师 Max Newman 的印记:Newman 不久前在一门关于数学基础的讲座课程中介绍了 Hilbert 的判定问题,而 Turing 曾修读这门课(Grattan-Guinness 2013, 54–55)。Newman 使用的是“机械的”一词,而 Hilbert 使用的是“形式的”一词(Hodges 2012, 93; Price 2021, 39)。Turing 按字面理解 Newman 的措辞——他素来如此(Hodges 2012, 123, 293)——于是在思考这个问题时梦想着机器。那个初夏的一天,在一次长跑途中停下喘息之际,他构想出了图灵机:一种假想的机制,他借此表明,可计算函数与不可计算函数无法通过形式的——亦即机械的——手段加以区分(Turing 1937, 259)。
将形式与机械混为一谈并不新鲜,至少可追溯到 17 世纪,当时 Gottfried Wilhelm Leibniz 试图把形式逻辑还原为力学(Couturat 1901, 115)。然而与 Turing 大不相同的是,Leibniz 还力图调和形式与精神。具体而言,Leibniz 试图使世间恶与苦难的存在同神的仁慈相协调,并由此得出如下观念:我们的世界是上帝可能创造的一切可能世界中最好的一个(Schneider 2002, 15)。如今,在电子时代的黎明,Turing 思考的是数学的界限,而非神的创造。在此过程中,他协助奠定了数字计算机的基础,从而也顺带加速了社会的形式化与机械化。尽管如此,George Dyson 认为,无论计算机发展到何种程度,可计算函数与不可计算函数都使人类处境保持着一种根本的平衡:
Turing 证明,在任何形式的(或机械的)系统之内……都不存在一种确定的方法,能够事先区分可计算函数与不可计算函数。这是坏消息。好消息是,正如 Leibniz 所暗示的,我们似乎生活在一切可能世界中最好的一个之中:在这里,可计算函数使生活足够可预测,从而可以存续;而不可计算函数则使生活(以及数学真理)足够不可预测,从而始终保有趣味——无论计算机继续进步到何种程度。(Dyson 2011, 50)
不久之后,求生的意志要求击败纳粹德国。注意力不得不从抽象哲学的机器上移开,转向具体的战争机器。德军部署了机电式转子密码机,把明文打乱成看似随机的字符序列以供无线电传输(transmission),再把收到的内容还原为明文。在波兰密码分析人员战前成就的助益下,位于布莱切利园(Bletchley Park)的英国政府密码学校(Government Code and Cypher School)的破译人员设计并机械化了一系列程序,帮助以工业规模将截获的德国密电转化为可读的德文——这对盟军的胜利至关重要。Alan Turing 与 Max Newman 分别为以 Enigma 机器家族加密的通信和以 Lorenz 机器家族加密的通信贡献了这些程序(Christensen 2007; Hodges 2014; Price 2021)。
作为数字计算机发展的催化剂,布莱切利园的密码分析自动化同样助长了社会的机械化。于是,Dyson 如此乐观地描述的那种介于可预测的可计算性与有趣的不可计算性之间的平衡,进一步向机械化一侧倾斜——尽管针对机械化之威胁的卡珊德拉式警告早已写在墙上。甚至在数字计算机登场之前,George Orwell([1937] 2021, 138)就已哀叹“机械化、合理化、现代化”,而 Max Weber 则观察到工业机械化与官僚组织形式扩散之间的平行关系:
官僚组织之所以不断推进,决定性的原因始终在于它相对于其他任何组织形式所具有的纯粹技术上的优越性。充分发展的官僚机器与其他组织相比,恰如机器与非机械的生产方式相比。(Weber 1978, 973–74)
后来,随着数字计算机登场——它既是技术形式化的产物,又是其工具——社会机械化的趋势注定会进入一个正反馈回路(positive feedback loop):
人将不再作为一个自主的人格而积极地运作,而是成为一种被动的、无目的的、由机器调控的动物;按照技术人员如今对人之角色的理解,人的本来功能要么被输入机器,要么为了去人格化的集体组织的利益而受到严格的限制与控制。(Mumford 1967, 3)
一股反对社会机械化的反冲正在形成——尤其是在控制论(cybernetics)内部(Wiener [1948] 1961, 27–28; 1989, 162),后来又在更广泛的 1960 年代反文化中(Turner 2006)。作为这股反冲的一部分,控制论学者 Heinz von Foerster 提出了他自己对可判定性的看法——他关心的并非 Turing 所关心的机械论的可确定性,而是在机械论的可确定性缺席时人类所享有的自主性。他以如下方式区分可判定问题(例如“3,396,714 这个数能否被 2 整除?”)与不可判定问题(例如“关于宇宙起源的问题”)(von Foerster 2003, 291–92):
只有那些原则上不可判定的问题,我们才能去判定。……可判定的问题,已经被提出它们的框架的选择所判定,已经被用来把我们称为“问题”者与我们视为“答案”者连接起来的规则的选择所判定。……当我们就原则上不可判定的问题作出决定时,我们不受任何强制,甚至不受逻辑的强制。没有任何外在的必然性迫使我们以这种或那种方式回答此类问题。我们是自由的!必然性的补充不是偶然,而是选择!当我们就一个原则上不可判定的问题作出决定时,我们可以选择自己希望成为什么样的人。(Von Foerster 2003, 293)
为说明这一原则,von Foerster 引入了两种假想装置,分别名为平凡机器(trivial machine, TM)与非平凡机器(non-trivial machine, NTM)(von Foerster 2003, 309–13; Glanville 2003, 98–101; Fischer 2013a, 1381–82)。两种机器都有输入与输出接口,但内部构型不同。这些内部构型之间的差异,对于试图为机器行为构建心智模型的外部旁观者——用 Glanville(1982)的话说,即试图“白化”“黑箱”的观察者——具有认识论上的后果。平凡机器的特征在于可能输入与输出之间的固定关联。这使得观察者在对机器的输入—输出转换进行一段时间的监测之后,能够建立一张对应表,如图 1 左侧所示,并据此预测机器对给定输入的输出响应,无论机器已运行了多久。
相比之下,非平凡机器包含记忆某种内部机器状态的手段(在图 1 右侧标记为 z),而按照定义,该状态对外部观察始终是隐藏的。每一次输入—输出转换都会改变这一内部状态,而每一次输出都由输入与内部状态共同决定。因此,非平凡机器的输入—输出关系取决于其输入—输出转换的历史,每一次转换实际上都使它变成一台不同的机器。可能输入与可能内部状态之间的组合空间可以产生数量庞大的输入—输出关系,使得从观察者的角度看,这台机器实际上是不可预测的(von Foerster 2003, 74, 312; Krippendorff 2009b, 320–21)。
[图 1] 平凡机器(左)与非平凡机器(右)。Redrawn from von Foerster (2003, 310–11).
这一可由机械论手段实现的特性,使非平凡机器成为人类处境的双重映照。一方面,它的结构以及由此产生的行为品质与我们自身相似。我们人类感知、行动,并包含内部状态。我们的内部状态通过我们的感知与行动而改变,并共同决定我们的行动,这使我们难以预测。在这个意义上,非平凡机器象征着我们不可确定的自我。[1] 另一方面,由于其组合可能性之浩繁超出了人类的分析能力,非平凡机器也象征着渗透于我们经验之中的那些不可确定的探究对象。
我们对非平凡系统的预测注定失败,而这种失败可以成为魔法与惊奇的一个令人向往、令人愉悦的来源(Glanville 2003; von Foerster 2003, 325–38),并可在创造性过程中加以利用(Fischer 2013b)。然而,在人们期待可预测性的地方,不可预测性、创造性与自发的新颖性并不受欢迎。Von Foerster(2003, 311)以一个故事举例:一个孩子被问到“2 乘以 3 等于多少?”时回答“绿色”,随即因这个答案受到训斥。通过并置他的两种机器,von Foerster 挑战了社会层面对可预测行为的普遍期待与遵从。尤其是,他挑战了将年轻人“平凡化”的教育实践:
我们既有的教育努力大多指向使我们的孩子平凡化。我使用“平凡化”一词,其含义与自动机理论中的用法完全一致:在那里,平凡机器的特征是其固定的输入—输出关系,而在非平凡机器(图灵机)中,输出由输入及其内部状态决定。由于我们的教育系统旨在生产可预测的公民,其目标便是截除那些产生不可预测性与新颖性的恼人的内部状态。这一点在我们的考试方法中表现得最为清楚:考试只提出答案已知(或已被界定)的问题,而这些答案须由学生记住。……
设想一种通过教学生提出……答案未知的问题来使学生去平凡化的教育系统,难道不令人着迷吗?(Von Foerster 2003, 196)
乍看之下,Turing 对可计算函数之可判定性的界定,与 von Foerster 将不可判定性视为抵抗平凡化的力量,二者之间似乎除了各自的工作都以一台假想机器来说明之外,并无多少共同之处。然而,细加审视,更多联系便显现出来。两种情形中所描述的机器都具有这样的状态:它们共同决定机器的运作,又被这些运作所决定,从而使两者都能经由循环因果的反馈来影响自身的行为。[2] 此外,图灵机与非平凡机器分别展示了两条知识途径——形式演绎与基于经验的归纳——的界限。而且,两种机器似乎共享一条共同的谱系,这条谱系经由英国控制论学者 W. Ross Ashby 所建造的装置联系在一起。这些装置与非平凡机器在不同程度上类似 Enigma 密码机(Tessmann 2008, 54–55; Fischer 2013a; 2018, 401–07)。这条谱系中的一台关键装置、也是非平凡机器的直接前身,便是 W. Ross Ashby 于 1960 年代设计并建造的阿什比盒。在以下各节中,我们呈现为复制这台装置所作的推测性努力的成果。我们把这一努力置于相关装置的谱系之中加以语境化,突出阿什比盒作为认识界限之展示的意义,以及它作为可靠的可预测性与不可预测的自发性之间摩擦的产物与来源的双重身份(Fischer 2010, 611)。
一个基本的探究对象(An Elementary Object of Inquiry)
1951 年 1 月 20 日,星期六,距 Turing 在长跑中构想出图灵机已有十五年半,英国精神病学家、控制论学者 W. Ross Ashby 在布里斯托尔的伯登神经病学研究所(Burden Neurological Institute)与麻省理工学院教授 Norbert Wiener 举行了一次非正式会面(Ashby 1951, 3075)。时年 56 岁、年长 Ashby 九岁的 Wiener 从巴黎前来;一个月前,他作为富布赖特教学研究员(Fulbright Teaching Fellowship)抵达巴黎(Conway and Siegelman 2005, 211),几天前 Wiener 与 Ashby 都在那里参加了一次会议(Carpenter 2018)。
彼时,Ashby 与 Wiener 都已为他们这门新兴学科作出了奠基性的贡献。Wiener 已出版其著作《控制论》(Cybernetics)第一版(Wiener [1948] 1961),书名很快被采用为这一新领域的名称。Ashby 已完成其同态调节器的工作(Ashby 1948, 2431–32; 1954b);这台装置体现了他对哺乳动物大脑如下能力的理解:“通过内部重组来适应”,并“自行确定其布线的一个关键部分”(Ashby 1949, 77)。原则上,同态调节器由任意数量的电气互连单元组成。据 Ashby 自述(Ashby 1948, 2431),他用英国皇家空军的“炸弹控制开关装置套件”建造了一台由四个这样的单元组成的同态调节器。[3]
同态调节器包含两个嵌套的反馈回路。内回路在四个连续变量之间维持稳定,这四个变量体现为四个单元顶部安装的、以液体为介质、可手动及电磁移动的电位器。施加于四个电位器中任何一个的扰动,都会由其余单元的电位器加以补偿,以维持稳定的总体平均值。当同态调节器为其电位器找到一种总体平衡的排列——每个电位器都趋向其中点——时,电位器便会主动抵抗使其偏离的尝试。外回路则在同态调节器未能达到可维持的总体平衡时,通过自发的自我重构实现超稳定性(ultra-stability)。在这种情况下,四个单元会从其内部可用的电阻组以及它们之间可能的互连方式中随机搜索一种可维持的替代方案。
同态调节器能够根据其输入与内部状态开放式地自我重构,这种能力在当时的人造装置中极为罕见,即便不是前所未有(Pickering 2002, 417)。使四个同态调节器单元得以执行其超稳定性搜索的元件,是由步进电机驱动的旋转开关,称为单选器(uniselector)。单选器早已被广泛用于电话交换的自动化(Strowger 1891),在机电时代也因其能够对电气互连进行受控变动而被用于多种控制与数据处理应用。举几个例子:它们曾被用于被美国密码分析人员命名为 CORAL 和 JADE 的日本多表替换密码机(Freeman et al. 2003);用于总赌金计算器——管理体育博彩的机器——(Swade 2019, 45);以及用于布莱切利园为加速破解德国 Lorenz 密码而建造的 Colossus 计算机(Flowers 2006, 95–97),后者基于 Max Newman 构想的一种自动化方案(Price 2021, 100; Newman 2006)。
1951 年布里斯托尔的会面约有 15 人出席,主要是从布里斯托尔大学和牛津大学精心挑选的。然而,讨论几乎完全在 Wiener、Ashby 以及 Ashby 的同事、同为控制论学者的 Grey Walter 之间进行。Ashby 后来将成为“继 Wiener 之后控制论理论的下一位领袖”(Conway and Siegelman 2005, 278),他为 Wiener 对其工作的认可而欣喜。Wiener(1989, 38)后来称赞 Ashby“关于无目的随机机制通过学习过程寻求自身目的的绝妙想法”是“当今伟大的哲学贡献之一”。
那天在布里斯托尔讨论的诸多问题中,有一个让 Ashby 格外在意。那就是 Wiener 所称的“黑箱问题”(Ashby 1951, 3076)。在《控制论》第二版的导言中,Wiener 这样描述这一问题:
我所理解的黑箱,是这样一种装置,例如具有两个输入端和两个输出端的四端网络,它对输入电位的现在与过去执行某种确定的运算,但对于执行这一运算的结构,我们未必掌握任何信息(information)。另一方面,白箱则是一种类似的网络,在其中我们已按照某种确定的结构方案构建了输入电位与输出电位之间的关系,以确保一种预先确定的输入—输出关系。(Wiener [1948] 1961, xi)
黑箱概念的发展历程迂回曲折,这一术语被多次采用,诠释也各不相同(Petrick 2020)。据 McCulloch 所述,Wiener 在 1945 年 1 月 6 日至 7 日[4] 于普林斯顿高等研究院举行的一次会议上遇到了黑箱问题的一种变体,他与 McCulloch 均出席了这次会议:
Lorente de Nó 和我作为生理学家,被要求考虑盟军从德国人手中缴获的两个假想黑箱中的第二个。没有人知道它们应当做什么,或者它们如何做。第一个箱子已被打开并爆炸了。两个箱子都有输入与输出,并已如此标注。问题的提法令人难忘:“这是敌人的机器。你总得弄清楚它做什么以及它如何做。我们该怎么办?”(McCulloch 1989, 40)
McCulloch 接着讲述了 Wiener、John von Neumann 等人如何就面对这样一台装置时最好如何着手展开热烈交锋。Von Hilgers(2010, 150; 2011, 52, 55–56)指出,“黑箱”这个词本身在那次会议上大概并未被明确使用,但他注意到,“黑箱的轮廓”显然已经在场。
“黑箱”一词很可能起源于德语中欧地区;在那里,四端网络(four-terminal networks)的概念于二战之前被形式化,用以应对电信工程中诊断未知或无法接触之电路的挑战(Breisig 1921; Feldtkeller 1937)。Feldtkeller 将这一概念描述为“一个带有四个端子的封闭箱子”(ein verschlossener Kasten mit 4 Polen),其内容未知——“der Inhalt des Kastens [ist] in Einzelheiten unbekannt”〔箱子的内容在细节上是未知的〕(Feldtkeller 1937, 1)。Feldtkeller 提及“箱子”,强调的是其内部运作的隐蔽,而非暗示某种物理尺度。他写道:
这个“箱子”可能具有荒诞的尺寸——例如,如果我们的“四端网络”要从一台广播天线的输入端一直延伸到一台远方接收天线的输出端的话。(Feldtkeller 1937, 1)[5]
相比之下,Ashby 对黑箱理论的兴趣与工程麻烦的诊断和排除关系不大。他感兴趣的不是技术故障排查,而是把对未知电路的探测视为我们如何获得认识的典型范例(Glanville 2007)。Ashby 解释道:
在日常生活中,我们处处面对这样的系统:其内部机制并不完全向检视开放,因而必须用适合黑箱的方法来处理。(Ashby 1957, 86)
在思考观察者(或实验者)探测黑箱时做了什么之际,他问道:
“实验者面对一个黑箱时应当如何着手?”
“黑箱内容的哪些性质是可被发现的,哪些在根本上是不可被发现的?”
“若要高效地研究这个箱子,应当使用哪些方法?”
(Ashby 1957, 86–87)
简言之,Ashby 感兴趣的是作为认识探究之基本对象的黑箱。
Ashby 的黑箱(Ashby’s Black Box)
为了发展一种关于黑箱探究的理论,Ashby 需要一个可在其中进行探究的模型对象,即一个可供配置与探测的实际黑箱。为满足这一需要,Ashby 建造了一台硬件装置,并将其命名为“黑箱”。这台装置于 1954 年完成,由两个金属箱与一块插线板组成(见图 2 中部)。它通过四个拨动开关接收输入,通过四盏灯产生输出。在两个箱子之一的侧面,伸出一根曲柄,连接着一个由 Ashby 亲手制作的内部旋转开关(Ashby 1954a, 4951)。从开关转轴上“像风车一样”辐射出的四片叶片充当触点,曲柄每转一整圈,便生成一个改变机器状态的四步序列。序列的第一步把机器的输出从输出寄存器转移到其存储器中。第二步清空输出寄存器。第三步依据插线板上设置的接线,以某种由操作者定义的方式结合机器的输入与其存储器的内容,为输出寄存器设定一个新值。最后,第四步清空机器的存储器。存储器与输出寄存器均以闭锁继电器实现。
值得注意的是,这个黑箱的主要特征与 Enigma 密码机的特征相吻合(见图 2 左侧)。它的输入开关与输出灯、它的外置插线板,以及它基于旋转开关的状态转换,在 Enigma 机器中都有对应的特征,[6] 这暗示 Enigma 机器可能对黑箱的设计产生过影响(Fischer 2012, 683; 2013a, 1376)。虽然没有确凿证据证实这一点,但种种情况表明这是有可能的。1946 年末,Ashby 曾与这位前 Enigma 破译者 Turing 通信。在通信中,Ashby 与 Turing 讨论了 Turing 当时正在国家物理实验室(National Physical Laboratory)协助开发的一台新型数字计算机——自动计算引擎(Automatic Computing Engine,ACE)——的可能用途(Copeland 2006, 108)。Ashby 询问 ACE 能否用来“模拟大脑的活动”,而怀有相似兴趣的 Turing(Greif 2018)对此热情地给予了肯定(Turing 1946; Hodges 2014, 452–53)。比 Ashby 年轻近九岁的 Turing 写信告诉 Ashby,ACE 类似于图灵机。反过来,Ashby 后来将图灵机归类为一种“有限状态转换器”(Ashby 1954a, 5042)——这一归类同样适用于他的黑箱。最终,尽管有 Turing 的保证,Ashby 还是决定不使用 ACE,而是以机电方式在后来成为同态调节器的装置中实现他关于大脑活动的理论(Vater 2020, 336)。
从 1949 年直到 Turing 于 1954 年去世,Ashby 与 Turing 作为英国控制论学者圈子“比率俱乐部”(Ratio Club)的成员定期会面(Husbands and Holland 2008; Hodges 2014, 518)。虽然《官方保密法》(Official Secrets Act)使 Turing 无法透露他在战时获得的密码分析见解,但他可以自由谈论 Enigma 机器的工作原理——自 1918 年首次申请专利以来,这些原理便已为公众所知。因此可以设想,Enigma 机器经由 Turing 影响了 Ashby 对黑箱的设计。与这一设想相符的是,在 Ashby 与 Turing 建立联系之后,Enigma 机器的若干方面成为 Ashby 工作中反复出现的主题。其中包括:巨大的组合多样性(variety)(Hodges 2014, 210–24; Ashby [1964] 1991; Fischer 2018, 793–96)、机电装置中借助旋转开关实现的内部状态转换,以及——同样受 Wiener 启发的——从外部视角对黑箱进行白化。
1960 年代,Ashby 在伊利诺伊大学 von Foerster 的生物计算机实验室(Biological Computer Laboratory,BCL)任职期间,把这个黑箱用作教具。Ashby 在那一时期讲授的一门本科课程留下了一份讲义,题为“EE473 控制论基础”(EE473 Fundamentals of Cybernetics)。这份五页的文件先介绍了黑箱的工作原理,随后布置了一项作业:为这台装置规定并编程一组行为。Ashby 的学生须分几步完成这项任务:首先用简明英语描述预期行为,然后以真值表的形式表示,接着表示为四个二端电路,最后在机器的插线板上完成接线设置。遗憾的是,从讲义中看不出这项练习的目的。它或许是为了阐明 Ashby 在 1954 年黑箱完成后不久与之互动时获得的一个洞见。Ashby(1954a, 4953)想弄清这台装置能否被控制。具体而言,他想知道操作者在多大程度上能够通过操纵装置的输入与插线板配置来达到预期的输出状态。结果表明,这一点差异很大。在许多情况下,对装置输出的控制是有限的,甚至是不可能的,操作者不得不在每一种情况下摸索什么是可能的。
[图 2] Enigma 机器(左)、Ashby 的黑箱(中)与阿什比盒(右)。Sources left to right: Private Collection/Photo © Christie’s Images/Bridgeman Images. Courtesy of the Estate of W. Ross Ashby and the Ross Ashby Digital Archive, http://www.rossashby.info. Jamie Hutchinson, University of Illinois, reproduced with permission.
要达到预期状态,就必须预料黑箱会如何响应其输入与插线板配置。这种能力必须通过在一段时间内观察装置的行为来建立,即基于具体实例确立一种一般模式。从本质上说,这需要归纳推理。黑箱表明,如果所讨论的系统无法被完整把握,归纳推理的可靠性便是有限的。在这个意义上,黑箱的决定性特征在于它的某一部分无法被检视,以致对其行为具有重要意义的某些变量被遮蔽了。Ashby 推论道,正是这种部分可观察性,使系统在外部观察者看来显得神奇——正如戏法在那些不了解魔术师全部舞台技巧的观众看来显得神奇一样(Ashby 1951, 3105; 1954a, 4951–53; 1956, 114)。Ashby 这项课堂练习的结果不得而知。然而,他随后实现了一台经过彻底简化的后继装置,这表明在这一背景下产生了对一个更为直截了当的演示对象的需求。
阿什比盒(The Ashby Box)
Ashby 黑箱的后继者比其前身更紧凑、操作更直接,却保留了其关键原理。它装在一个单一的铝盒中,如图 2 右侧所示,通常被称为“阿什比盒”。尽管它属于早期机电时代的产物,却可以说是最为精简、最为精致的控制论演示装置之一。[7] 它的输入接口由两个拨动开关组成,每个开关可处于向上或向下的位置,共允许四种可能的输入模式。它的输出接口由两盏灯组成,每盏灯可亮可灭,共允许四种可能的输出模式。拨动任一开关,都会使装置以一种高度不可预测的方式改变其输出灯的亮灭模式。[8] 它的内部运作虽然在机械上是确定的,却蕴含着浩繁的组合可能性,超出了人类进行系统探索与分析的能力。这一点反映在 von Foerster 对 BCL 学生试图确定该装置传递函数时那种困惑情状的叙述中:
在生物计算机实验室与我共事的 W. Ross Ashby 造了一台小机器,有 4 个输出、4 个输入和 4 个内部状态,他把这台机器交给想跟他一起工作的研究生们。他告诉他们,要替他弄明白这台机器是如何工作的,他早上回来。我是个夜猫子,我总是大约中午才到实验室,然后凌晨一点、两点或三点左右回家。于是我看到这些可怜的家伙坐在那里干活、写表格,我对他们说:“算了吧!你们弄不明白的!”——“不,不,我已经快弄明白了!”第二天早上六点,他们还坐在那里,脸色苍白发青。第二天 Ross Ashby 对他们说:“算了吧!我告诉你们有多少种可能性:10<sup>126</sup>。”于是他们就放松了。(Von Foerster 2003, 312)[9]
它身上所贴的标签可追溯到 BCL 时期,把这台装置标示为“Ashby 的基本非平凡机器”(Ashby’s Elementary NTM)。这一标签很可能是 von Foerster 贴上的,它对这台装置的谱系与用途有着耐人寻味的含义。它表明,阿什比盒启发了 von Foerster 的非平凡机器。它还表明,Ashby 与 von Foerster 曾共同思考非平凡性的化约与理论描述。无论如何,它意味着 von Foerster 的非平凡机器与阿什比盒同根同源:非平凡机器很可能受到了阿什比盒及其前身黑箱的启发,因而也可能受到了 Enigma 机器的启发(Fischer 2013a)。
1970 年 Ashby 退休之后,这台装置一直留在 BCL 的库存中,直到该实验室于 1970 年代中期解散;此后由 Ricardo Uribe 保管,直至他于 2019 年去世。[10] 多年来,阿什比盒的所有者与保管者一直对好奇的目光隐藏其内部机制。关于这台装置的一般知识,来自那些作为亲手操作的实验者或旁观者体验过它的人的报告(von Foerster 2003, 312; 2014, 24–25; Krippendorff 2009a, 191)。它的内部构造本不打算为人所知;除了在状态变化时发出的、暴露其机电本性的可闻的隆隆声之外,它们至今仍是一个谜。
Müggenburg(2016, 79–80)指出,阿什比盒的价值在两个方面以其内部的隐蔽为前提:一方面,它遮蔽了其实现的具体细节,从而突出其抽象品质,使它能够代表任何探究对象。另一方面,它产生了魔法与惊奇,而正是这些使其表演在认识上具有生产性。后一种品质反映了 von Foerster 一生对魔术的迷恋。von Foerster 自童年起便是一位造诣颇深的舞台魔术师,他构思、打磨、表演魔术戏法,并守护其秘密(Dotzler 1996; von Foerster 2003, 325–38; Glanville 2003, 98–101; Müggenburg 2016)。Uribe 在演示这台装置时拒绝让人窥探阿什比盒的内部,同样反映了魔术师拒绝向非魔术师透露戏法的态度。[11] 据 Uribe 说,除了他本人之外,任何人都不得打开阿什比盒;他自己也只是在它需要“一滴油”时才偶尔打开它。[12]
由此,假想的与物理的机械化被用来探测两条主要知识途径——演绎推理与基于经验的归纳——的界限。Turing 提出了一台假想机器,以确定可被形式证明者的界限。而 Ashby 则实现了一种实验性机制,以探索可通过经验与归纳加以确定者的界限。与打字机、电热水壶等其他技术装置不同,阿什比盒的目的不在于带来可靠可预测的、实用的变化,而在于展示认识对象的品质。与薛定谔的猫和图灵机等其他抽象猜想不同,阿什比盒并非单纯的心智建构,而是一个实际的技术机制。它是机械装置中的一个思想实验,也是思想实验中的一台机械装置。
作为思想实验,图灵机本不打算被建造出来。而作为黑箱的物理实现,阿什比盒本不打算被破解。然而,正如图灵机已在硬件(Davey 2021)和软件仿真(Fischer 2018, 312–14)中得到实现,我们也着手对阿什比盒进行推测性的复制。在不了解其内部运作、也不对其行为进行详细分析的情况下,我们推测:如何能够使用在原装置实现时常见、且在其设计者其他作品中出现过的元件,来实现一台与原装置大体相当的等价物。在此过程中,我们得出并建造了这台装置的两个推测性复制品——分别为封闭式与开放式——我们将在下文中加以描述。钟爱阿什比盒、希望避免任何可能的幻灭的读者,或许可以跳过本节的其余部分。
一台具有 2 位输入与 2 位输出的机器,无论平凡与否,在任一时刻都依照 4<sup>4</sup> = 256 个传递函数之一运作——即其四种可能输入模式到四种可能输出模式的 256 种可能映射之一(von Foerster 2003, 312)。这些映射在平凡机器中保持不变,在非平凡机器中则随每一次运作而改变。因此,一台 2 位输入、2 位输出的非平凡机器的当前状态,代表着从 256 个可能传递函数中当下被激活的那一个选择。相应地,了解一台非平凡机器可能内部状态的数目,是确定其行为的一把钥匙。Von Foerster(2003, 312)透露阿什比盒的组合多样性为 10<sup>126</sup>,这在此方面提供了一条线索,并引出一个问题:一台 2 位输入、2 位输出的机器需要多少个内部状态,才能达到 10<sup>126</sup> 的组合多样性?非平凡机器的组合多样性随内部状态的数目呈指数增长。在一台组合多样性为 10<sup>126</sup> 的 2 位输入、2 位输出非平凡机器中,所需内部状态的数目为 log<sub>256</sub>10<sup>126</sup>。假定 10<sup>126</sup> 是一个约数,那么这个数目就是能使 256 的该次幂最接近 10<sup>126</sup> 的那个自然数。据此,[13] 所需内部状态的数目为 52:
256^51 = 6.61099568 × 10^122
256^52 = 1.69230328 × 10^125
256^53 = 4.33229639 × 10^127
有趣的是,52 恰好是一种在机电电话交换机中广泛使用的旋转单选器的开关位置数。这种单选器是一种更为常见的 26 位单选器类型的变体(James 1964, 13),其转子带有两组径向相对的电刷组件,它们的两组各八个动触点在每半圈旋转中交替扫描(奇数与偶数)静触点排,从而构成一个 52 路开关(见图 5 右侧)。[14] 这或许使得以下做法成为可能:将阿什比盒的两个输入开关与两盏输出灯连接到转子的触点上,并通过连接各种触点组合,在 52 个可用触点列的每一列上布设随机的传递函数,从而实现 52 个内部状态(Cretu 2020, 2077)。在这样的配置中,单选器的转子位置构成了装置的内部状态,共同决定其当前的传递函数。其闭锁式的步进运动确保状态被保持,直到下一次状态转换被触发——即使在供电中断期间亦然。这一方案的示意性描述如图 3 所示。
[图 3] 左:阿什比盒可能传递函数的真值表。右:8 排单选器上与 f248 相对应的一列静触点的接线。
图 3 左侧的表格显示了阿什比盒在 4 位输入与 4 位输出下 256 个可能传递函数中的一部分。〔译注:原文如此;按上下文,应指两个开关、两盏灯,即 2 位输入与 2 位输出。〕其四列数值对应表格前两行所列的四种输入条件:0;0、0;1、1;0 和 1;1。表中每个两位数值给出相应的输出。例如,在状态 f248 中,输入 0;0 给出输出 11,输入 0;1 给出输出 11,输入 1;0 给出输出 10,输入 1;1 给出输出 00。从图 3 左侧所示的 256 个可能传递函数中,我们随机选取了 26 个和 52 个,并以随机顺序分别将它们实现在两台单选器的 26 个和 52 个位置上。[15]
阿什比盒的输入开关执行两种功能。除了提供电气上的通/断输入之外,每当它们被拨动时,还会使阿什比盒从当前状态转换到下一个状态。这对应于 Enigma 机器的输入键的工作方式:它们不仅接通和断开点亮机器输出灯的电路,还引起其转子的机械推进。为执行这两种功能,开关必须是双刀开关。我们利用两个双刀开关(Sw1 和 Sw2)的第二部分实现了一个脉冲发生器,每当任一开关朝任一方向被拨动时,它便触发单选器的步进电机(Uni)。我们为此设计的电路如图 4 所示。
[图 4] 每当任一开关被拨动时触发单选器步进电机的脉冲发生器电路。
[图 5] Enigma 转子(左)与已布设传递函数的单选器(右)。
[图 6] 基于一台 2×8 极、52 位单选器的阿什比盒开放式复制品。面包板上装有脉冲发生器。
与由此得到的装置的互动,会在图 3 左侧所示的真值表中描出路径:实验者控制每一步的水平分量,而垂直分量则除了取决于某台装置中可用传递函数的随机选择之外,还由单选器的接线与当前位置决定。每当实验者通过拨动一个或两个输入开关而在真值表的列之间引发一次跳转,装置也会跳转到另一行。在这一过程的每一步,两盏灯的状态都是两个输入开关状态的函数。一位审问这台装置、力图完全预测其行为的实验者,需要完全了解其内部结构与当前内部状态——也就是近 422 比特的信息。[16] 若没有这些知识,这台装置便显得永远如谜一般,只给其观察者提供转瞬即逝的可预测性幻觉(von Foerster 2014, 25)。
事实上,我们体验到与复制品的互动[17] 是不可预测的,间或夹杂着转瞬即逝的可预测性幻觉,总体上与和原版阿什比盒的互动无从区分。复制品完成之后,它们与原版之间一些意料之外的平行之处变得明显起来。在我们的封闭式复制品中,用于固定单选器的外部可见的螺钉[18] 与原版阿什比盒机壳上相应螺钉的位置相吻合。此外,在我们的两个复制品与原版中,灯在内部状态变化的瞬间常常会短暂亮起。在我们的复制品中,这发生在单选器移动中的电刷仍接触其先前位置的触点排之时,这表明原版中可能也在使用类似的元件与电路。
[图 7] 基于一台 8 极、26 位单选器的阿什比盒封闭式复制品,打开状态(左),以及关闭并运行状态(右)。
除了留意到一些外部显见的相似之处,我们并未进一步追究这些平行关系。为了既遵循阿什比盒被设计来展示的那一根本认识论条件,又尊重其设计者及后来保管者的意愿,我们不将我们的复制品(的内部)与原版阿什比盒(的内部)进行比较。我们认为,在复制品中实现的传递函数的选择与序列不太可能与原版相符,因此并不假定我们的复制品能够预测原版的确切行为。实验者可以把我们的任一复制品当作阿什比盒来与之互动,但不会由此洞悉原版的内部运作,也无法可靠地预测原版。对我们而言,这已经足够好了。毕竟,正如 Glanville(2007, 195)所指出的,黑箱的力量就在于我们不需要知道其中有什么。
尾声(Epilogue)
在本章中,我们追溯了一条由假想机器与硬件机器构成的谱系,其中包括四端网络、图灵机、Enigma 密码机、同态调节器、黑箱、阿什比盒以及非平凡机器。杰出心智之间的数次会面催生了这条谱系,包括 Turing 与 Wiener 对 Ashby 的启发,以及 Ashby 反过来对 von Foerster 的启发。这条谱系中的一些机器是具有对外部视野隐藏之内部状态的输入—输出系统。它们的输入与内部状态共同决定其输出,而其内部状态又经由循环因果的反馈回路受到其输出的影响。在这些机器中的机电硬件实例里,状态记忆与状态转换往往基于旋转开关,大多数情况下使用单选器。通过改变其输入—输出传递函数,这条谱系中的装置几乎在每一次输入—输出运作中都会变成不同的装置。它们在可能极其浩大、远超人类分析能力的组合空间中这样做。Ashby 在一台硬件装置——阿什比盒——中展示了这一品质。基于此,von Foerster 提出了非平凡机器——一台构成其对社会语境中平凡化之批判的基石的假想机器。
作为黑箱之不可测透性的范例,阿什比盒有赖于其内部运作的晦暗不明。Von Foerster 对其组合多样性的透露,以及我们基于此所作的它可能包含一台单选器的假设,使我们得以“白化”阿什比盒,并实现两个推测性复制品——一个封闭式,一个开放式。尽管开放式复制品揭示了其大部分技术功能,但从一个不明就里的实验者的角度看,它仍然难以预测。封闭式复制品自然更难预测。两个复制品都不能为原版阿什比盒的技术功能提供可靠的洞见,也不能使人可靠地预测原版的确切行为。然而,正如原版一样,两个复制品都展现出非平凡系统的不可预测性,表明了即便以完全机械论的手段,惊奇与魔法也能从中生发的那些条件。
阿什比盒与我们的复制品是原则上可以被打开和分析的技术对象。然而,这并不能掩盖这些装置所代表的探究对象最终的不可测透性。环绕我们的黑箱并不能被完全检视、穷尽分析和完全可靠地预测。即便是平凡的机制也不会无限期地按预期运作,它们至少可能需要时不时地来“一滴油”才能保持平凡。因此,对黑箱的任何“白化”都不过是一种暂时的猜想,其准确性无法获得最终的确证,而它是否可以被依赖的问题,归根结底是不可判定的。
我们用以将阿什比盒语境化的这条装置谱系,连接了技术的、认识论的与伦理的关切。在这条谱系的中心,Turing 与 Ashby 分别借助机械化来划定形式演绎与基于经验之归纳的界限。在更宏观的尺度上,这条谱系从对四端网络的分析出发,最终抵达对不可判定问题的体认。它由此从为技术上的排障者(troubleshooters)提供便利,推进到为创造性的捣乱者(troublemakers)赋予正当性。Ashby 与 von Foerster 以形式推理与机械演示来挑战认识论与社会语境中的机械化与平凡化,可谓以火攻火。这场斗争的烈焰,一次又一次地被使生活得以存续的可预测性与使生活饶有趣味的不可预测性之间的摩擦重新点燃。
参考文献(References)
Ashby, W. Ross. 1948. “Journal 11.” W. Ross Ashby Digital Archive. http://rossashby.info/journal/volume/11.html.
———. 1949. “The Electronic Brain.” Radio-Electronics, March 1949.
———. 1951. “Journal 13.” W. Ross Ashby Digital Archive. http://rossashby.info/journal/volume/13.html.
———. 1954a. “Journal 18.” W. Ross Ashby Digital Archive. http://rossashby.info/journal/volume/18.html.
———. 1954b. Design for a Brain, New York: Wiley.
———. 1956. An Introduction to Cybernetics. London: Chapman and Hall.
———. 1957. “Journal 20.” W. Ross Ashby Digital Archive. http://rossashby.info/journal/volume/20.html.
———. (1964) 1991. “Introductory Remarks at Panel Discussion.” In Facets of Systems Science, edited by George J. Klir, 507–10. New York: Plenum Press.
Breisig, Franz. 1921. “Über das Nebensprechen in Fernsprechkreisen.” Elektrotechnische Zeitschrift 42 (34): 933–39.
Carpenter, Brian. 2018. “A Meeting that Missed its Mark: The Paris Conference of 1951.” Rutherford Journal 5 (2018). http://rutherfordjournal.org/article050103.html.
Christensen, Chris. 2007. “Polish Mathematicians Finding Patterns in Enigma Messages.” Mathematics Magazine 80 (4): 247–73.
Conway, Flo, and Jim Siegelman. 2005. Dark Hero of the Information Age: In Search of Norbert Wiener, the Father of Cybernetics. New York: Basic Books.
Copeland, Jack. 2006. “Colossus and the Rise of the Modern Computer.” In Colossus: The Secrets of Bletchley Park’s Codebreaking Computers, edited by Jack Copeland, 101–15. New York: Oxford University Press.
———. 2017. “Hilbert and His Famous Problem.” In The Turing Guide, edited by Jack Copeland, Jonathan Bowen, Mark Sprevak, and Robin Wilson, 57–65. Oxford: Oxford University Press.
Couturat, Louis. 1901. La logique de Leibniz: D’après des documents inédits. Paris: F. Alcan.
Cretu, Andrei. 2020. “Learning the Ashby Box: An Experiment in Second Order Cybernetic Modeling.” Kybernetes 49 (8): 2073–90.
Davey, Mike. 2021. “A Turing Machine.” Accessed January 12, 2023. https://aturingmachine.com.
Dyson, George. 2011. Turing’s Cathedral: The Origins of the Digital Universe. New York: Pantheon Books.
Dotzler, Bernhard J. 1996. “Demons-magic-cybernetics: On the Introduction to Natural Magic as Told by Heinz von Foerster.” Systems Research 13 (3): 245–50.
Feldtkeller, Richard. 1937. Einführung in die Vierpoltheorie der elektrischen Nachrichtentechnik. Leipzig: S. Hirzel.
Fischer, Thomas. 2010. “The Interdependence of Linear and Circular Causality in CAAD Research: A Unified Model.” In Proceedings of the 15th CAADRIA Conference, edited by Bharat Dave, Andrew I-Kang Li, Ning Gu and Hyoung-June Park, A. I. Li, Ning Gu, and H.-J. Park, 609–18. Hong Kong: CAADRIA.
———. 2012. “Design Enigma: A Typographical Metaphor for Enigmatic Processes, Including Designing.” In Proceedings of the 17th CAADRIA Conference, edited by Thomas Fischer, Kaustuv De Biswas, Jeremy J. Ham, Ryusuke Naka, and Weixin Huang, 679–88. Hong Kong: CAADRIA.
———. 2013a. “Enigmatic Mechanisms in Defense of the Capability to Have New Ideas.” Kybernetes 42 (9/10): 1374–86.
———. 2013b. “Circular Causality and Indeterminism in Machines for Design.” Frontiers of Architectural Research 3 (4): 368–75.
———. 2018. “Kybernetik für Medienwissenschaftler.” In Medientechnisches Wissen Band 2: Informatik, Programmieren, Kybernetik, edited by Stefan Höltgen, Thorsten Schöler, Johannes Maibaum, and Thomas Fischer. 273–433. Oldenburg: DeGruyter.
Flowers, Thomas H. 2006. “Colossus.” In Colossus: The Secrets of Bletchley Park’s Codebreaking Computers, edited by Jack Copeland, 91–100. New York: Oxford University Press.
Freeman, Wes, Geoff Sullivan, and Frode Weierud. 2003. “Purple Revealed: Simulation and Computer-Aided Cryptanalysis of Angooki Taipu B.” Cryptologia 27 (1): 1–43.
Glanville, Ranulph. 1982. “Inside Every White Box There Are Two Black Boxes Trying to Get Out.” Behavioral Science 27 (1): 1–11.
———. 2003. “Machines of Wonder and Elephants that Float Through Air: A Valedictory Understanding of Understanding Understanding.” Cybernetics & Human Knowing 10 (3/4): 91–101.
———. 2007. “A (Cybernetic) Musing: Ashby and The Black Box.” Cybernetics & Human Knowing 14 (2/3): 189–96.
Grattan-Guinness, Ivan. 2013. “The Mentor of Alan Turing: Max Newman (1897–1984) as a Logician.” The Mathematical Intelligencer 35 (3): 54–63.
Greif, Hajo. 2018. “The Action of The Brain: Machine Models and Adaptive Functions in Turing and Ashby.” In Philosophy and Theory of Artificial Intelligence 2017, edited by Vincent C. Müller, 24–35. Cham: Springer.
Heims, Steve Joshua. 1993. Constructing a Social Science for Postwar America: The Cybernetics Group, 1946–1953. Cambridge: MIT Press.
Hilbert, David, and Wilhelm Ackermann. (1928) 1950. Principles of Mathematical Logic. Providence: Chelsea Publishing.
Hodges, Andrew. 2014. Alan Turing: The Enigma. Princeton: Princeton University Press.
Husbands, Phil, and Owen Holland. 2008. “The Ratio Club: A Hub of British Cybernetics.” In The Mechanical Mind in History, edited by Phil Husbands, Owen Holland, and Michael Wheeler, 91–148. Cambridge: MIT Press.
James, Virgil E., ed. 1964. How to Use Rotary Stepping Switches. Northlake: Automatic Electric.
Kauffman, Louis H. 1996. “Virtual Logic.” Systems Research 13 (3): 293–310.
Krippendorff, Klaus. 2009a. “Ross Ashby’s Information Theory: A Bit of History, Some Solutions to Problems, and What We Face Today.” International Journal of General Systems 38 (2): 189–212.
———. 2009b. “Four (In)Determinabilities, Not One.” In Indeterminacy: The Mapped, the Navigable, and the Uncharted, edited by Jose V. Ciprut, 315–44. Cambridge: MIT Press.
McCulloch, Warren S. 1989. “Recollections of the Many Sources of Cybernetics.” In Collected Works of Warren S. McCulloch, Volume 1, edited by Rook McCulloch, 21–49. Salinas: Intersystems Publications.
Müggenburg, Jan. 2016. “Trickkisten: Heinz von Foerster und der Zauber der Kybernetik.” In Trick 17: Mediengeschichten zwischen Zauberkunst und Wissenschaft, edited by Sebastian Vehlken, Katja Müller-Helle, Jan Müggenburg, and Florian Sprenger, 59–84. Lüneburg: meson press.
Müggenburg, Jan, and Claus Pias. 2013. “Blöde Sklaven oder lebhafte Artefakte? Eine Debatte der 1960er.” In Automatismen: Selbst-Technologien, edited by Hannelore Bublitz, Irina Kaldrack, Theo Röhle, and Mirna Zeman, 45–69. Munich: Fink.
Mumford, Lewis. 1967. The Myth of the Machine: Technics and Human Development. New York: Harcourt.
Newman, Max. 2006. “Δχ-Method.” In Colossus: The Secrets of Bletchley Park’s Codebreaking Computers, edited by Jack Copeland, 386–90. New York: Oxford University Press.
Orwell, George. (1937) 2021. The Road to Wigan Pier. Oxford: Oxford University Press.
Petrick, Elizabeth R. 2020. “Building The Black Box: Cyberneticians and Complex Systems.” Science, Technology, & Human Values 45 (4): 575–95.
Pickering, Andrew. 2002. “Cybernetics and The Mangle: Ashby, Beer and Pask.” Social Studies of Science 32 (3): 413–37.
Price, David A. 2021. Geniuses at War: Bletchley Park, Colossus, and The Dawn of The Digital Age. New York: Penguin Random House.
Schneider, Ulrich Johannes. 2002. Monadologie und andere metaphysische Schriften: Discours de métaphysique; Monadologie; Principes de la nature et de la grace fondès en raison. Hamburg: Felix Meiner.
Shannon, Claude E. 1993. “A Mind-Reading (?) Machine.” In Claude E. Shannon: Collected Papers, edited by Neil J. A. Sloane and Aaron D. Wyner, 688–90. New York: Wiley.
Strowger, Almon B. 1891. Automatic Telephone-Exchange. US Patent 447,918, filed March 12, 1889, and issued March 10, 1891.
Swade, Doron. 2019. “Forgotten Machines: The Need for a New Master Narrative.” In Exploring the Early Digital, edited by Thomas Haigh, 41–68. Cham: Springer.
Tessmann, Oliver. 2008. “Collaborative Design Procedures for Architects and Engineers.” PhD diss., University of Kassel.
Turing, Alan M. 1937. “On Computable Numbers, with an Application to the Entscheidungsproblem.” Proceedings of the London Mathematical Society 42 (2): 230–65.
———. 1946. “Letter from Alan Turing to W. Ross Ashby.” November 19, 1946. British Library Treasures Collection, MS 89153/26, British Library. https://www.bl.uk/collection-items/letter-from-alan-turing-to-w-ross-ashby.
———. 2001. “Visit to National Cash Register Corporation of Dayton, Ohio.” Cryptologia 25 (1): 1–10.
Turner, Fred. 2006. From Counterculture to Cyberculture: Stewart Brand, the Whole Earth Network, and the Rise of Digital Utopianism. Chicago: University of Chicago Press.
Uribe, Ricardo B. 1991. Tractatus Paradoxico-Philosophicus: A Philosophical Approach to Education, Red-Edition. Urbana: self-published.
Vater, Christian. 2020. “Turings Maschine und Blacks Box: Mechanische Intelligenz nach dem Feedback.” In Black Boxes: Versiegelungskontexte und Öffnungsversuche, edited by Eckhard Geitz, Christian Vater, and Silke Zimmer-Merkle, 323–50. Berlin: De Gruyter.
von Foerster, Heinz. 2003. Understanding Understanding: Essays on Cybernetics and Cognition. New York: Springer.
———. 2014. The Beginning of Heaven and Earth Has No Name: Seven Days with Second-Order Cybernetics. New York: Fordham University Press.
von Hilgers, Philipp. 2010. “Ursprünge der Black Box.” In Rekursionen: Von Faltungen des Wissens, edited by Ana Ofak and Philipp von Hilgers, 135–53. Munich: Fink.
———. 2011. “The History of The Black Box: The Clash of a Thing and Its Concept.” Cultural Politics 7 (1): 41–58.
Weber, Max. 1978. Economy and Society: An Outline of Interpretive Sociology. Berkeley: University of California Press.
Wiener, Norbert. (1948) 1961. Cybernetics: Or Control and Communication in the Animal and the Machine, 2nd Edition. Cambridge: MIT Press.
———. 1989. The Human Use of Human Beings: Cybernetics and Society. London: Free Association Press.
