第六章：秩序化算法民主（Ordering Algorithmic Democracy）

“在所有的点上都有秩序。”——Sacks 1984, 22

我们如何能够从民主秩序的角度来思考一般意义上的算法，特别是机器学习？这样做究竟意味着什么？这个看似纯粹技术性的话题，与社会科学中最古老的问题之一之间有何关联？我们又是否有资格作出这样的判断？算法、人工智能（AI）与数字技术的本性之中，有某种东西引发了不安，让人感到社会及其议题与新技术的发展并非彼此分离。当然，这一点并不只适用于数字技术。在一篇如今已成经典的文章中，Winner（1980）论证说，人工物（artifact）就其对人类（互）动的后果而言是政治性的。社会/技术关系研究中另一句广为人知的箴言说：“技术既非善亦非恶；它也不是中立的”（Kranzberg 1986, 545）。技术是我们的社会结构以及我们在社会肌理中所作道德干预的基本构件，算法和机器学习技术亦然。因此，关于“算法的社会权力”（Beer 2017）的丰富讨论早已开始，并且随着这项技术的许诺与应用日益增多而愈发激烈，这不应令我们感到意外。这不仅体现在日益增多的出版物上，也体现在专门关注人工智能与数字技术之社会影响的新兴机构上，例如 AI Now Institute 或 Data & Society Institute。围绕算法、人工智能与数字技术的讨论涉及不同的主题和理论路径，它们凸显出若干不同的问题，有时也凸显出干预的可能性（例如 Benjamin 2019; D’Ignazio and Klein 2020）。当然，关于算法的辩论范围广泛且不断流变，几乎不可能列举所有贡献。然而，人们可以看到讨论中浮现出一些模式：采用了哪些视角，又运用了哪些占主导地位的理论视角，以便对作为社会技术现象的算法这一现象有所阐明。在我的研究中，我辨识出了关于这一主题的四种不同视角。第一种是问题导向的路径，它并不首要关注理论或概念问题。这里的问题围绕着算法系统的透明性问题（Pasquale 2015）、通过算法系统再生产出来的偏见与不平等（Eubanks 2018; Noble 2018），以及算法看似具有的客观性这一观念（Beer 2017; G. Rieder and Simon 2016）。在那些更侧重于发展理论和概念路径的贡献中，有三种视角在当代讨论中似乎占主导地位：福柯式路径、马克思主义视角和控制论理论。其他视角，如 ANT（即我在本书中所倡导的视角）、现象学视角或实用主义路径，也确实存在，但它们似乎处于讨论的边缘，而且大多没有与社会秩序问题或算法系统的、以及与算法系统相关的权力关系问题联系起来，尤其是在民主制度之中。¶

在迄今为止文献所讨论的对算法的种种阐述中，人工物的政治性质要么被自然化了（算法本来就是那样），要么被社会的某种总体性规范结构——例如资本主义理性——解释掉了。无论哪种方式，算法权力都被当作一种社会事实（social fact）——借用 Durkheim（[1895] 1982）的说法——即当代社会构型中一种客观给定的力量。然而，这引起了一些不安，并提出了一个问题：我们所谈论的算法究竟是什么（Seaver 2017; Ziewitz 2016）。正如 Mager（2014, 30）所言：“然而，所有这些贡献都无法解释，搜索引擎究竟为何首先成为了强大的行动者，以及它们——还有算法意识形态——是如何在当代社会中得到稳定化的。”那么，什么样的视角能够探究算法权力这一观念，而不依赖于客体与结构、本质与建构这些往往非常富有成效、却多少仍带有悖论性质的观念呢？在前面各章中，我根据经验观察重构了算法是如何由各种领域特定的实演（enactment）所形成的——这些实演制作了算法，但与此同时，也必须把算法的技术属性整合到这些制作算法的实践之中。首先，算法作为一种学科实演而存在。它回指一整个学科和实践共同体，后者使得随后被实施的算法技术成为可能，并对其加以传播和解释。就此而言，它以教科书、讲义幻灯片、会议专题讨论的形式，也以标准化的开发环境、编程库（其中包含许多前述技术）等形式，提供了智识的和物质的基础设施。算法及其技术的扩散，是理解它们如何进入社会生活几乎所有领域的重要因素，也是理解这一过程和结构化的扩散如何已经限制了随后将这些行动者整合进组织或制度环境之可能性的重要因素。其次，算法被生产为一种组织实演，公共广播机构被组织的和进行组织的实践共同塑造了最终的实现。这一点尤其体现在运行算法所需的数据在组织内部被生产的方式上。基于内容的推荐这一算法技术，要求为视频内容提供标准化的、同质化的、快速生产的元数据，而组织实践——基于广播机构的运作逻辑——遵循的却是另一种逻辑：多样化的描述以及漫长的事后元数据生产过程。数据生产与算法对数据的使用之间这种缺乏对齐的状况，在应用协同过滤时也变得显而易见。虽然不需要来自组织内部的元数据，但它表明，有必要理解或控制用户观看广播机构视频内容时的情境。在开发团队内部，对于如何解释用户的信号存在相当程度的不确定性。一个评分何时是好的，何时是坏的？用户是有意看完了整个视频，还是睡着了？因此，算法需要一种方式，来对它所计算的数据信号进行反身性的意义建构——这要么包括控制数据生产，要么需要有足够的洞察以“正确地”解释它们。我把实现数据信号这种可解释性的过程称为事前算法反身性（ex-ante Algorithmic Reflexivity）。算法的最后一种实演把它建构为一个需要应对的政治挑战。德国的公共广播在民主体制方面具有一种非常特定的功能。遵循启蒙运动的洞见，即公民能够并且被要求成为政治话语中有能力的成员，公共广播机构的目标就是使他们能够做到这一点。^[1] 一般而言，这被解释为公共广播有义务向公民提供广泛的信息食谱。而推荐系统的引入危及了这一职责，因为推荐系统就其设计而言，就是在选择和剪裁可获得的信息。这正是算法本身成为一个需要干预的问题的原因。随之而来的是种种不同的尝试，试图改变推荐算法的基本功能，使其符合信息提供之多样性的民主理想，包括引入噪声，或者以不同的方式使用计算出来的数据模型。这一切导致了算法以三种不同方式的同步实演：每一种方式在项目期间始终在场，同时又需要彼此同时地加以协调。¶

在本章中，我将把这些经验观察汇集起来，在社会秩序这一概念之下，并通过 ANT 与常人方法学的概念透镜加以讨论。为此，我首先提出，将算法要么视为自身强大的行动者、要么视为结构性附带现象的这种分歧，类似于社会理论中、尤其是社会学学科中一场持续进行的讨论。这将成为讨论 ANT 所提出的社会秩序概念的出发点——该概念部分基于常人方法学的洞见——并表明它如何为这场讨论提供了一种可能的视角，同时又使社会秩序的图景复杂化。我进一步论证，这种复杂的社会秩序观念以及社会技术行动的结构，能够让我们更好地理解社会秩序、民主制度与机器学习或算法之间的关系。因此，重构算法权力这一艰深的观念，取决于我们如何尝试理解不同的情境化社会秩序网络如何彼此协调，以及算法的不同实演如何通过软件开发者的实践被捆绑在一起。¶

结构与能动性：两种社会学（Structure and Agency: The two Sociologies）

结构与行动的问题对于社会研究来说绝不是一个新问题。因此，关于算法权力的话语在某种程度上再生产了社会学和其他社会科学长期以来一直在处理的问题：如何基于某种更大的规范性结构或历史给定的结构来解释可观察的社会行为（例如 O’Donnell 2010; Sztompka 2014）？尤其是在社会学中，结构与行动的区分自其创立以来就一直伴随着理论讨论。正如 Archer（1982）所表述的：“将人类能动性与社会结构联系起来这一根本问题，贯穿了社会学理论的历史”（Archer 1982, 455）。社会学推理要么聚焦于自我调节的结构，要么聚焦于局部的、脱离锚定的（社会）行动。这一发展导致了“两种社会学”的提法（Dawe 1970, 207）。这一区分——以及它所构成的悖论——映照出我们的日常经验：我们能够行动，却仍然遭遇限制、调节和影响我们可能行动的约束。¶

虽然我们从未停止将自己体验为行动着的、选择着的、有目的的、有抱负的人，但我们也从未停止意识到工厂大门在我们身后关闭，意识到那些并不属于我们自己的办公日，意识到被无人掌管的组织所压迫的感觉，意识到我们在大部分时间里被迫栖居其中的那个“不够的世界”（Dawe 1978, 365）。

因此，在一些学者看来，这一区分不仅内在于社会经验，而且必定也是社会理论化的一个本质特征（例如 Archer 1982）。然而，对于结构/行动、系统/个体或话语/主体的这种区分，曾经存在（而且，人们可以补充说，现在仍然存在）日益增长的不满。正如 Sztompka（1994, 273-274）所论证的：“社会整体和人类个体都只具有虚拟的存在，它们的分离和相互对立是虚假的、扭曲的想象的产物：常识的幻觉，以及理论和元理论的谬误。”因此，将算法权力理论化的问题，映照出社会学（以及其他社会科学）自其成为一门独立科学之时起就一直在进行的一场讨论（例如 Vargas et al. 2008）。¶

不同的社会学路径恰恰处理了这个问题，以重新表述行动者/结构问题，并寻找一种解决方案，这种方案的观察既不从形而上学的视角出发，也不从一个永远自由、全能的行动者这一假设出发。相反，能动性/结构问题是通过一连串实践得到解决的：这些实践看起来仿佛是一种外部力量，但归根结底是互动以及由此产生的和被假定的相互依赖的——往往是非意图的——结果（Elias 1991; Giddens 1984）。这一视角随之也对我们理解（民主）制度和组织具有一些重大意涵。我们再也不能把它们视为理所当然，而必须理解制度如何从实践中涌现出来。其结果是，常被引用的微观、中观和宏观结构之间的区分开始消解。Callon 和 Latour（1981）提供了一种无需在宏观与微观层面之间作先验区分的视角。他们并不假定宏观行动者与微观行动者之间、结构与能动性之间存在差异，而是论证恰恰是这种差异需要解释。他们通过完全忽略微观/宏观之分而解决了它。¶

我们在导论结尾时提出的悖论现在已经得到了解决。我们最终得到的是大小各异的行动者，尽管它们都是同构的，因为有些行动者能够将更多的元素持久地放入黑箱，从而改变其相对大小。[……][通过]不把我们的注意力引向社会，而是引向行动者借以创造持久不对称性的过程（Callon and Latour 1981, 285–286）

微观与宏观、结构与能动性不是被当作给定的实体，而是同一枚硬币的两面，只有通过流通的指涉（circulating references）才变得相关和可见（Latour, 1999b）。然而，ANT 不仅提供了一种消解结构/能动性问题的视角，而且将非人类行动者——例如算法——视为结构化实践的生产、实演和稳定化中的关键要素。根据 ANT，对于制度如何变得强大、算法如何获得能动性这一问题的回答是相同的：通过它们与其他行动者之间在实践中建立起来的联结。采取这样一种立场，就会把问题倒转过来：问题不在于算法如何施加权力，而在于算法这一形象——作为一种实践成就——如何能够创造出一个有序的、持久的环境，这个环境使它自己显得仿佛就是这个强大的实体；以及秩序化过程创造了哪些不对称性。因此，在下文中，我将讨论实演算法（Seaver 2017）如何与做秩序（doing order）相关联——以及这如何（但愿）能够提供一种关于算法权力的视角，对所讨论的算法如何“首先成为了强大的行动者”（Mager 2014, 30）这一问题有所阐明。当算法正在成为民主制度的内在要素时，这个问题就变得更加紧迫。¶

在我们继续之前，有一个房间里的大象必须加以处理。到目前为止，我把权力和社会秩序的概念混在一起使用，仿佛这两个概念可以互换。因此，关于权力与社会秩序之间的关系，或许有必要说几句。权力和社会秩序无疑是社会理论中使用最多的两个概念和词语。后者甚至被认为是社会学的一个界定性问题。社会秩序何以可能？我们如何解释这个我们称之为社会的东西没有分崩离析？这样的问题推动了社会学理论化长达数十年，并导致了功能—结构视角或系统视角的形成，这些视角将社会秩序视为一个独立的实体。^[2] 与此同时，权力被用作一种工具，以揭示行动手段的不平等分配，并表述抵抗（例如 Foucault [1975] 1995）。这两种视角都可以被理解为对启蒙运动发展的一种反应。作为秩序化原则的形而上学力量或神圣力量被抛弃了，取而代之的是这样一种洞见：社会世界及其秩序是由人创造的（Dawe 1970）。这两种路径都受到了批评，因为它们以结果取代了原因。正如 Law（1992, 380）所论证的：“如果我们这样做，我们就封闭了关于权力和组织之起源的那些最有趣的问题”（原文强调）。ANT 在社会秩序与权力之间提供了一个有趣的联结。两者都是由关系生成的，或者用更经典的社会学词汇来说，是由一组异质的个体实体之间的行动生成的。秩序是使不同行动者对齐的互动模式的结果，并因此赋予它们行动的能力。于是，权力是这些互动的效果，因为它是一个行动者在互动模式之中、在行动者网络之中所处位置的产物。实践生产出（局部的）社会秩序，同时建构出（强有力地）行动的能力，即权力。这也类似于源自 Weber 的权力定义：¶

权力（Macht）是指一个行动者在一种社会关系中，即使遇到抵抗也能贯彻其自身意志的概率，无论这一概率所依据的基础是什么（Weber [1922] 1978, 53）。

只不过，这一概率所依据的基础，在于有序性（orderliness）的局部生产，以及一个行动者在那种互动模式中所处的、使她能够贯彻自身意志的位置。社会秩序与权力是同一枚硬币的两面，由能动性的生产联系在一起——如果我们聚焦于使它们得以存在的实践的话。因此，在转移焦点之后，我们考察的不是某种全能的原则或行动者，而是做秩序与做权力（doing power）的观念。这（而这正是 STS 等领域的重大贡献之一）也包括那些传统上被排除在社会学推理之外的要素，即物与技术的领域（例如 Graham and Marvin 2001; Latour 1990; Marres 2012）。技术人工物使能动性成为可能或对其加以限制，因而也同样有助于秩序与权力的生产。所以，当我们谈论秩序与权力时，我们所指的不是社会的，而是社会技术的。¶

通过“做秩序”这一表述，我已经暗示了 ANT 最重要的影响之一：常人方法学及其关于局部生产的、在实践中达成的秩序的构想。Latour（1999b）写道，ANT“只是忠实于常人方法学洞见的另一种方式：行动者知道他们在做什么，我们不仅必须向他们学习他们做什么，而且要学习他们如何以及为何这样做”（Latour 1999b, 19）。这反映了 Garfinkel（1984, 2002）对社会学中涂尔干遗产所提出的根本批判。在 Garfinkel 看来，将对社会的分析建立在普遍化的规范系统或结构系统之上，会把个体行动者降格为“判断的傻瓜”（judgmental dopes）（Garfinkel 1984, 68）。与此相反，解释性范式追问的是，社会世界是如何通过互动和解释被建构起来的——它假定一个总是已经有序的世界中的成员是有能力的行动者，知道如何生产秩序。Garfinkel 意义上的社会秩序总是在局部被生产出来、通过实践被实演的——因而是一种实践成就。对 Garfinkel 和其他常人方法学家来说，不存在无序的情境（Sacks 1984）。秩序可以在“实践行动的有序性”中找到（Livingston 1987, 13）。换言之，世界总是已经有序的，尽管不是依照一位外部观察者（例如一位社会学同行）所应用的某个宏大范式，而是依照一种通过局部实践并在局部实践中被实演的内部的、情境化的逻辑。^[3] 因此，常人方法学并不聚焦于一个客观给定的、被认定为结构或系统的世界如何决定特定情境中的互动这一问题，而是聚焦于这样一种结构如何在情境化的行动中被达成。正如 Suchman 所论证的：¶

因此，社会科学中悬而未决的问题，不是社会事实是否具有客观根据，而是它们的客观根据是如何被达成的。客观性是系统性实践的产物，或者说是成员方法的产物，这些方法使我们独特的经验和相对的境况变得相互可理解。相互可理解性的来源不是某种被接受的概念图式，也不是一套强制性的规则或规范，而是那些产生出类型化的共同实践——图式和规则正是由这些类型化构成的（Suchman 2006, 76）。

因此，从实践导向的视角来思考，社会秩序是一种在局部被实演的做秩序，它也创造出社会学通常视为结构化要素的那些分类、主体化和关系（另见 Law 1994）。而在这种“做”之中，实践显示出它们对于那些并不实际在场、却在情境中被实演的观念、行动者、结构等的取向。因此，做秩序也指向其他情境，在那些情境中秩序同样是在实践中、在局部被达成的——但这以可能总是不同的、崭新的形式发生。在预期其他情境及其秩序的过程中，通过 Schütz 所称的类型化（typification）过程，情境之间在时间和空间上建立了联系（Schutz 1976）——Schütz 对 Garfinkel 的思想以及常人方法学的形成有着重要影响。例如，即使没有女警在场，我也可能会在红灯前停下来。在情境中预期其他秩序并使之变得相关，会改变情境以及我对它的解释。然而，这又带来了其他问题。¶

Schütz 大量借鉴了 Husserl 和 Bergson，他感兴趣的是表述一种关于社会的一般理论，这种理论将理解（understanding）的观念激进化，并因而将主观视角纳入考量（Schütz [1932] 1993）。在他看来，理解一个情境、预期他我（alter ego）的反应并将其纳入对我将要采取之行动的设计之中的过程（Schütz, [1932] 1993），本身就已经是社会行动的一部分。这一推理的一个重要意涵是，设计自身行动的这些部分无法接受经验审视——无论是对于互动中的参与者，还是对于观察互动过程的社会科学家而言。未被表达出来的东西，也就不能被另一个人所理解（Eberle 2008）。因此，Garfinkel 忽略了行动的主观和认知设计，而聚焦于社会秩序如何通过说明（accounts）的交换在实践中被达成这一问题。^[4] 因此，对 Garfinkel 来说，秩序与个体行动之间的联系，就是通过他所称的民族方法（ethnomethods）来理解并使自己可被理解的过程。^[5] 通过运用民族方法，社会群体中有能力的成员积极地对社会进行秩序化，而不是遵循某种抽象的社会秩序原则。因此，解释性视角^[6]的目标在于，基于那些自下而上地创造和再生产社会秩序的、不同的局部化实践来解释社会，而不假定某种给定的、决定社会互动的社会规范结构观念。规范和价值并不是被转译成社会行动，而是社会行动让规范从局部化的互动情境中涌现出来。规范性说明、组织结构或社会的相互依赖在不同的情境中被实演和表演（Drew and Heritage 1992）。在这一视角中，结构并不是某种与可观察实践相对立的形而上学实体。相反，“结构[……]只存在于它在这些实践中的实例化之中”（Giddens 1984, 17）。社会结构不仅是实践的产物，而且必须在这些实践中被实演。对于诸如多样性或平等这样的政治观念或愿景来说，也是如此。这些价值必须被实演，也要在技术中、通过技术被实演。¶

论网络与秩序化（Of Networks and Orderings）

创造秩序也总是指向（局部的）社会控制方法以及对可能行动的协商。如果行动序列偏离了已知的或假定的秩序，行动者可以尝试通过干预或对情境的重新解释来修复情境。Garfinkel 在他的破坏实验（breaching experiments）中出色地展示了这一点。这也涉及这样一个观念：互动总是为了“又一个第一次”而发生（Garfinkel 1984, 9）。每一次互动都有失败的可能，都有可能偏离已知的或假定的实践链条——因而需要重新解释或干预，才能把它带回熟悉的领域。然而，人类行动者并不是唯一可能限制或使可能行动成为可能的行动者。Latour 在许多例子中表明，物质世界和技术世界也是局部被实演之秩序的要素（Latour 1990）。减速带可以让我们开得更慢，闭门器可以促使我们调整步速。然而，正如计划或规范性说明一样，物质行动者的在场并不会决定论式地强制出某种行为，而是成为实演的一部分，在其中不同的行动看起来都是可能的。回到算法这一概念，它无疑是一个能够使可能的互动成为可能或对其加以限制的行动者，例如，通过过滤掉人们为获得多样的信息食谱所需要的重要信息。然而，正如人类行动者一样，这些技术实体必须先成为情境的一部分，随后才能成为局部秩序的一部分。Latour（2005）把这一过程称为委派（delegation）与移位（translocation）：技术行动者和物质行动者被置入一个社会情境之中，某项特定的规范性任务被委派给它们。工程师和开发者（以及其他许多行动者）主动地把这些行动者派往其他情境以产生某种效果，而这建立在对将要展开的、被假定的互动的预期之上（Callon 1987）。因此，情境通过委派与动员（mobilization）的过程彼此相连。ANT 将情境中的局部非人类行动者视为对其他情境的指涉，从而扩展了常人方法学的视角。¶

在讨论制度秩序时，常人方法学家论证说，局部互动可以指涉那些并非局部的观念、行动者或情境，并把它们转译为局部生产秩序的资源，例如，通过让自身实践以组织规则（Drew and Heritage 1992）、行为守则（Wieder 1974）或计划（Suchman 2006）为取向。通过采取一种符号学立场^[7]，这些互动便可以被理解为彻底关系性的——因而是可以被追踪的。凡是被动员起来并整合进社会秩序之局部实践达成之中的东西，都指涉着别的东西。规范性框架因此不仅是在局部被实践地达成的，而且更好的描述是：它们被重新实演（re-enacted）。通过说明被动员起来的东西——即便它并不在场——成为情境的一部分，从而也成为那些既被情境框定、又框定着情境的互动的一部分。在讨论微观/宏观问题时，Callon 和 Latour（1981）论证说：¶

“常人方法学家忘记在他们的分析中纳入这样一个事实：人类社会中语境的模糊性，部分地被一整套工具、规章、墙壁和物件所消除，而他们只分析了其中的一部分”（Callon and Latour 1981, 284）。

这些行动者——工具、规章、物质和技术要素——是情境的一部分，因而成为解释的一部分：它们框定了情境。此外，它们是从别处被动员而来的，例如在一次团队会议上制作出来的类别清单，我们可以穿越时间和空间追踪这一资源。因此，“追随行动者”（follow the actors）（Latour 2005）这一方法论信条并不是从外部强加一种结构，而是追随在一个行动者网络中展开的关系结构（Latour 1996）。¶

算法不是一个单一的实体，而是众多行动者——以及建构它们的众多情境——被动员并相互关联的（实践上达成的）结果。因此，那些作为工具、技术、书籍和文章而在场的黑箱，各自都指涉着一个不同的、由相互关联的情境构成的网络，而这些情境本身又实演并稳定化了我们所处理的那个实体的特定版本。把所有这些实体（包括算法技术）汇聚在一起，使算法的涌现成为可能，但同时也限制了随后的行动。而这些工具往往是以一种被视为理所当然的方式被使用的，也就是说，它们没有被问题化。算法是在软件开发者的办公室里被局部实演的，但每一个被动员起来的项目都指涉着别的东西，超出了实际的情境。一篇关于推荐技术的论文并不只是由符号拼合而成的，它本身也成为了一个符号。因此，通过把行动元和叙述（例如规范性框架）理解为指涉，我们便连接起一条超出局部情境的实践链条。没有计算机科学这门学科或软件开发者共同体，算法技术就不可能在那个为公共广播机构设计推荐算法的项目中可供使用。正如 Callon 和 Latour（1981）就其他“宏观”行动者所表明的那样，算法通过组装许多不同的黑箱而获得了持久性。数据生产方面也以类似的方式表明了这一点。在生产社会秩序并在技术上将其稳定化的情境中被动员起来的一个单一数据点，不仅指涉一个外在的对象（例如广播机构存储服务器中的一段视频），而且指涉生产这些数据的（一连串）实践。到头来，这其中还包括了一个全新的组织。因此，ANT 对于理解实践上达成的社会秩序的贡献在于，它提供了穿越时间和空间追踪社会秩序（因而也是权力和能动性）之实践生产的手段，而无需重新引入某种关于系统理性之普遍化结构的形而上学观念。这对我们理解结构或社会秩序的概念有着深远的影响。¶

某个行动者网络以及随之而来的某种秩序是否持久而稳定，是一个关乎力量与权力的问题，正如 Latour 所论证的：“一个联盟的一致性，体现在为了拆散它而必须被聚集起来的行动者的数量上”（Latour 1993a, 185）。与此同时，这样一个行动者网络展开到何种程度，是一个开放的、（基本上）经验性的问题。因此，诸如社会、组织乃至民主制度这样的概念，只有在我们能够观察到这些实体如何在一条由行动元所中介的实践链条中被实演和达成的意义上，才是重要的。当我们回到档案库时，数据生产遵循的是该部门所要解决的一个在局部被实演的理由或问题。他们把自己描述为一个根据编辑需求来组织视频素材的制度。对其部门的话语性描述的生产，被递归地应用到他们自己的实践之上。档案库的那位同事告诉我们的，不仅是事情是如何被做的，而且也实演了某种合理性。关于算法技术，人们也在讨论同样的问题（B. Rieder 2017）。这些技术伴随着对一个（相对抽象的）有待解决之问题的想象而来。它们还伴随着许多预设脚本（pre-scriptions）（Akrich 1992）^[8]，也就是说，伴随着使用户能够想象该部件应在何种场景中被使用的资源——在这里，其形式是手册、教学视频或课程大纲，它们教软件开发者如何解读和使用这些技术，以及如何把它们与其他行动元关联起来。因此，那里的话语是使观念和合理性变得可说明（accountable）的一种表达。算法和档案库这两个实体，都只是作为不同实践链条的表达而存在。然而，算法或档案库的这些实践实演可以有所不同，这取决于我们从哪个情境化的视角去观察。¶

多重秩序化（Multiple Orderings）

借助关系性和联结的观念，ANT 提供了一种视角，把局部生产的秩序这一观念与社会结构的概念——后者被表征为一条转译和/或实践的链条——联系起来。简单而有力的回答是：它们是同一回事。局部达成的秩序与一个据称能够解释这种秩序的更宽泛的社会结构之间根本没有区别，因为前者和后者都是总是被重新建立的联结与互动的产物。正如 Latour 所论证的：微观层面和宏观层面并不自在地存在，而是被那些将它们作为微观和宏观来称呼的流通的指涉所识别出来的（Latour 1999a）。不是用一个更大的结构来解释局部行动，而是每一次互动都已经嵌入在一个由实践和行动元构成的（块茎式的）网络之中，这个网络穿越时间和空间把各个情境连接起来。这在某种程度上构成了对 Giddens 论点的激进化：我们总是通过局部实践并借助局部实践而遭遇社会结构（Giddens 1984）——这一点甚至已被应用于国家制度（Callon and Latour 1981; Passoth and Rowland 2010）。然而，关系性与联结的局部性结合在一起，给社会的概念化带来了问题。我们的探究对象不仅是在局部被生产出来的，而且是多重的。¶

ANT 中具有生成性的要素既不是行动者，也不是结构，而是联结与转译的过程。行动者和结构都是通过稳定化这些联结链条而被客观化的。然而，由于在文化上被稳定化的符号或规范之间存在决定论式转译的观念，已经被实践地达成规范性说明的情境化、局部化实践所取代，由此产生的秩序和由此产生的行动者就可能各不相同。这当然造成了一种社会秩序多重性的局面。在这一视角中，关于社会秩序如何被达成的一种单一而独特的解释，将永远无法说明“逻辑、意义、方法、理由与秩序的每一个论题”（Garfinkel and Wieder 1992, 202）。相反，Garfinkel 和 Wieder 引入了 order（秩序）这一概念，以强调社会秩序是一个总括性术语，指涉的是这种在局部被实演之秩序的多重性。因此，制度、组织乃至整个社会都可以是一个由规范性说明或相互依赖构成的系统的一部分。然而，这些东西并不是被一一对应地转译为行为，而仅仅是实践上达成之秩序的资源。^[9] 这有两个重要意涵：第一，所涉行动者的实演随着实践上达成的局部化秩序而变化。第二，取决于人们从哪个情境出发，会涌现出不同的、作为情境间秩序的行动者网络。¶

社会秩序的这种多重化，对于被委派的技术和人工物这一观念也有着深远的意涵。在设计物质和技术人工物的过程中，开发者实现了他们关于情境将如何展开的假设。按照 Callon（1986）的说法，开发者自己成为了社会科学家。^[10] 目标不仅是设计一个人工物，而且是设计情境。这一过程被 Akrich（1992）概念化为铭写（inscription）。然而，被设计出来的技术的脚本并不会决定论式地规定随后的互动。倘若如此，我们只不过是替换了生产 Garfinkel 所说的“判断的傻瓜”的机制而已。相反，转译过程可能偏离被假定的互动——Akrich 和 Latour（1992）所称的认同（subscription）或去铭写（de-inscription）过程是可以变化的。也就是说，制作技术人工物之本体论的过程，会以不同的方式实演它。甚至算法这个技术对象，也会随着它所参与其中的互动而改变。不同的实演是不同行动者网络的一部分。也就是说，在局部实演本体论与主体性的多重性之中，我们也能观察到社会秩序的不同局部达成的实演，以及它如何穿越时间和空间在不同情境中展开并连接各种语义实体。¶

身份或主体性是被达成的而非自然给定的，这一点如今在社会科学中已是老生常谈。身份、规范性等等并非事先给定，而是在互动中被达成的。它们从实践中涌现，而不是反过来。这一点在 Garfinkel 对 Agnes 的分析中得到了最令人印象深刻的重构。Agnes 是一位跨性别者，她的性别身份是在不同的情境中、通过生产那些被认定为女性性别身份的说明而被实演出来的（Garfinkel 1984）。然而，仅仅生产说明是不够的。这些说明必须被其他互动者接受和解释，而后者自己又会以生产说明作出反应，Agnes 则必须把这些反应解释为成功或失败。当然，此后 Agnes 还必须决定如何以恰当的说明继续跟进。因此，生产说明的实践不仅是一个行动者一方的“做”，而且还涉及互动伙伴一方运用（足够）相似的民族方法来解释这些说明。实践处于相关伙伴之间。在一个总是已经有序的情境这一假定之中，Garfinkel 随后转换了视角，论证说这些说明的涌现生产出了身份。因此，他也谈论行动者，而不是个体或自我。行动者是实践的结果，而非事先给定的。遵循彻底对称性（radical symmetry）的观念，这一思想随后不仅被扩展到角色理解，而且被扩展到身体以及非人类行动者的物质性。Mol（2002）重构了动脉粥样硬化（atherosclerosis）在一家荷兰医院里是如何被诊断和治疗的（在整本书中，她只称之为 Z 医院）。通过走访不同的场所，她重构了每一个场所、每一个情境在对待这种疾病的方式上如何各不相同。由于运用了不同的技术、不同的仪器或习得的类型化，这种疾病在每一个情境中都是别的东西——因为在每个场所，处理它的实践都各不相同。¶

相反，客体随着它们在其中被操纵的实践而生成——并消失。而由于操纵的对象往往因实践而异，实在便多重化了（Mol 2002, 5）。

不仅行动者是通过情境化的实演被生产出来的，身体、仪器和物质性也是如此。然而，这也给我们对社会秩序的理解带来了一些问题。前面我把委派机制描述为将技术行动者作为一种调节力量派往某个情境。可是，如果它们是在局部——在情境中——被实演的，这种调节力量就成了疑问。实演多重实在也意味着与行动元互动的多重方式——因而也意味着其本体论的多重化（Mol, 2002）。这给本文对做跨情境秩序（doing transsituational order）的勾勒带来了一些复杂之处。如果被委派的人工物被以不同方式实演，我们又如何能把它们理解为在远距离上生产秩序？局部实践干脆就破坏了开发者置入人工物中的想象和假设。多重本体论的概念确实使委派的图景复杂化了，但委派仍然产生效果。行动者是多重的，取决于它们所参与的实践秩序化，但它们也确实拥有作为实演之一部分的实在性和物质性。正如 Mol（2002）所表述的：它们多于一，但少于多。¶

回到我们的算法，这对于此处所讨论的算法权力视角意味着什么？我们非但没有解释算法权力，我们的关注对象似乎反而正在丢失、被去中心化。我们不再描述一个算法及其权力，而是在谈论多重情境中的多重算法。我们的推荐系统正在其不同的情境化实演及其多重本体论中消解。算法能动性的实践生产是否正把我们引向相对主义？然而，我恰恰不是在论证算法是随意的、对情境没有任何影响，也不是在论证它们是一块坚固的、强力行动的整体。如果我那样做，我就会回到引发我前面所描述之不安的那个出发点。它们是介于两者之间的某种东西，但这种居间性（in-between-ness）很重要。推荐算法之所以难以整合进公共广播机构的组织之中，全部原因就在于它的抵抗，在于它内置的、关于它所应与之互动的社会世界之构型的观念和假设。仅仅通过把算法技术纳入不同的实践，是根本不可能改变这些假设的。无论我们多么努力，只要不把这种算法技术替换为另一种，我们就无法让它例如与基于图的数据一起运作。算法的多重性已经被其学科实演中所建立的联结缩减了。¶

然而另一方面，多重实现仍有余地。如果不同的实践以不同的方式联结算法，算法的身份就会发生剧烈的变化。让我们暂且假设，档案库的数据被用于该算法。那它就会是一个不同的行动者，产生出别的结果。它仍然会是一个推荐系统——只不过使用的更多是历史数据。如果我们把那些建构元数据的局部实践纳入生成性实践之中，它们就会改变算法的身份。通过建立一个完全不同的行动者网络、一条实践链条，算法的一种特定本体论就被实演出来了。因此，局部实演中的算法多于一，但也远远少于多。¶

Law（1994）在此基础上又向前推进了一步，引入了不同的秩序化模式（modes of ordering），即一种关联异质行动者的特定（可用话语表达的）合理性。这些秩序化模式是“相当规则的模式，出于某些目的，可以有益地将其归于社会的递归网络。换言之，它们是重复出现的模式，体现于人类与非人类关系的秩序化之中，为其所见证，在其中被生成，并作为其一部分被再生产”（Law 1994, 83）。为了给秩序化模式这一概念提供语境，有必要补充两点说明。第一，它们不是生产社会秩序的决定论式机制——那会把我们带回结构主义。相反，它们是相当规则的——其中包含变异的可能性。第二，它们是在局部被生产的。换言之，不是秩序化模式生产出秩序化，而是秩序化作为不同的秩序化模式可被观察到。因此，我们可以观察它们，而不必赋予它们因果力量。模式是秩序化实践的结果，而不是反过来。这些秩序化模式做什么以及为何这样做，都是社会秩序（化）之局部实演的一部分。然而，秩序化模式这一概念使我们能够辨识出局部的合理性，以及它们与其他规范性观念或其他情境之想象的联系。在推荐算法的开发案例中，我们也遭遇了不同的秩序化模式，它们允许或阻止了建构该算法的行动者网络的扩展。¶

作为学科实演的算法（The Algorithm as Disciplinary Enactment）

推荐算法被实演为一个技术对象，它是从计算机科学家和开发者的共同体中被动员而来的——因而类似于一种集体的、学科的实演。在工作中，项目的开发者动员了许多不同的黑箱，以便制作和做出（make and do）推荐算法。这当然包括被带入开发过程的算法技术。推荐算法的观念从教科书和有影响力的学术论文中被引入我们的工作、会议和讨论之中。这正是通常被认定为算法的东西：零零碎碎的代码，但也包括数学公式、对计算过程的描述，以及在实现该算法时对潜在问题和挑战的讨论。它们带着这样一些名称：协同过滤推荐、基于 LDA 技术的推荐，或基于内容的推荐。然而，这些只是要素，是将要被打开、被质询、被修修补补（tinkered with）的黑箱。与此同时，许多其他要素、行动者和黑箱被动员起来并与之相连——以使它成为某种能够运行的东西。只有在不同工具、环境和被想象的问题的相互作用之中，作为开发过程中一个行动元的算法才开始成形。通过操纵、动员和关联诸如 iPython 笔记本、编程库和教科书这样的工具，算法才得以被修修补补。通过动员不同的技术，开发团队也在动员针对被想象的、被抽象化的问题的解决方案——这些问题在一个特定的行动者网络中是可解的。因此，开发项目不仅在试图为一个给定的问题找到解决方案，而且把一个行动者网络及其秩序化动员进了建构推荐系统的过程之中。而所有这一切都遵循着一种特定的合理性，一组被视为理所当然的观念：关于如何启动一个开发项目，关于如何把推荐算法做成它所是的那种技术实体。关于如何改变性能、如何使算法适应局部约束的想法，往往是在指涉其他场所、其他情境、其他行动者——以及其他实践——的情况下产生的。回到我前面已经讨论过的一个片段，Alice 把我引入了推荐系统的世界。她一步一步地向我展示这些神秘的东西如何运作，我可以对它们抱有什么期待，以及它们可能在哪些地方力有不逮。¶

嗨！读完这篇文章后，你就会明白什么是基于显式反馈的协同过滤。但是：我们实际上处理的是隐式反馈（用户不会直接给视频评分），所以我们必须使用不同的方法 :simple_smile: 这篇文章解释了如何基于隐式反馈做协同过滤，以及为什么它有所不同。如果你觉得现在有用，可以读一读。不过你现在用聚类做的事情可能更重要——我自己还没来得及试。周五见！（Alice 通过 Slack 私信）

但她这样做时，指涉的是别的东西：斯坦福一门课程的幻灯片，或者一群赢得了 Netflix 大奖（Netflix Prize）的开发者所写的一篇论文。对任何学过一门新学科的人来说，这似乎再明显不过了。我们依赖外部参考、书籍和手册。但它指向了某种不同的东西。通过在制作算法的局部实践中把所有这些要素关联在一起，我们所引入的不仅是文本或书籍。相反，这些实体指涉着社会秩序化的一整个另外的构型。我们动员的不仅是一种技术，而是一整门学科。然而，这样做的同时，我们也把一种特定的推理形式引入了秩序的局部生产之中。我们成为一个更大的行动者网络的一部分，这个网络也实演着 Kuhn（1996）著名地称之为范式（paradigm）、或 Fleck（[1935] 1981）称之为思维风格（thought style）的东西。局部实践成为一个集体的一部分，在这个集体中，一整门学科的合理性在流通。而实演这种秩序化模式的实践，也把算法实演为一个技术对象、一个技术问题。¶

作为组织实演的算法（The Algorithm as Organizational Enactment）

算法不仅是技术对象，也是组织行动者。从“软件就是算法加上数据”这一观念出发（Wirth 1975），制作算法的过程必须建立新的联结，而这些联结——再一次——超出了开发者办公室、他们每日的 SCRUM 会议以及他们的 iPython 笔记本这一情境。相反，对数据的搜寻通向了不同的组织部门、制度，甚至通向了推荐系统的用户如何被追踪的问题。基于 Ziewitz（2017）对算法之民族方法的阐述，任务不仅在于找到数据来源，而且在于找到与从学科实演中动员而来的算法技术相兼容的数据来源。正如 Ziewitz（2017）所指出的，我们必须以一种使观察能够与算法技术及其看待世界的方式相关联的方式来表述观察。¶

由于我们不得不在一场持续的努力中解析我们的观察，按照那个自我施加的约束的形象来重新界定情境，这次行走与其说是一个识别模式的案例，不如说是一种练习：用算法的语言把观察阐明出来，同时弄清楚它们能否以及在多大程度上有助于手头的工作——而这一判断本身又受制于实时导航的种种偶然性（Ziewitz 2017, 10）。

这随后也成为推荐系统的一个问题。我们在公共广播机构的不同地方寻找能够驱动算法系统的数据。然而，在不同部门中找到的数据也并不只是摆在那里，而是指涉着一整套实践装置，这些实践按照一种局部的合理性、按照一种局部的且相当规则的数据生产实践方式建构了这些数据。算法技术——及其联结链条——需要被转译成某种与组织的数据生产过程相兼容、并能与之相关联的东西。为此，开发团队走访了不同的制度场景，在这些场景中，算法可以成为组织之实演——因而也是算法之实演——的一个积极部分。¶

这是通过成立一个新的在线编辑小组而实现的。这个小组充当了新设立的元数据生产流程的监督者。各主题编辑团队专门为推荐系统而把元数据录入中央编排系统。为此，该中央编排系统的数据库模式（database scheme）中那些没有任何人使用的字段被用来保存录入的数据。此外，还生产出了若干话语性要素，例如一份固定的类别清单或补充性指南，以引导数据生产的实践。回到在线编辑团队，我在一次访谈中被告知：¶

关于元数据，将会有一份风格指南，这样各编辑部就有了可以遵循的东西。然后我们得看看它运作得怎么样（在线编辑访谈）。

与教科书、文章和幻灯片类似，社会秩序（有序性）的局部生产伴随着被委派的行动者，以框定局部情境。指南和类别清单被派送出去，以便引导（而非决定！）局部实践。就我们的推荐系统而言，行动者网络在整个组织中展开，因为算法的实演显示出一种特定的秩序化模式。其结果是，算法技术开始建构它自己的秩序化，占据了尚未被使用的基础设施要素，并建立起新的（实践性）制度——从而在已经确立的组织实演之外，又增添了一种组织实演。这里的实演遵循的是这样一种特定观念：为了作出好的推荐，数据应当如何被塑形和生产。换言之，一种特定的合理性在起作用。作为被想象之算法一部分的数据生产，回指着一整个自成一体的社会技术组织。在这种社会技术构型中，以数据形式出现的说明被生产出来，而这些说明能够被就位的算法民族方法反身性地解释。一旦联结得以建立，算法技术就成为那个行动者网络的一部分，由此形成算法的组织实演。改变秩序，你就改变了算法。¶

作为政治实演的算法（The Algorithm as Political Enactment）

最后但同样重要的是，算法系统被实演为一个政治问题。我所参与的研究项目要处理的主要问题是过滤气泡（filter bubble）。公共广播机构负有一项特殊的法律义务，要向其观众提供广泛而多样的信息食谱。通过这样做，这些制度应当使公民能够作出知情的决定，尤其是在他们作为选民的角色中。这反映了公共广播机构在民主体制中的功能。如前所述，推荐系统就其设计本身而言，就是广泛信息食谱的对立面。然而，恰恰是这种广泛的信息食谱，成为我所参与的研究项目所动员起来的议题。而它是通过指涉政治、法律制度和学术学科中一场持续进行的讨论来做到这一点的。因此，算法系统成为另一个行动者网络的一部分，这个网络致力于处理推荐系统的技术细节及其民主品质。其结果是，我们尝试表述多样性的数学定义，改变算法脚本以生产噪声，并构建一个反推荐器。在每一个实例中，都实演出了一种特定的逻辑，用以解释算法的行为，并把它与关于其政治品质的规范性观念联系起来。算法系统不仅是一个应当被使用的技术工具，而且成为一个需要被解决的政治议题。这是引导开发项目的第三种合理性。¶

这些场合中的每一个，都可以被视为一种不同的秩序化模式，在其中，算法被实演、被叙述，并被置于与许多不同行动者的关系之中。而在每一个情境中，算法都是别的东西：一种被整合进一整个共同体之生态系统的技术性技术，一个需要被整合进不同数据生产实践的组织行动者，或者一个需要关注和解决方案的政治议题。然而，在每一个情境中都有许多不同的行动者在场，但本书和开发项目所围绕的核心形象恰恰就是：推荐算法这一形象。所有这些情况下的问题都是：在把算法做成一个功能性的、持久的、具有能动性的——即会做些什么的——行动者的过程中，如何应对算法的具体性与多重性。而且不只是做些什么，而是要按照民主想象所赋予的角色来行动，实演一种算法民主秩序。而这是在不同实演的背景之下进行的，这些实演对于可能的和后续的实践有着截然不同的约束和假设。¶

相互干涉的秩序化：协调算法（Interfering Orderings: Coordinating Algorithms）

社会秩序不是由行动者生产的，也不是从结构中产生的，而是从转译与联结的实践中产生的，在这些实践中，行动者在行动之中被叙述和建构。然而，正如 Mol（2002）所表明的，身体、物质性和其他行动者的这些不同实演，可以成为许多不同秩序的对象。在实演动脉粥样硬化的案例中，不同的医疗实践以不同的方式实演了同一个身体——生产出不同的本体论。因此，成为许多秩序化的一部分，就产生了协调被实演之行动者的这些不同版本的需要。正如我们在前一章中所看到的，有待开发的算法也成为了不同秩序化的一部分。一方面，算法是学科实演网络的一部分，包括一个物质环境以及话语性的客观化。但算法也是组织实演的一部分，在那里必须为被动员起来的算法技术生产数据。而最后，算法还必须在由技术假设、编辑职业伦理（editorial ethos）和政治话语构成的不同社会秩序化之间斡旋。在每一个这样的场合中，算法技术都被动员、被叙述，并作为那个即是算法的社会技术集体的一个成员而被实践地实现。脱离这些不同的关系来理解算法是不可能的。然而，这些转译的时刻是不稳定的、岌岌可危的。迄今为止所讨论的算法的每一种实演，都关联着另一种秩序化模式。然而，如果我们仔细观察，就会发现一个算法的实演或转译并不只属于某一组特定的、有序的和进行秩序化的互动系统，而是总是存在于这些不同秩序化的边缘。作为最终结果的算法，是所有这些秩序化系统及其特定逻辑和模式的一部分。学科实演阐明了算法技术源自何处、我们如何能把它们理解为社会秩序化的对象，而制度维度和政治维度所描述的则不仅仅是不同的秩序化模式，更重要的是对算法不同实演的（失败的）协调。算法是什么或曾经是什么，是诸多协商、讨论和妥协的结果。最终达成的算法，既不是某一个情境的实践成就，也不是某一种实演，而是对许多不同实演、许多不同的情境性和实践性成就以及许多不同秩序化的协调。¶

算法不仅是被应用的算法技术，还必须被理解为一个行动者网络，其中包括数据生产的过程、信息基础设施，以及对一个崭新而不同之组织的实演。然而，在这个行动者网络能够在公共广播机构的案例中被稳定下来之前，我们一路上遇到了许多问题：无论是在档案库中寻找数据时，还是在我们尝试通过语音识别软件自己生产数据时。在档案库中，秩序化模式以这样一种方式关联起不同的人类与非人类行动者：它使得把数据转译成某种与开发团队所设想的基于内容的过滤这一算法技术相兼容的东西成为不可能。档案工作者的实践与这样一项议题相联结：生产一个适合编辑团队之实践和需要的视频档案库，从而生产出新的、有趣的视频节目形式。然而，档案库所提供的数据，其最终形成的格式与铭写在算法技术中的行动程序（action program）并不兼容。所生产的数据对于计算而言过于密集。与此同时，数据生产的时间安排也不适合推荐系统被想象的功能。档案库生产元数据所需的时间实在太长，这种时间安排非常适合编辑任务，却不太适合推荐系统的快节奏。档案库不是推荐系统的数据池，而是供编辑们使用的研究资源。因此，我们可以把手头的问题理解为一个关于指涉、转译与社会秩序的问题。所生产的数据所指涉的并不是一个心中装着算法的装置，因为若要如此，视频被打标签的方式就必须改变。相反，这些实践的规范性观念及其功能性的自我描述，旨在对那些正在拼合新节目和新节目形式的编辑们的工作有用。与此同时，算法技术所指涉的是开发者共同体的一组实践和期待、计算资源，以及被假定的用户期待，即为推荐列表找到最新的视频。为了满足后者，档案库本需要改变。然而，档案库通过被整合进服务于上述合理性的组织结构而被稳定化了。算法及其盟友还不够强大，无法在社会秩序化的局部过程中带来这一改变。¶

这一权力与社会秩序的问题，也可以在我们生产数据的第二种途径中观察到，这一途径甚至超出了广播机构的边界。如前所述，一个想法是部署一款语音识别软件来转译视频的音轨。这些文本数据随后便可用于算法的计算。然而，这一尝试失败了，因为算法技术必须在两种不同的秩序化及其对语言的使用之间进行中介。广播机构最著名的电视节目使用的是当地方言，而语音识别软件根本无法理解这种方言。虽然这一插曲可以被视为一个纯粹的技术问题，但它暗示了某种非常重要的东西。如果对社会秩序化采取一种物质—符号学（material-semiotic）立场，那么这里的每一个行动者——电视节目和语音识别软件——都是特定网络与秩序化的产物。对广播机构来说，这档电视节目很重要，因为它也界定了广播机构的地方身份。因此，编剧、演员和观众都认为它的呈现方式很重要——所以改变语言不是一个选项。与此同时，语音识别软件可以被理解为对训练该软件之实践的指涉。如果我追随这一指涉，我最终就会来到一家北美大公司的办公室和其他场所，在那里，开发者们带着对其应用的一种特定想象，拼合出了这款软件。这显然涉及所谓的标准德语，它（至少）在所有德语社群中都能被听懂。把电视节目和语音识别软件这两个行动者结合起来之所以失败，不是因为这是一个技术问题（这“只是”一个附带现象），而是因为秩序化的过程彼此不兼容——而这个局部的软件项目没有权力去调整其中任何一方。¶

该研究项目的一个核心要素，是使推荐系统与政治和法律体系对齐——从而把它实演为一个政治议题。由于推荐系统通过个性化和过滤的手段缩减了可获得的信息，它被视为对公共广播机构的民主功能构成了威胁。在这些情境中，我们尝试使这一技术人工物与一种“设计即多样性”（diversity by design）的观念对齐。我们的尝试包括调整算法技术本身，试图改变优化公式，以便在算法的推荐中生产噪声。然而，这一尝试失败了，因为开发者和在线编辑预期，用户会被一个生成随机视频列表的推荐系统弄糊涂，进而认为它出了故障。因此，对算法优化函数的调整失败了，因为整个视频点播系统的秩序化过程是在对用户期待的期待——即二阶期待——之中被动员起来的。通过叙述这些期待，开发者指涉了另一种情境化的生产或社会秩序——并显示出对已知规范性设置的取向。在第二次尝试中，我们试图以不同的方式利用推荐系统计算出来的模型，把对用户和物品的计算描述转译成两个不同的行动者：a）一个偏向经典推荐路径（即流行度）的推荐列表；b）一个所谓的“反推荐器”，它呈现与第一个框中所显示的视频非常不同的视频条目，通过向人们展示那些通常不会被推荐的视频来生产多样性。然而，这种形式的多样性建立在算法模型的隐性知识之上，而这与编辑团队的隐性知识不相兼容。后者有他们自己保障节目多样性的观念和实践，这些观念和实践指涉着他们的经验和训练。然而，由于算法行动者对多样性的生产建立在潜变量和潜在推理之上，它对编辑们来说是无法把握的，因此我们无法使这两种多样性观念对齐。再一次，我在广播机构中发现的这两种隐性知识，各自都是特定的局部化秩序生产形式的结果。由机器学习驱动的推荐系统的算法模型，指涉的是软件开发项目中众多成功对齐的实践及其在组织中的盟友；而编辑们的隐性知识，指涉的则是一整个职业共同体的形成，包括他们的培训项目、团队会议，以及关于如何制作好节目的日常交谈。除了这些问题之外，我们甚至在通过计算手段阐明多样性时也遇到了麻烦。在尝试这样做时，我们发现，一部著名的肥皂剧本身就已经非常多样了——仅仅因为这部剧在每一集中都讲述一个不同的故事。因此，所使用的词语也是多样的。然而，这种对多样性的评估，与我们的——或立法者的——多样性概念并不兼容，后者更多地依赖于一种质性评估。为了修正这一特定的指标并使之与我们的理解对齐，我们本需要调整为视频生产元数据的方式。这与在线编辑团队关于好的元数据的观念发生了冲突——他们坚持认为，对一部剧不同剧集的多样化描述对用户来说很重要。再一次，算法的假设与数据的生产——被理解为对一整套复杂实践的指涉——无法彼此契合。多样性这一价值的诸种实演互不兼容，于是民主推荐系统的实演就成了一个问题。¶

在所有讨论过的实例中，算法的不同愿景和版本都需要被协调。从计算机科学的世界中动员而来的技术，必须被转译成一个组织行动者和政治行动者，并被转译进这些场景各自所提供的可能性条件之中。然而，这导致了算法身份的转变。John Law（2002）论证说，这些被夹在不同秩序化之间的对象是分形的（fractal），它们同时存在于许多不同的状态之中。基于他关于一架军用飞机之制造的报告，他指出：¶

那么，我要说的是，像一架飞机这样的对象——一架“个别的”“具体的”飞机——有着不同的版本。它没有单一的中心。它是多重的。然而，这些不同的版本也彼此干涉，并把自己混洗在一起，构成一架单一的飞机（Law 2002, 2–3）。

因此，为了生产出一个单一的对象，一个可以作为稳定的行动者被委派到其他情境中去的东西，同一个行动者的不同版本就需要彼此协调。就算法而言，这意味着要在算法这一形象中使这些不同的秩序化彼此融贯。为了成为一个推荐系统，并且按照开发者的观念成为一个成功的推荐系统，算法技术必须与生产数据、评价其规范性维度的不同实践相协调。然而，这被证明是困难的，因为数据生产的局部制度性实践的秩序化模式，并不容易与算法技术的内置脚本相关联。档案库或语音识别软件干脆就实演着关于社会技术世界如何被构型的其他观念。与此同时，推荐技术的脚本也必须被调整。构建算法反身性，意味着使算法的不同实演以这样一种方式彼此对齐：它们合起来成为某种不同的东西——某种融贯的东西。John Law（2002）指出：¶

[……]分形的融贯性是这样一些融贯性：它们无法在单一维度之内被把握，也无法被还原为单一维度。但它们也不是作为两个或三个分离而独立之维度中的融贯性而存在的。按照这种思考方式，一个分形地融贯的主体或客体，是一个在复数性与单一性之间保持平衡的主体或客体。它多于一，但少于多（Law 2002, 3）。

然而，推荐系统这一融贯的对象并不只是让不同的实演彼此平衡。事实上，开发过程就是对算法的另一种、额外的实演的确立和制度化。在这一实演中，其他实演——及其秩序化模式——被纳入或被排除，在过程中被改变，或被保持稳定。因此，为了生产出一个稳定而融贯的推荐系统，算法、组织和政治的不同版本彼此对齐、发生改变，并就使算法变得可把握、可持久的不同方式进行协商。在所讨论的例子中，有两种这样做的方式尤为突出。其一，算法技术与不同的数据生产形式的对齐，改变了算法被实演的方式，因而也构成了一个干预的时刻。其二是转译算法的、由机器学习驱动的推理方式的模式，或者更确切地说：以一种可以被转译进另一种实演之规范系统的形式给出说明。正如我们所看到的，每一次这样的对齐都伴随着重要的决定：哪些关系要保持稳定，例如档案库与编辑之间的关系；哪些关系可以改变，在我们的案例中是编辑与中央编排系统之间的关系。算法能动性——因而也是它的权力——是这样一个过程的结果：把这些不同的实演放进黑箱，即使之稳定化，并通过一种额外的、实践上达成的秩序把它们彼此关联起来，而这种秩序包括了在别处被局部实演的规范性假设、想象等等。¶

这些被置于关系之中的实演，使我们通常称之为算法的那个行动者保持稳定。因此，它们影响着后续动员这个（总是已经）被稳定化的算法的秩序化所可能采取的转译形式。算法仍然多于一，但肯定少于多。而随着它每一次被整合进更多的秩序化，可能的转译和可能的本体论在数量上都会减少。^[11] 在社会技术地实现的算法这一对象之中，多重的社会秩序化都想要铭写它们在局部被实演的、被想象的社会秩序形式——而与此同时，它们之中只有有限的几种能够共存，其中有些还是相互排斥的。如前所述，我们生产一个对多样性敏感的推荐算法的尝试，干涉了关于好的编辑工作的规范性观念以及数据被生产的方式。解决一个问题的潜在脚本，干脆就与组织中的其他实践不相兼容。在为算法生产元数据的案例中，同样的情况也发生了。组织内部的秩序化根本不适合从软件开发共同体中动员而来的算法技术的要求。推荐系统的技术实演需要找到一种方式，使自己能够被转译进公共广播机构的组织之中。¶

然而，秩序并不只存在于迄今为止所讨论的不同场所之中。不同实演的对齐本身就是一种社会秩序的生产——并且遵循着它自己的合理性，这种合理性本身就是规范性的和政治性的。而且常常，它也是一门关于可能之事的艺术。于是，软件开发项目成为一个让不同的社会秩序化彼此协商、并在算法系统中实现这些互动之结果的时刻。最终，被安装并被制度化的算法系统，便是一种自成一体的社会秩序实演的结果，在其中，不同的秩序得到了协调。算法本身已经成为一个结构性要素。通过把不同的实演作为黑箱封闭起来并加以协调，它成为了一种社会事实。¶

算法权力的委派（Delegation of Algorithmic Power）

关于在铭写过程中对不同的——总是已经在场的——秩序化进行协商这一过程，可以就委派这一概念得出一个特定的结论。Latour 用这一概念描述的，是把规范性权力委派给一个行动元（往往是物质的或技术的行动元）的过程。而这正是我们关于一般意义上的、尤其是民主制度中的算法权力与能动性之问题的出发点。然而，观察这个黑箱最初是如何被制作出来的，就会显示出在委派过程中需要加以平衡的种种不同的规范性假设和观念。委派几乎从不发生在一个可以从零开始构建系统的白板（tabula rasa）之地。几乎总是，那里已经有一个总是已经有序的世界，它所包含的不仅是一个规范性维度，而是许多彼此干涉的不同秩序化——而这些秩序化需要在建构一个人工物之行动程序的过程中被协调。因此，行动程序不仅是工程师之假设的结果，而且也诞生于将这些假设铭写进人工物的可能性条件之中——并且在把这些技术实现到具体软件项目中的过程中不断被更新。持久的人工物成为一种妥协的物质化，这种妥协类似并再生产着社会秩序化。融贯性与持久性是在不同实演、本体论和秩序化之间进行中介这一活动的产物。因此，铭写、去铭写与委派的观念变得复杂了。这并不是一个把诸如多样性这样的价值和规范直截了当地设计进人工物的过程。相反，生产一个规范性人工物的过程，是相互嵌套、相互关联的去铭写与再铭写（re-inscription）过程的结果。从软件开发和计算机科学领域被动员而来的算法技术，内置了特定的脚本。它带着关于它将在其中运作的互动过程的、已被稳定化的假设而来。然而，通过把它嵌入不同的组织性和规范性实演之中，这个物质行动者被以不同的方式应用——即经历了各不相同的描述（description）过程——并在此过程中其技术属性被改变，从而经历了一个再铭写的过程。去铭写与再铭写因此成为同一枚硬币的两面。将算法技术与不同形式的数据结合起来，把它置入了一个特定的语境，同时也扩展了这个人工物。与此同时，对优化公式的参数进行修修补补，是对该技术的去铭写——以不同的方式使用它——但同时也铭写了关于其使用语境的不同观念、规范和假设。于是，这对我们关于算法权力的讨论有着深远的意涵。通过社会秩序化的概念来审视算法权力与能动性的观念，可以得出一些结论，它们既不把手头的问题还原为全能的算法，也不把它还原为某种社会结构的形而上学原则。而且，这些结论能够为我们指出那些可以进行干预、使算法与民主对齐并适应民主的时刻和场所。¶

算法不是某种单一合理性中的一个要素。相反，它是彼此协商的不同合理性和制度化逻辑的显现。由此，算法本身就已经是一场权力博弈或一次生产秩序之尝试的结果。评价算法权力，指涉的是在不断制作和重新制作那个通常被归于“算法”概念之下的行动者的过程中，秩序化以及实演有待被秩序化之物的不同时刻。然而，它并不仅仅是这单一的要素，而是规范性观念之间一场斗争的汇聚点。因此，寻找算法解决方案——及其问题——并不是一个直截了当的过程，而是需要与嵌入算法的多样生态联系起来。于是，问题不再仅仅是我们如何能够评估一个单一算法的权力，例如通过审视其代码库。相反，事情变得更复杂一些。哪些秩序化系统被忽视了，哪些被纳入了？在协商算法之具体形式的过程中，一个秩序化系统是如何干涉并改变另一个的？在手头这个推荐系统的例子中，人们应当追问：为什么档案库不干脆改变其工作方式？当然，他们对自己的目的以及应当解决的问题有着自己的话语性定义，但他们也可以抛弃这一定义，并根据算法被表述出来的需要来改变自己的实践。倘若他们这样做了，编辑们的工作也会发生相当剧烈的变化。因此，我们在档案库所发现的秩序化模式，是一场权力博弈的表达。档案库—编辑集体的行动者网络是否足够强大，能够抵抗推荐系统之行动者网络的扩张？在我们的故事里，它是足够强大的，但情况本也可能不同。因此，这已经反映出重构社会世界及其实践的权力。但这也就有力地表明：既不应把所有权力都归于算法，也不应把所有解释力都从它身上拿走。算法确实做了些什么，它们进行排序、推荐、搜索，有时还在国际象棋上打败我们。然而，它们之所以能这样做，是因为它们能够在不同的秩序化系统中共存，是因为它们能够把自己的不同实演融贯地协调成一个持久的行动者网络。¶

由于不同的实演需要被协调，这也为软件开发项目的角色投下了新的光亮。如果我们遵循此处所呈现的叙述，那么它们就不再只是技术人员把各种零碎部件——如通信协议、数据库设计和算法技术——拼合在一起的场所。相反，它们的角色转向了一个让这些不同实演被协调、被协商和被稳定化的场所。因此，软件开发项目实演着一种不同的社会技术秩序，在其中，它们向其他制度化的秩序化伸出手去并与之协商，平衡与项目相关的假设和观念，包括法律体系、伦理考量、实际的数据生产、关于广播的组织观念，等等。这也改变了在这些场景中进行干预的观念。干预不仅仅是提供伦理准则或最佳实践，也不仅仅是开发者群体的多样化（尽管这是一个重要的话题！）。相反，干预意味着理解并增多（有时甚至是排除）那些需要在这些项目场景中被协调的相关秩序化模式。另一方面，它也能告诉我们彼此矛盾的社会秩序化的存在，使我们意识到我们必须作出的选择，或者去思考如何通过新的、富有创造性的方法使它们彼此兼容。此外，它还会把我们引向开发项目的边界之外，并可能把我们引向其他令人意外的场所，比如一家北美大公司的办公室。因此，在谈论算法权力和算法秩序时，瞄准单一的算法会错失目标，全能的社会合理性这一观念也是如此。相反，相关的问题是：我们的算法的基础设施（infra-structures）是什么，又是谁在控制它们？¶

现在，我们回到了我们的出发点。无论是个体层面，还是结构视角，单凭其中任何一个都无法帮助我们理解、解释我们社会中的算法并与之互动。相反，通过聚焦于算法行动者的生成过程，我们看到这两个层面是如何模糊其边界的。算法之所以是社会事实，仅仅是因为我们以这样一种方式遭遇它们：它们在一个已达成之社会秩序的情境中被实演。然而与此同时，在算法这一概念中被结合起来的这些技术、数据库和通信基础设施确实做了些什么，它们是真实的，并且常常抵抗我们利用或挑战它们的尝试。在描述算法和机器学习潜在的成问题的（甚至是积极的）效果时，我们可以依赖于某种结构所赋予它们的个体权力。然而，一旦我们想要干预我们社会世界之共同栖居者的建构，我们就必须拆解稳定化的过程，好好审视在对我们的社会进行数字秩序化的过程中，哪些秩序化和合理性被纳入、被排除、被改变。这本身就成为一个关于包容与代表的民主问题，它超越了通过计算机代码对价值进行规范性表达。因此，在数字时代讨论民主，也要求我们认识到民主是如何在这些项目中被工程化的，以及既有的秩序如何允许或阻碍对民主价值的算法实演。过去，以创新之名，民主国家心甘情愿地削弱了公共制度的结构，并允许大型科技公司界定这些公共舞台的运作方式（modus operandi），从而导致了我们如今称之为控制社会（control societies）或监控资本主义（surveillance capitalism）的现象。然而，这些发展并不是自然给定的，也不是不可避免的。相反，我们可以问自己这样一个问题：我们要在多大程度上向大型数字公司敞开我们的民主，又是在什么条件下我们愿意这样做？因为归根结底，IT 本可以是另一番样子（IT could be otherwise）。^[12]¶

注释