导论（Introduction）

这是一本关于社会秩序（social order）的书。更具体地说，它讨论的是机器学习（machine learning）算法与民主秩序之形成之间错综复杂的关系。写这样一本书是有充分理由的。算法似乎正在成为21世纪数字化社会的决定性时刻——而且，生活中似乎没有哪个领域能够幸免于算法计算逻辑那种理性的、看似强大的影响。至少，这出“诱人而扣人心弦的戏剧”（Neyland 2016, 51）是这样被讲述的。而这似乎也确属实情。过滤气泡（filter bubble）威胁着民主话语与意见形成；算法风险评分被应用于执法和司法推理；政策也日益以算法证据为基础。具体而言的算法，以及总体而言的数字技术，已经深深嵌入我们的社会生活、当代社会以及我们民主的各项制度（institution）之中（Berg and Hofmann 2021）。这一事实甚至引出了这样的问题：民主能否在人工智能的崛起中存活下来（Helbing et al. 2017）。¶

本书的关注点与这些问题相关，但同时也将其颠倒过来：我不去追问算法如何改变我们当代的民主，而是要批判性地考察一个民主制度为使算法更加契合民主而付出的努力。自2016年初起，我加入了德国一家公共广播机构（public broadcaster）的一项计划，该计划旨在开发一个带有视频点播（video-on-demand）系统的新网站。为此，一支软件开发（software development）团队被组建起来，负责设计并实现这个新网站；该网站将“播出”与线性节目（linear program）相同的节目——只是以非线性的方式。此外，由于这个网站意在实现当时可用的最新功能，推荐系统（recommender system）被设想为整个架构的核心要素。然而，这在规范层面带来了一些挑战。德国的公共广播实体负有遵守德国宪法的法律义务，而宪法规定，这类广播机构必须传播有关德国政治、社会和文化事件的广泛信息。推荐系统所做的恰恰相反：它们依据相似性而非多样性（diversity）来选择信息片段——它们往往会制造过滤气泡。¶

至此，民主秩序与算法系统（algorithmic system）之间的关系应当已经显而易见。然而，具体的挑战——不仅对这家特定的广播机构而言，而且对所有民主制度而言——在于：我们能否构建民主的算法？我们能否将我们共享的核心价值、信念与规范转译（translate）进机器学习系统？如果能，又该如何做？答案的一部分在于，我们必须超越对算法的技术性理解，但在此过程中又不能让技术系统从视野中消失。相反，我主张，算法系统是复杂的社会技术（socio-technical）系统，算法作为一个实体在其中得以实演（enact）。这种实演（enactment）是一个对称的过程：技术层面必须与其周遭的实践和期望相协调——反之亦然。此外，算法系统以多种方式被实演，带有不同的转译和结果。在我此处讨论的具体案例中，推荐系统以三种不同的方式被实演，从而形成了不同的集体（collective）：将算法作为技术对象的学科性（disciplinary）实演，将算法作为组织（organizational）实体的制度性（institutional）实演，以及将算法作为规范与法律挑战的政治性实演。每一种实演都试图以自己的方式塑造算法，使特定的实现方式成为可能或受到阻碍。算法实际实现所面临的挑战，是将这三种不同的实演协调进一个更广泛的社会技术系统之中。其结果使算法这一概念变得复杂，因为其实演的边界本身也成为一个政治问题。¶

将关于民主与算法的视角颠倒过来，挑战了迄今为止学术文献中所讨论的算法概念。算法在许多社会场域中以不可否认的强大方式行动，生产知识和传播模式，并对社会关系进行秩序化。因此，这一话题也被学术与公共讨论所采纳，就不足为奇了。近年来，处理算法权力（algorithmic power）现象的文献已增长至数量庞大的文章、著作和其他资源——甚至包括整个研究机构。这些关于算法的研究精彩地描述了算法如何作为强大的实体行动，如何成为数字控制社会体系中的关键要素，并纳入了一系列多样的价值与规范，例如资本主义逻辑或针对少数群体的偏见（bias）。这些视角往往聚焦于算法本身，将其视为一个坚固而强大的行动者（actor）。然而，算法并不是凭空出现的实体。它们总是嵌入于实践、话语和理性之中，并且是这些实践、话语和理性的产物——因此，我们应当“从社会科学与人文学科的视角，将算法视为文化探究的对象”（Ames 2018, 2）。理论与方法论方面的研究日益质疑这种将算法视为唯一行动者的强烈关注，并呼吁一种不同的视角：将算法作为网络效应来研究（Ananny 2016），或在其多重性（multiplicity）中加以研究（Seaver 2017）。我们所感知到的那个能够对我们的生活机会——有时甚至对我们的生命——进行分类、归类或施加作用的数字实体，是一组或多或少稳定的互动在秩序化（ordering）过程中汇聚而成的结果。算法是什么，以及它如何能够变得强大，是许多不同的选择、要素与话语汇聚在一起的结果。我希望通过本书为这一持续进行的讨论做出贡献，找到新的、不同的方式来审视社会技术系统中的算法能动性（algorithmic agency）现象，并就民主价值的实演与算法系统的制度化如何相互关联，给出一些初步而审慎的提示。吊诡的是，这样的贡献使我们必须首先从作为核心关注对象的算法出发：其一，每个故事都需要一个起点，一个让旅程从那里展开的入口；其二，算法这一概念（以及这一人工物），如果被视为一个过程而非一种本质，便使我们能够观察到不同的观念、意识形态、必要性和依赖关系如何汇聚在一起。因此，借用并改写福柯（Foucault）的一个表述，我试图就权力如何流经算法给出复杂的（并希望是有趣的）描述，而不是将权力赋予算法。¶

一方面把算法视为我们数字化社会中强大而重要的行动者，另一方面又不愿将算法概念本质化，这两者之间似乎存在一种富有成效的张力。然而，我在本书中提出的论证将视角从权力转向社会秩序，追问算法作为一个稳定的行动者，如何成为特定的、在实践中达成的秩序体系的一部分，又如何被这些体系所稳定。正如 John Law（1994）所表明的，权力与社会秩序化的过程是同一枚硬币的两面。强大的实体能够行动，并将其观念和价值强加于他人——借用 Max Weber（[1922] 1978）的一个著名定义，甚至是在遭遇抵抗的情况下。然而，被理解为互动与实践体系之实践成就的社会秩序，恰恰是这种行动能力的基础。因此，像行动者网络理论（Actor-Network Theory，ANT）这样的进路——它也是本书论证及其背后研究工作的出发点——追问的是：是什么使强大的行动者成为可能？它们打开了构成这些行动者的那个隐喻意义上的黑箱（black box）。这一视角随后也可以应用于算法。在学术话语中，网络化信息算法（networked information algorithms）（Ananny 2016）或作为文化的算法（algorithms as culture）（Seaver 2017）等概念正日益受到重视，它们将算法视为某个社会技术系统或行动者网络的实演。因此，算法既是社会技术秩序的涌现效应，同时又作为秩序化装置而行动。它们的能动性是社会秩序化这一关系性过程的效应。¶

将算法视为成就、视为处于生成之中，这一视角使我们能够转换看待这一问题的角度。与其分析算法对我们民主的影响，不如以一种更加对称的方式提出问题：算法是如何在民主制度中被制造出来的，二者又如何在此过程中发生改变？或者换句话说：是什么构成了一个民主的算法？因此，在这项研究中，我考察了一个特定算法的谱系（genealogy）：它是当代德国民主的一个重要制度——一家公共广播机构——之中分布式的、协调的过程的产物。我由此探讨以下问题：这个算法是如何诞生的；是什么使算法在不同场域中构成为一个行动者；在治理这样一个行动者的过程中出现了哪些问题——并希望既不落入社会决定论的俗套，也不落入技术决定论的俗套。¶

本书既是关于社会秩序化的，也是对其观察对象本身进行秩序化的一次尝试——一次将经验材料、思考和理论概念组织成某种能够说服读者和科学共同体的东西的尝试。多年来，本书曾有过许多概念、想法和版本，但到了某个时刻，终须交出一个最终版本。因此，本书是对这一过程加以说明、并呈现对一个算法之开发的分析的一次谦逊尝试。对算法能动性/权力之脆弱生产的探究，由此借鉴了不同的理论与学科背景，包括技术社会学、媒介理论以及科学技术研究（Science and Technology Studies，STS）——但同时也吸纳了与计算机科学家、法学学者和人类学家讨论中获得的考量与意见。因此，本书的理论背景是多样的；我将理论作为一种透镜来使用和理解，它让我们更清楚地看到某些东西——同时也遮蔽另一些东西。Blumer（1954）创造了“敏化概念”（sensitizing concepts）一词来描述这样一种态度。此外，鉴于本书主题的复杂性与跨学科性，将不同的进路和概念结合在一起，使我们能够描绘出一幅关于算法权力的图景：用 Law 的话说，它是分形的（fractal），但彼此之间仍然相互协调，从而构成一个连贯的论证。因此，我将从实用主义、言语行为理论、常人方法学（ethnomethodology）和媒介理论的角度来讨论机器学习与社会秩序这一主题。然而，将这些不同进路联结在一起的，是对后ANT（post-ANT）及其对物质符号学（material semiotics）与关系本体论（relational ontologies）之敏感性的强烈取向。因此，ANT的纲领本身就作为一个工具箱，用以生产一个概念网络，将阐释性与互动论的社会科学同计算机科学和对媒介敏感的哲学结合起来。¶

这也使得对所采用方法的反思成为必要。如果我们认真对待自身认识论的基本假设，研究者的角色就总是岌岌可危的。其一，并不存在由某一个人给出的所谓客观描述，而只存在对观察的一种以经验和学科为根据的秩序化（Law 1994, 2004）。此处呈现的民族志（ethnography）研究构成了一项特殊的挑战，因为我并不是一个超然的观察者，而是一名积极的项目成员，带来了想法、解决方案，而且最常见的是带来了问题。因此，在方法论一章中，我批判性地讨论了嵌入式研究者的角色及其可能带来的问题。然而，如果我们遵循ANT和常人方法学中经常表述的信条——假定经验田野中的行动者是有知识且有能力的（Garfinkel 1984; Latour 1999b）——这一视角便会发生转变。不预先假定田野中存在既定的社会法则或机制，而是让田野来教导你、令你惊讶，那么，进入田野并成为“本地人”本身就成为一种资源，使人能够看到、体验并检验周遭的各种秩序化。不过，该章最终将这两种视角作为同一枚硬币的两面来讨论，遵循 Law（2004）的呼吁：沉浸于田野之中，但要对此保持反身性（reflexive）——同时也需要“回家”（Amann and Hirschauer, 1997）。¶

在对推荐系统之制造过程进行民族志研究的整个过程中，有一点变得显而易见：算法是以多种方式被实演的。Seaver（2017）认为，算法的本体论地位因我们在界定算法时所涉及的场所和行动者而异。它可以是一个程序库的接口，可以是会议中被提及的一个抽象想法，可以是一个计算失业公民就业机会的非常物质性的行动者，也可以是一台种族主义机器（Angwin et al. 2016）。Seaver（2017）由此将其论证建立在后ANT的敏感性之上（Mol 2002）。一个对象的本体论，始终是情境化实践与所讨论对象之物质性的涌现性质。并不存在唯一的算法，而是同时存在它的多个版本。因此，本书的结构安排是：从学科、制度和政治的视角，考察算法的三种不同实演，以及它们如何在不同的场景和情境中被实演和调动。而这些实演在不止一个方面上是脆弱的。其一，制造这些不同版本本身，就要求持续不断的协商与秩序化尝试，以制造出算法的某个特定版本。而且，对于一个最终或许可以被称为民主的算法的系统而言，这些版本中的每一个都带有其自身的问题与挑战。¶

并不存在“那个”算法。算法是解决某类问题的一组指令。然而，将这些指令组合在一起的方式各有不同。有基于图论的算法，有各种排序算法，如冒泡排序（bubble sort）、快速排序（quick sort）等。我们可以开发算法来走出迷宫，或者用来理解DNA测序数据（这基本上是一个组合数学问题）。这些算法中的每一个都以不同的方式解决不同的问题。而在表述所预期的问题时，算法也表述了一种关于它所作用、所与之互动的世界的期望。已经有若干呼吁主张研究代码，以理解代码如何与世界互动，例如在软件研究（software studies）中。然而，实际的代码往往无法获得——它受到知识产权（intellectual property rights，IPRs）的保护——或者仅仅是调用了现成的程序库。而且，每一个调试或重构过一段很久以前写的代码——更糟的是由别人写的代码——的人都知道，算法与其环境之间的实际互动可以多么复杂、多么难以预料。与此同时，当我们在社会研究的语境中谈论算法时，我们分析的焦点是什么或应当是什么，这个问题似乎仍未得到解决（Seaver 2017; Ziewitz 2016）。因此，在“算法学科”（Algorithmic Discipline）一章中，我基于自己对批判性代码研究（critical code studies）和软件研究的阅读，以及在软件开发项目中的观察，来探讨算法这一概念。¶

作为一种原则和一组期望的算法，并不是凭空而来的。算法技术（algorithmic techniques）（B. Rieder 2017）在计算机科学这一学科内部流通，代表着针对一般化问题的一般化解决方案。例如，对一组数字进行排序，并不是计算机科学工程师必须一次又一次重新解决的问题。相反，存在着多种多样的方法来解决排序这一一般性问题，工程师可以在快速排序、归并排序（merge sort）或（主要出于教学原因的）冒泡排序等方法之中进行选择。因此，算法可以被描述为一种在软件开发项目中被调动的学科对象。这些原则已经能够告诉我们许多东西：现实如何被算法实演，以及算法的基本结构中表述了哪些关于现实的假设。就此而言，代码常常回溯到教科书、学术会议等场合中讨论的这些抽象技术。这也就更接近计算机科学中的算法工作通常所涉及的内容。如果你去听一场关于算法的讲座，你几乎不会看到具体的代码实现，而是看到以伪代码（pseudo code）表述的算法思想，其中运用了分支和循环等理论概念。通过学科话语，这些旅行的概念（travelling concepts）借由界定关于世界的不同方法和假设而获得稳定性。算法被实演为一个学科对象和技术对象——一个需要抽象问题的抽象解决方案。在调动这些技术的过程中，手头有待解决的具体问题必须以一种契合该学科现有解决方案的方式被匹配和抽象化（B. Rieder 2017）。在描述这些调动过程时，该章不仅描述了算法如何获得其最初的形式，还论证了具体代码也总是回溯到一整个由工程师、计算机器、网络标准等构成的集体，正是这个集体首先使算法的生产成为可能。因此，算法代表着整个学科的一种秩序化与（数字）世界制造（world making）。¶

算法是异质性的转译、互动以及一个稳定的行动者网络之生产的结果，这个行动者网络使算法有机会从这些互动中涌现出来。算法是什么、它如何能够施加权力、它在多大程度上能够组织世界，都是其所嵌入的社会技术结构内部的关系与转译的效应。如果一个算法没有与制度结构相连接，它就什么也做不了。如果你拒绝它访问你的数据库，一个机器学习算法就不会产生任何模型，诸如此类。然而，社会技术结构，即算法的（潜在）行动者网络，必须被提供、构建和维护——而这常常会遭遇巨大的障碍或挑战。与此同时，承载算法的社会共同体和制度遵循着它们自身的内部秩序化，界定着将算法作为新出现问题之解决方案加以实现和部署的可能方式。制度的问题必须与开发者（developer）所调动的算法相匹配，将算法技术的抽象解决方案转译为能够互动、并嵌入该制度内部运作之中的具体行动者。因此，“算法制度”（Algorithmic Institutions）一章描述了将两种不同的推荐技术整合进组织肌理之中的种种议题与问题。工程师的角色由此发生转变，因为他们自身变成了社会学家（Callon 1987），将期望表述并铭写（inscribe）进具体的人工物——在我们的案例中，即推荐系统的应用程序——之中。具体算法的制造由此被讨论为学科对象与组织中存在的不同秩序化之间的持续协商。于是，算法成为制度架构、其结构及其秩序之中的一个行动者。将算法理解为一个从互动与基础设施之网络中涌现出来的实体（Ananny 2016），总是要回溯到那个首先使算法的生产成为可能——有时也使之成为不可能——的社会秩序。¶

“技术既不是好的，也不是坏的；它也不是中立的”（Kranzberg 1986, 547）。1986年，Kranzberg 将此表述为技术的定律之一——此后它常被引用。它指涉的是这样一种洞见：技术总是具有我们或许可以称之为政治性的效应。技术人工物确实具有政治性（Winner 1980），因为它们鼓励或阻止某些行动。无论是控制我们驾驶速度的减速带（Latour 1990），还是调节通往海滩之通道的桥梁高度（Winner 1980），皆是如此。而当代的算法实例因其规制和监控行为的特性而受到批评。换句话说，算法常常作为社会控制的手段而被安装和讨论，例如在执法（Gandy and Baruh 2006）、人力资源（Leicht-Deobald et al. 2019）或通过搜索引擎提供信息（Noble 2018）等领域。这些批评主要以偏见或缺乏透明性（transparency）的措辞来表述，而且往往是关于统计之社会权力的长期讨论的延伸（例如 Scott 1998）。由于这些算法政治的问题，若干学者主张对算法进行价值敏感设计（value sensitive design）（例如 Steen 2015; Zhu et al. 2018）。然而，算法的政治性质至少带来了两项挑战。第一，界定问题以及可接受的解决方案形式，是一个关于讨论中所运用之规范框架的问题，并且在不同情境中各不相同。因此，价值敏感算法的制造并不位于对抽象的、一般化的算法技术的表述之中，而是在将抽象的算法解决方案具体转译为可执行代码片段的过程中被表述和协商的。第二，价值敏感算法的制造，要求将抽象的规范原则转译为技术脚本（script）。或者换句话说：（政治）话语的形成与物质化。因此，“算法政治”（Algorithmic Politics）一章讨论了将规范性和监管性要求转译进推荐系统之理性的过程——以及它所带来的挑战。可以观察到的是，这些话语的物质化与其他话语构型相互作用，对问题或解决方案——或二者——的有效性提出质疑。因此，从分析的视角来看，考察以算法脚本形式呈现的物质化话语以及施加于其上的规范性话语，都是饶有兴味的。由算法并借助算法而实演的民主价值，并不仅仅是一种物质效应，也是规范性主张的产物，是不同的——而且相互分歧的——话语及其不同表达形式之间互动的产物。因此，该章描述了软件开发团队如何试图将公共广播机构的法律义务——即呈现多样化的信息食谱（information diet）——转译为推荐系统可用的算法推理形式，以及随之而来的种种挑战。¶

将这三种实演结合起来，我讨论了算法的这些不同版本如何彼此关联。虽然每一种实演都带有其自身的问题，但将这些不同的实演协调进制造物质对象的过程之中，本身就成为一项挑战。我不遵循一种由算法实演或支持的社会秩序的宏大叙事，而是主张：每一个算法系统本身就代表着一种社会秩序化，它与其他形式的秩序化相互干扰、互动和竞争，并协调同一系统的不同实演。软件开发项目由此不仅是实现某种技术解决方案的努力，还必须管理这些不同的版本，协商对某些实演的修改，或将某些实演纳入或排除，以使它们彼此兼容。软件开发项目由此本身成为一项秩序化的努力——一个高度政治化的数字世界制造的场域。在公共广播这样的民主制度中，情况更是如此。因此，我在此提出的，并不是将算法作为一个独特而稳定的行动者去中心化，而是将算法系统这一观念去中心化，并将其嵌入一个由不同秩序化模式构成的更广泛生态之中，算法这一稳定的行动者正是从中涌现出来的。ANT中关于社会秩序的经典观念建立在委派（delegation）与铭写（inscription）的概念之上，而本章的目的则是讨论：作为跨情境秩序（transsituational order）之手段的委派，如何可以被理解为算法不同实演的协调与汇合。^[1] 因此，本章有助于在算法多重性的概念化（Seaver 2017）与将算法视为社会控制行动者的经验发现之间架起桥梁——从互动论的视角使社会秩序概念复杂化。只有当算法的这些不同实演——它们本身就代表着秩序化——能够被置于彼此的关联之中时，一个算法的民主品质才能被确定。这些不同的秩序化，即由行动者、材料和话语构成的或稳定或脆弱的装配（assemblage），能够帮助我们理解“那个算法”的权力从何而来——以及什么可能与之相抗衡。然而，这也导向了另一种看待算法作为“数学杀伤性武器”（weapons of math destruction）（O'Neil 2016）的视角：在这种视角下，干预的途径并不能仅靠透明性、代码审计或伦理准则来获得帮助。我们需要理解的是，这些算法系统如何与其他秩序互动——既是为了使它们成为可能，也是为了治理它们。这尤其复杂，因为以算法形式对一个数据驱动的现实进行核算，需要新的方式将算法理性转译为民主的或组织的逻辑。算法能动性不仅是 if-then-else 语句或神经网络的问题，也是这样一个问题：追问其他秩序如何丧失了持久性，从而在我们的数字世界中使这些行动者成为可能，并决定了谁在界定它们的能动性时被纳入或被排除。在某种意义上，这是对民主秩序之审议进路（例如 Habermas 1997）所问题化之议题的一种重新表述。在算法系统的形成过程中，哪些集体和社会秩序化被赋予了相关性，谁又被排除在外？就其核心而言，单是这一点就是一个民主问题。¶

通过重构在一家公共广播机构中构建推荐系统的不同时刻，我希望为关于算法能动性与算法权力——尤其是与当代民主相关——的持续讨论做出贡献。通过从互动论视角、以社会秩序为透镜来框定这一问题，我试图从一种既不落入技术决定论叙事、也不落入纯粹社会相对主义视角的角度来描述它，并为理解当代数字社会做出贡献。对于一本如此聚焦于具体算法的书而言，将算法作为主要批判对象去中心化，或许显得奇怪。然而，在一个“代码即法律”（Code is Law）（Lessig 1999, 2006）这一观察已不再可争议的世界里，或许值得去看一看：这些数字法律是如何在我们的民主中被协商和制定的，社会秩序（秩序化）又是如何在算法计算出哪怕一个数字之前就已被调整或重新构想的。这样做，我们或许还能找到新的途径，不仅理解我们如何被算法所治理，也理解我们如何能够治理这些行动者。¶

注释