# 导论（Introduction） 这是一本关于社会秩序（social order）的书。更具体地说，它讨论的是机器学习（machine learning）算法与民主秩序之形成之间错综复杂的关系。写这样一本书是有充分理由的。算法似乎正在成为21世纪数字化社会的决定性时刻——而且，生活中似乎没有哪个领域能够幸免于算法计算逻辑那种理性的、看似强大的影响。至少，这出“诱人而扣人心弦的戏剧”（Neyland 2016, 51）是这样被讲述的。而这似乎也确属实情。过滤气泡（filter bubble）威胁着民主话语与意见形成；算法风险评分被应用于执法和司法推理；政策也日益以算法证据为基础。具体而言的算法，以及总体而言的数字技术，已经深深嵌入我们的社会生活、当代社会以及我们民主的各项制度（institution）之中（Berg and Hofmann 2021）。这一事实甚至引出了这样的问题：民主能否在人工智能的崛起中存活下来（Helbing et al. 2017）。 本书的关注点与这些问题相关，但同时也将其颠倒过来：我不去追问算法如何改变我们当代的民主，而是要批判性地考察一个民主制度为使算法更加契合民主而付出的努力。自2016年初起，我加入了德国一家公共广播机构（public broadcaster）的一项计划，该计划旨在开发一个带有视频点播（video-on-demand）系统的新网站。为此，一支软件开发（software development）团队被组建起来，负责设计并实现这个新网站；该网站将“播出”与线性节目（linear program）相同的节目——只是以非线性的方式。此外，由于这个网站意在实现当时可用的最新功能，推荐系统（recommender system）被设想为整个架构的核心要素。然而，这在规范层面带来了一些挑战。德国的公共广播实体负有遵守德国宪法的法律义务，而宪法规定，这类广播机构必须传播有关德国政治、社会和文化事件的广泛信息。推荐系统所做的恰恰相反：它们依据相似性而非多样性（diversity）来选择信息片段——它们往往会制造过滤气泡。 至此，民主秩序与算法系统（algorithmic system）之间的关系应当已经显而易见。然而，具体的挑战——不仅对这家特定的广播机构而言，而且对所有民主制度而言——在于：我们能否构建民主的算法？我们能否将我们共享的核心价值、信念与规范转译（translate）进机器学习系统？如果能，又该如何做？答案的一部分在于，我们必须超越对算法的技术性理解，但在此过程中又不能让技术系统从视野中消失。相反，我主张，算法系统是复杂的社会技术（socio-technical）系统，算法作为一个实体在其中得以实演（enact）。这种实演（enactment）是一个对称的过程：技术层面必须与其周遭的实践和期望相协调——反之亦然。此外，算法系统以多种方式被实演，带有不同的转译和结果。在我此处讨论的具体案例中，推荐系统以三种不同的方式被实演，从而形成了不同的集体（collective）：将算法作为技术对象的学科性（disciplinary）实演，将算法作为组织（organizational）实体的制度性（institutional）实演，以及将算法作为规范与法律挑战的政治性实演。每一种实演都试图以自己的方式塑造算法，使特定的实现方式成为可能或受到阻碍。算法实际实现所面临的挑战，是将这三种不同的实演协调进一个更广泛的社会技术系统之中。其结果使算法这一概念变得复杂，因为其实演的边界本身也成为一个政治问题。 将关于民主与算法的视角颠倒过来，挑战了迄今为止学术文献中所讨论的算法概念。算法在许多社会场域中以不可否认的强大方式行动，生产知识和传播模式，并对社会关系进行秩序化。因此，这一话题也被学术与公共讨论所采纳，就不足为奇了。近年来，处理算法权力（algorithmic power）现象的文献已增长至数量庞大的文章、著作和其他资源——甚至包括整个研究机构。这些关于算法的研究精彩地描述了算法如何作为强大的实体行动，如何成为数字控制社会体系中的关键要素，并纳入了一系列多样的价值与规范，例如资本主义逻辑或针对少数群体的偏见（bias）。这些视角往往聚焦于算法本身，将其视为一个坚固而强大的行动者（actor）。然而，算法并不是凭空出现的实体。它们总是嵌入于实践、话语和理性之中，并且是这些实践、话语和理性的产物——因此，我们应当“从社会科学与人文学科的视角，将算法视为文化探究的对象”（Ames 2018, 2）。理论与方法论方面的研究日益质疑这种将算法视为唯一行动者的强烈关注，并呼吁一种不同的视角：将算法作为网络效应来研究（Ananny 2016），或在其多重性（multiplicity）中加以研究（Seaver 2017）。我们所感知到的那个能够对我们的生活机会——有时甚至对我们的生命——进行分类、归类或施加作用的数字实体，是一组或多或少稳定的互动在秩序化（ordering）过程中汇聚而成的结果。算法是什么，以及它如何能够变得强大，是许多不同的选择、要素与话语汇聚在一起的结果。我希望通过本书为这一持续进行的讨论做出贡献，找到新的、不同的方式来审视社会技术系统中的算法能动性（algorithmic agency）现象，并就民主价值的实演与算法系统的制度化如何相互关联，给出一些初步而审慎的提示。吊诡的是，这样的贡献使我们必须首先从作为核心关注对象的算法出发：其一，每个故事都需要一个起点，一个让旅程从那里展开的入口；其二，算法这一概念（以及这一人工物），如果被视为一个过程而非一种本质，便使我们能够观察到不同的观念、意识形态、必要性和依赖关系如何汇聚在一起。因此，借用并改写福柯（Foucault）的一个表述，我试图就权力如何流经算法给出复杂的（并希望是有趣的）描述，而不是将权力赋予算法。 一方面把算法视为我们数字化社会中强大而重要的行动者，另一方面又不愿将算法概念本质化，这两者之间似乎存在一种富有成效的张力。然而，我在本书中提出的论证将视角从权力转向社会秩序，追问算法作为一个稳定的行动者，如何成为特定的、在实践中达成的秩序体系的一部分，又如何被这些体系所稳定。正如 John Law（1994）所表明的，权力与社会秩序化的过程是同一枚硬币的两面。强大的实体能够行动，并将其观念和价值强加于他人——借用 Max Weber（[1922] 1978）的一个著名定义，甚至是在遭遇抵抗的情况下。然而，被理解为互动与实践体系之实践成就的社会秩序，恰恰是这种行动能力的基础。因此，像行动者网络理论（Actor-Network Theory，ANT）这样的进路——它也是本书论证及其背后研究工作的出发点——追问的是：是什么使强大的行动者成为可能？它们打开了构成这些行动者的那个隐喻意义上的黑箱（black box）。这一视角随后也可以应用于算法。在学术话语中，网络化信息算法（networked information algorithms）（Ananny 2016）或作为文化的算法（algorithms as culture）（Seaver 2017）等概念正日益受到重视，它们将算法视为某个社会技术系统或行动者网络的实演。因此，算法既是社会技术秩序的涌现效应，同时又作为秩序化装置而行动。它们的能动性是社会秩序化这一关系性过程的效应。 将算法视为成就、视为处于生成之中，这一视角使我们能够转换看待这一问题的角度。与其分析算法对我们民主的影响，不如以一种更加对称的方式提出问题：算法是如何在民主制度中被制造出来的，二者又如何在此过程中发生改变？或者换句话说：是什么构成了一个民主的算法？因此，在这项研究中，我考察了一个特定算法的谱系（genealogy）：它是当代德国民主的一个重要制度——一家公共广播机构——之中分布式的、协调的过程的产物。我由此探讨以下问题：这个算法是如何诞生的；是什么使算法在不同场域中构成为一个行动者；在治理这样一个行动者的过程中出现了哪些问题——并希望既不落入社会决定论的俗套，也不落入技术决定论的俗套。 本书既是关于社会秩序化的，也是对其观察对象本身进行秩序化的一次尝试——一次将经验材料、思考和理论概念组织成某种能够说服读者和科学共同体的东西的尝试。多年来，本书曾有过许多概念、想法和版本，但到了某个时刻，终须交出一个最终版本。因此，本书是对这一过程加以说明、并呈现对一个算法之开发的分析的一次谦逊尝试。对算法能动性/权力之脆弱生产的探究，由此借鉴了不同的理论与学科背景，包括技术社会学、媒介理论以及科学技术研究（Science and Technology Studies，STS）——但同时也吸纳了与计算机科学家、法学学者和人类学家讨论中获得的考量与意见。因此，本书的理论背景是多样的；我将理论作为一种透镜来使用和理解，它让我们更清楚地看到某些东西——同时也遮蔽另一些东西。Blumer（1954）创造了“敏化概念”（sensitizing concepts）一词来描述这样一种态度。此外，鉴于本书主题的复杂性与跨学科性，将不同的进路和概念结合在一起，使我们能够描绘出一幅关于算法权力的图景：用 Law 的话说，它是分形的（fractal），但彼此之间仍然相互协调，从而构成一个连贯的论证。因此，我将从实用主义、言语行为理论、常人方法学（ethnomethodology）和媒介理论的角度来讨论机器学习与社会秩序这一主题。然而，将这些不同进路联结在一起的，是对后ANT（post-ANT）及其对物质符号学（material semiotics）与关系本体论（relational ontologies）之敏感性的强烈取向。因此，ANT的纲领本身就作为一个工具箱，用以生产一个概念网络，将阐释性与互动论的社会科学同计算机科学和对媒介敏感的哲学结合起来。 这也使得对所采用方法的反思成为必要。如果我们认真对待自身认识论的基本假设，研究者的角色就总是岌岌可危的。其一，并不存在由某一个人给出的所谓客观描述，而只存在对观察的一种以经验和学科为根据的秩序化（Law 1994, 2004）。此处呈现的民族志（ethnography）研究构成了一项特殊的挑战，因为我并不是一个超然的观察者，而是一名积极的项目成员，带来了想法、解决方案，而且最常见的是带来了问题。因此，在方法论一章中，我批判性地讨论了嵌入式研究者的角色及其可能带来的问题。然而，如果我们遵循ANT和常人方法学中经常表述的信条——假定经验田野中的行动者是有知识且有能力的（Garfinkel 1984; Latour 1999b）——这一视角便会发生转变。不预先假定田野中存在既定的社会法则或机制，而是让田野来教导你、令你惊讶，那么，进入田野并成为“本地人”本身就成为一种资源，使人能够看到、体验并检验周遭的各种秩序化。不过，该章最终将这两种视角作为同一枚硬币的两面来讨论，遵循 Law（2004）的呼吁：沉浸于田野之中，但要对此保持反身性（reflexive）——同时也需要“回家”（Amann and Hirschauer, 1997）。 在对推荐系统之制造过程进行民族志研究的整个过程中，有一点变得显而易见：算法是以多种方式被实演的。Seaver（2017）认为，算法的本体论地位因我们在界定算法时所涉及的场所和行动者而异。它可以是一个程序库的接口，可以是会议中被提及的一个抽象想法，可以是一个计算失业公民就业机会的非常物质性的行动者，也可以是一台种族主义机器（Angwin et al. 2016）。Seaver（2017）由此将其论证建立在后ANT的敏感性之上（Mol 2002）。一个对象的本体论，始终是情境化实践与所讨论对象之物质性的涌现性质。并不存在唯一的算法，而是同时存在它的多个版本。因此，本书的结构安排是：从学科、制度和政治的视角，考察算法的三种不同实演，以及它们如何在不同的场景和情境中被实演和调动。而这些实演在不止一个方面上是脆弱的。其一，制造这些不同版本本身，就要求持续不断的协商与秩序化尝试，以制造出算法的某个特定版本。而且，对于一个最终或许可以被称为民主的算法的系统而言，这些版本中的每一个都带有其自身的问题与挑战。 并不存在“那个”算法。算法是解决某类问题的一组指令。然而，将这些指令组合在一起的方式各有不同。有基于图论的算法，有各种排序算法，如冒泡排序（bubble sort）、快速排序（quick sort）等。我们可以开发算法来走出迷宫，或者用来理解DNA测序数据（这基本上是一个组合数学问题）。这些算法中的每一个都以不同的方式解决不同的问题。而在表述所预期的问题时，算法也表述了一种关于它所作用、所与之互动的世界的期望。已经有若干呼吁主张研究代码，以理解代码如何与世界互动，例如在软件研究（software studies）中。然而，实际的代码往往无法获得——它受到知识产权（intellectual property rights，IPRs）的保护——或者仅仅是调用了现成的程序库。而且，每一个调试或重构过一段很久以前写的代码——更糟的是由别人写的代码——的人都知道，算法与其环境之间的实际互动可以多么复杂、多么难以预料。与此同时，当我们在社会研究的语境中谈论算法时，我们分析的焦点是什么或应当是什么，这个问题似乎仍未得到解决（Seaver 2017; Ziewitz 2016）。因此，在“算法学科”（Algorithmic Discipline）一章中，我基于自己对批判性代码研究（critical code studies）和软件研究的阅读，以及在软件开发项目中的观察，来探讨算法这一概念。 作为一种原则和一组期望的算法，并不是凭空而来的。算法技术（algorithmic techniques）（B. Rieder 2017）在计算机科学这一学科内部流通，代表着针对一般化问题的一般化解决方案。例如，对一组数字进行排序，并不是计算机科学工程师必须一次又一次重新解决的问题。相反，存在着多种多样的方法来解决排序这一一般性问题，工程师可以在快速排序、归并排序（merge sort）或（主要出于教学原因的）冒泡排序等方法之中进行选择。因此，算法可以被描述为一种在软件开发项目中被调动的学科对象。这些原则已经能够告诉我们许多东西：现实如何被算法实演，以及算法的基本结构中表述了哪些关于现实的假设。就此而言，代码常常回溯到教科书、学术会议等场合中讨论的这些抽象技术。这也就更接近计算机科学中的算法工作通常所涉及的内容。如果你去听一场关于算法的讲座，你几乎不会看到具体的代码实现，而是看到以伪代码（pseudo code）表述的算法思想，其中运用了分支和循环等理论概念。通过学科话语，这些旅行的概念（travelling concepts）借由界定关于世界的不同方法和假设而获得稳定性。算法被实演为一个学科对象和技术对象——一个需要抽象问题的抽象解决方案。在调动这些技术的过程中，手头有待解决的具体问题必须以一种契合该学科现有解决方案的方式被匹配和抽象化（B. Rieder 2017）。在描述这些调动过程时，该章不仅描述了算法如何获得其最初的形式，还论证了具体代码也总是回溯到一整个由工程师、计算机器、网络标准等构成的集体，正是这个集体首先使算法的生产成为可能。因此，算法代表着整个学科的一种秩序化与（数字）世界制造（world making）。 算法是异质性的转译、互动以及一个稳定的行动者网络之生产的结果，这个行动者网络使算法有机会从这些互动中涌现出来。算法是什么、它如何能够施加权力、它在多大程度上能够组织世界，都是其所嵌入的社会技术结构内部的关系与转译的效应。如果一个算法没有与制度结构相连接，它就什么也做不了。如果你拒绝它访问你的数据库，一个机器学习算法就不会产生任何模型，诸如此类。然而，社会技术结构，即算法的（潜在）行动者网络，必须被提供、构建和维护——而这常常会遭遇巨大的障碍或挑战。与此同时，承载算法的社会共同体和制度遵循着它们自身的内部秩序化，界定着将算法作为新出现问题之解决方案加以实现和部署的可能方式。制度的问题必须与开发者（developer）所调动的算法相匹配，将算法技术的抽象解决方案转译为能够互动、并嵌入该制度内部运作之中的具体行动者。因此，“算法制度”（Algorithmic Institutions）一章描述了将两种不同的推荐技术整合进组织肌理之中的种种议题与问题。工程师的角色由此发生转变，因为他们自身变成了社会学家（Callon 1987），将期望表述并铭写（inscribe）进具体的人工物——在我们的案例中，即推荐系统的应用程序——之中。具体算法的制造由此被讨论为学科对象与组织中存在的不同秩序化之间的持续协商。于是，算法成为制度架构、其结构及其秩序之中的一个行动者。将算法理解为一个从互动与基础设施之网络中涌现出来的实体（Ananny 2016），总是要回溯到那个首先使算法的生产成为可能——有时也使之成为不可能——的社会秩序。 “技术既不是好的，也不是坏的；它也不是中立的”（Kranzberg 1986, 547）。1986年，Kranzberg 将此表述为技术的定律之一——此后它常被引用。它指涉的是这样一种洞见：技术总是具有我们或许可以称之为政治性的效应。技术人工物确实具有政治性（Winner 1980），因为它们鼓励或阻止某些行动。无论是控制我们驾驶速度的减速带（Latour 1990），还是调节通往海滩之通道的桥梁高度（Winner 1980），皆是如此。而当代的算法实例因其规制和监控行为的特性而受到批评。换句话说，算法常常作为社会控制的手段而被安装和讨论，例如在执法（Gandy and Baruh 2006）、人力资源（Leicht-Deobald et al. 2019）或通过搜索引擎提供信息（Noble 2018）等领域。这些批评主要以偏见或缺乏透明性（transparency）的措辞来表述，而且往往是关于统计之社会权力的长期讨论的延伸（例如 Scott 1998）。由于这些算法政治的问题，若干学者主张对算法进行价值敏感设计（value sensitive design）（例如 Steen 2015; Zhu et al. 2018）。然而，算法的政治性质至少带来了两项挑战。第一，界定问题以及可接受的解决方案形式，是一个关于讨论中所运用之规范框架的问题，并且在不同情境中各不相同。因此，价值敏感算法的制造并不位于对抽象的、一般化的算法技术的表述之中，而是在将抽象的算法解决方案具体转译为可执行代码片段的过程中被表述和协商的。第二，价值敏感算法的制造，要求将抽象的规范原则转译为技术脚本（script）。或者换句话说：（政治）话语的形成与物质化。因此，“算法政治”（Algorithmic Politics）一章讨论了将规范性和监管性要求转译进推荐系统之理性的过程——以及它所带来的挑战。可以观察到的是，这些话语的物质化与其他话语构型相互作用，对问题或解决方案——或二者——的有效性提出质疑。因此，从分析的视角来看，考察以算法脚本形式呈现的物质化话语以及施加于其上的规范性话语，都是饶有兴味的。由算法并借助算法而实演的民主价值，并不仅仅是一种物质效应，也是规范性主张的产物，是不同的——而且相互分歧的——话语及其不同表达形式之间互动的产物。因此，该章描述了软件开发团队如何试图将公共广播机构的法律义务——即呈现多样化的信息食谱（information diet）——转译为推荐系统可用的算法推理形式，以及随之而来的种种挑战。 将这三种实演结合起来，我讨论了算法的这些不同版本如何彼此关联。虽然每一种实演都带有其自身的问题，但将这些不同的实演协调进制造物质对象的过程之中，本身就成为一项挑战。我不遵循一种由算法实演或支持的社会秩序的宏大叙事，而是主张：每一个算法系统本身就代表着一种社会秩序化，它与其他形式的秩序化相互干扰、互动和竞争，并协调同一系统的不同实演。软件开发项目由此不仅是实现某种技术解决方案的努力，还必须管理这些不同的版本，协商对某些实演的修改，或将某些实演纳入或排除，以使它们彼此兼容。软件开发项目由此本身成为一项秩序化的努力——一个高度政治化的数字世界制造的场域。在公共广播这样的民主制度中，情况更是如此。因此，我在此提出的，并不是将算法作为一个独特而稳定的行动者去中心化，而是将算法系统这一观念去中心化，并将其嵌入一个由不同秩序化模式构成的更广泛生态之中，算法这一稳定的行动者正是从中涌现出来的。ANT中关于社会秩序的经典观念建立在委派（delegation）与铭写（inscription）的概念之上，而本章的目的则是讨论：作为跨情境秩序（transsituational order）之手段的委派，如何可以被理解为算法不同实演的协调与汇合。[^f01-1] 因此，本章有助于在算法多重性的概念化（Seaver 2017）与将算法视为社会控制行动者的经验发现之间架起桥梁——从互动论的视角使社会秩序概念复杂化。只有当算法的这些不同实演——它们本身就代表着秩序化——能够被置于彼此的关联之中时，一个算法的民主品质才能被确定。这些不同的秩序化，即由行动者、材料和话语构成的或稳定或脆弱的装配（assemblage），能够帮助我们理解“那个算法”的权力从何而来——以及什么可能与之相抗衡。然而，这也导向了另一种看待算法作为“数学杀伤性武器”（weapons of math destruction）（O'Neil 2016）的视角：在这种视角下，干预的途径并不能仅靠透明性、代码审计或伦理准则来获得帮助。我们需要理解的是，这些算法系统如何与其他秩序互动——既是为了使它们成为可能，也是为了治理它们。这尤其复杂，因为以算法形式对一个数据驱动的现实进行核算，需要新的方式将算法理性转译为民主的或组织的逻辑。算法能动性不仅是 if-then-else 语句或神经网络的问题，也是这样一个问题：追问其他秩序如何丧失了持久性，从而在我们的数字世界中使这些行动者成为可能，并决定了谁在界定它们的能动性时被纳入或被排除。在某种意义上，这是对民主秩序之审议进路（例如 Habermas 1997）所问题化之议题的一种重新表述。在算法系统的形成过程中，哪些集体和社会秩序化被赋予了相关性，谁又被排除在外？就其核心而言，单是这一点就是一个民主问题。 通过重构在一家公共广播机构中构建推荐系统的不同时刻，我希望为关于算法能动性与算法权力——尤其是与当代民主相关——的持续讨论做出贡献。通过从互动论视角、以社会秩序为透镜来框定这一问题，我试图从一种既不落入技术决定论叙事、也不落入纯粹社会相对主义视角的角度来描述它，并为理解当代数字社会做出贡献。对于一本如此聚焦于具体算法的书而言，将算法作为主要批判对象去中心化，或许显得奇怪。然而，在一个“代码即法律”（Code is Law）（Lessig 1999, 2006）这一观察已不再可争议的世界里，或许值得去看一看：这些数字法律是如何在我们的民主中被协商和制定的，社会秩序（秩序化）又是如何在算法计算出哪怕一个数字之前就已被调整或重新构想的。这样做，我们或许还能找到新的途径，不仅理解我们如何被算法所治理，也理解我们如何能够治理这些行动者。 [^f01-1]: Latour（1990）在其著述中很早就提到了不同实演的汇合。然而，此后的学术话语转向了现实的多重性与混乱性，失去了早期ANT著述对社会秩序的明确关注。 # 第一章 研究生成中的算法（Studying Algorithms in the Making） > 你们没有参与我们伟大而日益壮大的对话，也没有创造我们市场中的财富。你们不了解我们的文化、我们的伦理，也不了解那些不成文的准则——它们为我们的社会所提供的秩序，已经多于你们任何强加之举所能获得的秩序。——John Perry Barlow，1996 2016 年春，我加入了一个关于公共服务媒体（public service media）以及开发一套新的视频点播（video-on-demand）系统的项目。然而，这并不是一个普通的软件开发项目，我也不是计算机科学家或程序员。相反，我过去是（现在仍然是）一名社会学家，加入了一个由社会学家、传播学者、项目经理、编辑和计算机科学家组成的大型开发与研究团队。这个项目不仅要开发一个视频点播平台，还采取了一种“价值嵌入设计”（value by design）的路径，把特定的法律观念和民主规范性观念纳入考量。因此，下文我将简要说明本书经验观察所依托的这一项目的目标与背景。又由于我所处的位置本身是一个特殊且要求颇高的位置，我还将讨论我在田野（field）中的角色，尤其是参与这样一项介入研究对象的研究所带来的挑战与机遇。 ## 立案：一个推荐系统的开发（Making a Case: The Development of a Recommender System） 2016 年初，德国一家公共广播机构（public broadcaster）与多所大学的研究团队启动了一个研究与开发项目。该项目的目标是为这家公共广播机构开发一个视频点播平台，这在很大程度上是因为，这种形式的媒体服务已被视为通过互联网提供媒体内容的必要手段。该公共广播机构此前已经上线了一个视频点播网站，但据项目负责人说，这个网站已经过时，需要用更新的技术和一套全新的理念加以更新。于是，一支软件开发团队被组建起来，负责设计并实现新的视频点播网站，以非线性的方式“播出”与线性节目（linear program）相同的节目。并且，由于这个新网站应当成为一个最先进的实现，推荐系统（recommender system）被设想为整个架构的核心要素。仅就这一目标而言，领域专家（即编辑）加上一支软件开发团队本已足够。然而，这个项目的目标还要更雄心勃勃一些。 > 公共广播机构的数字服务尤其面临挑战，因为所开发的平台战略不仅要面向用户的需求和反馈，同时还必须考虑“媒体报道的客观性与中立性原则、意见的多样性，以及其服务的均衡性（Project proposal, 1, my translation）。 这段引文取自项目申请书，展示了该项目的总体目标。其目标不仅是开发一个最先进的视频点播系统，而且要以一种与德国公共广播机构的法律义务相兼容的方式来实现它。作为一家公共媒体机构，该广播机构必须遵守所谓的节目使命（program mandate），这是一项要求提供广泛、中立和客观的信息选择的法律原则。然而，应用于非线性在线媒体的方法似乎与这些理念相抵牾。项目开始后不久，所实现的推荐算法就被认定为尤其成问题。为了应对这些问题，一支广泛的跨学科研究团队被组建起来，其中就包括我——那位社会学家。我在开发团队的办公室里有自己的办公桌。要到那里，我必须通过入口门禁。最初几周，我得给办公室打电话，让人来接我。不过后来，我拿到了自己的门禁卡，从而可以随时进入这些设施。开发团队的办公室位于一栋单独的楼里。办公室旁边是一间大会议室。这间会议室没有中央会议桌，里面摆放着许多关于机器学习、软件开发、各种编程语言和设计模式等诸多主题的书籍。它还配有一台用于视频会议的大显示器——这台显示器经常被用来让其他城市的同事加入本地会议。房间里还有各式各样的座位安排，包括又大又色彩鲜艳的靠垫。在某种程度上，它让我联想到一种硅谷气息，因为它非常富有玩乐感，放着各种小玩意儿——比如一套 VR 设备，那是项目负责人有一次向我们展示过的——而且在与会者之间没有设置诸如大会议桌之类的屏障。相反，这个空间非常开放，四处只摆着一些小桌子。这种布置也体现了扁平化层级的理念。我们在这个房间里开过好几次会，讨论开发项目的下一步、挑战与战略。我每次走向项目团队的办公室时都会经过这个房间。办公室里有六到七个人的工位——随着团队壮大，这个数字随时间而变化。进门后，Alice 的办公桌就在左手边。Alice 是一位数学家兼计算机科学家，负责推荐算法的开发。Bob 的办公桌位于进门几步远的右侧。Bob 是项目负责人，同样是一位计算机科学家。每个人都坐在两块大屏幕前，大部分时间头上戴着耳机。这在办公室里营造出一种专注而安静的氛围：每个人都看着自己的两块屏幕，阅读，在键盘上打字。即便是在办公室内部，交流也大多通过 Slack 进行，这是一款基于网页的聊天服务，模仿早期 IRC 服务器的交流体验。 > 有一次，我正和 Alice 讨论一个关于数据生产与推荐算法的问题，她回答不了，便想从 Bob 那里了解一些信息。然而，Bob 对我们引起他注意的尝试毫无反应。于是，仿佛这是世上最平常不过的事情一样，她拿起身边的 Nerf 玩具枪，瞄准，朝他射击。这下我们引起了 Bob 的注意，可以继续讨论这个问题了（凭记忆记录）。 这个场景说明了在软件开发项目中开展民族志田野工作（ethnographic fieldwork）的一个重要因素。观察并不是连续不断的，仅仅“在场”是远远不够的。坐在满是开发者的房间里，意味着我大部分时间看到的都是人们坐在电脑前，默默地敲击键盘。互动发生在别处。在线的交流与协调（coordination）工具，对于软件的开发和项目团队内部的协调至关重要。此外，该项目以敏捷（agile）方式管理，也就是说，在每周和每日的会议上共同确定下一步的小步骤，在所谓的冲刺（sprint）中加以实现，并在随后的会议上汇报所取得的进展。冲刺被定义为在短时间内（通常约为一周）实现一些小任务和小功能。因此，会议框定了由这些冲刺所界定的活动。所以，团队并不是一直各自独自坐在电脑前工作，而是在很大程度上依赖相当高频率的线下会议。不过，这些会议只包括软件开发团队的核心圈子。另一些会议则定期与在线编辑团队一起举行，由他们为项目贡献关于该广播机构内部组织流程与编辑流程的专业知识。作为团队的一员，我可以接触所有这些不同的数字和线下的交流与记录设施。为了重构算法是如何被开发、又如何在不同情境中被实演（enactment）的，我必须跟随开发者们辗转各处：进入 Slack 对话、Wiki 的编辑记录，以及不同的会议室。 ## 为说明作说明（Accounting Accounts） 开展定性经验研究的一大挑战在于，要把各种观察秩序化（ordering）为某种类似线性论证的东西，而数据收集与参与本身却建立在非线性、分散的事件和观察之上。对于如此长期的民族志而言，情况更是如此。我参与开发新视频点播平台的项目大约一年，从 2016 年春到 2017 年夏。在此期间，我得以收集许多不同形式的数据。其中包括 Slack 上的对话，既有与同事的直接对话，也有公开频道中的对话。还包括电子邮件往来、会议田野笔记以及文件分析。此外，我还得以分析对团队成员和元数据（meta-data）生产者所做的访谈。我也参加了一些讲解和讨论核心信息基础设施的工作坊，并与核心节目编排系统的关键用户主持了一场焦点小组（focus group）讨论；这套系统后来被设想为在组织内部元数据生产中处于核心地位。 如前所述，尽管每个人在物理上都在同一个房间或至少同一栋楼里，在线交流仍是项目团队协调中的一个重要因素。因此，我加入项目后的首批任务之一，就是获得这些不同交流渠道的访问权限，即 Slack、一个 Wiki 和 GitHub 代码库。其中最重要的是开发项目的 Slack 实例。在这个 Slack 实例中，与整个团队的交流在按主题划分的频道中进行。对我的工作尤其重要的是 #machinelearning 频道，因为关于推荐系统的信息就在那里分享和讨论。在这些频道中，分享的是所有人都感兴趣的信息，比如即将召开的会议日期、错误报告、概念说明、专题会议的报告。甚至团队冲突在某种程度上也以这种形式加以讨论。因此，Slack 既是团队中持续交流的记录，也是保存所有相关信息的空间。但它同时也通过私信，充当少数几位成员之间更有针对性的交流形式。我经常直接与 Alice、Bob 和其他人讨论事情，并与项目的各位团队成员保持联系。尤其是 Alice 向我介绍由机器学习驱动的推荐系统相关技术的那些对话，都是通过私信进行的，因为我们认为其他团队成员对我的学习过程不会有多大兴趣。因此，Slack 以两种不同方式成为我研究的重要来源。 第一，它是持续交流的记录，我可以在不借助录音设备干预情境的情况下对其进行分析。对所有这些交流的记录，本身就是我的田野中自然情境的一部分。第二，这个 Slack 实例成为我“追随行动者”（follow the actors）的起点，因为它会显示我应当调查的相关场所、情境和行动者（actor），比如文章、成文的概念，也包括会议或学术会议。除 Slack 之外，项目还拥有自己的 Wiki 站点，用于记录会议结果、功能描述以及时间表和截止日期。项目协调人上传所举行会议的简短纪要，也写下后续步骤或需要实现的必要功能。因此，这些 Wiki 页面既向我提供了我未能出席的会议的信息，同时也向我展示了项目团队对所经历会议的自我描述。于是，它们提示了在讨论中什么对团队而言是重要的，什么可能是冲突所在，也提示了什么没有在那里被提及。我在此想提及的第三个也是最后一个在线资源，是 GitHub 代码库。它包含视频点播系统的代码库，其中包括推荐系统的部分内容。不过，它不像其他要素那么重要，因为讨论和实践大多涉及的是各种技术，或者用于测试代码片段、进行快速原型开发（rapid prototyping）的 iPyhton Notebook。尽管如此，它在项目中仍是一个相关的行动者和媒介，只不过是实演算法的过程中众多行动者之一。 于是，算法的实演也发生在许多不同的会议中。与办公室里安静专注的氛围相反，会议是讨论和激烈辩论的场所。开发项目按照 SCRUM 这一敏捷范式来组织，其中包括每日会议和每周会议。在这些会议上，团队确定下一个开发冲刺的目标，讨论一些较小的问题以及如何处理它们。这些每日和每周会议常常会引出另一场聚焦于专题问题的会议，比如元数据生产、网站的设计问题，或者该服务后端系统的系统架构，仅举几例。此外，我还得以出席开发者与在线编辑团队之间的定期会议，会上讨论的是一般性的、非技术性的问题与战略。重要的是要记住，我出席这些会议不是作为观察者，而是作为项目成员。因此，我也会被直接点名发问，尤其是在出现有关推荐系统的问题时。因此，我没有像 Knoblauch（2005）所建议的那样对这些会议进行录音。相反，我用好几本笔记本记录会议上的辩论和对话。此外，我在大学研究小组的一位同事大部分时间也在场，我们事后会分享并比对彼此的笔记。 除了这些或多或少属于必须参加的会议之外，我还运用了 Latour（2005）所描述的“追随行动者”路径。在观察技术人造物（technological artifacts）的使用过程中，或者在留意到对话中随口提到的名字或被讲述的行动者时，我开始追问——先是问自己，然后问他人——为什么某样东西变得重要，并随之追随行动者网络（actor-network），进入组织的不同场所、情境和部门。这一路径在互动主义符号学（interactionist semiotics）中也广为人知，Goodwin（2000, 1508）在那里主张：“我们必须调查的东西，产生于参与者自身如何通过身体朝向和行动组织，展示出某个特定场域是有后果的、相关的。”结果，我来到了视频档案库（archive），提出有关数据生产实践的问题；也曾置身于一场讨论该广播机构基础设施生态的工作坊；或者与新组建的在线编辑团队进行访谈。这些相遇的性质各不相同，取决于我当时所扮演的角色。我作为项目成员参加的会议通常不录音，比如与档案库同事的会议，或者两场向我们（即项目团队）讲解组织媒体基础设施的工作坊。不过在另一些场合，我对与开发者、编辑的访谈，以及与元数据研究团队和节目编排系统 WhatsOn 用户的焦点小组进行了录音。 另一些行动者则直接在与推荐系统相关的讨论中被赋予了相关性。Alice 给了我许多不同的论文和资源，告诉我去哪里查阅和学习。一个重要的参照点是例如《推荐系统手册》（recommender systems handbook）（Ricci et al., 2011），它既是我通过学习相关技术而成为田野一部分的关键资源，也是我进一步分析铭写（inscription）进推荐系统中的理念与价值的关键资源。这些文件和人造物是民族志文献分析的一部分，因而从不是孤立的，而总是处在将它们作为重要参考的那些实践的语境之中。 所有这些行动者、文件、教科书、档案库或在线编辑团队的同事，都作为持续开发过程的一部分而被赋予了重要性。所有这些场合都成为观察，它们最终进入我的田野笔记，被转写为访谈文字稿，或成为一种“有利益关涉的阅读”（interested reading）（Loukissas 2017; B. Rieder 2017）的一部分，这些材料随后通过后 ANT（post-ANT）与常人方法学（ethnomethodology）的方法论视角加以分析。然而，我所处的位置并不是一个单纯观察者的位置。相反，我成了项目团队的一员，因此我的数据收集建立在介入和参与之上。我不只是坐在角落里，还提出解决方案、关于往哪里走的想法，有时也会问一些可能很傻的问题。这就需要一些方法论上的反思，因为这样一种路径既创造了机会，也有其陷阱和问题。于是，一场相当棘手的游戏——关于亲近与距离、“入乡随俗”（going native）与“回家”（coming home）、既是同事又是研究者——贯穿了我开展田野工作的整个过程，并延续到其后。最终，我必须找到一种方式来成为不止一个人，并协调我这些不同的主体性。 ## 论成为不止一个人（On being More than One） 在项目刚开始的时候，对于我在项目中的具体角色是什么，存在某种不确定性。社会学并不是这类软件开发项目的天然盟友。当然，作为一名对算法解决方案的谱系及其规范性感兴趣的社会学家，这个角色对我来说是清楚的。我来到那里，是为了看算法的特性和功能是如何被协商和实现的——以及明确的规范性指涉是如何被开发项目处理、又在多大程度上能够被处理的。然而，其他团队成员对此并不那么清楚。尤其是当我被安排参与推荐系统的开发时，这造成了一些困惑。社会科学能为一项技术事业提供什么呢？我没有被认定为“技术圈”（technology crowd）的一员，而是被视为一个可以去和人们交谈、研究组织条件的人——后来我也确实做了这些。然而，我也想看看开发者们如何处理算法，如何谈论它，如何论证它被设计出来的品质。为此，我必须成为技术圈的一员。 幸运的是，有一个相当直接的办法可以做到这一点。在讨论过滤气泡（filter bubble）问题时，有人提出这样一个问题：迄今为止的网站究竟是否产生了某些过滤气泡。找到这个问题的答案并不那么简单，而 Alice 又没有时间处理这个问题。于是，我尝试去找一个解决办法。作为对该广播机构旧网站评估的一部分，我们可以获取用户追踪（tracking）数据。这些数据包含了个体用户观看了哪些视频，以及观看了多长时间。这被称为隐式反馈（implicit feedback）。我们假定，一个视频被观看的时间越长，用户对这个视频的评分（rating）就会越高。于是，我的任务是从所记录的用户—视频关系中推断出一个或多个聚类（cluster）的形成，而这些聚类会表明此类推荐产生了过滤气泡。在研究了一些方法之后，我想出了一个包含三个步骤的思路：第一，将评分归一化。也就是说，如果某个评分低于一个阈值，就赋值为零；如果高于阈值，就赋值为一。第二，计算矩阵的转置。第三，将原矩阵与转置矩阵相乘。由此得到一个矩阵，它描述了一个用户与其他用户之间的关系，这种关系取决于他们是否观看了相同的视频。共同观看的视频越多，两个用户之间的关系就越强。最后一步，我根据计算所得的数据制作了网络可视化图。这并不是严格的科学，更多的是大量地摸索，并用我的 R 脚本尝试不同的参数。然而，当我向 Alice 展示这个想法和结果时，她看着我，回答说这是个好主意。这次计算的主要目的并不是显示是否存在聚类以及存在哪些聚类，这些可视化图也没有对项目进程产生任何进一步的影响。相反，它帮助我证明了我不仅是一名社会学家，而且也有能力理解他们在谈论什么。我不再是旁观者，而是成了他们中的一员。然而，我并不只是一个网络分析者，或者那个能用 R 做计算的人。我仍然也是那位社会学家。我是不止一个人，而有时，这种“不止一个人”会干扰我所使用的说明（accounts）的剧目。这触及了一个常被认定为“入乡随俗之危险”的问题的核心。而在那些不仅进行观察、而且在性质上是嵌入式和介入式的研究中，这个问题甚至更加严重。正如 Latour 和 Woolgar（1986）所主张的： > 对我们来说，“入乡随俗”的危险，超过了其可能带来的便于进入田野、迅速与参与者建立融洽关系等好处（Latour and Woolgar 1986, 29）。 根据 Latour 和 Woolgar 的观点，这种危险在于：赋予田野中的行动者（在他们的研究中是科学家）某种特权地位，会使行动者借以生产社会性、科学事实，或者——就我们的情形而言——算法的那些方法变得不可见、不透明。这并非因为我们不理解它们，恰恰是因为我们在某个层面上理解了它们，以至于把它们视为理所当然。作为一个陌生人，不熟悉田野中的意义及其意义生成的方法，反而是一种优势，因为我们甚至无法把重要的互动误认为是正常的。 然而，如果我们认真对待所涉行动者的主观视角，这就会造成一些严重的问题。尤其是，Latour 后来主张：“ANT 不过是忠实于常人方法学洞见的另一种方式：行动者知道自己在做什么，我们必须向他们学习的，不仅是他们做什么，还有他们如何做、为何这样做”（Latour 1999b, 19）。然而，这种地方化的、情境化的理解，需要对经验上可观察的实践和说明进行某种诠释——这是常人方法学纲领所继承的舒茨式（Schütz'ian）遗产（Garfinkel 2006）。在生产说明的过程中，行动和言语的主观意义得以为他人所观察。当然，这些说明永远无法涵盖说明给出者所做的一切——因为这还包括对这些说明的内在推理和思考（Schütz [1932] 1993）。为了进行交流，说明给出者必须始终这样推理：如果对方把我与这些符号或行动相联系的意义也与之相联系，那么她就会以我所预期的方式作出反应。因此，按照舒茨的说法，在我们对一个情境的诠释中，我们总是采取他人的（假定的）视角。这造成了一个巨大的协调问题，伴随着诠释与再诠释的无穷回归。Garfinkel 用民族方法（ethnomethods）和常态化（normalization）的概念来处理这个问题。对 Garfinkel 而言，民族方法不过是一个已被秩序化的社会构型中的合格成员（competent members）为了生产说明——并同时诠释说明——而使用的方法。通过识别生产与诠释的惯例，交流过程得以化解为一个持续进行的、运转良好的互动情境。对我的说明的反应若偏离了预期，或他人的说明若偏离了预期，本身就会激起诠释者的反应，诠释者会试图把说明链带回到一个在其看来已知且界定清楚的情境（Garfinkel 1984）——Garfinkel 及其学生在所谓的破坏实验（breaching experiments）中反复证明了这一机制。 然而，这对我们如何进入经验田野有一些严重的影响。仅仅从一个抽离的视角进行观察，我固然能够记录社会群体中的这些合格成员是如何互动的。然而，对这些说明的描述将依赖于一种外在于情境的评估——这可能导致（可能被误解的）误解。读者将不会了解到手头情境的什么，而是会更多地了解我以及我的推理。研究者根本就不是所研究社会群体的合格成员。这也是常人方法学之所以聚焦于人们熟知的日常互动的原因之一。人们可以假定，研究者已经是她所研究的情境和群体中的合格成员。[^f02-1] 这一点在 Garfinkel 对纪录方法（documentary method）的定义中得到了最好的体现： > 这种方法在于，把一个实际的表象当作一个预设的潜在模式的“纪录”，当作“指向”该模式，当作“代表”该模式。不仅潜在模式是从这些个别的纪录证据中推导出来的，而且这些个别的纪录证据反过来又是根据关于潜在模式的“已知之事”来诠释的。二者中的每一方都被用来阐发另一方（Garfinkel 1984, 78）。 被观察到的说明被假定关联着一种共享的理解、一种共同的诠释模式。因此，研究者的目标是使这些关联变得可见，并可供审视和分析。当然，这里的假定是，研究者有能力通过共同的民族方法建立并重构这些关联。合格的观察者不仅必须能够报告这些说明，还必须能够参与社会秩序（social order）的再生产（Garfinkel and Wieder 1992）。因此，按照 Amann 与 Hirschauer 的看法，对民族志研究者的期待是双重的：“其一，期待每个田野都有一种社会逻辑（socio-logic）、一种文化上的有序性；其二，期待通过民族志研究者在田野中逐步的定位和‘校准’，这种社会逻辑变得可以实践，并能被调动为经验知识”（Amann & Hirschauer, 1997, p. 20 my translation）。因此，作为研究者，我们必须一步一步地学会理解和诠释所研究田野中成员的行动与说明。这是一项必须在民族志研究的所有阶段完成、却永远不会完结的任务，或者如 Knoblauch 和 Vollmer（2019, 603）所说：“理解他人、他们的行动及其客观化产物，在整个研究过程中始终是一项任务，以至于连研究问题都取决于这种理解”（my translation）。然而，这种理解植根于两种截然不同的研究风格，它们深刻影响着研究者在田野中的角色。Amann 和 Hirschauer（1997）主张，研究者应当通过持续地对田野进行“陌生化”（bestrangement），即与经验田野保持距离和差异，使一个熟悉情境中的日常实践与推理变得可见——Hammersley 和 Atkinson（2019）也提倡这一路径。另一些人则主张一种沉浸式路径。尤其是在很大程度上借鉴舒茨理论的当代生活世界分析（life-world analysis），主张成为某一社会情境的成员，以便获得“关于人们在这样的世界中究竟如何经验、经验到什么的信息”（Pfadenhauer 2005, 8）。我们作为进入这些陌生领域的社会科学家，永远无法确切知道自己对田野中说明的诠释是否正确，而必须成为某一社会群体的合格成员，学会在田野中互动和参与（Honer and Hitzler 2015）。与其害怕入乡随俗，不如说入乡随俗是使我们的分析获得经验根基的核心要素。[^f02-2] 如果我们希望能够使我们关于某一给定情境中社会性如何达成的报告获得经验根基，我们就需要成为我们所研究的对象。正如 Knoblauch（2005）所主张的，这使我们能够开始尝试采取我们所研究之人的视角。[^f02-3] 转向常人方法学的视角来看，这也使我们能够学习并运用相关的民族方法，从而给出并诠释所研究情境中典型的说明。由此还引出了第二个方法论考量。成为某一情境的一部分并学习其实践规则，也会改变我们所研究的情境本身——尤其是当我们进行干预，有时制造一场危机，以观察情境如何再次被常态化的时候。但正如 Mol 所写：“强调这一点，并不是要说观察者不应当干预。他们总是在干预”（Mol 2002, 157）。作为正在成为某一情境、某一社群或某一组织之一部分的研究者，我们改变了情境，激起了不同的说明、不同形式的秩序化。因此，我们被如何称呼和对待，会改变说明呈现给我们的方式。社会学中早先也有人讨论过这个问题，Schwartz 和 Schwartz（1955）称之为“观察者效应”（observer effect）（Schwartz and Schwartz 1955, 346）。在我们进行观察的那一刻，我们就激起了不同的反应。然而，Schwartz 和 Schwartz（1955）——以及其他人——视为观察问题的东西，也可能成为改变我们调查方式的机会。我们被当作专家还是外人、当作社会学家还是“技术圈”的一员，是有区别的。在每一种场合中，说明都能告诉我们关于所达成的社会秩序的某些东西，只不过是从不同的视角、不同的角度。每一种场合都能告诉我们，社会系统或实践中达成的秩序化，如何对我们的刺激作出反应。[^f02-4] 简言之，如果我们不可能不干预情境，那么我们至少应当意识到我们是以何种方式在干预，以及这告诉了我们关于所达成的社会秩序的什么。Law（2002）援引 Haraway（1988），主张知识生产——因而也包括民族志研究者的视角——总是建立在一种局部视角（partial perspective）之上。在历史上，我们只是把其中的一种命名为客观的。[^f02-5] 因此，两种视角——社会学家的视角，以及那个能用 R 做计算的人的视角——都是有价值的。它们只是告诉我们关于研究对象及其周遭实践的不同东西。Law（2002）甚至主张，我们的视野变成了分形的（fractal），也就是说，同一现象存在着不同的版本。这是对 Clifford（1986）早先提出的“民族志总是生产一种局部真理”这一论点的本体论转向。于是，研究者在场的这种影响和作用，就不仅仅是观察并记录某一给定情境中情境化的、公开的说明的必要条件（Geertz 1973）。相反，它成为使某些说明首先得以被观察到的一种工具。采取不同的位置、创造不同的情境，为探查经验田野所实演的社会结构提供了不同的手段。 ## 每一个你，每一个我（Every You, Every Me） Garfinkel 的论证无论多么令人信服，都系于知识库存（knowledge reservoirs）的主体间性（inter-subjectivity）这一问题——借助这种知识库存，人们识别模式并将其与说明联系起来。虽然 Garfinkel 对他所称的关于经验的形而上学假定并不感兴趣（Garfinkel 2006），常人方法学的纲领仍然假定存在一套共享的诠释剧目；这一剧目体现在民族方法的概念之中，而民族方法又是分析情境化的、在地达成的经验观察所必不可少的前提。这导致了“独特充分性标准”（unique adequacy criterion）的提出（Garfinkel 2002），它要求研究者必须已经是该群体的合格成员，才能就社会互动作出充分的描述。这种要么成为合格成员、要么以与被研究者相同的方式经验情境的视角，导致有研究者去攻读第二个数学学位，或者像 Wacqant（2004）那样去当拳击手。Amann 和 Hirschauer（1997）等人批评这是一种过分的要求。激进沉浸式路径的倡导者主张，如果不是合格成员，就不可能给出忠实于田野的说明，原因很简单：我们并不确切知道究竟发生了什么。但话说回来，任何参与者也都不确切知道这一点，原因同样简单：我们无法进入他人的心灵。舒茨早已把这一洞见表述为“他人作为异己之我”（the other as an alien I）的一般命题：只有当我假定我的另一个自我（alter ego）的经验结构与我的经验结构可以相比时，互动才是可能的（Schütz [1932] 1993）。说明的交换就这样进行下去，仿佛它们都以正确的方式得到了诠释。因此，成为某一群体的合格成员并再现该田野的经验，是我们必须追寻的一种理想，但我们永远无法确定自己是否已经达成。在描述一种经验现实时，我们必须假定自己的诠释忠实于所记录的实践，并在我们的经验田野中不断加以检验。因此，在反思多重性（multiplicity）时，Mol 主张，知识“并不是从符合实在中获得其价值的。我们应当寻求的，毋宁是与实在共处的有价值的方式”（Mol 2002, 158）。这对于我们关于社会秩序化的说明同样成立。被描述的秩序化依然是真实的，一旦受到探查，它们依然会激起抵抗与稳定。因此，对田野的描述是一种实演，它力图尽可能忠实于在地的、情境化的认知形式与秩序化形式。为此，让我们自己沉浸于田野，学习其语言、其技术，干脆成为我们所研究田野的合格成员，是一种我们也许永远无法达到的理想；而就其排他性而言，这种理想或许也并不值得追求。然而，这仍然是一种能为专门领域中的经验现象提供独特而重要视角的路径。与其满足独特充分性标准，或许更有成效的做法是力求分析充分性（analytical adequacy）（Knorr-Cetina et al. 2019）。 然而，这一视角必须被重新语境化，并被带回到我们自己的学科和推理形式之中。作为社会科学家，我们是另一个秩序化系统（或者毋宁说是许多个秩序化系统）的一部分。我们不仅描述我们所观察到的东西，还把它转译（translate）为能被我们的同行理解和看重的说明。我们成为经验田野的代言人（spokespersons）（Callon 1987），但我们是对一群非常特定的听众说话。凭借我们所习得的知识来再现这些情境中的说明，会产生摩擦。不同的被实演的自我必须加以协调——这边是那位能用 R 做网络可视化的项目伙伴，那边是那位将就其所研究的社会技术系统告诉我们一些分析性见解的社会学家。 ## 以社会学的方式言说（Speaking Sociologically） 在一次学术会议上，我作了报告，描述了关于算法如何成为一个组织行动者的研究发现。之后，一位同行举手问道：“也许是我没听到，但这里面究竟有什么是社会学的？”我的回答用到了互动秩序（interaction order）、偶然性（contingency）和情境化的问题界定（situated problem definition）等术语，但我没能把我用田野的语言学到的发现，以一种会被理解为社会学的方式表述出来。然而，这正是社会学家所做的事——以社会学的方式言说，向一个特定而合格的群体给出专门化的说明，这个群体拥有其自身的民族方法、其自身的现实。Callon 和 Latour（1981）敦促我们，把迄今所说的一切也应用于我们自己的学科，应用于我们称之为科学的东西。 > 每当社会学家写作，他们就会变大或缩小，成为宏观行动者——或者没有成为——要么像 Lazarsfeld 那样扩张到跨国公司的规模，要么缩小到市场中一个有限的部门。是什么使他们变大或缩小？是其他行动者：社会学家或多或少成功地转译着这些行动者的利益、欲望和力量，并与之结盟或争吵。视时期、策略、制度和需求的不同，社会学家的工作可以扩张，直到成为人人都在谈论的关于利维坦（Leviathan）的说法；也可以缩小为某所英国大学里三个博士生对自己的看法。社会学家的语言与利维坦之间并无特权关系。他们作用于利维坦。假设他们声称利维坦是独一的、系统性的，假设他们创造出控制论式的、等级整合的子系统：这要么会被接受，要么不会；要么会传播开来，要么不会；要么会被他人用作资源——要么不会。对利维坦的这一定义取得成功，并不能证明利维坦自身的本性如何（Callon and Latour 1981, 298–99）。 在这段引文中，Callon 和 Latour 认为，社会学家的语言并不能证明关于研究对象之本性的任何东西。我不同意。它以不同的方式建构现象，把田野中的实演转译为另一种科学的实演。正如 Latour 著作中的丛林土壤（1999a）一样，经验田野通过社会科学的方法而被指涉、被实演。然而，这些面对着不同秩序化、使用着不同说明的不同实演，必须加以协调。如果这种协调失败，我们就会陷入要么毫无分析价值的经验主义，要么与经验现实毫无联系的空洞理论化。[^f02-6] 因此，在我所开展的这种民族志工作中，社会学推理始终是对不同说明给出形式的协调。而且在每一个时刻，你都以不同的方式描绘和建构你的研究对象。按照 Law 的说法，“表征总是一种简化和一种删除”（Law 1994, 165）。描述和表征我所观察到的东西，只能用有限的文字，而这些文字永远无法传达全部经验、我的全部观察。你此刻正在阅读的这本书，是对我在田野中——在公共广播机构这个奇异的社会技术世界中——所遭遇的实践、理性与问题的一种表征。正因如此，它以简化和删除的方式运作，但它是在经验基础上这样做的。本可讲述的故事不止一个——但肯定也少于许多个。传达一项观察和一个论证的计划，本身就是一项协商的事业：协商框定这份文本的不同实演和不同秩序化模式。既要忠实于所观察到的经验现象（并由此也共同建构它），又要满足向一个学科的（也是被规训的）共同体言说的可能性条件，二者共同决定了这份报告的形态。我在公共广播机构的同事中，没有一个人在谈论符号学、民族方法或秩序化模式。在他们的世界里，这些概念并不存在——只要我不提起它们。这些东西是在分析上、并且“为了某些目的而有用地归属于社会的模式”（Law 1994, 84，强调为原文所有）。我使用这套词汇，是为了以一种不同的形式实演这家广播机构、这个开发项目和这个算法。我不是“仅仅”报告算法是什么，而是在这个等式中加入了它的另一种实演。这就是社会科学常常称之为反身性（reflexivity）的东西——意识到自己在田野中的位置——但同时，社会科学又常常忘记，我们是另一个秩序化系统的一部分。根本不存在外部，不存在自上而下的视角（Haraway 1988; Law 2002），存在的（只）是需要彼此协调的多重实演。因此，我自己对本书所描述现象的描述，是我自身不同版本之间协商的结果。不过，这种协调的努力也是对“入乡随俗”问题的一种矫正。为了成为一名社会学家，我必须能够与其他社会学家交谈，并生产出那些更有可能使我与我的学科建立联系的说明。正如 Amann 和 Hirschauer（1997）所主张的，每一次入乡随俗都必须伴随着一次“回家”，在“回家”中我们获得必要的分析距离，从而在我们的记录中看到比（对我们而言）显而易见的事实和现象更多的东西。这样做时，我们使熟悉的情境对我们变得陌生，熟悉的现象被当作“仿佛它是陌生的。[……] 它被置于与观察者相隔一段距离之处”（Amann and Hirschauer 1997, 12, my translation）。 在这里，我们闭合了 Amann 与 Hirschauer 和 Garfinkel 之间那看似存在的冲突的循环。这并不是非此即彼的：要么成为群体的合格成员，要么不断使自己与田野疏离。归根结底，二者总是兼而有之。对手头问题的学科化描述和实演，要求社会科学家使其观察能够与其自身的制度性情境（institutional settings）相关联。因此，作为入乡随俗之必要对立面的反身性——正如 Law（2004）对我们所要求的那样——也是一种集体成就。我们不仅是某一场所中的研究者，也是更广泛的科学系统中的科学家，这使我们必须以某种方式保持反身性，重新诠释我们的观察，并将其与其他诠释模式联系起来。正如 Latour（2013）主张客观性是一种集体成就，反身性亦然。回到这本书、我的工作有什么是社会学的这一问题？什么也没有。又一切都是。这取决于所使用的是何种生产说明的剧目，以及我在对谁言说。 [^f02-1]: 当然，这一解决方案与 Parsons 的解决方案并无太大不同——Parsons 把共享规范确立为产生主体间可诠释性的一种客观手段；也与 Luhmann 的方案相去不远——Luhmann 只是把视角从合格成员转换到一种交流形式，这种交流形式以交流系统的共享代码为导向、并以之为基础而构成。然而，Garfinkel 使图景复杂化了，因为他把意义生成与诠释的方法绑定于一个流动的情境。 [^f02-2]: Howard S. Becker（1997）的分析在这一问题上极具启发性，它展示了“成为某人”可以如何理解。然而，成为合格成员存在一定的边界，尤其是在那些处于边缘的田野中（例如参见 Girtler, 2003, 2004），这些田野会要求某些研究者不愿或无法从事的互动（Humphreys, 1976）。 [^f02-3]: 不过，这里有必要指出，Knoblauch（2005）提出这一论点，是为了一种关于他异性（alterity）的民族志构想：在其中，研究者与被研究田野所共享的知识，在对情境、视角、态度等方面差异的持续探寻中被反身性地加以对照。在我看来，对于研究那些随着研究者个人发展和职业生涯推进而变得愈加熟悉的情境，这样一种态度是最有前景的。 [^f02-4]: 这听起来相当实证主义，但其旨归是一种关于社会秩序的互动主义视角。 [^f02-5]: 关于客观性作为一个概念的历史转变，有一个非常有益的讨论，参见 Daston & Galison（2010）。 [^f02-6]: 这当然是对康德批判的一种转述（[1781] 2008）。 # 第二章 作为强大行动者的算法之争（Debating Algorithms as Powerful Actors） > 书。人们从来没有真正停止过爱书。五十一世纪。到那时，你们已经有了全息影像、直接下载到大脑的内容、虚构迷雾。可你们需要那种气味。书的气味，Donna。深呼吸！——博士（The Doctor），《神秘博士：图书馆的寂静》（*Doctor Who: Silence in the Library*） 算法与机器学习不仅已成为更广泛的社会讨论中一个持续被援引的参照点，而且也成为社会科学和人文学科中被广泛讨论的现象。近几年来，关于算法权力的文献急剧增长，甚至形成了一个名为批判算法研究（critical algorithm studies）的独立领域，而这一领域本身又是软件研究（software studies）或批判代码研究（critical code studies）的后继者。这些研究在处理算法现象时运用了范围广泛的各种理论与概念，它们有时彼此兼容或可以比较，有时则独树一帜、不可通约（e.g., Willson 2014）。借用基础设施研究（infrastructure studies）中的一个概念（Star and Griesemer 1989）来说，算法这一形象由此似乎充当着一种边界物（boundary object），使极为不同的理论视角与学科视角得以彼此对话。与此同时，这也可能造成混乱，因为对算法权力的不同构想被当作似乎是同一种现象来讨论，常常让我们不得不追问：当我们谈及算法权力时，我们究竟在谈论什么（Ziewitz 2016）。 因此，下文将从算法的权力与社会秩序的角度讨论丰富多样的文献，以概述不同的研究进路及其背后的相应理论。这样的综述当然永远不可能完整，它所呈现的秩序在一定程度上也是偶然的。因此，下一节的目的并不是对文献作出完整、包罗万象的概览，而是勾勒出在算法、机器学习与社会秩序问题上占主导地位的理论进路和叙事。这一做法也反映了不同进路在算法讨论中被使用的强度。尽管马克思主义批判和控制论进路是讨论中的重要声音，但可以公允地说，福柯的理论化已成为学术讨论所采用的一个主要视角。与此同时，在理论层面上提出批判时需要谨慎，因为大多数研究把不同的观念和理论用作敏化概念（sensitizing concepts）（Blumer 1954），并由此提出了有效的论点。所呈现的各种理论视角总是着眼于某个特定问题，而不同进路对这一问题的表述与解决也各不相同。因此，考察这些进路未必应当从一个外部立场出发提出批判。相反，本章的目的在于欣赏所呈现的各种视角，并从它们各自理论范式的角度探讨其生产性与述行性（performativity）。即便提出批判，也是出于必要的谦逊心态：它希望探讨这些理论维度及其对于我自己的观察（将在后续各章中更详细地讨论）的生产性，以及这些理论能够凸显什么、又使哪些方面变得不可见。 下文中，我将首先讨论学术讨论中在算法问题上已被识别出的各种议题，例如不透明性（opacity）。这些部分并不那么侧重于对算法现象进行理论化，而是旨在就我们社会持续的算法化所带来的重要问题打开一个批判性视角。随后，我将探讨三种不同的视角：一种关于算法权力的福柯式进路、作为资本主义体制中行动者的算法，以及一种关于算法的控制论进路。其中关于福柯的一节篇幅最长，因为讨论中许多学者都借助福柯思想丰富的概念库来问题化算法。最后，基于对这些进路的讨论，我将指出社会秩序化（social ordering）视角可能为这场争论提供的一些贡献。因此，我提出一种不同的视角，它在两者之间进行调和：一端是个体层面上作为强大行动者的算法，另一端则是把算法视为一种副现象（epiphenomenon）的结构性效应。 ## 算法所涉及与算法自身的问题（Issues With and Of Algorithms） 回顾在算法权力与能动性方面所提出的问题和难题，可以发现讨论并不总是遵循一个界限分明的理论视角，而是试图凸显算法系统的特定议题和问题。其中主要的探究路线是：看似客观的知识的生产、黑箱与透明性问题，以及算法偏差（algorithmic bias）问题。下文将讨论这些不同的议题。在这一讨论中，算法究竟被视为稳固的行动者还是结构性效应这一问题，即便有所触及，也只是隐含地触及，这引发了一些批评（e.g., Hoffmann 2019）。 ### 知识生产与客观性（Knowledge Production and Objectivity） 人工智能，无论是早期的专家系统（expert systems）还是更为当代的机器学习形式，始终面临着知识获取（knowledge acquisition）的问题，即关于世界的知识如何被收集、表征并应用于手头人工智能系统的任务。尤其是专家系统，面临着如何为其显式的、基于规则的知识表征提取知识的问题（Forsythe 1993）。因此，人工智能的早期版本试图将人类专家的知识形式化，并将其转换为计算机能够理解的形式。当今的机器学习系统同样面临这一问题——如今它常被表述为对领域知识（domain knowledge）的需求（Ribes et al. 2019）。专家系统建立在一种显式的理论进路之上，而这种进路又以哲学观念或基础人类学观念为支撑。Berry（2011）将其与通过机器学习和大数据生产的知识相对照，后者是一种计算性的知识。在 Berry（2011）看来，这使其他理性化形式被抛诸身后。Boyd 和 Crawford（2012）进一步指出，随着（所谓的）大数据应用与机器学习结合出现，知识的定义从基于规则的系统或专家陈述，转向了以数据驱动的方式来表述相关性与模式。然而，理论与假设并没有被抛弃，改变的是理性化的形式。什么形式的数据被输入算法，观察与编码之间的转译如何进行，这些构成了数据驱动社会中新的理论化（Bowker 2006）。这些数据解释上的偶然性常常以客观性神话为伪装，从而将所采用的解释模式实演为一种强大的理性。这种建立在对数字之信任基础上的被实演的客观性，为社会制度与社会事业创造了正当性（G. Rieder and Simon 2016），而且这一现象并非只见于算法应用之中（e.g., Porter 1995）。Beer（2017）认为，算法这一概念本身因此是一种更普遍话语中的重要元素，这种话语传达着对数字的信任，并且“具有一种说服性的分量”（Beer 2017, 8）。算法的权力既建立在其生产关于社会之知识的潜力之上，也建立在一种更普遍的话语之上，这种话语接受并建构了作为强大、客观和中立实体的算法。在这一功能中，算法计算能够把不确定的观察转化为可信且可据以行动的知识（Amoore 2009）。 ### 黑箱化与透明性（Black Boxing and Transparency） 在知识生产与控制这一光谱的另一端，是对一般意义上的软件、特别是对算法的批判。在这一讨论中，软件已成为“渗透当代社会一切领域的一个层面。因此，如果我们想理解当代的控制技术[……]，那么在考虑这一软件层面之前，我们的分析就不可能完整”（Manovich 2013b, 15）。在这一视角下，算法和软件充当着一种方法，通过强制执行某种协议（protocol）（Galloway 2004），或强制执行以计算机代码表述的某种隐含法律（Lessig 2006），来限制和控制可能的（互动）行动形式。代码由此被概念化为远不止几行代码，而是代表着我们当代社会“在文化、道德、伦理和法律行为准则方面的条款”（A. Mackenzie and Vurdubakis 2011, 4）。在这一视角下，社会的形态以及将社会维系在一起的黏合剂都在代码片段中被界定，代码由此成为我们社会的一种核心媒介[^f03-1]。一些学者甚至描绘了一幅反乌托邦图景：中心化的制度和企业创造出一种自上而下的技术统治（technocracy），削弱了当代社会的自组织潜力（Helbing 2015）——这使这些学者得出结论：算法系统最终可能威胁到既有的民主制度（Helbing et al. 2017）。根据这一主导性讨论，算法决策系统有两个重要且决定性的要素：透明性的缺失与自动化（Zarsky 2016）。 它们指的是这样一个事实：算法往往构成一个不透明的行动者，它依据公众——或者至少是其行动所及之主体——所不知道的规则或理性来行动。因此，作为强大行动者的算法被撤离出公共话语的批判性审视，一个黑箱社会（black box society）（Pasquale 2015）由此确立。这在算法治理中造成了问题。Leese（2014）表明，被黑箱化的算法知识生产对反歧视保障措施构成了根本性挑战。一些学者因此呼吁为算法建立检查程序和代码审查（Koliska and Diakopoulos 2018; O’Neil 2016）。然而，关于黑箱算法的讨论建立在不同立场之上，而且对于何为黑箱往往有着分歧的构想。Burrel（2016）讨论了算法黑箱的三种不同形式：我们要么 a）无法理解机器学习的理性，例如“阅读”一个神经网络；要么 b）缺乏理解计算机代码的技术专长；要么 c）仅仅是基于知识产权（Intellectual Property Rights, IPRs）或国家机密而未被准许接触相关代码。无论如何，正如一些学者所担忧的，算法的黑箱化为追究这些系统的责任带来了严重问题（e.g., Tufekci 2014）。 然而，透明性这一概念在批判算法研究的学者中也受到了质疑（Ananny and Crawford 2018）。在将算法问题化为黑箱时，算法权力与能动性的所有问题都被定位于算法及其（特定）代码的内部。因此，Bucher（2016）敦促我们对算法采取一种更宽广的视角，运用民族志学者的敏感性来重构算法的权力与效应。对 Bucher（2016）而言，算法“既不黑，也不是箱”。相反，算法这一形象只不过是日常互动中又一个并不完全透明的要素。她借助控制论和 ANT 的洞见指出，我们应当转而把关于这些系统的可获取信息，作为日常互动的一部分来加以说明。援引 Latour（2005），她认为“物必须进入叙述，才能被纳入考量”（“objects have to enter into accounts in order to be accounted for”）（Bucher 2016, 87）。这一视角已被其他学者所采纳，他们主张对算法作情境化的理解（Geiger 2017），甚至主张把算法理解为文化（Seaver 2017），即重构社会集体赋予算法概念的种种意义。因此，算法的透明性不仅关乎通过代码审查打开黑箱，也包括对某些设计决策的沟通（Diakopoulos and Koliska 2017）以及事后评估的模式（Desai and Kroll 2017）。随后，这场争论在关于算法可解释性（algorithmic explainability）（Mittelstadt, Russell, and Wachter 2019）和算法可诠释性（algorithmic interpretability）（Gilpin et al. 2018）的讨论中获得了新的动力。然而，即便是后面这些范畴也受到批判性的讨论，因为真正的可解释性可能难以实现，并反过来造成一种“透明性谬误”（transparency fallacy）（Edwards and Veale 2018, 50）。因此，学者们开始主张一种反事实（counter-factual）的解释模式（Poechhacker and Kacianka 2021; Wachter, Mittelstadt, and Russel 2017）。这些讨论也体现在 Paßmann 和 Boersma（2017）所提出的形式透明性（formal transparency）与实践透明性（practical transparency）之区分中。前者反映的是我们（在形式上）对算法运作所知道的东西，而实践透明性描述的则是：在并不确切了解算法内部运作的情况下，为理解算法所需的资源的收集与组装。 ### 歧视与偏差（Discrimination and Bias） 关于作为社会秩序之能动者的算法，另一个常被讨论的问题是在分类与不平等的框架下展开争论的。算法形式的社会分选（social sorting）（Lyon 2003），例如动态定价或保险服务的准入，会使社会中出现新的不平等，或使既有的不平等得以维持和固化。Graham（2005）相对较早地指出，算法和软件正在成为一种新的新自由主义服务经济中的核心行动者，这种经济创造出管理资源获取的基础设施。社会分选，即依据相关属性对主体进行排列，变成了软件分选（software sorting）。通过将算法和软件置于核心位置，例如谷歌的搜索引擎（Noble 2018），种族主义与歧视等社会问题便通过有选择地给予信息获取权，或通过在搜索结果中强化刻板印象而被稳定下来。其结果是一个以数字化且看似客观的手段被隔离开来的社会（Danna and Gandy 2002）。超然而客观的算法这一观念进而也提供了手段，使各种歧视形式得以稳定下来，并免于（法律上的）干预，因为这种歧视是系统性的，而非有意产生的[^f03-2]（Barocas and Selbst 2016）。当然，人们也可以把这一论点反过来，说这是系统性歧视的一个令人不安的迹象。Eubanks（2018）令人印象深刻地描述了自动化决策如何通过把贫困人口作为目标，使经济不平等物化并加深。O’Neil（2016）从对许多类似案例研究的描述中得出结论：算法与机器学习是数学杀伤性武器（weapons of math destruction），因为它们助长社会不平等（例如保险）、种族偏见（例如警务软件），或成为监控与控制工人的工具——此外还有许多其他例子。由此产生的诉求是：企业和开发者应当为其所开发算法的负面影响承担责任（Martin 2019），同时也引发了对反歧视机器学习程序的探索（e.g., Custers et al. 2013）。这使作为行动者和物质媒介的算法重新回到讨论之中。算法——就其狭义定义而言——应当受到审视，以便定位和治理潜在的偏差（Sandvig et al. 2016）。并不是作为一个超然要素的算法在以种族主义的方式行事或以其他方式带有偏见，它是一种可以被相应塑造的工具。算法及其社会属性与后果，应当与开发者所调动的社会知识形式联系起来看待。Bechmann 和 Bowker（2019）借助分类理论指出，即便是无监督形式的机器学习，也并不脱离这些社会知识储备。在他们的研究中，Bechmann 和 Bowker（2019）说明了无监督形式的机器学习如何依赖于许多决策，例如数据清洗或对算法所使用的统计模型进行事后评估——并因而可能再生产社会偏见。 有一些批评认为，这一视角偏重作为行动者的算法，而忽视了系统性视角（e.g., Hoffmann 2019）。因此，算法的公平性与问责应当考虑组织和制度语境（Veale and Binns 2017）。这进而使关于数字基础设施与分类之算法权力的视角复杂化，因为它提出了这样的问题：算法中应当实现何种形式的公平性，机器学习算法又体现了哪些规范性观念。因此，算法公平性问题并不是一个技术问题，也不是一个能由开发者解决的问题，而是需要一场政治讨论（Wong 2020）。尤其是因为，何为公平这一问题有时会导向多种数学表述，它们各自本身都是成立的，但按照定义彼此不可通约（e.g., Kleinberg, Mullainathan, and Raghavan 2016）。因此，把这些决策的负担单独压在开发者身上，就造成了一个问题（由谁来决定），并造成一种单一问责与单一责任的幻觉。相反，一些学者认为，我们应当研究为开发敏感系统界定正当程序（due processes）的可能方式（Draude et al. 2019; Zarsky 2016）。如果——正如 Bozdag（2013）所论证的——这些效应不仅是设计过程的结果，而且可能在实施阶段之后的互动中涌现出来，那么这一视角就更加令人信服了。 ## 福柯式视角（A Foucauldian Perspective） 在研究算法与算法权力的进路中，最为突出、并且作为“一个几乎出于本能的切入点”（Rouvroy 2011, 121）的，是由 Michel Foucault 的思想及其关于知识与权力之谱系学的理论所推动的进路。Foucault 的著作在社会学和批判理论（如批判安全研究［Critical Security Studies］）中影响极大：这些研究考察一般意义上技术的权力，阐明不同的存在方式如何受到国家权威的规制和监视，也阐明权力作为一种难以捉摸的力量如何无缝地融入社会的肌理之中。 Foucault 的著作体现了关于权力、国家与个体之思考的不同阶段与时刻。下文中，从福柯式视角出发对算法权力所作的研究，将围绕 Foucault 著作中的一些突出概念来归组，例如生命政治（biopolitics）、治理术（governmentality）、规训（discipline）或主体化（subjectivation）。然而，每一个熟悉 Foucault 著作的人都会意识到，这样的区分似乎是人为的，因为 Foucault 的理论概念往往是相互依存的，并在其著作的不同时期中流动变化。正如 Foucault 在其关于治理术史的讲座中所指出的，这些权力机制中没有哪一种取代了另一种，它们也不应被孤立地看待，因为它们彼此互补（Foucault 1979, [1978] 2009）。因此，下文的分类反映的是不同研究如何应用、选择和使用福柯理论建构中的概念。 ### 话语与主体化（Discourse and Subjectivation） Michel Foucault 出身于法国结构主义学派，他较早的著作强调社会或核心制度性行动者对个体自由的限制之权力。在此，治理并不是这些制度的一种功能，而是贯穿不同社会的反复出现的模式通过这些制度展开其权力。这一点在 Michel Foucault（1971）的就职演讲中得到了最为突出的讨论：他在其中剖析了话语秩序，即那些有规律地反复出现并为世界赋予秩序的陈述与分类模式。话语并非由某个个体所生产，而是基于社会结构而自我再生产。在这种关于社会及其秩序化方式的构想中，与他的其他著作相比，Foucault 著作中的结构主义遗产最为明显。 正是 Foucault 著作的这一部分，被 Beer（2017）从算法权力的角度加以讨论。在他那篇如今广为人知的关于算法之社会权力的文章中，Beer 认为算法权力也应当从真理生产的角度来看待。Foucault 认为，权力的机制与关系（即权力的微观物理学）如果脱离了话语及其生产真理的能力，便无法被理解；Beer（2017）借助这一观点，描述了算法生产真理的两个基本要素。第一，算法通过其计算和以风险评分与分类为形式的输出来生产真理，而这些输出获得了客观真理的性质。回到 Foucault 的《话语的秩序》（*Order of Discourse*），算法能动者对陈述进行选择、限制和生产，纳入或排除言说者、事实与视角（Foucault 1971）。因此，一种为社会所接受并传播的真理[^f03-3]的生产，与权力及其结构的形成和再生产紧密交织在一起（Foucault 2016）。然而，算法生产真理的第二个维度较少关注算法的物质性干预与计算，而是追问算法这一概念如何被调动和使用——也就是说，不是追问算法如何通过选择机制积极地塑造话语，而是追问算法本身如何是话语（或话语的一部分）。于是问题在于：算法这一概念如何在不同的社会场域中流转，如何连接实践与言辞，如何纳入和排除其他意义，并如何为社会关系赋予秩序。Beer（2017）认为，在这个意义上，算法可以同工程师和计算机科学家所知道的那种物质与技术形式的算法分离开来。算法这一概念——作为话语——变成了别的东西，并且常常传达出精确、中立和客观的观念（G. Rieder and Simon 2016）。除了对数字之信任这一传统叙事（Porter 1995）之外，算法这一概念还成功地催生了若干学术研究领域，而这些领域未必共享对“算法”一词的共同定义或理解（Ziewitz 2016）。因此，算法这一概念 a）作为话语为社会关系和社会现象赋予秩序，并且 b）通过将算法的物质性与计算性干预框定为客观真理，使这些干预获得正当性。 话语不仅生产关于外部世界的真理，而且还创造出它们所针对的主体本身（Foucault 1971）。因此，在某一具体情境中你是一个什么样的人，包括性别、职业身份等类别划分，是由占主导地位的话语所决定的（Foucault 1979）。算法主体化过程，即基于所收集的数据和推断出的类别而赋予个体某种身份，是新的数字治理模式中的一个重要元素。根据 Cheney-Lippold（2017）的观点，这些主体化过程把个体纳入由算法所界定的子人口（sub-populations）之中。然而，这种界定并不遵循关于个体特质的预先设定的观念，如宗教群体或国籍，而是从所收集的数据中动态地推导出来的。然而在 Cheney-Lippold（2017）看来，这种动态的、数据驱动的主体化并不代表我们真实的自我。因此，它遵循着福柯式的观念，即主体化过程，也就是（暂时性）主体性的指派，代表着一种暴力行为。我们真正是谁，即我们具身的身份（Cheney-Lippold 2017），被化约为算法的分类集合与感知。这可以涵盖从日常互动（例如向我展示什么广告）到改变人生的事件（例如被归类为［潜在的］恐怖分子）的各种情形。Cheney-Lippold（2016）援引 NSA 的安全项目指出，安全算法所进行的主体化会授予或剥夺个体的权利。这种控制与主体化的混合威胁到现代性的根基，即自我确证（self-assertion）的可能性。 与其他作者不同，Rosalind Cooper（2020）把算法形式的控制与牧领权力（pastoral power）联系起来，后者通过告解（confession）机制运作。这种算法形式的控制不只是伤害个体的真实自我，而且窥视其内在存在。Stark（2018）通过分析针对 Facebook 用户的情绪传染（emotional contagion）研究以及剑桥分析（Cambridge Analytica）丑闻指出，Facebook 及类似社交媒体网站的目标是“追踪、测量并操纵其用户的情绪”（Stark 2018, 206）。因此，算法权力的目标并不是在量化过程中侵犯我们的自我，而是塑造和形塑它。以所产生的数据痕迹为形式的告解，使心理测量画像的生成成为可能，从而使牧人能够照看我们。这种基于算法和数据来形成与塑造自我（并随之塑造整个社群与公众）的新方式，以一种新的“算法认识型”（algorithmic episteme）为基础（Fisher and Mehozay 2019）。Bucher（2012）也把规训性全景敞视（disciplinary panopticon）这一概念的逻辑颠倒过来，认为当代数字社会的威胁不再是对权威可见，而是在社交媒体世界中变得不可见（see also Gillespie 2017）。 这一论证延伸了“代码即法律”（code is law）的范式（Lessig 2006），将算法的物质性干预与知识生产同国家的执行机构直接联系起来——从而将其置于一个更宽广的语境之中。而正如 Prey（2018）所论证的，在谈论主体化时，我们恰恰不应忽视这一语境。Prey 没有预设一个真实自我或本真的个体性，而是提出了 Simondon 的个体化（individuation）观念，在这一观念中，个体始终是情境化互动的产物。Lury 和 Day（2019）进一步认为，算法个体化“折射于多重的局部秩序之中，这些秩序使特定形式的比较与竞争成为可能”（Lury and Day 2019, 31）。其他学者所宣称的那种自我，变成了一种对沟通与互动的语境化归属[^f03-4]。因此，所谓侵犯真实自我，总是已经提出了这样的问题：这个真实自我是如何被感知和确定的——以及用户赋予算法的类别与归属以何种伦理和规范意义（Magalhães 2018）。离开语境，离开算法与人类互动中的意义协商，就无法讨论主体化。 ### 从生命政治到治理术（From Biopolitics to Governmentality） Amoore（2009）借用福柯关于治理术与生命政治的权力构想，并将其应用于算法。她采纳了这样一种观念：政治权力是一种无声的战争，旨在“重新铭写那种力量关系，并将其重新铭写于制度、经济不平等、语言乃至个体的身体之中”（Foucault [1976] 2003, 16）。据此，她认为我们把算法体验为一种政治权力与国家安全的手段。通过挖掘人、地点与事件之间的关联（associations），一种社会互动模型得以建立，它使得基于对常态（normality）的统计建构来识别越轨行为成为可能。这有别于规训体制的观念。在规训社会中，规范（norm）——按其定义——是一种既定之物，用于区分正常与不正常。凡能符合规范之定义者，便被视为合乎规范的（norm-al）。于是，规训是一种改造个体的方式，使他们符合所表述的规范所代表的观念——通过规训身体、行为等等。规训权力指向时间中的某一时刻，以“达到常态的那个稳定点”（Aradau and Blanke 2017, 377）。与此相反，统计手段并不预设一个预先给定的规范，而是代表着一种借助统计手段从给定人口中推导规范的自我反身形式。常态先于规范，后者是从一种被计算和被观察的常态中推导出来的：“规范是不同常态之间的一种相互作用。正常的东西在先，规范从中推导而来，或者说，规范是在对诸常态的这种研究的基础上被确定下来并发挥其操作性作用的”（Foucault [1978] 2009, 63）。Foucault 指出，这更类似于一种常态化（normalization）的过程，而非常态。统计方法并不是正面地设定一个规范并使现实适应它，而是从被观察到的现实中建构规范。Gerlitz 和 Lury（2014）虽未提及 Foucault，却描述了基于个体在数字人口中动态变化的位置而对其进行计算性（再）评价的过程。这也划分出了数字领域中对控制的不同构想（Cheney-Lippold 2011）。Lessig（2006）“代码即法律”的观念类似于通过物质边界进行的显式规范设定——Deleuze（1992）在控制社会中描述了这一点——而机器学习与统计进路则动态地计算出一个常态模型。 这些统计方法因此不仅计算概率，而且应用关联模型，或对某些信号作出反应，从而走向一种可被算法识别的“可能性政治”（politics of possibility）体制（Amoore 2013）。在这种理解中，“算法的”一词也有别于计算相关性或通过机器学习生成模型的常见理解。相反，Amoore 的关联观念所呈现的算法安全（algorithmic security）以两种方式运作：第一种是前述的离群值检测（outlier detection）。不属于被计算出的常态的单一事件被标记为可疑的和越轨的。实际的越轨行为与被观察到的行动之间也许并不存在任何证据或相关性，但仅仅偏离一般的社会趋势这一点就足以给主体贴上标签。第二种形式则更多地由理论驱动，因为既定的信号被用来决定是否将个体归类为潜在的越轨者。关联规则（association rules）标记出潜在的威胁，并使被观察的个体成为进一步调查的对象。 在学术讨论中，出现了“算法治理术”（algorithmic governmentality）这一术语，它描述的是“政府机构和制度施加于用户的算法之使用，我们借此试图把当前的结构、实践与过程从‘治理他人’组装为‘治理自我’”（Janssen and Kuk 2016, 375）。在这条讨论脉络中，算法被描述为一种新的治理形式的关键要素，这种治理形式管理着自由主义主体对治理体制的认同（Foucault [1979] 2008）。最为突出的表述来自 Annette Rouvroy（2011），她认为当代社会的算法化标志着向后现代治理形式的转变，在这种治理形式中，因果性与透明性被不可审视的、计算性的社会管理形式所取代。由此，它与前文一节已描述过的生命政治（以 Amoore 的著述最为著名）以及主体化过程联系起来，从而确立了新的知识/规训配置形式。通过这些主体化形式以及对个体的规训，人口不再那么以生产率和科学理性的形式被管理。相反，算法形式的治理术引入了一种化约人性之偶然性的形式，使预测——一种常被观察到的算法应用——成为可能。Introna（2016）以类似的方式论证说，算法治理不能脱离算法自身所产生的述行效应来看待——换言之，算法连同干预一起生产出干预的主体。效应的这种述行性与可预测性的生产彼此直接相关（Sheehey 2019）。因此，对于预测性警务（predictive policing）之类的应用而言，未来与过去都成为重要的治理场所。过去通过建模和数据收集而被实演，随后被投射到未来——但两者都通过算法而受到治理。颇为有趣的是，同一现象也被认为是一种生产空间的方法（Thrift and French 2002）。在一篇较晚的文章中，Rouvroy（2013）创造了“数据行为主义”（data behaviorism）这一术语，用以描述这种从因果性向可管理性的转变，强调从为管理人口而有意制作的政府统计，转向无所不在的数据收集过程（see also Roberts 2019）。然而，根据 Rouvroy（2013）的观点，在生产可预测人口的过程中，这些治理技术侵犯了我们是谁，从而侵犯了我们的个体性。这种侵犯是以下两点的结果：a）忽视我们自身的某些方面；b）设置使被预测的行为——从而使预测本身——更有可能发生的机制。也就是说，通过有选择地规训和指派主体性，被预测的系统以一种反身的方式被再生产出来[^f03-5]。 这种分类工作与一种外化的控制形式相联系，后者被理解为远距治理（governing at a distance）（Rose 2012）。在这里，算法权力是在这样一种体制中不断变动的动态分类之间的连接：在其中，算法充当着“引导机制，开启和关闭用户可能遭遇的特定可能性条件”（Cheney-Lippold 2011, 175）。因此，对人口的管理如今是通过动态分配的主体性与风险来治理的，这些主体性与风险在一个动态过程中引导算法的物质性干预，或通过限制潜在行动来生产社会秩序。因此，算法计算不再植根于一个通过全景敞视机制（Foucault [1975] 1995）来控制和治理个体的规训社会，而是“通过纳入与排除的事件，将个体身体分选进不同的流之中”（Erwin 2015）。权力不再以“观看的艺术”（the art of watching）（Beer 2015, 3）以及随之而来的被内化的被注视感来运作。这一批判针对的是 Foucault 著作中常被援用的全景敞视概念——它描述的是监控的规训权力——并理顺了将生命政治和治理术与 Deleuze（1992）的控制社会联系起来的路径。 ### 从生命政治到控制社会（From Biopolitics to Control Society） Cheney-Lippold（2011）从生命政治的视角出发，拓展了 Foucault 的生命政治与生命权力（bio-power）概念，并在其与控制社会（Deleuze 1992）的概念之间架起了一座桥梁。在福柯的理论建构中，生命权力作为一个独立的概念出现，用以描述从指向个体身体和主体的规训体制，向整体人口之建构的历史性转变。然而，根据 Cheney-Lippold（2011）的观点，算法能动者为当代社会引入了一种新的治理模式，作者称之为软生命政治（soft biopolitics）。Foucault 的思考建立在对统计测量中（相对）静态的类别——如男性、女性等——的观察之上，而算法则以另一种方式运作。分类不再基于固定的能指—所指关系，而是创造出被调制的（modulated）、因而高度动态的分类。一个人是否被归类为男性——Chenney-Lippold 在全文中一直使用这个例子——不仅取决于此人的身体特征，而且是从其他特征以及与其他个体相关的被观察行为中推导出来的。然而，由于它是动态生成的，它也可能在任何特定时刻发生改变——或在不同情境中有所不同。 算法分类与其说是传统生命政治的工具，不如说更类似于 Deleuze（1992）所描述的调制（modulation）过程。算法主体化过程所生产的不是（不可分的）个体（individuals），而是可分体（dividuals）。身份已成为一种高度流动的统计表征，它并不在不同场景中表征一种稳定的身份，而是在一个“自动化的整合与解体”（Terranova 2004, 34）过程中，依据算法所履行的某种特定的、情境化的功能而行动。在 Galloway 看来，这种对可分体的算法生产“没有理由知道某个特定用户的名字[……]。围绕某一特定用户的描述性信息的聚集，就足以解释该用户的身份”（Galloway 2004, 69）。因此，治理机构使自身以整体人口的方式进行自我描述的生命政治冲动，打碎了先前那种固化的、可管理的人口，使之分裂为许多在构成上非常动态的不同子人口——Rogers（2009）把这一发展称为后人口统计学（post-demographics）。 把软生命政治这一术语应用于沟通的算法中介，就把治理的焦点从其传统归属的国家移开，而将治理的权力定位于 Facebook 或 Google 之类的平台。通过捕获海量用户数据，并依照规范来设计平台和算法，算法管理着我们的日常互动以及由此而来的、我们可获得的社会资本（Schwarz 2019）。在这一视角下，生命政治治理的目的不再是增强国家及其（生产）手段，而是为互联网平台创造剩余价值。这一论点也在其他理论格局中被提出过，Morozov（2014）以及 Mayer-Schönberger 和 Ramge（2018）也或多或少隐含地提出过。 综上所述，所讨论的关于算法权力的这些进路，将 Deleuze（1992）的控制社会与一种新的、非国家的、流动的生命政治形式联系起来。国家臣民的身体不再是干预的目标，对“自上而下”的强大凝视的内化也不再是首选的治理方法。如果认真对待软生命政治那种动态而流动的微观管理进路，这似乎也不再是一种可行的运作方式（modus operandi），因为个体并不知道她应当遵守的规范，这些规范是从不再预先界定的人口中动态推导出来的。相反，不同的、不断新涌现的人口被计算出来，被动态地处置，并被纳入或排除出可能的（互动）行动路径。因此，算法治理在一个控制光谱中界定我们在当下情境中能做什么、不能做什么，而这一光谱主要由不可见的行动者所界定，它们界定的与其说是我们能做什么，不如说是我们不能[^f03-6]做什么（Sadowski and Pasquale 2015）。控制社会的概念随后被监控研究（surveillance studies）所采纳，在那里，分选的方面得到了强调，并被主动地用来对抗全景敞视这一主导隐喻（e.g., Bogard 2006; Haggerty and Ericson 2000; Lyon 2003）。这一转向最近受到了批评（de Laat 2019），批评者认为，预测性建模仍然通过对社会规范的适应来强制行为发生改变，因为我们直接感受到违反规范的后果[^f03-7]。然而，Amoore（2011）更早时就论证过，由算法风险计算——通过关联——所生产的数据衍生物（data derivatives），是由将繁多的输入化约为一个分数或标签的决定所界定的，而依据关联规则来看，这种决定并不透明（see also Leese 2014）。然而，如果它们不透明，规训效应便无法浮现。此外，预测是一种管理事件后果的生命政治工具，而不是阻止事件发生的工具（Aradau and Blanke 2017, 377）——后者才是规训逻辑所暗示的。这一区别很重要，因为衍生的规范——从所参照的人口中计算出来——只有在观察到事件之后才能存在。常态与非常态无法被预先界定——这不同于规训个体的模式。因此，何为规范、何为不正常，是通过找出一个流动的、被计算出的规范的离群值来界定的（Roberts 2019）。依照一个既定规范来确定方向已不再可能。尤其是，正如 Cheney-Lippold（2011）所指出的，如果规范不仅随时间而变化，而且在不同语境中也各不相同的话。然而，正如 Amoore（2011）也强调的，这并不意味着规训权力消失了。例如，在 eBay 的案例中，存在着既类似于全景敞视的特征、又类似于软生命政治的权力形式（Curchod et al. 2020）。然而，算法控制社会的出现不仅在理解上，而且在规制这些被计算出的规范上都造成了问题（e.g., Lenglet 2019）。 福柯派学者在这里为我们提供的视角确实很有意思，因为尤其是控制社会的观念，似乎解释了我们称之为算法权力的这一现象的许多方面。在控制社会中，管理人口这一生命政治方面成倍增加，于是哪种理性驱动着治理性干预这一问题便立即浮现。然而，这并不总是 Foucault（[1979] 2008）所描述的那种生命政治律令。此外，中心化制度支持政府治理一般人口的观念也土崩瓦解了。中心化的权力制度如今被增殖，并被作为知识生产装置的算法所取代，突破了国家制度的边界（Harkens 2018; Müller and Pöchhacker 2019）。权力的这种去中心化提出了这样的问题：如何定位算法的权力，以及算法权力的这些多重实演如何彼此交织。将探究对象去中心化，或许能为探索这些棘手的互动和关系提供一条途径。正如 Introna（2016）所论证的：从社会物质网络（socio-material networks）和情境行动（situated action）的角度来理解算法的能动性，或许能为我们描述算法社会的治理理性提供更多基础。然而，这不仅包括 Introna 所描述的算法的述行效应，还包括算法如何成为一个权力与能动性网络之行动者的问题。Introna 引用了 Miller（2008）的一句话：“正是通过技术，政府的方案才变得可操作”（Miller 2008, 57）。循着这一思路，便引出两个重要问题：政府方案是什么？又有哪些治理理性汇聚于算法这一行动者之中？ ## 控制论与算法统治（Cybernetics and Algocracy） 有一种视角只有部分学者讨论过，却对这场讨论产生了巨大影响，并且再次更多地聚焦于算法本身，它在“算法统治”（Algocracy）或“算法治理”（Algorithmic Governance）的名义下被讨论。与技术决策会影响社会构成这一洞见相一致，算法统治论题（algocracy thesis）（Aneesh 2009, 349）认为，算法与软件充当着一种治理形式。通过代码，（全球性）组织与社会的结构和特权被编码进系统之中。Aneesh（2009）甚至进一步认为，代码是一种新的一般化媒介，可与货币相比，因而是当代社会的一个构成性要素，而当代社会的特征正是算法的统治（Aneesh 2009, 350）。社会过程的算法化由此区别于官僚制的治理形式（Weber [1922] 1978），因为它不需要正当性与社会化（Aneesh 2009）。代码与算法构成了当代社会的新法律，但它们既不具有法律约束力，也不是由立法机构制定的，而是通过实例化新的行为规制形式而发挥作用。这一现象使 Lessig 将代码等同于法律（Lessig 1999, 2006），它也常以缩写 ADM——自动化决策（automated decision-making）——来指称。算法最终为你选择进一步行动的选项，并因此通过规制可能的互动形式来行使权力。如此论证时，算法统治论题与（前文讨论过的）控制社会概念非常相似，尽管它并未明确提及后者。这种算法形式的统治的观念也被称为技术家长主义（Technology Paternalism）（Spiekermann and Pallas 2006），它有接管控制、使人类干预变得不太可能的危险。因此，这种治理形式能够规制空间的生产（Kitchin 2014）、互动的节奏，即对时间结构的治理（Coletta and Kitchin 2017），以及企业内部的治理（Raffetseder, Schaupp, and Staab 2017）。 因此，在 Yeung（2017）看来，算法形式的规制构成了一种助推（nudging）的规制体制，即影响个体的决策。应当指出，助推这一概念已经引入了某种细微差别，它并没有把个体贬低为控制指令的无意识接收者。然而，随着 Google 或 Facebook 之类大型互联网平台的出现，这成了一个更大的问题，因为它不是通过强力而是通过建议来进行规制，并且不仅针对单个个体，而是针对整个人口。Seaver（2019）甚至提出了“算法即陷阱”的隐喻。基于他对一个推荐系统开发过程的观察，他展示了开发者如何设计算法系统，试图把用户留在他们的网站上——不是通过使用某种规制性的强力，而是通过在系统设计中运用行为学与心理学原理。这一细微差别把相对强制性的控制社会观念与一种更微妙的治理形式区分开来，后者最终并不更低效——但可能招致更少的抵抗。因此，把算法的权力视为助推装置的视角，也呼应了将社会秩序与权力视为一种反身性事业的构想，在这种构想中，秩序化体制也依赖于被治理主体的合作（Giddens 1984）。因此，助推在 Max Weber（[1922] 1978）所提出的权力与治理之区分之间划出了一条有意思的界线。其结果是，Yeung（2017）把这些技术的正当性问题重新带回了讨论之中。 控制社会概念与算法统治论题之间的第二个区别在于，后者如何回溯到控制论的规制形式，或回溯到源自控制论观念的社会理论（Aneesh 2009）。与关于一种新的生命政治体制的论述（Amoore 2011; Cheney-Lippold 2011）相似，控制论进路使治理的观念复杂化了。控制论进路并不是从所收集的输入中推导出规范，而是推导出为达到一个反映先前所界定之常态的系统状态而必需的行动。因此，被动态计算的不是规范性设定，而是规制性干预（Yeung 2018）。这就要求系统始终不断地收集数据，以便调整其对社会系统的干预[^f03-8]。 且不论算法统治的治理形式本身是否正当，Danaher（2016）警告我们，在公共领域中日益依赖算法能动者，可能会削弱民主制度的正当性。因此，对 Danaher（2016）而言，算法统治的威胁表现为“这样一种情形：基于算法的系统构造并限制了人类参与和理解公共决策的机会”（Danaher 2016, 246）。因此，公共的、民主的过程可能会被算法决策系统所削弱。因此，这里的问题与其说是控制方面，不如说是审议民主（deliberative democracies）的建构原则及其话语形式。 关于算法治理或算法统治的诸进路颇具启发性，因为它们在对被治理者——即个体与人口——的概念化上提供了细微差别，并与控制论（Yeung 2018）或社会学的系统理论（Aneesh 2009）建立起一些有意思的联系。因此，这些进路走在一条细线上：既认真对待作为控制媒介的算法，又不只聚焦于这一行动者。相反，算法在一个特定的治理体制之中被去中心化。然而，把算法概念化为控制论系统，造成了一些需要处理的概念性与经验性问题。其一，把算法视为（控制论意义上的）黑箱这一观念，提出了这样的问题：这个黑箱最初是如何出现的，黑箱的不同性质又是如何被协商的。或者换言之，黑箱如何被保持稳定的方式，必须从一种系统性的视角来加以解释。尤其是在 Yeung（2018）那个极富启发性的分类法中，可以清楚地看到，算法并不是一个独立的技术行动者，而是一个仿佛是黑箱一般行事的社会技术集体。而在算法统治论并非以控制论进路进行论证之处（e.g., Lessig 1999, 2006; Spiekermann and Pallas 2006），它与更宽广的社会秩序集合之间的关系便变得模糊不清。然而，算法统治论题仍具启发性，因为它为控制社会的概念增添了细微差别，并指向了以系统性方式思考算法的途径。 ## 数字资本主义中的算法（Algorithms in Digital Capitalism） 对数字化社会与数字转型的资本主义批判，大多以社交媒体或平台资本主义（platform capitalism）为例展开讨论——聚焦于新的劳动模式、对工人的监控，以及生产者与消费者之间日益模糊的区分。相比之下，算法的角色在这些理论视角和进路中只占次要位置。然而，算法及其伴随现象也已从资本主义生产方式（Fuchs 2020）或市场（Beer 2015）的角度得到讨论。这些讨论的范围很广：从市场利益是塑造算法的驱动力量这一论点（Mager 2012），到作为施行经济学之市场装置（market devices）的算法（Callon and Muniesa 2005; D. MacKenzie 2006），再到通过预测与数字基础设施对市场权力的强化（Beverungen, Beyes, and Conrad 2019; Poechhacker and Nyckel 2020）。这些观察促使 Zuboff（2019）等学者形成了“监控资本主义”（surveillance capitalism）的概念。尽管存在着对资本主义的不同构想，例如 Weber 将资本主义视为理性化的观念，但关于数字资本主义的主导视角植根于对这一现象的马克思主义理解（e.g., Fuchs 2019; Srnicek 2016）。 在这些讨论中被采纳的核心要素，是剩余价值理论、剥削以及劳动力之异化等母题。资本主义与算法系统由此延伸了经典马克思主义对生产方式的批判。在 Vioulac（2009）看来，信息技术的日益使用是工业资本主义中人的异化的延续。对马克思而言，异化是这样一个过程：工人通过机械地遵循资产阶级的目标和指令而与其真实自我相分离。因此，异化（“Entfremdung”）是双重的：与自身相异化，即工人这一主体与个体相分离；与产品相异化，因为产品不再代表一个人本会独自生产和完成的东西。因此，一个自由的工人会在产品中、也会在生产产品的实际实践中实现自身。对自由的工人而言，“我们的产品会是同样多的镜子，从中我们看到我们本质的反映”（Marx 1844 cited in Torrance 1995, 55）。在生产过程中，资本家——即拥有生产资料的个人——规定了必须生产什么，也规定了劳动过程必须如何进行，由此，真实的、本质的自我遭到侵犯。Nygren 和 Gidlund（2015）采纳这一视角，并进一步论证说，数字领域中的异化过程不仅影响（工业）商品的生产，而且以一种更根本的方式影响着我们，因为我们的数字自我变成了商品。我们在网上是什么，反映了在线产业的愿景与想象（Nygren and Gidlund 2015）[^f03-9]。在无所不在的自我营销的数字领域中，我们不仅与我们的产品相异化，而且我们的数字自我变成了我们与之相异化的产品。由于我们必须以多种方式把自己经营成对他人有吸引力的东西，例如在 Instagram 上，我们便依照数字平台上正在兴起的市场逻辑来调整我们的自我呈现。这呼应了前文讨论过的、在算法分选的社群中出现的新的可见性逻辑（Bishop 2019; Bucher 2012）——即便这些作者并未采取马克思主义视角。 Rosenblat（2018）探讨了工人异化与控制的另一个方面，她描述了 Uber 与其司机之间复杂的、以算法为中介的关系。通过提供一个由不同算法驱动的沟通平台，Uber 在其自我描述中为独立创业者（即司机）提供了一个平台，同时却又通过所提供的服务控制着他们及其实践。司机再次成为平台的产品，而在平台上产生的数据点则不断被用于进一步的实验和价值榨取（see also Lee et al. 2015）。经典马克思主义的价值榨取观念是着眼于工业社会而发展出来的，但已有一些学者将其转译到当代社会的数字状况之中（e.g., Staab 2019）。马克思（Marx [1867] 1990）的剩余价值论题由此建立在一个关于工业生产商品之价值形成过程的简单而有力的洞见之上。马克思指出，一件产品所代表的增加值不可能来自所使用的资源，因为它们的价值只是一个既定之物。因此，为过程或所生产的产品增加价值的，是投入其中的劳动——任何给定产品的价值，都实现为所用材料的价值与所追加劳动的简单相加。然而，劳动不是由资本家而是由工人完成的，工人因其劳动力而获得报酬。这就造成了一个问题：资本家一方面需要生产利润，另一方面却没有为产品的价值增加任何东西。解决办法——用马克思的术语来说——是压低工人的报酬，从而付给他们少于其所增加之价值的报酬。这一差额便是资本家阶级的利润——价值是通过剥削劳动力而生产出来的。然而，在算法条件下，运用这一原则来分析资本主义社会的做法略有调整。Pasquinelli（2009）在分析 Google 的 PageRank 算法时认为，Google 创造剩余价值并不（仅仅）是通过剥削其劳动力，而是通过利用每一个网站所有者的劳动。由于 PageRank 算法分析网站的链接结构，并通过其广告业务将分析结果变现，PageRank 算法便利用了网站所有者作为一个集体所完成的免费劳动。然而，像 Google 这样的公司不仅依赖网站所有者所设置的网页链接，还依赖一套在互联网上追踪用户的庞大装置——从人类关系与实践中生产剩余价值（Couldry and Mejias 2019）。Zuboff（2019）甚至认为，我们生活在监控资本主义的时代，在这个时代，利润产生于“行为剩余（behavioral surplus），[它]被输入先进的制造过程[……]，并被制造成预测产品，以预判你现在、不久以及以后将会做什么”（Zuboff 2019, 8, emphasis in the original）。Staab（2019）把这些论点结合起来，认为监控与预测技术，再加上平台从其用户身上创造剩余价值这一洞见，造就了一种新的、独特的控制体制。在马克思的思想中，控制采用的是一种自上而下的霸权式秩序形式。但实际上，正如 Staab 借助 Giddens 所论证的，它需要霸权者与秩序化体制之主体之间的合作，因为控制的反身性调整会造成一种时间滞后。在观察到越轨行为与通过强制手段加以纠正之间，主体——或用马克思主义的术语来说，工人——享有能够以不同方式行动的自由。通过监控模式与算法自动化，这一时间滞后正在被弥合——建构出一种迅速且不断调整的控制体制。Upchurch 和 Moore（2018）在考察人工智能的历史与劳动的自动化时强调，马克思在其著作中已经预见到了这一发展： > 马克思特别提到了机械化支配生产过程的潜力。机器表现为一种无所不能的力量，它既使个体工人的投入碎片化，又通过劳动分工造成一种对技术的从属关系（Upchurch and Moore 2018, 54）。 这种对关系数据的榨取与商品化过程，由此可以被置于殖民化（colonization）过程的语境之中：它通过数字平台以及对自我的殖民，引入了一种剥削体制。Gilbert（2018）借助 Habermas 认为，算法殖民了我们的生活世界（lifeworld），因为它们改变、影响并操控着我们观看、体验和诠释世界的方式，而这正是我们认知与行动的资源。Gilbert 由此援引了 Habermas 的观念：世界总是已经由意义与语义所构成，是一个我们在其中被社会化、并通过沟通性（互动）行动而被再生产的沟通系统。通过算法系统，这些生活世界可能被其他逻辑——如市场理性或国家理性——（过度地）塑造，导致一个更不自由、更缺乏意义、更不民主的社会（Gilbert, 2018）。尤其是在互联网信息选择领域，并因而在共同建构共享的社会现实方面，已有研究指出私营企业行使算法形式治理的支配地位（Just and Latzer 2017）。通过追踪与算法分类，个体的人被彼此提供出来以供剥削，削弱了随时间推移认识和发展我们自身的潜力。这一过程由此可以被理解为一种新形式的殖民化趋势，在其中，北方与南方、西方与其余世界之间的经典分野正在被超越（Segura and Waisbord 2019）。相反，殖民化如今是在基础设施与认识论层面上，通过 Facebook 或 Amazon 之类的跨国公司以及国家—企业联盟而得到推进的——实现了一种“跨国信息资本主义”（transnational informational capitalism）（Fuchs 2012b, 128）。当代资本主义中的这些新构型也反映了这样一种诊断：国家作为以往资本主义中的核心参与者——这一观念见于马克思的著作——变得不那么有影响力了（e.g., Bauman 2000）。数据生产与分析代表着殖民化所赖以为基础的一种新的知识形式（Ricaurte 2019），因而需要以新的思考方式来应对数据剥削这一新现象（Segura and Waisbord 2019）。于是，从南方出发对大数据进行理论化的倡议作为对这一发展的反向回应而出现了（e.g., Milan and Treré 2019）。 这两种论证都基于这样一个假设：算法运作于一个利用它们来榨取价值或推进殖民化过程的环境之中。两种视角本身都有价值，但同样地，算法的权力与其说得到了解释，不如说被假定为一个既定之物。这在某种程度上遵循了马克思对技术的理解：技术是使新的剥削形式和剩余价值生产成为可能的手段，是提高生产率（并因而提高剥削程度）、强化阶级分野的手段。Christian Fuchs（2012a）认为： > 跨国信息资本主义是塑造资本主义发展的连续性与断裂性之辩证法的结果。剩余价值、交换价值、资本、商品与竞争是资本主义的基本方面，而这些形式究竟如何被生产、被对象化、被积累和被流通，则是偶然的和历史的。它们在不同的资本主义发展模式中有着不同的表现。在信息化的发展模式中，剩余价值生产与资本积累越来越多地表现于象征性的、“非物质的”、信息化的商品，以及认知性的、沟通性的和合作性的劳动之中。数字媒介在跨国尺度上中介着资本、权力与界定能力的积累（Fuchs 2012a, 419）。 算法由此是历史唯物主义中的一个技术决定论要素，在历史唯物主义中，一个人自身的存在方式决定其意识（用一句朗朗上口的德语来表达就是：“Das Sein bestimmt das Bewusstsein”，即“存在决定意识”）。然而，把算法化约为（后）工业生产的诸环节，可能会错失一些重要之点，即算法这一社会技术系统可能并不只遵循一种经济理性。例如，Facebook 不仅试图从所收集的数据中生产价值，还设置了从欺诈行为或问题账户的角度来评估内容和用户的体制。尽管 Facebook 的首要目标可能仍是获取利润，但其他规范性的意识形态与想象也在算法系统中混杂在一起并被协商。价值榨取论证把算法仅仅视为资本主义生产方式的延伸，这就引出了一个问题：算法为这一等式增添了什么，以及如何从算法权力与能动性的角度来理解这一互动系统。殖民化论题则认为，一个领域以霸权的方式（强行）进入另一个领域。殖民化的分界线是北方/南方、企业/私人，或国家/公民。然而，殖民化过程的多重性使人难以确切指出算法实际行使的权力，但同时也暗示了这一现象的复杂性。在这两种情形中，算法的权力——或者更确切地说，通过算法的权力——都是一个既定之物。 这也引起了一些评论，例如来自 Astrid Mager（2014, 30）的评论：“然而，所有这些研究都无法解释搜索引擎最初为何会成为强大的行动者，以及它们——还有算法意识形态——如何在当代社会中被稳定下来。”在某种意义上，马克思主义构想的黑格尔遗产在这些批判中变得清晰可见。算法的秩序化模式被隐含地视为（生产）资料之积累与分配的历史唯物主义过程。与此相反，Mager（2014）认为，算法是一种霸权意识形态的一部分，这种意识形态并不只是由资产阶级这一资本家阶级所界定，而是由形形色色的行动者（再）生产出来的。正如她在一篇较早的论文中所论证的，算法的社会权力由此是不同视角、需求与议题的一种涌现属性（Mager 2012）。有意思的是，一些学者开始让马克思的剩余价值理论与福柯式的权力概念展开对话（Nygren and Gidlund 2015）[^f03-10]。一些有意思的学术研究正在涌现，未来或许值得追踪。 ## 什么的权力？（The Power of What?） 所讨论的关于算法的理论多种多样，从不同视角切入这一现象——每一种本身都有价值。然而，所有被运用的理论都有一个共同基础：算法本身是一个权力借以施行的行动者，或者是一个自身行使权力的行动者。尽管大多数福柯式视角强调算法的计算性权力，但算法与算法逻辑成为一个装置（dispositive）中的核心要素，在其中，权力之所以有效并不是因为算法，而是通过算法。在（后）马克思主义视角中也可以发现类似的建构，在那里，算法的物质配置只不过是阶级斗争这一社会动力的表现。当算法成为一种后霸权（post-hegemonic）权力结构的焦点（Lash 2007），或当算法统治的治理形式被确立时，其他进路也采取了可比的视角。当我们把算法概念化为黑箱或内在带有偏差的能动者时，情况也是如此。然而，在所有这些分析中，作为行动者的算法都占据着核心角色，而它的客体性（object-ivity），即算法作为一个稳定的客体，并未受到质疑。这导致了一个富有生产性、但也有些令人困惑的悖论。算法本身被讨论和呈现为一个强大的行动者。然而与此同时，它又只不过是一个权力装置的表现——这就引出了一个问题：算法是如何成为这个强大行动者的，以及它所嵌入的是否只有一种理性在起作用。我在这里并无意贬低这些不同的进路，因为它们每一种都为算法权力与社会秩序这一现象提供了有意思的、富有生产性的、有价值的视角。相反，我想把这种（看似）悖论的情形——其他人会将其描述为辩证的——作为一个起点，来探索另一种视角。从对某一特定算法开发过程的经验观察出发，我感兴趣的是这个行动元如何成为一个强大的行动者，以及它如何被整合进一个更宽广的互动与规范性系统之中。其他学者也有过同样的论证，主张我们应当把算法理解为网络化的信息系统（Ananny 2016），采取一种设计视角（Crawford 2016），或者把算法视为有组织的、并具组织作用的实践之结果（Neyland 2015）。 从这些问题出发，算法看来既不是一个本身强大的行动者，也不只是一个已然强大的系统的无定形工具——而是社会秩序之构成中的一个重要要素，有其自身的议题、挑战与顽固性（obduracies）。循着 Adrian Mackenzie（2013）的观察，对算法、数据结构与协议的分析因此可以成为对那些非常一般化的描述与结论的一种富有生产性的反向论点——但又不忽视与这些要素相纠缠的更宽广的系统性过程。相反，将一个算法实例化为社会秩序的行动者，标志着某种新事物的生产，它改变着互动秩序与权力关系（Campbell-Verduyn, Goguen, and Porter 2017）。算法是社会秩序的要素，它们作为一种规范性委托（normative delegation）的形式被应用于（社会）情境之中（Willson 2017），在其中，它们成为实践性地、情境性地达成社会秩序与算法权力的一个要素。 算法与社会是共同演化、彼此依存的，因为前者日益成为后者不可或缺的制度（Just and Latzer 2017）。通过强调算法是如何被生产出来的，并更仔细地审视算法原理本身，我们可以把它们读作“预测实践的签名”（the signature of predicting practice）（A. Mackenzie 2013, 393），从而重构算法之社会秩序化的理性与物质性。这样做时，算法并不被视为对一个给定社会行使权力的稳定而强大的行动者，而是被理解为一种实践成就（practical achievement），视角由此转向从内部研究社会（技术）秩序（Garfinkel 1984, viii; A. W. Rawls 2009）。这提出了两个不同的问题：第一，将一个算法实例化为一种成功的权力委托工具的社会结构是如何组织的；第二，这样一个受托者（delegate）的属性是如何在不同利益群体与行动者之间被协商的。后一个问题也为探究作为行动者的算法为这一等式增添了什么开启了讨论，而又不把治理权力完全归属于它。回答这些问题或许能够带来新的途径，不仅用以理解数字民主中社会秩序与制度秩序是如何组织的、民主的愿景与价值如何受其影响，而且用以理解哪些治理形式是可能的。因此，我将在后续各章中探索这样一种把算法视为社会技术成就的视角。 [^f03-1]: 这里所使用的媒介（medium）概念并不是指电视之类的大众媒体，而是指一种介于社会的个体行动者之间、并将他们联结在一起的机制。对 Simmel（[1900] 2004）而言，货币就是这样一种媒介。 [^f03-2]: 这里需要指出，这当然不能成为为歧视辩护的论据，而是凸显了围绕算法的话语，并显示出由此产生的法律问题。在技术与法律的交叉地带，有意行动（intentional action）这一概念经常引发问题。 [^f03-3]: 这里需要指出，真理这一概念——它是哲学与科学讨论中经久不衰的战场——在此并不被理解为关于现实、生命与万物的客观真理，而是描述在一个社会系统中经由该系统自身的运作而生产和散布的共享信念与假设。因此，这一概念并不质疑一个可被描述的既定现实，而是聚焦于描述现实以及协商这些描述的社会机制。 [^f03-4]: 与其他理论中对主体的不同概念化之间也存在着有意思的联系，例如系统理论中把主体视为系统特定沟通之产物的概念；叙事学（narratology），它进入了 ANT，在那里，个体由所涉及的行动元所叙述；或新物质主义（new materialism），在那里，个体是一种能动切割（agential cut）的产物；更不用说 Goffman 式的角色理论了。因此，本真自我的观念在当代社会理论中并不像这场讨论可能暗示的那样突出。 [^f03-5]: 这里所说的“反身的”（reflexive），是在描述变得具有自我意识或自我指涉的意义上使用的，因而其含义类似于二阶控制论（cybernetics of a second order）。 [^f03-6]: 在这里我们已经可以看到，它与 Latour（2005）及其他 ANT 学者所表述的社会控制与社会秩序观念之间存在着有意思的联系，这将在后续各章中讨论。 [^f03-7]: 这一论证忽略了关于规训权力的两个要点。第一，非常重要的一点是，规训权力即便在没有干预的情况下也会起作用；第二，仅仅知道可能会有后果是不够的，还必须知道我们所违反的规范（see e.g., Curchod et al. 2020）。然而，就算法治理与机器学习而言，我们常常并不知道哪些行为会被视为有问题的行为。这一问题以黑箱问题而广为人知。此外，它也忽视了在监控系统中所观察到的寒蝉效应（chilling effect），这使人对算法的全景敞视权力更加怀疑。然而，算法治理是否具有规训效应，这个问题最好由经验研究来回答。 [^f03-8]: 这一论证与关于福柯式权力构想的那一部分中所讨论的论证相似。因此，通过不同的理论视角，可以观察到论证的趋同。 [^f03-9]: Nygren 和 Gidlund（2015）不仅讨论了马克思的理论，还将其与 Foucault 的牧领权力概念联系起来。不过，为简明起见，这里不讨论这些概念之间的关系。 [^f03-10]: 这一点尤其有意思，因为它把我们带回到 Foucault 思想及其哲学社会化的根源与起点，反映出 Foucault 与法国共产党之间复杂而矛盾的关系。Foucault 甚至曾一度把自己描述为一名尼采式的马克思主义者，这在对历史/谱系学的理解中造成了引人入胜、并可能富有生产性的张力（see e.g., J. S. Johnson and Thiele 1991）。 # 第三章 算法学科（Algorithmic Discipline） > 我们拒绝：国王、总统和投票。我们信奉：粗略共识与可运行的代码。——Dave Clark (1992) 在修读计算机科学课程时，人们会对“算法是什么”形成一种直觉性的理解。我们能够用伪代码（pseudo code）[^f04-1]把算法写下来，用 Java 或 C 等不同的编程语言实现它们，分析其复杂度，并将其性能与其他算法进行比较。我们学习诸如快速排序（Quick Sort）和旅行商问题（Traveler Salesman Problem）之类的术语。然而，当人们试图说明这些构造物的社会权力时，算法这一形象却引发了不少讨论，最终汇聚为这样一个问题：“算法究竟是什么？”（Ziewitz 2016, 4）[^f04-2]。若干学者已经为这个问题找到了答案，这些答案与计算机科学话语中的定义和理解时而联系紧密，时而关联甚少。算法是调控我们日常生活的强大实体（Beer 2009），是“现代理性的阐释之钥”（Totaro and Ninno 2014），是对“自我批判性判断”的取代（Daston 2010），是一种分类工具（Bechmann and Bowker 2019），或者是数学或计算机科学中原本“抽象的‘有效程序’（由精确的、‘机械的’指令构成的有限集合）”的物质性实现（D. MacKenzie 2019, 41）——这里仅列举数例。鉴于人们对算法这一现象持有如此多样的视角，很容易给人留下这样的印象：这些学者虽然各自都在谈论算法，所谈论的却是根本不同的东西（另见 Burke 2019）。他们未必共享同一个算法定义，但在他们看来，算法身上总有某种普遍可寻之物，无论那是理性、能动性还是分类。当然，这既无助于回答算法是什么，也无助于解释算法的社会权力从何而来。但它表明，算法及其效应已经成为一种关切之事（matter of concern）。 正如 Seaver（2017）所论，算法并不存在一个“恰当的”定义。Seaver 借助人类学的敏感性，并汲取后行动者网络理论（post-ANT）的构想，主张我们应当说明算法的不同实演（enactment）。如此一来，算法及其属性便不再是有待发现的本质，也不再是某种普遍原则。关于算法的一般性陈述已无从做出，因为这取决于人们是在哪个社会场域中提出“算法是什么”这一问题。因此，Seaver（2017）敦促我们不要去回答算法是什么、或者它有何特殊之处的问题；相反，我们将在所研究的田野中找到这个问题的答案。一旦考虑到算法的多重性（multiplicity），“算法是什么”这个问题就变得更加复杂了。将算法视为实演的视角，也深刻影响了研究这些行动者的方式。由于算法的各种实演在运作方式以及可被接近的方式上各不相同，探究的模式也必须随之改变。它们都指向算法，尽管方式不同、视角各异。算法可以是制造不平等的不透明行动者（Noble 2018），也可以是一套需要向伦理委员会作出解释的视频监控程序（Neyland 2016），可以是一种话语叙事（Beer 2017），也可以是一组被实现出来的具体指令（Dourish 2016）。因此，在谈论算法时，讨论这些行动元（actant）的人至少把三种不同版本的算法混在了一起。第一，算法的一般原则：在有限时间内解决某一给定问题的一组指令。这也是教科书对算法的定义，常见于计算机科学与工程领域。第二，多种形式的不稳定、未经协调的装配体（assemblage）：在其中，一切都有待讨论，决策有待做出，代码有待编写，需求有待工程化，诸如此类。这既包括算法最初被实现为代码的过程，也包括算法系统为适应不断变化的需求而持续进行的开发与调整。我在此将其称为生成中的算法（algorithm in the making），它也体现在类似于科学技术研究（STS）中经典实验室研究的那类研究中——因而也体现在我在此呈现的自身工作中。第三，在现实世界中（in the wild）被实现和物质化的算法，它决定给谁一份工作、把警察派往何处、或向谁呈现何种信息。后者是算法的一种稳定化、制度化的形式，它位于组织内部的某处、隐藏在应用程序接口（API）背后，作为一个确实强大的行动者，把所有的混乱、多重性、图示、图表等统统藏进一个黑箱。无论如何，算法都是多方面的互动、联结（association）与转译（translation）的产物。那么问题就在于：从哪里开始，往哪里看，向哪里去。这些不同的视角虽然各自都有价值，却引发了一场关于“当我们说算法时我们究竟在研究什么”的讨论。各种立场的光谱，一端是对算法的情境性实演，即叙述（narration），追问“算法”一词如何被赋予意义；另一端则是媒介理论中的观察，即媒介人工物（例如一个具体的排序算法）具有非常明显的效应。前者主张研究者应作为社会科学家，不应盲目遵从学科的与技术的定义（Seaver 2017），也就是说，不要变成工程师，而要信赖社会科学与人文学科的方法论来刻画算法的属性。后者则对这一立场提出了反论。Manovich（2013a）[^f04-3]等人认为，人们应当能够亲自编程，才能完全把握技术的秩序化（ordering）效应。要理解算法是什么以及它如何对世界进行秩序化，我们就必须从这一行动者的技术属性出发，也就是说，从技术专长出发，并借助技术专长。介于两者之间的一种观点是，我们应当遵循所研究田野的主位术语（emic terms）（Dourish 2016），即采用计算机科学对算法的定义。Burke（2019）继而接过这一论点，指出尽管在寻找共同定义方面存在问题，“算法”一词对计算机科学而言仍然是一个重要的术语。因此，在本章中，我希望探讨这一论证上的张力，出发点是这样一种假设和观察：算法是（也）在软件开发项目中被“做”出来的东西；我将追踪应对这些如此难以把握的行动者所必需的物质性与话语性要素。我首先讨论媒介理论学者所探讨的算法与软件的本体论地位问题，然后通过追问以下问题使之复杂化：算法如何经由软件开发者的实践而被实演——他们实现不同的技术、使用软件库、搭建 iPython 笔记本之类的开发环境，这里仅举数例。因此，要理解算法的秩序化效应，我们也需要把计算机科学作为这诸多实演之一纳入分析。基于我作为该推荐算法开发项目一员的经验，我认为，归根结底，这两种视角并不相互对立，而是代表了同一现象的不同要素：显明而持久的算法，是一种集体的、情境性的实演的产物。下面，我将重构一种关于算法的媒介理论视角，并论证算法的制作依赖于两种不同形式的集体实演。在实现推荐算法的过程中，该项目依赖于：a）一个共同体所提供的、总是已经给定的工具所构成的运作秩序；b）调动各种技术所凭借的话语结构与知识分布结构。Manovich（2013a）或 Dourish（2016）所谈论的算法已经是实演——但只是特定的实演。而且，正如我们将在关于算法制度与算法政治的讨论中看到的，它们并不是仅有的实演。 ## 做计算机科学（Doing Computer Science） Latour（1999b）曾经说过，社会产生于社会学，文化产生于人类学。此类术语的生产，只有在与知识生产体制（regimes of knowledge production）的关联中才使它们变得有意义。因此，提出如下工作假设似乎是正当的：算法产生于计算机科学。因此，眼下这项探究的目标之一，便是把“算法”一词理解为“某一特定职业文化——计算机科学家、软件设计者和机器学习从业者的文化——之中的一个行业术语”（Dourish 2016, 2）[^f04-4]。否则，正如 Dourish（2016）所论，我们将无法找到恰当的干预或批判形式。这一立场同样见于更早提出的软件研究（software studies）之中： > 要理解新媒体的逻辑，我们需要转向计算机科学。正是在那里，我们有望找到刻画那些已变得可编程的媒体的新术语、新范畴和新操作。我们从媒体研究走向某种可称为软件研究的东西，从媒介理论走向软件理论（Manovich 2001, 48）。 这一观点的基础在于更早的讨论，部分源自媒介理论领域——尤其是柏林媒介理论学派（Berlin School of Media Theory）。Kittler（1999）在那里主张，要把握技术的文化与社会影响，就必须深入理解技术，因为“媒介决定我们的处境”（Kittler 1999, XXXIX）。在此语境中，唯有与我们周遭的技术进行彻底的正面交锋，才能形成批判、分析与解放所必需的视角。这种视角所许诺的是：通过转向一种软件理论或算法理论，社会研究和文化研究将能够以新颖的、而且——对这一进路的倡导者而言更重要的是——恰切的术语来谈论这一现象。对于软件研究和批判代码研究（critical code studies）的学者而言，这意味着转向构成软件的实际代码，以理解社会与文化领域在新的数字化条件下如何被影响和决定。在其著名的表述中，Lessig（1999, 2006）将代码等同于法律，即把技术代码等同于法律规范（legal codes）。代码和软件不再是受规制的对象，而日益成为一种规制力量本身。 > 在现实空间中，我们认识到法律如何进行规制——通过宪法、成文法及其他法律规范。在赛博空间中，我们必须理解一种不同的“代码”如何进行规制——那些使赛博空间成为其所是的软件和硬件（即赛博空间的“代码”），也如何按其所是来规制赛博空间（Lessig 2006）。 代码——在此指赛博空间的构成——是一种强大的规制者，它决定谁能访问数字对象或服务，哪些交流形式是可能的，以及信息在何处被收集。针对同一现象，Galloway（2004）将互联网描述为一个从来都与自由无关、而与控制相关的地方。在这位作者看来，施加控制的一个重要机制是协议（protocol）的实现——这种控制形式使得在互联网这样的去中心化结构中行使权力成为可能。Galloway（2004）是完全就字面意义而言的，因为他把 TCP、DNS 或 HTTP 等通信协议（这里仅举数例）认定为政治技术。这些协议规制着我们在互联网中行动和生活的方式，就如同减速带通过一种“物理的组织系统”（Galloway 2004, 241）来规制我们的驾驶行为一样。 Montfort 等人通过分析仅仅一行计算机代码的文化、历史与社会意义，展示了这种态度，他们认为“为了充分理解红线歧视（redlining）[……] 的运作方式，或许有必要考察银行审批抵押贷款系统的具体代码”（Montfort et al. 2012, 10）。一行代码就能造成差别。因此，要理解社会的数字化[^f04-5]，接触具体的代码行对于批判性探究就变得十分重要——对于机器学习这类看似不透明的应用也是如此。Adrian Mackenzie 指出：“无论机器学习涉及怎样的抽象层次，代码几乎从来不是密不透风、不可穿透的。作为陈述，一切都摆在表面上”（A. Mackenzie 2017, 26）。因此，研究算法和机器学习意味着从一种新的视角来研究代码。于是，这些学者所识别出的挑战是：我们要建造何种形式的赛博空间？我们愿意实现怎样的规制体制——Lessig 甚至将其比作宪政体制？要能够为这些问题提出答案——无论多么不完整——我们就必须阅读、编写并讨论我们数字社会中的代码与算法。因此，Manovich（2013a）主张，为了逃离软件的牢笼，我们需要学会编写自己的代码。于是，我们必须调动计算机科学和软件开发的实践与范式来提出我们的批判。从一种不同的视角，即批判的视角，去“做”软件、代码和算法，也由此变成了一种政治探究的形式。 ## 算法媒介及其物质性（Algorithmic Media and its Materiality） 然而，计算机科学是一个广阔的领域。我们应当把算法定位在何处？其效应，即它所造成的差别，究竟是如何产生的？根据迄今为止给出的论证，这个层面应当是用编程语言编写的计算机代码。打开这些 .java 文件，看看那条有罪的语句在哪里，我们便离发现这项技术的社会影响不远了。然而，这一立场并非没有争议。Dourish（2017）指出，我们应当承认，一个算法的实现（也包括实际的代码）所需要的不只是抽象的程序。算法是我们世界中具体的、物质性的行动者。它们是“可识别的、具体的媒介人工物，而当被视为一台更大机器的一部分时，它们更容易被识别”（Burke 2019, 4）。根据 Hayles（1999）的观点，信息社会或数字社会生活在一种虚拟性（virtuality）的状况之中，在此状况下，文化感知在信息与代码的物质性和作为抽象实体的信息之间制造出区分。但这种虚拟性不过是一种成就：它通过我们的感知使信息的核心特征——即信息被存储于其上、并可能作为计算机程序被执行于其上的媒介——变得不可见。没有物质性的信息是不存在的，因为信息总是依赖于某一媒介上的物质显现。在 Hayles（1999, 13）看来，将代码或信息（至少在冯·诺依曼架构中，这一区分已变得毫无意义）从其物质基础中抽象出来，是一种想象。而为了充分理解软件和算法如何运作——以及它们如何产生秩序化效应——我们也应当考虑计算的物质世界，即中央处理器（CPU）、主板设计、所使用的数据存储技术等等。没有这些，对代码的视角就是不完整的。类似的洞见更早就促使 Kittler（1995）提出了“不存在软件”这一论断。这一论断也反映了 Kittler 对作为技术中介之核心要素的硬件的深度投入和兴趣。对他而言，这标志着一种“从软件到硬件、从较高观察层次到较低观察层次的下降”（Kittler 1995, 150）。在此语境中，软件和算法都不作为其自身而存在，而只作为一种把硬件要素之间的互动抽象掉的视角而存在。人们需要的不是关于软件的理论，而是“硬（件）理论”（hard(ware) theory）（Parikka 2012, 64）。与这一立场相反，Manovich（2013a）宣称只存在软件。Manovich 并未（至少未明确地）援引 Kittler，他认为“数字媒体”（Digital Media）这一术语具有误导性，因为数字内容（如图像文件）的转译会因所使用的软件不同而大相径庭。 Manovich（2013a, 138）写道：“取决于你用哪个软件来访问它，你对同一个数字文件所能做的事情可能会发生巨大变化。”对 Manovich 而言，软件是数字之物的决定性要素，因为它以不同的方式转换和呈现数字数据。如果我们想理解数字化世界的建构，软件层面才是相关的层面，因为正是它把逻辑引入了我们被中介的互动之中。因此，我们应当考虑的不是信息的物质性，而是计算机代码所引入的不同逻辑。计算机硬件是一台通用化的机器，而软件则对我们的世界进行秩序化。Rossiter（2016）在谈及数字基础设施和代码时，以类似的方式表述了这一论点。在其著作中，Rossiter（2016）将软件描述为我们现代世界的协调力量。 虽然 Manovich 并不否认 Kittler 提出的论点，但在他看来，相关的探究层面是另一个层面。他着眼于代码层面来进行干预。然而，这两个论断——只存在软件，与不存在软件——引出了一个问题：这些不同层面之间是什么关系？正如 Lessig（2006）所论，赛博空间是由软件和硬件构建的。如果我们遵循 Kittler 的论证，那么软件并未给局面增添任何东西，它本身不具有任何属性。一切都可以化约为硬件之间的互动。也许存在软件，但即便如此，它也无关紧要。那么，软件、硬件、或许还有运行时（runtime）的本体论地位，其相关性究竟何在？[^f04-6] ### 计算机语言（Computer Language） 正是这一探究上的难题困扰着软件研究的学者们。如果不存在软件，我们如何能够介入数字社会的建构？Galloway（2006）将这些视角结合起来，认为它们并非各有其合理性的不同探究层面，而是在逻辑上等价的。 > 人们绝不应把这台“较高的”符号机器理解为在经验上不同于通过逻辑门的电压所构成的“较低的”符号互动的任何东西。它们确实是复杂的聚合体，但若以为用八行汇编代码写一个“if/then”控制结构，要比用一行 C 语言来写更具或更不具机器性，那就愚蠢了，正如同一个二次方程可以膨胀出任意多个乘数而依然保持平衡。二者之间的关系是技术性的（Galloway 2006, 321）。 这里有一条有趣的转译链条在起作用。软件，比如 BIOS、操作系统，或者用于撰写本文的文字处理程序，都是计算机系统的抽象，但这些抽象是通过不同层次的转译协同运作的（Hayles 1999）。每一个抽象层次都是其下一层的能指（signifier），同时又被其上一层所指涉。机器码在编译器语言的层面上被指涉，而编译器语言必须被转译为机器码。但反过来，机器码又指涉处理单元（ALU）内部的逻辑运算。它们不仅协同运作，而且在逻辑上是等价的。无论我们从哪里进入，信息技术系统所产生的效应都是一样的。没有哪个转译层次会增添或减去什么，因为不同的转译层次只充当中介者（intermediary），并不改变陈述的性质，而是表征同一个逻辑结构。遵循这一论证就意味着，探究的层面变得无关紧要，因为我们可以在任何我们想要的地方进入这条转译链条。无论从何处进入，我们所发现的（仅仅）是一条指涉链条中的另一个要素。这就解释了用 C++ 等编程语言写下的陈述与可观察效应之间的直接映射。用这些编程语言写下的陈述是述行性的（performative）。正如 Kittler 所论，通过编写特定的代码行，工程师能够行使权力、界定情境，并以直接的方式创造现实。一个简单的 if … then 语句就能改变软件影响社会（和技术）情境的方式（Neyland and Möllers 2017）。简言之，代码通过书面表达的表述而具有述行性，这与语言相仿。Bernhard Rieder（2017, 102）认为，“代码[……]是以计算机能够理解的方式来表达[这些]技术的媒介”。算法是逻辑结构，代码是表达它们的语言。Parikka 援引 Kittler（1990）的早期著作写道：“技术媒介时代的语言不只是自然语言：它是由媒介所引入的新的技术与物理体制，比如打字机，以及后来的计算机软件语言，在方法论上应当以类似的方式来看待它们”（Parikka 2012, 70）。在这一视角中，硬件与软件之争通过如下方式得到化解：把编程语言理解为与计算机进行交流的一种形式，以便将陈述的意义机械地转译为（计算机的）行动。换言之，只存在硬件，但我们需要软件来进行交流。 将代码理解为一种具有自身效应的语言形式，这一观点在批判代码研究（CCS）中已存在一段时间了。Cox 和 McLean（2012）认为，代码能够而且应当按照 Austin（1975）所描述的言语行为（speech act）来理解。Austin 认为，在通过言语进行行动时，我们在说话时实际上能够产生现实，也就是说，能够进行带有后果的行动。Austin 主张，借助述行性言语行为，我们是在“以言行事”（doing things with words）。举一个例子来说明这种言语行为：设想一位牧师说出这样的话：我在此宣布你们结为夫妻。仅仅说出这些话，一个事实就不只是被援引，而且被创造了出来。这位牧师仅仅是用她的声音在行动。以类似的方式，代码在批判代码研究中被解读为这样一种言语行为。仅仅通过写下一些代码，人们就能建构现实，无论是通过软件架构中的决策，还是通过让计算机按照所表述的脚本（script）行动。因此，对代码进行分析揭示出一种语言行为，这种语言行为“在世界中活跃，并拥有一个活生生的身体”（Cox and McLean 2012, 110）。 遵循这一论证，我们可以把代码当作语言来看待，但它构成了一种特殊的语言形式，因为它是可执行的（Galloway 2004, 165）。这便在 Austin 心目中的语言形式与批判代码研究和软件研究把代码思考为语言的方式之间制造出了区分。在这一视角中，代码被视为比单纯的言语更为强大，因为它通过在运行时层面的执行而在世界中实施行动。这使得 Hayles（2005）区分了语言性述行（linguistic performance）与机器性述行（machinic performance）。这一论证乍看颇具说服力：语言性述行首先存在于人的心灵之中，然后必须被转译为行为，也就是说，在输入与输出之间存在一个（主观）解释的中介过程。相比之下，软件的述行性要直接得多，因为代码的执行是直接发生的，没有中介（Hayles 2005, 50），也没有变异（Galloway 2004, 165）。于是，有软件与无软件之间的问题便得到了化解，因为不同的能指让人能够轻易地从一个层面穿行到另一个层面，而无需解释效应的增添或减损。代码是述行性的，因为它可以被直接映射到一个预期的结果上。然而，彻底贯彻符号学的进路反而会使我们远离这样一种理解。技术不仅指涉不同的技术层面，也指涉维持这种关系稳定的不同集体（collective）。 ### 言语行为及其集体（Speech Act and its Collectives） 在迄今为止所描述的论证中，有两个重要的要素被结合在一起，为聚焦于代码的分析提供了正当性。第一，代码或算法的探究层面并不重要，因为人们进入的是一条指涉与转译的链条。代码是执行诸层面的一种表征或抽象。第二，这些转译是决定论式的，也就是说，不同的抽象在逻辑上彼此等价。这最终使我们能够把代码理解为一种特殊的语言形式，它在这样一种模型中具有述行性：我们可以在原因与结果之间毫无问题地来回移动。编码化的言语行为与述行性效应之间的关系是机器性的。在 Kittler 或 Galloway 的视角中，代码、软件与硬件之间的转译在逻辑上是等价的，因而维持着相同的效应。然而，抽象的算法原则向代码和软件的转译是偶然的（contingent）。但一旦被实现为一段可被转译为运行程序的具体代码序列，算法就会保持稳定。这便是批判代码研究或软件研究的终极论据。如果我们想研究算法，就必须研究具体的代码，而不是某些伪代码表征或原则，也不是开发者的实际实践。 然而，这种关于机器性述行性以及行动向不同的——在经验上等价的——层面进行转译的构想，遭遇了一些论证上的缺陷。Adrian Mackenzie（2005）以 Linux[^f04-7] 为例表明，代码可以被理解为一种言语行为，它在社会世界中以述行的方式产生效应，但并非只是在向直接行动的转译中产生效应，而是通过界定情境来产生效应。我们值得反思一下这里所面对的是何种言语行为。通常，人们援引 Austin 时所指的是那些以自身为目的的言语行为，比如“我向你承诺……”。在这里，一旦话语被说出，该行为的目标便已实现。用 Austin 的语言来说，这些言语行为是言外行为（illocutionary）。它们无需进一步的行动便具有述行性。而言后行为（perlocutionary）则在因果链条中产生效应。在这里，言语行为的目的在于让某人基于所说的话去做某事。就代码作为言语行为而言，我们（大多数时候）面对的是言后言语行为。简单的语句 print “This text is produced by an perlocutionary speech act”; 会在你的计算机屏幕上打印出所表述的字符串——因而是言后的。然而，如果我们把软件结构（A. Mackenzie 2005）视为一种言语行为，那么效应在编写代码时就已经实现了，因此它当然（ipso facto）是言外的。这个例子说明了 Galloway（2006）论证中的一个问题。如果我们把不同的层面理解为在经验上相等，我们就忽视了——正如 Manovich（2013a）同样指出的——硬件充当的是一种更为通用的媒介，而软件则通过改变后续软件包或互动的条件来重新界定情境。与此同时，一个软件包或操作系统的结构也为使用它们的开发者界定了参数。因此，为 Linux 编写软件与为 Windows 开发软件的运作方式并不相同。硬件也是如此：它允许某些操作，却禁止另一些操作。我们或许能够向下穿行，但“整体总是小于其部分”（Latour et al. 2012）。只有当我们考虑到被置入彼此关系之中的每一个要素时，我们才能理解相关代码的述行性[^f04-8]。 因此，将代码概念化为言语行为，便提出了一个问题：是怎样的发话（enunciation）的社会技术语境使代码得以具有述行性？这要求我们以稍有不同的方式来阅读 Austin 的著作。与其关注一句话语的生成性运作，比如“我宣布你们结为夫妻”，人们也可以追问：在什么情况下这样一个陈述会成为真的？在其他进路中，例如实用主义及其以实践为导向的真理定义中，这个问题得到了比 Austin 更为广泛的探讨。众所周知，托马斯定理（Thomas theorem）指出：“如果人们把情境定义为真实的，那么它们在其后果上就是真实的”（Thomas and Thomas 1928, 572）。这一表述触及了一个 Austin 也已看到的重要关联：要成为述行性的，或者用 Austin 的说法成为“有效的”（operative），使其产生后果的条件是重要的。换言之：只有当他人接受了这一定义，使之产生后果时，述行这样一个事实才能奏效。言语行为不是孤立的事件，而是共同体互动与共享实践的效应。因此，言语行为必须在一个主体间的意义建构过程中被变得具有述行性（Berger and Luckmann 1967）。Butler（1997）在讨论 Austin 的理论时认为，言语行为是一种行为举止（conduct）的结果。 > 例如，当我说“我谴责你”时，我很可能说出了一个言语行为，而且确实是 Austin 意义上的言外行为；但如果我并不处在一个能使我的话被视为具有约束力的位置上，那么我很可能说出了一个言语行为，但按照 Austin 的意义，这个行为是不适切的或不恰当的（unhappy or infelicitous）：你毫发无损地逃脱了。因此，许多这样的言语行为在狭义上是“行为举止”，但并非所有言语行为都具有产生效应或引发一系列后果的力量（Butler 1997, 16）。 Latour（2009）甚至将这一论证又推进了一步，把它扩展到使言语行为成为可能的物质世界。说话、接受所说之言、将其实现等等的安排，是在一个由人类与非人类行动者构成的集体中展开的。Introna（2016）接过这一点，批评了对机器性述行性与语言性述行性的区分。他声称：“可以论证，所有形式的代码都必须是‘可执行的’——否则它就不会被转译为任何形式的能动性。法律规范为了转译立法机构的能动性，同样需要是可执行的。这些不同类型的‘可执行性’之间的区别，在于此种执行所必需的*构成性条件*的性质”（Introna 2016, 26，强调为原文所有）。因此，每一个陈述——包括言语行为和代码片段——的现实性与可执行性，都内在于一个行动者网络之中，而不是外在于它（Latour 1990）。 因此，接下来我将基于我的经验观察论证：算法的稳定性是至少两种不同形式的集体努力所取得的成就。第一，整个工具生态系统本身，就是一个更广泛的共同体的要素与成就，它使算法的实现与落实成为可能。软件和代码的述行性，是被调动起来的技术行动者（例如编译器或软件库）相互作用的结果，这些行动者促成并限制着算法的潜在行动——或者本身就承载着已经实现的算法技术。第二，算法本身并非凭空而来，而是从整个学科共同体中被调动起来的技术和话语要素，例如以教科书或最佳实践范例的形式。因此，算法技术是一种知识资源，它被接受、挪用、调整，并被反馈回共同体。这两种形式的共同体成就，使算法在实际开发项目中变得举足轻重。而如果我们要寻找算法的学科性实演，就必须把这两种援引共同体的形式都纳入考量。 ## 稳定转译的不稳定性：总是已经被秩序化的世界（Instability of stable translations: the always already ordered world） 正如 Passoth（2019）所论，当我们谈论数字之物时，至少涉及三种不同的物质性——硬件、软件和运行时。而且它们在逻辑上并不等价。按照 Chun（2008）的观点，一直到晶体管层面都存在稳定转译这一假设，本身就是一种效应，不能被视为理所当然[^f04-9]。把代码从刚才描述的种种互动中剥离出来，会使代码被转译为具体行动的可能性条件变得不可见。她把这种态度称为“巫源逻辑”（the logic of sourcery）（Chun 2008, 9）。没有合适的 CPU，对存储在磁盘上的机器码的解释便无法进行；没有合适的编译器，将高级代码转译为机器码的过程也无法进行。但是，质疑这些行动者的既定性，打开那些将它们置于其位的联结，就意味着会发现一个由其他人类与非人类行动者构成的广阔网络，它们参与稳定化了像编译器这样平凡的东西——我们用编译器把任何程序的源代码转译为一个实际可运行的二进制文件。为此，我们依赖了相当多未被质疑、而被假定为既定之物的资源。仅编译器本身就是一个在其背后聚合了许多不同行动者的工具：开发者共同体、对处理器机器码的描述、许多描述如何解析、优化然后转译代码表达式的技术的书籍。 换言之，算法、软件、硬件乃至电工信号之间被假定的转译稳定性，是一种效应，而非一个既定事实。我们不应把源代码或算法视为一种本质，而应把它们理解为一种“再—源”（re-source）（Chun 2008, 9）。就该推荐系统而言，算法的发话建立在 Spark Hadoop 环境和 iPython 笔记本之上，建立在服务器集群及其背后所有的软硬件之上。没有这些，代码就不会产生任何效应，而这些要素的具体形式决定了结果。这些要素的稳定性是整个共同体协商的结果。推荐系统的装配包含了这些系统，而它们本身也是被装配起来的，并作为“按原样”（as-is）提供的黑箱而存在[^f04-10]。 ## 算法基础设施（Algorithmic Infrastructures） 作为项目的一部分，项目负责人 Bob 和 Alice 参加了一个国际工作组，该工作组尝试不同形式的推荐算法，并彼此分享各自的算法。 > 将会成立一个国际工作组，它希望为用户追踪和算法的实验性开发建立一个跨机构的框架。他们将利用 iPython 笔记本，在其 Hadoop 和 Spark 系统上运行它。这个系统允许人们上传自己的数据和算法来进行测试。如果效果相当不错，就可以为这一设置定义一个 API 端点。Bob 进一步向我们解释说，可以复制这些 iPython 笔记本并与他人分享，让他们看到你做了什么（田野笔记）。 在田野工作期间，我所学到的不仅是人们所使用的算法原则——例如基于显式和隐式评分的协同过滤，基于词干化描述文本、标签和类别的基于内容的过滤，等等。此外，我还了解到，这个算法是在一个更大的研究者与开发者群体之中被分享的，他们在 Spark 和 Hadoop 的设置上测试各种实现，而代码则被键入 iPython 笔记本之中。图 1 展示了这样一种工具，它允许在欧洲广播联盟（European Broadcasting Union，EBU）预先界定的框架内进行开发，同时也显示了部分 iPython 笔记本列于何处。我不仅要学习算法原则，还必须学习机器学习和数据密集型应用的既有框架与新兴框架及基础设施。 发生了什么？我被引入了一个由现成的工具和设置所构成的世界，而这些工具和设置似乎是开发一个算法、并使团队内外的协作成为可能所必需的。项目使用了 Spark——一种常用于数据密集型项目的编程语言——这在很大程度上是因为它的 MLib 库。这个库实现了许多机器学习算法和实用工具，可以直接使用并进行实验。此外，Hadoop 是一个用于数据密集型和分布式计算解决方案的软件框架。二者都由 Apache 软件基金会（Apache Software Foundation）开发和提供。而且二者都通过 iPython 笔记本来访问，从而形成了一个用于实现、测试和分享推荐算法各种可能变体的界面。推荐系统的开发并非依托于通用工具，而是利用专门化的开发环境作为项目的基础。这些环境由一个专门化的专家共同体以协作的方式开发，其中甚至包括一种名为协同过滤的推荐技术的标准实现[^f04-11]。因此，开发项目的开端，便是把所有这些不同的行动者调动（mobilizing）到实际项目中来，并搭建一个能够开发、测试、分享和讨论推荐系统的环境。作为我探究的一部分，我开始在一台虚拟机上搭建自己的 iPython 笔记本，以便理解他们在做什么，并能够亲自测试。在每一次安装过程中，我都要确保相关的库已经安装好，确保我拿到了正确版本的软件——或者确保它确实与我所运行的 Linux 发行版兼容。这一调动过程远非无足轻重，但它对于后续可能的代码开发而言是至关重要的。正如 Adrian Mackenzie 在谈及软件时所说：“放任不管，它往往会分崩离析”（A. Mackenzie 2006, 12）。没有这些营造环境的步骤，推荐系统便是不可想象的。Burke（2019）也分享了他的观察：计算机科学共同体日益依赖于对共享软件库或服务的（再）使用。Burke（2019）描述道，在机器学习领域，Tenser Flow 已经成为一个广为人知、经常被用来实现机器学习应用的框架。由于实际算法应用所具有的分布式性质，在原则、软件、协议、硬件、以电压水平表示比特的电工表征之间这条持续进行的转译链条中，要确定实际的算法究竟是什么，似乎是不可能的。也就是说，作为整体的算法并不是这些项目中的某一个，而是全部。拿走其中任何一个要素，作为行动者的算法便不复存在。在转译的每一步中，我们都会发现更多以工具、库或服务的形式存在的、具有生产性和秩序化作用的黑箱。软件和算法并不（仅仅）依赖于一种自上而下的秩序化，也依赖于一个使稳定转译成为可能的环境，这个环境把权力委派（delegates）给一个协议或一个算法，以达成秩序化效应。正如 Latour（2004）援引 Heidegger 所论：从事实之物（matters of fact）转向关切之事（matters of concern），不把任何事物视为自在的本质，而是视为多重联结的成就，会更具生产性。举一个例子：机器语言层面上的那一套不同指令之所以能够运作，只是因为许多不同的实体能够被装配起来以维系它，从标准化文件到程序员的需要、处理器的硬件特性、编码方法，一直到生产场所，等等。它们中的每一个本身都是一个稳定化、组织化的黑箱，有着自己的联结、复杂性和安排，征召（enrolling）了“大量沉默的他者，并从中汲取其力量与可信度”（Callon 1987, 96）。稳定转译假定所有这些要素都已就位、可用，并以预期的方式运作。只有在一套给定的（总是已经[^f04-12]给定的）秩序之中，算法的有意义的转译和实现才是可能的。抽象层次不再是一个等级结构，而是处于同一层面上的、各自独立的不同黑箱。因此，在转译的不同环节之间移动，也意味着要考虑：为了把所指（signified）稳定为一个黑箱，调动了什么——以及这对于转译过程意味着什么，而指涉链条正是在这一转译过程中随时间被制作、又被重新制作的。能指、调动与稳定化之间的这种关系，继而建构了算法。通过把不同的行动者征召进（技术性）程序的（行动）程序之中，最终行动者的特性得到更多一点的界定，被稳定下来，并被赋予能动性。现在，把算法理解为所有这些要素的效应，会引出另一个结论。算法的述行性回指并建立在一个集体所委派的诸黑箱之上。因此，对这些生产性行动者的调动，使广播机构内部的开发团队变得大得多。经由联结，参与这个算法工作的不仅是 Alice、Bob 和我，还有许多参与所用工具和框架之管理、调试、打补丁和后续开发的人。因此，推荐系统的实现方式也受到了这些行动者的塑造。系统的开发必须嵌入一个已然存在的（而且极具生产性的）社会技术秩序之中[^f04-13]。在本节中，我基于在开发情境中所发现的技术设置，将算法重构为一种集体实演。然而，要充分把握这一现象，我们还需要考察算法的话语性实演。因此，在下一节中，我将把算法作为被叙述的行动者来加以讨论。 > [图 1] 用于测试不同推荐算法的开发工具截图。（图像见原书第 72 页） ## 算法话语：叙述算法技术（Algorithmic Discourses: Narrating Algorithmic Techniques） Latour 认为，Austin 对陈述性言语行为与述行性言语行为的区分仅仅基于语法和短期互动，而没有“追随整个发话体制”（Latour 2009, 225）来使二者之间的差异变得可见。如前所述，述行性的产生取决于某种得到维持的秩序，发话正是在这一秩序之中发生的。事实并不是仅仅通过说出某事就被创造出来的。相反，言说行为必须被其他行动者接受，他们才会相信、质疑或依照刚刚提供的这一事实之提议而行动。言语行为在本质上是主体间的。就代码而言，这一点可以在由行动者构成的广泛秩序与装配体中观察到，其中包括软硬件组件、其他开发者共同体等等。然而，发话还必须嵌入第二个维度之中。如果述行性只在一个总是已经被秩序化的世界中才有效，并且需要解释，那么述行性陈述的接收者如何理解这些陈述？一个人最初又是如何产生说出这些话的念头的？Austin 也承认，这关联着一个更广泛的社会规范、信念与知识系统（Austin 1975, 14），并把这些知识形式称为在特定社会中众所周知的“惯例”（conventions）与“仪式”（rituals）。因此，要知道在某种秩序化之中可能产生述行性效应，一个人首先必须已经习得：这样的话语与说话者的位置以及可能表述的范围相关。正如 Austin（1975）所设想的，言语行为的述行性指向一种使所说之言的效应成为可能的共享知识[^f04-14]。 这对于把代码理解为言语行为意味着什么？虽然代码的述行性仍然必须被纳入考量，但代码的能动性总是指向一个社会与物质的语境，因为“计算机代码从来不会脱离一套使其得以做事的先在实践而实际存在或运作”（A. Mackenzie 2005, 76）。在使言语行为有效、甚至使其有可能发生的那个装配体之中，有一部分便是观念、代码片段等在社会共同体中的嵌入性；在这些共同体中，以言行事的这些稳定行为通过重复而得到稳定化。正如 Butler 所论： > 如果一个述行暂时取得了成功（而我将提出，“成功”总是而且仅仅是暂时的），那么这并不是因为某种意图成功地支配了言说行为，而只是因为这一行为回响着先前的行为，并通过对一套先在的、具有权威的实践的重复或引用而积累起权威的力量。这不仅仅是说言语行为发生在一种实践之中，而是说这一行为本身就是一种仪式化的实践（Butler 1997, 51）。 因此，持续的重复与流通把作为言语行为的代码稳定下来，并使之成为（学科性的）话语。与这一观察相一致，Wendy Chun 认为，软件总是嵌入在知识—权力结构之中（Chun 2008, 4）。这同样适用于作为抽象程序的算法。虽然算法会产生持久的效应，但仅仅聚焦于代码和运行时的物质性或算法本身，便会遮蔽这样一个事实：算法同样是多种其他行动者、认识论立场与话语相互作用的效应。正如 Mackenzie 所说： > 从物质上看，代码只是机器学习之图示（diagram）中的一个要素。它以或多或少的可见程度，展示了多种力量（基础设施、科学知识、数学表述等）之间的关系。它由多重的制度性、基础设施性、认识论和经济性立场所排列，同时也暴露出这些立场（A. Mackenzie 2017, 22）。 正如我在本章开头所论，在修读一门关于算法的计算机科学课程时，我们会对算法是什么、我们如何使用它们以及以何种术语来思考它们形成一种直觉性的理解。因此，代码和代码片段几乎从来不是没有重复或流通的简单言语行为。一整个学科——连同其学位项目、会议、期刊、标准化委员会等等——都与我们通常所谈论的算法联系在一起。图 2 展示了一个插入排序（insertion sort）的简单例子，取自 Cormen et al.（2013, 18）。 当我们观看算法的这一表征时，许多东西都被默认了。例如，表达式 A.length 是指涉待排序集合之大小的能指，它假定我们确实知道给定集合的大小。待排序的集合 A 并未被定义，但它被假定为给定的。其他表述则指涉编程实践中已知的要素，例如 while 语句。如果你有任何编程经验，你就会知道它指的是一个执行循环的表述。与你可能在数学课上学到的不同，这里的等号并不表示两个项相等，而是一个运算符，把右侧项的结果复制到左侧所命名的变量中。换言之，一个算法的表述指涉着学科性知识，这种知识使人们能够理解用来描述某一具体算法的表达式。从未修过计算机科学课程、也未接受过编程范式入门的人，几乎无法破解眼前的这个表述。 与此同时，这一表征也是一种话语要素，因为它向计算机科学课程的学生展示了一个原型式的插入排序是什么样子[^f04-15]。选择这个例子并非随意，而是因为它出自一本关于算法与数据结构的著名教科书。如果你不确定某个特定算法如何运作（或应当如何运作），你总是可以求助于这些教科书。它们会向你展示排序算法是如何组装起来的。把这些表征形式作为学科性知识加以分发，赋予了这些技术以持久性，也赋予了其实现以正当性。当有人质疑你对某个算法的实现时，你总是可以调动这些教科书、最佳实践、大学学习时的讲义等等作为盟友，来为你的程序提供支持。虽然这个例子本质上很简单，但其原理对计算机科学而言却很重要。远比插入排序复杂的编程模式（programming patterns），作为解决方案和代码的结构化要素，在程序员共同体中被思考和分发[^f04-16]。因此，在转向计算机代码时，理解开发者如何“以言行事”（Austin 1975）固然重要，但同样重要的是代码片段背后的语境，它解释了为什么被调动的是这些代码行而非别的代码行，为什么是这种机器学习技术而非另一种，以及它造成了什么差别。一个算法并不仅仅由孤独的程序员所决定。相反，算法的原则与逻辑是通过不同的手段——例如教科书、软件库和科学共同体——得到分发和稳定化的。算法的实现“汲取了计算机科学与软件工程等学科所提供的丰富知识储备”（B. Rieder 2017, 101）。算法应用总是从一种具有共同进路、方法与范式的编码文化中涌现出来。在这个项目中，每当我面对关于推荐系统和机器学习的标准教科书时，我都多次体会到这一点。每当我询问算法时，我所面对的都是又一本教科书、又一篇论文，解释着这种算法进路。人们向我讲述 ACM RecSys 会议上的论文。在这个意义上，算法是由在开发过程中被调动起来的许多不同的话语装置（discursive devices）所构成的。 > [图 2] 插入排序，取自 Cormen et al.（2013, 18）。（图像见原书第 76 页） ## 寻找算法（Looking for the Algorithm） 2016 年初，当我开始对这个民主推荐算法展开探究时，我也同样——在不知不觉中——对自己要寻找的究竟是何种算法举棋不定。我自己有实现和分析算法的经验，所以想去看代码，摆弄开发环境和 API。但我注定要找到别的东西。我就在那里，坐在一个满是软件开发者和计算机科学家的房间里。我有了自己的办公桌、自己的门禁卡，并被介绍为项目自己的社会学家。现在我该去哪里？我在哪里才能找到那个算法？我想理解这一程序的内部运作，并且——就像过去我在 IT 行业工作的日子里那样——阅读代码，喝大量的 Club Mate，重构成百上千行代码的意义。我甚至获得了访问项目文档库的权限。我开始翻看它。我所发现的并不是预期中的算法，而是描述、图示和对文献的引用。 那些指向我所寻找之算法的东西，仅仅是我心中所想之物的表征。图 3 展示了该系统架构的一个早期概念构想。可以看到，推荐系统被设想为相当核心的部分。至少，我现在知道了它在概念上是如何嵌入整个系统的。但我依然想要推荐系统的“硬核”维度（crunch dimension）——我怎样才能到达那里？幸运的是，我在项目中的位置主要与推荐系统的开发者 Alice 相对应。Alice 负责开发算法，并将其整合进视频点播平台的整体产品结构之中。我问她算法如何运作，以及我在哪里能找到它。结果，我收到了一些幻灯片、书籍章节和文章的链接。进入项目几周后，我收到了 Alice 的如下留言，附上了一篇关于基于隐式反馈的协同过滤的论文： > 嗨！读完这篇文章后，你就会明白什么是基于显式反馈的协同过滤。但是：我们实际处理的是隐式反馈（用户并不直接给视频打分），所以我们得用不同的方法 :simple_smile: 这篇文章解释了如何做基于隐式反馈的协同过滤，以及它为什么不同。如果你觉得现在有用，可以读一读。不过你现在在做的聚类大概更重要——我自己还没来得及试。周五见！ > > PDF > CollaborativeFilteringWithImplicitFeedback.pdf > 288 kB PDF — 点击查看 在这个问题上工作的不只是 Alice 和我。相反，我们身处一个满是计算机科学家、数学家和工程师的房间，他们经由一整个学者与从业者共同体的不变的移动物（immutable mobiles）被传送到我们这里。我所寻找的算法由代码行构成，等待着被我解构。然而，我在作为一门学科的那段时间里所处理的，是向量空间可视化、优化公式和网络图示的堆积。 > [图 3] 对该项目早期概念描述的重构。（图像见原书第 78 页） 图 4 展示了 Alice 提供给我的一篇论文中的一小段，它帮助我理解一种推荐技术：它如何运作，问题在哪里，以及如果我们决定实现这一技术，我们需要什么。这篇论文的背景是 Netflix 大奖赛（Netflix Prize）。开发者把它作为算法的参考资料交给我，这一事实表明了它对项目的重要性。在我作为一门学科的那段时间里，我还得到了更多的文献，以及对学术报告和教学报告幻灯片的引用。这些参考资料包括《海量数据集挖掘》（Mining of Massive Datasets）中关于推荐系统的一章[^f04-17]，这是斯坦福大学计算机科学项目的一本教科书[^f04-18]。我还拿到了一些会议幻灯片，它们讨论和解释了这些技术及其问题[^f04-19]。 > [图 4] 提供给我的一篇论文的片段（Koren, Bell, & Volinsky, 2009）。（图像见原书第 79 页） 发生了什么？我得到的并不是推荐系统的实际代码库，而是与有待开发的算法没有直接关系的材料。然而，这却是我理解这个项目、理解我们所面对的实际挑战之路上的重要一步。没有它，我就无法把握推荐系统——用开发者的话来说——是什么或者关乎什么。我所发现的不是装满源代码的文件，而是自己被计算机科学的文献和幻灯片所包围，其中栖居着数学表述、矩阵和伪代码。但在 Alice 看来，这一切对于理解推荐算法做什么、是什么都至关重要。我觉得自己仿佛被带回了大学时代：在那里，你首先学会编写一个 Hello World 程序——一段没有实际用途、纯粹为教学而存在的代码。然而，从这次互动以及我个人的转变中，还可以学到别的东西。我并没有被放任去直接对付代码，而是 Alice 从组织或她的办公室之外调动了许多其他资源。《推荐系统手册》（Recommender System Handbook）中的概念、观念和技术，以及 Netflix 开发者的文章，都被接受过来，被变得与眼下的项目相关，甚至与我作为社会科学家的探究相关。Alice 和其他开发者从大学、会议（例如 ACM RecSys 会议）和教科书中调动了许多不同的资源，以赋予算法一个初始的、暂时的形态。通过这样做，推荐系统变得具体了——所采用的技术变得持久了。被引入我们办公室的这个装配体，或者说行动者网络，界定了有待实现的算法的特征。这是界定算法系统最终将是什么样子、并使之对相关人员变得可触知的重要第一步。然而，在赋予推荐技术以持久性和具体性的同时，它也获得了某种抵抗力（resist-ability），这使得一整类进一步的转译和转换变得不太可能。通过界定推荐算法的某些特征，一个由工具、基础设施和互动构成的环境也随之被预设了（详细描述将在下一章给出）。算法从虚构走向了偶然。站在巨人的肩膀上，算法依然多于一，但无疑少于多。 学科话语在算法的实演中扮演着重要角色。通过接受由一个共同体所创造和委派的技术与知识，算法获得了形式，并在一定程度上获得了持久性。因此，话语——不同于 Foucault（1991）的结构主义观念，即话语无所不在、自我维持——在这里是被有选择地接受的，被当作资源来对待，并以物质化的形式出现：经由教科书、文章、会议论文[^f04-20]。因此，正是调动话语的实践把诸种说明（accounts），例如文本，与一种情境性秩序联系起来（Lynch 2000, 34），并界定了相关的行动者，因为它们被“分配了一个发言或被代言的‘角色’”（Passoth and Rowland 2010, 892）。通过这样做，算法——作为被实演的行动者——在开发项目中与开发者们所求助的整个共同体一道被叙述出来。归根结底，不是我们必须转向计算机科学，而是田野中的行动者自己这样做了。我们只是追随行动者。 算法不仅是一种地方性的实演，而且是由不同的行动者构成的，这些行动者既被（Alice）调动，也被（房间里所有其他看不见的人）委派。而且，尽管我们并没有先验地套用一个取自计算机科学或软件工程、把算法视为抽象原则的定义，我们却不知怎地恰恰回到了这个地方。Mackenzie 邀请我们超越地方性的设置，把焦点转向在具体情境之外被调动的东西，即追随代码“在一片地带上的移动，而与代码相联系的不同力量、构型、动态、知识、身体习惯[……]和事物就处于这片地带之上”（A. Mackenzie 2006, 10）。算法是什么、做什么，取决于情境性的实演以及在实际情境之外被调动的委派，由此也决定了所讨论之算法被选定的具体性程度及其持久性。通过算法的实演，它随之获得了具体性——它变成了一个物（thing）。 ## 将算法置于语境之中（Putting Algorithms into Context） 回到我们开头的问题，即追问“算法*究竟*是什么？”（Ziewitz 2016, 4，强调为原文所有），我们——看起来——并未得出一个令人满意的结论。以恰当的方式谈论算法似乎是不可能的。我们是否应当彻底远离计算机科学和软件开发？与其放弃算法这一术语，或许更合理的是重新表述这个问题：“当我们把‘算法’作为分析关注的核心对象时，我们所注视的究竟是什么？”（Dourish 2016, 2）。算法是什么，无法以本质主义的视角来决定，因为它总是从我们的指缝间溜走。正如 Gillespie（2014）所论，我们应当抵制把算法放在驾驶座上的做法。相反，把算法理解为一种成就、一种社会物质性的实体——一种实演——或许更具生产性。于是，问题便不再是算法是什么，或者我们——作为社会科学家——在何处定位它，而是：在哪些情境中，田野中的行动者打开了哪些黑箱，去修补（tinker with）那些原本已被稳定化和秩序化的转译链条，以达成某种效应。在互动中，什么被变得相关？在处理算法时，什么成为了关切之事？ 这或许是一个好时机——或者说与其他任何时机一样好——来反思实演这一概念在这里为我们做了什么。在本章中，我着重表明，算法是一整个集体的对象，技术、脚本和其他资源都是从这个集体中被调动出来的。把算法视为叙事，并扩展符号学和语言学的观念，隐含地把我们带到了述行性这一概念附近。没错：算法和算法技术可以被理解为一个社会技术系统的述行性效应。然而，实演这一概念反复出现——这不仅仅是、但也是因为追随了 Seaver，他敦促我们“把算法理解为由与之打交道的实践所实演的”（Seaver 2017, 5）。在这一点上，他追随了 Mol（2002）关于本体论——即现实本身——之实演的论述。Mol 由此超越了建构（construction）的概念，因为在她看来，建构这一观念意味着：所讨论的对象一旦被建构出来，便具有稳定性。与之相反，实演的观点认为，一个对象的同一性总是偶然的，取决于地方性的实践如何与之打交道。对象并不只是产生出关于同一对象的不同视角，而是对象本身发生了多重化。这也反映了激进版本的社会建构主义与实在论之间一场漫长且仍在进行的讨论，这场讨论涉及这样一个认识论问题：为了构建一个连贯而恰当的世界图景，我们对世界的感觉能否被视为理所当然。Mol 以如下表述解决了这一问题：对象“多于一——但少于多”（Mol 2002, 55）。偶然性被包含在实演之中——但这并不是对意义的任意赋予。物质性——或者更哲学地说：本体论——限制着实演的可能性。本体论不只是单向实践的结果，而是主体与客体之间互动的结果。它们全都是真实的，全都是被实演的。这也正是 Mol 弃用述行性这一术语的原因，因为在她看来，这个术语意味着存在一个后台，我们可以在那里找到真实之物。 然而，如前所述，限定实演方式的不仅仅是与对象——此处即一种算法技术——的互动，还有围绕它的整个社会技术结构。正如 Latour（1994）所论，我们几乎不会遇到这样的情境：其中没有被委派的行动者来影响、塑造、限制或丰富我们的行动可能性。对于算法的开发而言也是如此。我们不断面对各种各样的工具，例如编译器、开发环境、数据库等等。而它们中的每一个都是一个社会技术的黑箱，本身由许多人类与非人类行动者构成。这些黑箱是生产性的，它们使项目的开发和实现成为可能，但与此同时，它们也限制着可能性。对于软件库而言尤其如此，它们提供现成实现的例程和算法，供人们纳入自己的软件项目。正如 Latour 曾经写道：“整体总是小于其部分”（Latour et al. 2012, 591）。因此，算法必须被嵌入一个给定的工具与基础设施之秩序化之中，正是这一秩序化首先使代码的述行性成为可能。因此，开发项目不仅是一种情境性的实演，而且调动了许多不同的行动者——作为黑箱。算法只在这些行动者的特定组合之上才能运作。例如，Shor 算法（Shor 1994）是专门为量子计算机设计的，它在那里预设了其他行动者的一种给定配置。它预设了一种特定的秩序。 此外，算法是一种话语装置，指向一整个开发者共同体。算法的地方性实演与一整个学科的秩序化实践相联系，并且是其一部分。经由教科书、科学论文、会议论文集和幻灯片，乃至 Netflix 开发者所提供的技术，算法也是一种以互动和资源调动为特征的职业文化的要素。这些学科话语赋予算法以形态，并为开发者实现这样一个算法提供了出发点。这些算法技术由此作为抽象问题的抽象解决方案而出现。而要应用它们，要创造出一个确实产生效应的生产性解决方案，就需要预设特定的学科知识来阅读、理解和实现这些技术。 因此，考察实际的开发实践，是把算法的一种实演理解为秩序化效应的重要起点。算法并非凭空而来，但它们也不是纯粹技术的对象。有一整个学科和集体在做出非常实际的努力，生产出使算法成为可能的环境和学科话语。由此，我们回到了起点。为了理解算法作为（技术—）社会行动者的涌现，我们必须调动计算机科学和软件开发——但以一种不同的方式。我们最终处在这样一种境地：我们不再把算法当作一种本质去寻找，而是从“做算法”如何运作开始我们的探究。正如 Dourish 所论，我们于是开始把算法理解为“计算机科学家、软件工程师和系统开发者的职业实践对象”（Dourish 2016, 9）。追随开发团队的实践，继而引导我们把目光投向当前情境、当前组织之外。开发项目深深嵌入在 IT 开发者共同体和计算机科学学科之中。与其说是他们独自开发产品，不如说是一整个由在场的和（看似）缺席的行动者构成的集体在与我们并肩工作。 开发一个算法，就是调动不同的行动者，使它们彼此关联，使它们相互进入秩序。在修补这一组被委派的行动者——包括工具、知识和技术——的过程中，开发者重新排列、重新秩序化这些行动者，以产生某种效应。那么，我们在哪里定位算法呢？无处不在。算法既不只是技术，也不是实际的代码，也不能在工具中被找到。只有当它们全部汇聚在一起时，算法才会作为一个具有能动性的行动者涌现出来。因此，算法是什么的问题，便转变为这些不同的要素如何被（重新）装配的问题。因为开发者为了实演一个算法及其效应，会在对他们而言重要的不同层面上进行修补。要找到算法，我们不去某个预先界定的地方寻找，我们不只是打开源代码文件，也不只是阅读算法技术。相反，我们信赖在场开发者的知识。那么，什么对一个算法变得相关，就意味着追随行动者，也就是那些通过实践、话语和秩序化而被赋予行动者地位的东西。一个算法或许是一个可定位的物质人工物（Dourish 2016），但它也远不止于此。它是一整个学科的实演。我们不是去做计算机科学，而是追随算法的联结，进入计算机科学和软件开发的共同体之中。于是，算法的物质性便被界定为作为算法、并对算法而言具有重要性的东西（what matters as and for the algorithm）。然而，我迄今所讨论的只是算法的一种可能实演。而且，正如我们将在接下来几章中看到的，它无法孤立地界定一个稳定化算法的特征。相反，它是一种需要与其他实演、与“做算法”的其他形式相协调的实演。因此，在下文中，我将描述另外两种实演，以及它们彼此之间如何关联。 [^f04-1]: 伪代码与代码之间的区别，我们稍后会再谈。 [^f04-2]: 就所探讨现象的本体论不确定性而言，人们可以观察到批判算法研究（critical algorithm studies）与软件研究之间一种有趣的趋同。2008 年，Wendy Chun 就提出了“什么是软件？”这一问题（Chun 2008, 2）。 [^f04-3]: 该文最初于 2011 年发布在 Manovich 的网站上，作为《软件掌控一切》（Software Takes Command）一书的预览，但很快成为一篇核心文献。因此也可在此处找到：http://manovich.net/content/04-projects/066-there-is-only-software/63-article-2011.pdf [^f04-4]: 这种将算法视为主位术语的理解（Dourish 2016, 2）后来受到了 Seaver（2017）的质疑。 [^f04-5]: 这一表述可以有两种不同的读法。第一种暗示一种系统论进路，认为数字化只能被理解为一个（自创生的）社会的产物。按照 Luhmann（1997）的思路，这与“社会的政治”“社会的法”乃至“社会的社会”之类的标题相一致。这几个词的另一种读法则指向行动者网络理论的视角，认为数字化应被理解为社会的一个构成单元，因为它构成了通过根茎状的转译链条来生产集体的一个要素。 [^f04-6]: 这一表述借自 Passoth（2019）。 [^f04-7]: Linux 是一个著名的操作系统，它产生于自由与开源软件（FOSS，Free and Open Source Software）运动，是专有操作系统的竞争者和替代品。 [^f04-8]: 关于这种依赖关系，有一个绝妙的历史例子：英特尔奔腾（Intel Pentium）处理器曾以不同于 AMD 处理器的方式计算浮点数——这导致软件一方出现了许多不同的检查例程。 [^f04-9]: 每一个曾经在自己的代码里寻找缺陷、在好几个小时之后才意识到是编译器的优化例程把事情搞砸了的人，都会直觉地理解这一论点。 [^f04-10]: 不过，上文提到的所有软件包都是开源的。因此，“黑箱”一词并不是指在技术上或法律上无法窥探该技术（关于进一步的区分，参见 Burrel 2016），而是表示该软件是作为一个可运作的实体而到来的，使用它无需（太多）额外工作。 [^f04-11]: https://spark.apache.org/docs/1.1.0/mllib-guide.html，访问于 25.02.2020 [^f04-12]: Habermas（1989）用这一表述来表明，我们看待、经验世界以及在世界中行动的方式，是某种给定的在世存在方式（modus）的结果。通过社会化，我们获得了指导我们对世界之经验以及在世界中之行动的知识。我在这里把这一概念扩展到物质世界或工具世界，将其视为一个总是已经被秩序化的世界，它使某些形式的（互）动成为不可能或成为可能。 [^f04-13]: 这里需要指出的是，行动者网络理论意义上的社会秩序，同时建立在对宏观结构性社会理论和情境性互动论理论的批判之上。它在很大程度上借鉴了常人方法学者关于实践中达成的社会秩序的观念，同时把非人类行动者的委派（delegation）概念化为建立跨情境秩序（秩序化）的一种可能性（Latour 1994）。 [^f04-14]: 当然，正如 Butler（1997）在比较 Austin 与 Althusser 时所指出的，言语行为所指向的人并不一定需要理解或同意该言语行为。然而，只要有人接受了这一言语行为，它就仍然会产生效应。因此，产生效应的个体与被指向的主体未必是同一个实体。 [^f04-15]: 话语理论中关于社会集体如何稳定化的观念，与 Tarde 将社会视为模仿之结果的构想之间，存在一种有趣的重叠。把算法视为话语要素，甚至可能由此开辟通往一种数字同构（digital isomorphism）理论的道路。 [^f04-16]: 我不在这里展开细节，因为那可能会变得过于技术化；但如果你感兴趣，可以搜索一下单例模式（singleton pattern），这是一个不错的起点。 [^f04-17]: http://infolab.stanford.edu/~ullman/mmds/ch9.pdf，访问于 24.01.2020 [^f04-18]: 该书可从 www.mmds.org 网站免费下载，其主页上写道：“本书基于斯坦福大学计算机科学课程 CS246：海量数据集挖掘（以及 CS345A：数据挖掘）。”（www.mmds.org，访问于 24.01.2020）。 [^f04-19]: 例如 http://ijcai13.org/files/tutorial_slides/td3.pdf，访问于 25.01.2020 [^f04-20]: 关于从行动者网络理论出发对 Foucault 话语概念的批判，另见 Law（1994, 106）。这一批判也与 Sartre 在一次访谈中针对 Foucault 提出的论点出奇地一致（Pingaud 1966）。 # 第四章 算法制度（Algorithmic Institutions） > 长官，我想我可以代表所有人说：让我们的命令见鬼去吧。——Data，《星际迷航：第一类接触》（Star Trek: First Contact） 每一个包含某种机器学习或数据密集型应用的开发项目，都有一个重要方面，那就是一个往往十分紧迫的问题：所要处理的数据应当从何而来。毫不意外，推荐系统的开发项目中也出现了同样的问题。为了生成推荐，我们需要数据集来计算机器学习模型。在学术讨论中，Dourish（2016）援引 Wirth（1975）提出的“程序＝算法＋数据结构”（Programs = Algorithms + Data Structures）这一说法，提醒我们注意：数据结构是“赋予它们（即算法）意义并使之活起来的关系”（Dourish 2016, 2）。作为行动者（actor）的算法之所以能被激活，是偶然的（contingent），并依赖于那些被用来构建软件程序——即算法的物质化形式——的数据。然而，数据的调动与构建本身就是一项困难而富有挑战性的工作。此外，所选定的算法还必须与可用的或被选定的数据结构相互协调。因此，我将从物质—符号学（material-semiotic）的视角出发论证：每一个要素——数据结构与算法——都预设并指涉着特定的社会秩序化（social orderings），而这些秩序化必须通过算法反身性（algorithmic reflexivity）被协调一致。我将讨论所调动的算法技术遇到了哪些问题，以及这些行动元（actants）预设了怎样隐含的社会（及符号）秩序。为此，我将借助铭写（inscription）（Akrich 1992）和反身性（reflexivity）（Lynch 2000）这两个概念来审视这些实体。 铭写概念使我们能够把算法技术理解为这样一种人工物：它们承载着关于某种特定社会秩序的假设，这些假设物质化于所要解决的被表述的问题以及可用来解决该问题的数据之中。我将通过重访两种推荐技术——协同过滤（collaborative filtering）与基于内容的过滤（content-based filtering）——来阐明这一点，并重构这些算法技术所承载的假设。常人方法学（ethnomethodology）意义上的反身性概念补充了这幅图景，它所指涉的是这样一些过程：在其中，可用的数据必须依照算法的语言被重新诠释或规范化（Ziewitz 2017）。随后，我将讨论三则小插曲（vignettes），在其中我们试图为不同的推荐算法生产数据。这些案例由此表明，公共广播机构（public broadcaster）既有的社会技术结构指向特定形式的社会秩序化，而这些秩序化与项目语境中所调动的算法技术所预设的秩序化过程并不相容。我们带着不同的算法技术以及“数据将会十分充足”的假设，开始深入探究公共广播机构的组织与技术结构。然而，这段旅程比我们起初预想的更加艰辛。数据是有的，但不知为何，那个使大量视频档案与元数据集合得以生产出来的社会技术结构，似乎反倒妨碍我们实现推荐系统。这最终促成了新的组织结构的建立，使我们得以生产能够支撑算法系统的数据。归根结底，问题变成了：我们作为开发项目，如何通过使这些算法脚本（scripts）与制度（institution）的社会技术秩序相匹配，尝试将算法整合进公共广播机构的组织性与制度化结构之中。公共广播机构作为一个组织明确实现的社会技术结构，与算法技术隐含预设的社会技术结构，并不能开箱即用地相互转译（translatable）。因此，为了能够实现这一算法系统，我们不得不协商条件、解释问题，并同时调整组织与算法。简言之，算法必须成为一个制度化的行动者，并被整合进组织的社会秩序之中。 ## 探索算法脚本（Exploring Algorithmic Scripts） 在讨论不同秩序化之间棘手的纠缠与互动之前，重要的是理解不同的算法技术如何运作——以及这些解决方案中内置了哪些假设。算法技术并不仅仅是中立或超然的技术行动者，而是经由开发者与计算机科学家所组成的异质性共同体设计并稳定下来的人工物。这些算法的设计因而是开放的，必须与其他要素——例如数据结构——一道被现实化（actualized）（Dourish 2016）。然而，算法技术确实承载着关于其将要运作于其中的社会世界的特定假设。因此，第一步有必要重构软件开发项目中所使用的算法技术的假设。为此，我将援引行动者网络理论（ANT）以及 Akrich（1992）和 Latour（1992）所阐述的脚本与铭写这一理论概念，因为它们使我们能够进一步把握算法技术中被铭写的假设。 行动者网络理论的一个核心前提是：非人实体在互动过程中确实具有能动性（agency），能够在社会情境中产生规制效应并促成行动（Latour 1994）。因此，非人行动者的持久性与抗阻性本身就会对可能的互动产生影响。然而，这些效应并非随机的，也不是由自然给定的，而是由物质人工物的制造者生产出来并铭写于其中的。Latour 称之为人工物的行动程序（action program）（Latour 1994）。一件人工物的设计反映了开发者关于互动将如何展开以及应当如何展开的观念与期待。因此，物质人工物包含着一个行动程序，它表征着一种关于社会秩序（化）的想象。Latour 在许多不同的例子中描述了这些效应。自动闭门器（J. Johnson 1988）[^f05-1] 迫使使用这扇门的人调整自己的步速与时机，如果他们想毫发无损地通过的话。减速带无需依赖法律运作就能调节行车速度（Latour 1994）。沉重的酒店钥匙则不断提醒住客把它交还前台（Latour 1990）。所有这些例子的共同之处在于：a）物质行动者被委派了一项任务，以在给定情境中实现某种规制效应；b）它们包含着关于当下情境的假设，例如，酒店钥匙预设了住客会觉得随身携带钥匙太过麻烦。通过铭写关于潜在互动的观念，开发者同时也把他们对这些物质行动者被使用和被互动的情境的理解铭写进了人工物之中。开发者自己变成了社会科学家，因为他们想象着自己产品的互动结构以及与产品的互动结构（Callon 1987）。在 ANT 的这些著述中，人工物通过其物质性以及与其他行动者的互动来生产社会秩序。 另一些研究使这幅图景变得更加复杂。Akrich（1992）将铭写过程与去铭写（de-inscription）过程和预先脚本（pre-scription）过程区分开来。铭写描述的是如前所述将脚本和行动程序纳入人工物之中的过程。去铭写所概念化的则是实际使用人工物并与之互动的过程——这一过程可能偏离人工物设计者的设想。这打破了“社会秩序是非人物质性的产物”这一假设，而是把人工物及其脚本视为秩序化过程中的一个（重要）要素（另见 Law 1992）。在去铭写的过程中，人工物本身得以现实化，而被赋予它的意义与功能也会随情境化的使用而改变。这也为后来后 ANT（post-ANT）关于实演（enactment）与多重性（multiplicity）的构想奠定了基础（Mol 2002）。一个对象的本体论——因而也包括其规制力量——是在情境化的实践中被实演出来的（另见 Law 2002）。[^f05-2] 正如 Akrich（1992）进一步论证的那样——并在她对一个电网扩展的讨论中所展示的那样——技术脚本并不是赤手空拳或孤身而来的。它们伴随着文件、解释、语境化说明、建议，而且往往还有正式的程序。Akrich（1992）称之为预先脚本。[^f05-3] 因此，预先脚本传递着关于开发者规范性观念的知识，最好被理解为话语性要素。其结果是，开发者的那些假设——他们借此铭写了自己对技术人工物或技术被应用之情境的想象——被显明出来，并被传递到技术被使用的情境之中。人工物并不是单独出现的，而是早已带着许多盟友。人工物的这种嵌入性后来被 Law（1994）进一步概念化，他认为社会秩序化是话语、问题与物质性网络之间复杂的相互关联。所有这些在脚本这一概念中已经汇聚在一起。 算法就其复杂性而言，同样可以借助脚本这一概念来加以分析。正如上一章所讨论的，算法的实现依赖于对算法技术的学科性实演（disciplinary enactment）——其中也包括作为这一实演之组成部分的预先给定的脚本、伪代码以及现成的程序库。算法技术确实包含着特定的脚本，其中带有关于可用数据、数据的意义以及数据与算法技术如何能够相互关联的假设（B. Rieder 2017）。一个排序算法预设我们拥有某种（至少是）序数值，并且其位置有可识别的索引。否则，遍历 n 个元素、将元素 i 与元素 i+1 相比较（只要 i 我们先列出若干想法：每逢第三个路口向左转；只向右转；如果看到黄色背包就掉头朝相反方向走；或者走那条首字母在字母表中最接近“A”的街道。所有这些似乎都是有用的，因为它们定义了触发我们的算法给出方向的事件。然而，它们看起来也多少有些任意。经过一番讨论，我们确定了如下程序：[……]在任何交叉路口，走最不熟悉的那条路。轮流评估熟悉程度。如果所有道路都同样熟悉，就直走（Ziewitz 2017, 4, my emphasis）。 关于如何在城中选择路径的指令，其表述似乎足够清楚。然而，在应用它时，他却遇到了种种问题。是什么使一条路成为一条路？我们如何定义交叉路口？我们如何处理无法直走的 Y 形路口？在执行这个寻路算法的过程中，它的解释器（interpreter）[^f05-5] 陷入了许多模棱两可的情境，这些情境需要澄清，才能使其可被算法所应用。它们需要诠释。 > 由于我们不得不解析自己的观察，在一场持续的挣扎中依照这一自我施加的约束重新界定情境，这次行走与其说是识别模式的案例，不如说是一种练习：用算法的语言来阐明观察，同时弄清楚这些观察能否以及在多大程度上有助于完成手头的工作——而这一判定本身又受制于实时导航的种种偶然性（Ziewitz 2017, 10）。 我们输入任何算法的数据，在此被理解为“用算法的语言来阐明观察”（Ziewitz 2017, 10）。为了让算法运转起来，数据被重新诠释，而算法脚本所提供的那种被预设的数据的意义，也在情境中得到更新。这一行为并不只是让模拟现实变得可被算法读取，它还包括把参与其中的转译者的观察与经验转译（translation）为算法所使用的范畴。尽管我们或许无法把算法确定下来，但我们可以理解，一种算法技术为了在特定环境中运作，其可供性（affordances）与铭写是什么。要与算法成功地互动，我们必须能够说它们的语言。而在这样做的过程中，算法的脚本与能动性也同时得到了更新。将城市及其结构转译为某种既能为算法所理解、又对使用者——在此即研究者——有用的东西，这其中所观察到的种种挣扎，意味着一个不断修复濒临崩溃之情境的过程。将观察转译为算法逻辑，是软件开发团队面临的一个主要问题——这一问题通常在“好数据”（good data）的名目下被讨论。这是在一切数据驱动的事业中都能看到的一个关切（例如 Mützel, Saner, and Unternährer 2018）。因此，对可用数据的诠释，以及关于究竟什么才算作数据的提议，对算法系统而言具有内在的重要性——但取决于所调动的技术，其重要性的方式截然不同。 ## 情境化推荐技术（Situating Recommender Techniques） 算法系统是算法技术与数据结构相结合的偶然产物。然而，可能的结合并不是任意的，而必须能够把算法技术脚本的假设与可用的数据结构相互转译。因此，重构所使用的推荐算法的铭写就十分重要。这样做将使我们能够理解项目在试图为推荐系统获取相应数据时所面临的问题。在项目初期就已经很清楚，所使用的是两种理想型（ideal-types）的推荐技术。在会议上和我们的交谈中，Alice 和 Bob 提到了协同过滤与基于内容的过滤，并向我提供了研究这些方法的材料。[^f05-6] 两种技术遵循着完全不同的推荐理念。协同过滤基于这样一种观念：不同用户之间的使用模式能够为关于相关新视频的预测提供依据。另一方面，基于内容的过滤并不比较不同用户的使用模式，而是试图根据用户个人的观看历史来预测她的口味。生产相关推荐的这些不同方法，也体现在算法脚本——即内置于这些技术之中的关于互动的假设——以不同方式展开的方式上。它们不仅预设了所提供数据的不同形式，也预设了它们经由数据与之相连的不同形式的行动者格局（actor-constellations）。 ### 基于物品的协同过滤（Item-based Collaborative Filtering） 在推荐系统领域被广泛使用的一种技术是协同过滤。尽管其起源至少可以追溯到 20 世纪 90 年代初，但协同过滤主要是由 Netflix（Amatriain and Basilico 2011）以及 Amazon 等其他商业行动者（例如 Smith and Linden 2017）大力推广开来的。协同过滤背后的理念可以概括为：相似的用户喜欢相似的东西；它常常以“喜欢您刚刚浏览过的这件物品的用户也喜欢这个”这样的标题被应用。这就提出了一个问题：用户与物品之间的相似性是如何通过算法被识别出来的？ 协同过滤系统在用户反馈的基础上计算这些相似性，而用户反馈被诠释为评分（rating）。随后，这些评分被用来在所收集的数据集中寻找模式，从而使物品与用户相互可比（Koren, Bell, and Volinsky 2009）。该方法由此计算用户—物品关系的所谓潜在特征（latent features），以便在一个抽象的向量空间中描述用户与物品。用户反馈可以是显式的，也可以是隐式的。显式用户反馈通常从零星到五星不等，由用户主动为他们看过的物品打分（Liu et al. 2010）。如今，这一系统在 Amazon 或 IMDB 等网站上已广为人知。然而，这可能给协同过滤带来一个问题，因为该技术预设了对互动相当密集的追踪（tracking）。如果这一假设得不到满足，计算就会变得不那么精确，因为算法要么不得不为未评分项赋值为零，要么需要根据已记录的评分来估算这些值。因此，数值越少，意味着所推导出的模型符合用户真实行为的统计确定性就越低。然而，在公共服务广播机构的语境中，人们预计用户不会提供太多显式反馈。这也是项目团队同时实现了基于隐式反馈的协同过滤的原因之一。借助隐式反馈，追踪不仅记录用户与视频之间是否发生了互动，还记录互动的强度（Hu, Koren, and Volinsky 2008）。这是通过用户观看视频的百分比来衡量的。例如，假设我们观看一部关于软件开发的纪录片，总时长为 60 分钟。如果我们在 20 分钟后关闭视频，就会得到 ⅓ 即 0.33 的评分。如果我们在 30 分钟后停止，评分就是 0.5。按照这一假设，我们看得越久，评分就越高。由此得到 0% 到 100% 的评分。[^f05-7] 然而，对这些信号——包括显式与隐式的用户反馈——的诠释，对开发者而言并不像人们阅读相关会议论文或学术期刊文章时所设想的那样直截了当。开发者担心，这些评分是否真的能为他们呈现用户意图的真实图景。或者换句话说：评分何时才算是评分？什么又是好的评分？ > 到目前为止，我们只有视频观看的隐式反馈（观看百分比）。这使我们没有任何负面反馈（例如，如果观看了 30%，这是意味着用户不喜欢这个视频，还是别的什么？）。我们可以引入一个“点赞”按钮或评分，但这也可能给我们一个错误的图景：例如，如果用户观看了一个有他讨厌的政治人物出镜的视频，他会给这个视频打 1 星，但这并不意味着这个视频与该用户无关（Alice via Slack in #machinelearning）。 在项目会议上，这些问题经常被讨论。在对用户打分意图的反思中，不同层面的诠释与情境化问题被预先设想出来并混杂在一起。在所引的这段话中，至少呈现了三种不同的诠释。第一种围绕视频对用户的相关性展开。这里问的不是用户是否喜欢这个视频，而是开发者或编辑是否认为，看到这个视频对用户而言、为了用户而言是重要的。这种模糊性是通过区分所提供内容的相关性与评价（valuation）来处理的。即使视频可能是相关的，评分真正反映的又是什么？她是不赞同视频所传达的信息，还是不赞同这个视频被展示给她这一事实？这里的假设是，直接评分可能与相关性无关，而是与用户如何对待所呈现的内容有关。但隐式反馈同样引出了这样的问题：如何诠释这一百分比，以及我们能否定义一个阈值，让我们据此认为用户喜欢或不喜欢这个视频。对于计算本身而言，这一诠释过程无关紧要。你总是可以基于这些隐式评分给出推荐。但开发者担心的是，这会导致欠缺依据的推荐，对推荐系统的性能产生负面影响。这引发了一些讨论：如何对待用户评分，以及是否可能添加其他形式的评分机制。此外，“开发者拥有足够的追踪数据来计算协同过滤”这一假设也构成了一个实际问题，因为情况根本不是这样。因此，在推荐系统上线时，应当部署的技术是基于内容的过滤，而协同过滤则应在有了足够的追踪数据之后再加入。 ### 基于内容的过滤（Content-based Filtering） 软件开发项目中调动的第二种算法技术是基于内容的过滤。这种方法并不试图考察总体中所有用户评分里的模式，而是旨在识别物品之间的相似性，而这些相似性又与个体用户的观看历史相契合（Pazzani and Billsus 2007）。协同过滤对待推荐物品的内容持不可知态度，而基于内容的过滤则依赖于一个由计算机可读的视频描述构成的数据库，这个数据库构成了为推荐计算物品相似性的基础。一种常见的方法是 TF-IDF 技术（词频—逆文档频率，Term Frequency–Inverse Document Frequency），它在描述物品所用的全部词语之上构建一个向量空间（Meteren and Someren 2000）。相似性是通过根据可用元数据推导出的、描述物品的向量之间的相对距离构建起来的。因此，可比性是编辑的数据生产过程的结果：编辑为他们的物品撰写简短文本，或为其加上典型的标签与类别，以使其可被识别。 在这种方法中，不同形式的行动被相互关联起来，以便基于所生产的元数据来计算相关性。算法中介者（algorithmic mediator）并不把用户的行动相互关联，而是通过把数据生产者的行动与用户的媒介消费相关联，来为推荐系统构建相关性。因此，行为如何使某些信息变得相关，在这里是不同的——这种方法中内置了另一种脚本。这可以通过所添加的标签、类别、描述文本或标题来实现——以及在数据库中描述视频的许多其他方式。 然而，很快就变得清楚的是，仅仅拥有这样一种描述是不够的，描述还需要符合质量标准。Alice、Bob 和 Dave 非常关心组织内所生成的元数据的质量。因此，好几次会议和讨论都聚焦于如何确保高质量元数据这一问题。在最早的几次会议之一上，开发者们表示：“元数据的质量决定产品的质量”（fieldnote）。在该公共服务广播机构的语境中，元数据意味着：通过关键词、文本描述和类别来描述视频的数据。借助这些数据，算法能够理解由组织内的内容提供者所提供的视频数据库。然而，当我们在与在线编辑团队的一次会议上询问好的描述数据需要具备哪些条件时，发生了一件有趣的事： > 我们正要讨论新的类别列表以及推荐算法的一般运作方式。Alice 解释了协同过滤与基于内容的过滤之间的区别，以及两者各自存在的问题。尤其是协同过滤存在冷启动问题（cold start problem），即系统上线时没有先前的追踪数据可供计算推荐。随后编辑们展示了新设计的类别列表。它现在比之前那份精简得多，看起来也清晰得多。Trent 问这份列表是否是推荐系统能够使用的。Alice 四下看了看。然后 Alice 说，只要他们以一致的方式使用它，这份列表就完全没问题（fieldnote）。 在这里，好的元数据意味着描述以可比且系统的方式被应用，并且每个物品都有这样的描述。与对评分的诠释——开发者在那里讨论的是所考虑数据的意义——不同，这里唯一的关切是对既定类别列表的系统且可比的使用。在这次会议上，不仅变得清楚的是描述必须以系统的方式被使用，而且指涉的生产被外部化了。“只要他们以一致的方式使用它”意味着：不是我，也不是算法。对类别究竟意味着什么、它们如何回指一个可付诸行动的世界的诠释，被外包给了组织的其他部门。 ### 做出可比性（Doing Comparability） 两种技术都旨在生产可比性。通过把给定数据转换为一个抽象的向量空间，这些技术创建出一个参照框架，使用户与物品彼此可比（另见 A. Mackenzie 2015）。这种可比性进而使从所提供的数据中推导出推荐成为可能。在这个经计算得出的向量空间中与你或你看过的视频相似的物品，随后就会被推荐给你。然而，这些技术创造可比性的方式有着根本的不同。在协同过滤的情况下，算法计算一个由潜在因子构成的向量空间，基于这些用户与视频物品之间的互动模式，使用户与物品彼此可比。在另一种情况下，基于内容的过滤则把视频的描述相互比较以生产相似性。通过在物品之间建立关系来组织物品的模式，在不同的算法技术之间是不同的。这进而也意味着，关于既有数据生产体制（data production regimes）的假设也是不同的。 协同过滤预设了一种密集的追踪体制，其中需要许多描述物品与用户之间互动的数据点。否则，为比较物品与用户而计算向量空间就不可能实现，或者会错误百出。然而，恰恰是这些数据也带来了可诠释性与可理解性方面的问题。另一方面，基于内容的过滤则是在“存在一种有组织且可比的视频物品描述”这一假设下运作的。因此，这预设了公共广播机构内部在生产元数据方面有共享的知识与实践。由此可见，算法技术中的铭写过程构成了关于数据化世界以及可用数据之意义的特定假设。或者换句话说，算法相对于被表述的抽象问题来确定数据的意义。Mackenzie 认为，尽管机器学习方法“以非常不同的方式进行分类，但它们都预设世界是由能够归入稳定而明确之范畴的事物或事件构成的”（A. Mackenzie 2015, 433）。然而，这种稳定而明确之范畴的生产，随后成了我们不得不通过寻找我所说的算法形式的反身性来加以处理的问题。 ## 生产算法反身性（Producing Algorithmic Reflexivity） 如上一节所讨论的，为了获得所需的数据，算法脚本所表述的假设必须以某种方式与组织数字基础设施的更广泛网络相协调。然而，这一与数据相协调的过程本身，就是构成算法系统的不同实践之间的一种协调（coordination）。因此，下面我将讨论：算法系统中数据结构的生产与利用，如何可以被理解为一种算法反身性的形式，在其中，符号的意义必须被确定并被理解。为此，我将借助实用主义与常人方法学关于符号学与诠释的论述，论证数据结构是对社会秩序化的持久指涉；随后我将讨论三则不同的小插曲，展示我们如何尝试通过不同手段来生产各种形式的算法反身性。 ### 协调数据（Coordinating Data） 正如 Bechmann 和 Bowker（2019）所论证的，经典机器学习方法的目标是分类。例如，在监督学习中，对于给定的数据配置存在一个已知的结果。假设我们训练神经网络识别图像中的小猫。然而，为此我们要有一批标注了“有小猫/无小猫”的图像，把这一标签定义为期望的结果，然后训练机器学习算法去学习特征，从而使识别其他未经预先标注的含有小猫的图片成为可能。然而，在该项目中所应用的推荐系统代表了一种特殊形式的机器学习。与机器学习的经典分类工作（例如识别垃圾邮件、欺诈检测等）不同，其目的并不是寻找一个可以外推到新数据上的泛化模型，而是在一个共同的数学参照框架中描述可用的物品，即把它们转换到一个向量空间中，使其可比（另见 A. Mackenzie 2015）。这也可以被视为通过描述共享向量空间中的不同维度来进行的分类。在协同过滤与基于内容的过滤这两种情况下，开发者都试图在对外部世界的描述中建立起这种形式的可比性。这一点被问题化，以创造某种事物秩序。于是，确定给定数据之指涉的这一问题，成了推荐系统开发过程中的一个议题。在两种方法——协同过滤与基于内容的过滤——中，都存在关于所提供数据的质量与诠释的问题。而在每一种情况下，确定这些指涉并生产出一个在给定组织环境中说得通的算法系统，都是一项挑战。 要理解随后生成的算法能动性的部分构成要素，就必须理解输入数据如何被用来生成一个决策模型。仅凭一种算法技术，还无法告诉我们算法最终将如何行动，因为我们仍需理解这一抽象原则如何被转译为一个处理数据的实际实体。社会科学中的互动论（interactionist）与建构论（constructionist）取向[^f05-8]认为，数据从来不是原始的（raw）或客观给定的（Bowker 2014; Gitelman 2013）。数据的生产总是包含诠释工作，以及一种往往只是隐含的理论视角。因此，数据的意义总是在意义建构（meaning making）的过程中被生产出来的。对符号的使用总是包含着一个诠释行为。Peirce（[1902] 1976, [1900] 2010）发展出一种实用主义符号学理论，与 Ferdinand de Saussure（[1916] 1998）的结构主义论述相比，它 a）不仅包括语言，还包括一切形式的传播，如视觉媒介、音乐等；b）以诠释行为扩展了能指—所指关系。因此，对 Peirce 而言，符号由一个三元结构构成：表征（representation）、对象（object）与诠释（interpretation）。符号（symbol）或记号（sign）的概念在使用中由此变得复杂，因为不同的理论家对这些术语的用法各不相同。不过，在实用主义的论述中，符号代表一种具有被建构之意义的文化人工物。交通标志或男女的图标式表征便是例子。如 Mead（[1934] 1967）所描述的，符号指涉超出当下情境之外的东西，即它们以一种一般化的方式被诠释。其中一种特殊形式是有意义的符号（significant symbols），它们被某个给定共同体的所有成员以同样的方式诠释——并引发相似的反应。然而，在实用主义思想及其后来的发展中，如符号互动论（symbolic interactionism）（Blumer 1986）或标签理论（labeling theory）（Becker 1997），符号的意义同样是互动的结果，即符号的意义在情境之中、在参与各方的协调实践中得到更新。对记号与符号的诠释必须在互动中相互关联，而这也可能由此产生出分歧的意义。因此，符号的意义并非内在于符号本身，而是 a）在社会化过程中被习得，并且 b）在现场（in situ）得到更新（Blumer 1986; Mead [1934] 1967）。 由 Garfinkel 创立、声名卓著的常人方法学学派，使这幅图景又复杂了一些。尽管 Garfinkel（1984）也提到共享知识以及社会共同体中有能力的成员（competent members），但他以及后来的常人方法学者在若干研究中表明，一切形式的口头或书面交流在理论上都是不充分决定的（underdetermined），也就是说，我们不仅要诠释记号与符号，还必须把它们与一个流动的情境联系起来。每一个行动都重新界定着交流的语境。因此，经由参与者的互动所创造出来的情境，也是使索引性（indexical）表述得以理解的参照框架。其结果是，即便是有意义的符号，其意义也会随语境与情境而变化。为了使交流得以发生，个体不断地确定可能的意义并填补空隙——Garfinkel（1984）称之为语言与实践的索引性（indexicality）。由此得出的观察是：表达的意义只有在构成交流的互动之中才能被重构。[^f05-9] 符号的意义总是回指那些必须被协调的不同知识构型。互动总是在一个复杂的过程中展开，在其中，人们把自己对情境的诠释与在场的他我（alter-ego）的反应相比较。参与其中的行动者以反身的方式确定并更新所生产之说明（accounts）的潜在意义。 反身性，尤其是在科学技术研究（STS）以及一般的质性社会科学中，已获得了某种特权地位。因此，若干学者主张，个体、制度乃至整个社会都应当变得更具反身性。但当反身性一词被带入讨论场域时，它所援引的意义有许多种（Lynch 2000, 27）。我在此所指的反身性，关涉的是诠释社会学（interpretative sociology）学者所提出的那种建构世界的日常实践。在常人方法学中，反身性是确定语言内在索引性意义的能力。Garfinkel 认为：“成员借以生产和管理有组织的日常事务之场景的活动，与成员使这些场景‘可说明’（accountable）的程序是同一的”（Garfinkel 1984, 1）。对 Garfinkel 而言，这种将索引性情境化并加以确定的能力就是（实践的）反身性，并且作为说明的一种属性，它“是由在反复出现的情境中被视为理所当然的用法所提供的”（Lynch 2000, 34）。[^f05-10] 因此，社会秩序是通过对说明的反身性观察与生产而被生产和再生产出来的，而这些说明是依照具体情境被组织起来的。如果那种（隐含的）知识不可得，那么生产在地有序且可被辨认的说明就会成为问题。 迄今所讨论的关于日常交流的思路，可以被移置到另一组被用来协调和描述我们世界的符号之上：数据。因此，数据在最初的指涉中所指涉的，更多是数据生产的情境化协商。数据是某种给定社会秩序的结果，因而也是对它的指涉；在其中，对现实的一种偶然观察通过“原初符号学实践与在地互动——记号、对象与被标记的对象由此获得同一性与可感性”（Lynch 2000, 34）而被稳定下来并被委派出去。把一项观察转化为数据，意味着把对所观察之说明的诠释与对可用数据符号的诠释相协调。而这些意义——正如互动论社会学取向所论证的——并非内在于符号。它们对诠释与再诠释保持开放，以便使其适合在地的互动模式。然而，数据不仅是在地地、情境化地被生产出来的，它还充当不同共同体之间的中介者。关于数据在协调不同共同体方面的作用，存在着一场由来已久且仍在持续的讨论，其中最著名的是借助信息基础设施（information infrastructures）这一概念展开的讨论，如国际疾病分类（ICD）（Bowker and Star 2000），或关于数字的社会与历史意义的讨论（Hacking 1990; Porter 1995）。按照 Bowker 和 Star（2000）的观点，分类体制服务于某一给定目的，并使解决方案稳定化与常规化。尽管这并不会产生一个共同而稳定的诠释框架，但它确实限定了可能的互动方式，从而使不同共同体之间的合作成为可能。正如 Bowker 和 Star（2000）所表明的，数据与分类系统是跨越空间与时间协调集体之实践与行动的装置。数据结构与分类系统指涉其他集体的实践，必须相应地加以确定，才能实现协调。这些实践由此总是包含诠释以及对秩序的情境化生产，而这种生产指涉共享知识并使互动成为可能。因此，数据可以被理解为在不同情境之间旅行的说明，其意义需要“使用者”以反身的方式加以确定。 回到推荐系统的开发上来：在推荐算法的两种情形中，开发者都在数据的（再）诠释与可得性问题上挣扎。数据意义的模糊性成为项目中的一个主要关切，人们投入了一定的时间与精力来应对这些问题。然而，这两个模糊领域——评分与元数据——是以根本不同的方式来处理的。在协同过滤的情形中，开发团队不得不诠释这些信号，以理解其意义。开发团队由此遵循这样一个假设：他们并不拥有改变数据被生产于其中的那个情境或社会秩序的权力。这进而给开发者造成了缺少语境信息、无法把信号整理得井然有序的问题。把用户的意图化约为一个单一数字，而不在情境中更新其意义，意味着那些真正理解正在发生之事所需的宝贵信息缺失了。因此，开发团队中的努力与讨论，是试图通过把自己的意义建构方法明确化，来确定数据内在的索引性。然而在第二种情形中，开发者假定他们拥有改变所生产之数据所指涉的社会秩序的权力。通过创造“一致地应用类别”这一律令，诠释在算法层面上便不再必要了。相反，开发者试图调动许多不同的行动者，以确保所记录元数据的可比性。这两种不同的处理方式向我们表明，具体而言算法反身性的生产，以及一般而言算法的制度化，都与社会秩序化和权力问题相关联。在第一种情形中，我们本可以尝试影响用户的行为，向他们提供解释，并以某种方式秩序化他们为视频“评分”的情境，以确保对这些信号的诠释过程会更容易一些。但开发团队认定他们没有能力这样做。所描述的情境中被设想的秩序化足够稳定，使开发者打消了试图改变它的念头。说开发者只是“假定”自己不拥有改变社会技术结构的权力，这一表述并非偶然选用。相反，它隐含地指涉 Schütz 在回应 Parsons 时提出的社会行动观（Schütz and Parsons 1978）。因此，按照 Schütz 的观点，在一个给定情境中什么是手段、什么是条件，取决于行动者在评估情境时所具有的知识与经验。然而，在基于内容的过滤的情形中，开发团队对情境的评估截然不同。采用基于内容的过滤方法，改变必须在公共广播机构的组织内部做出。对此，开发团队足够有信心，认为他们能够在那里推动所需的改变。正如 Latour（1990, 2005）所论证的，打开一个黑箱（black box）并改变持久的实践集合，取决于想要推动改变的那个行动者一方能够调动多少盟友。就此而言，将算法系统制度化不仅关乎技术细节，更关乎影响这些技术细节必须在其中发生的社会技术结构的权力。 正是在这里，我——项目自己的社会学家——重新回到了这幅图景之中。我被派往组织内的其他部门和小组，为元数据生产的问题寻找解决方案。这种为算法而进行的意义建构的外包，涉及另一种诠释。开发者——包括我自己——不再思考信号的意义，而是思考数据生产的过程，以及这些过程如何制造问题或可能解决手头的问题。开发者们自己运用了许多隐含的社会学与心理学理论——无需我提出——来说明社会场景如何生产意义，以及如何能够控制它，以便实现高质量的推荐。由此，开发者变成了“工程师—社会学家”（engineer-sociologists）（Callon 1987），他们预想并理论化了与推荐系统相关的情境。[^f05-11] 下面，我将讨论为生产推荐系统运作所需的这种稳定描述而重组制度结构的种种尝试。 ## 编写算法民族方法的脚本（Scripting Algorithmic Ethnomethods） 协同过滤（collaborative filtering）基本上需要用户提供的评分（rating），才能在其行为中发现模式。重要的与其说是内容如何被描述，不如说是哪些用户与这些视频发生了关联，以及关联的强度如何。这种关联强度由此被表达为一个评分。然而，较有前景的方法之一——隐式评分（implicit ratings）——在可解释性上带来了问题。这一点尤其通过援引若干不同情境而得到表述：这些情境都会产生评分，但用户被假定的意图可能与之有所偏离。会议中反复被提及的是所谓的“后仰模式”（lean-back mode）。一个视频结束时，自动播放功能会自动开始播放推荐列表或播放列表中的下一个视频。然而，人们担心的是，用户可能已经睡着，或者没有关掉电视就离开了房间。我们在一次专门讨论推荐问题的周会上讨论了这些问题： > 如何解读隐式和显式反馈（implicit and explicit feedback），存在种种不确定性。如果一个视频的评分低于 60%，这意味着什么？是否意味着该视频与该用户无关？评分高于 60% 的情况同样如此。如果用户去了厕所或睡着了呢？（田野笔记） 于是问题在于，如何将这些情境考虑进来？这些情境会为视频带来高评分，却无法反映观看习惯的真实情况，因为算法会以对待有意观看的同样方式来处理它们。[^f05-12] 在移动端使用方面也发现了类似的问题，即评分偏低的情况。开发者担心的是，用户停止观看视频，可能并不是因为该视频与他们无关，而是因为他们被外部条件打断了，例如火车行程结束了。这反映出开发者的一个假设：与家中的电视相比，用户在移动设备上的观看习惯要动态得多；在家中看电视时，会形成一种封闭的、没有太多外部影响的情境。关于移动设备的第二个顾虑则与该国的数字基础设施有关。简单地说，断线对移动应用而言是一个现实的问题。然而，在追踪（tracking）系统中，这会被记录为该视频的一个低评分。虽然对隐式反馈的测量看起来简单直接，也不需要组织一方进行进一步的数据收集或生产（正如我稍后将讨论的，这后来成了一个问题），但这一技术在解读现有数据方面却产生了问题。 作为这一推理的结果，人们构想了不同的解决方案。其中一个方案专门针对使用情境（usage context）的问题，提议对来自不同设备的信号作区别评估。图 5 展示了 Bob 在 Slack 上分享的一张用以描述情境问题的图片，他随图发布了如下解释： > 左：用户处于不同的情境中，但她的用户行为最终汇入同一个档案 => 数据混杂在一起，难以找到清晰的偏好，因为偏好可能依赖于情境。右：每个情境都有自己的档案（“人设”［persona］），并被单独追踪。推荐随后将基于实际情境来计算 => 依赖于情境的偏好将被识别并得到满足（Bob 在 Slack 的 #machinelearning 频道中）。 > [图 5] Bob 在 Slack 上分享的一张图片，说明追踪中的情境问题（图像见原书第 102 页） 开发者在此提出的解决方案是，不再追踪单一的用户，而是为用户的每一台设备创建人设，以便将不同的情境考虑在内。然而，这也要求在追踪数据库的物品/用户配对中——以及随后计算出的模型中——将每一个人设都视为一个不同的主体。这修改了推荐算法的原初构想及其假设。在开发团队看来，所接收到的信号并不仅仅指涉用户的某种单一偏好，而必须被解读为对不同情境及其特定语境的指涉，包括德国的通信基础设施或用户的出行习惯。上述关于不同形式用户评分的不确定性，源于这样一种情境：软件开发者没有依赖他们关于该情境的隐性的、视为理所当然的知识。然而，由于与（预期中的）用户之间没有直接沟通，开发者一方的误读无法通过沟通手段得到修复。[^f05-13] Bob 提出的解决方案随后改变了算法得以消解该情境的方式，从而创造出一种不同的意义。从技术上讲，模型只是在模型生成中加入了额外的人设。然而，这也意味着，数据矩阵的这一部分不再仅仅基于对单一个体的追踪来识别用户，而是所使用的设备改变了情境定义（definition of the situation）——并由此改变了算法理解该情境的方式。在这里，识别设备充当了一种代理（proxy），用以运用不同的理解和方法来消解情境。因此，为了将不同的情境考虑进来，算法民族方法也必须随之改变，与之一同改变的还有追踪系统——正是它使这些说明（accounts）能够为算法所用。在项目相对早期的阶段，我们得以查看旧的追踪数据。 > 我这儿有样东西给你。在旧的视频点播平台上，用户偏好一直是被追踪的。用户的 session_id 与该用户看过/听过的物品比例结合在一起。［……］prefs 由 user_id、item_id、pref、timestamp、play_time、play_count 构成（Erni 在 Slack 的 #machinelearning 频道中）。 从对旧追踪数据的描述中可以看出，用于访问该服务的设备并未被纳入其中。也就是说，虽然采用协同过滤看起来很容易——因为数据生产无需作任何改变——但这一假设实际上并不成立。组织问题只是出现在了另一个地方，而不在于为视频物品生产元数据。相反，我们面临的问题是如何改变追踪软件的数据生产实践。改变追踪参数是一种可能的办法，能够以一种看起来足够好的方式，在软件开发项目内部解决索引性（indexicality）问题。作为这些变化的结果，技术结构——包括数据存储设施和追踪技术——不得不加以调整并制度化。然而——这正是此处值得关注之处——这些变化之所以变得必要，并不是因为数据必须在别处生产或调整，而是因为理解这些信号的算法民族方法必须适应一种业已存在的社会秩序。改变技术结构，使得算法脚本能够理解那些此前仅在不充分的程度上可理解的情境所提供的说明。然而，对于基于内容的过滤（content-based filtering）而言，这并不是一个可行的选项。如前所述，Alice 曾指出，视频元数据的索引性必须在别处得到消解。因此，接下来的几节将聚焦于我们为基于内容的过滤寻找解决方案的历程。 ## 档案库（Archive） 公共广播机构不仅是播出视频和音频材料的组织，它们还需要建立各种结构，以便管理这些材料，并使之能够为不同的编辑团队所用。简言之，公共广播机构始终也是一个大型的数据存储制度——拥有管理海量数据收藏的专门下属单位。因此，一个（多少有些显而易见的）想法被提了出来：利用该组织现有的档案库。每一个播出过的视频都能在那里找到，而且档案库为每一个物品都提供了元数据描述。于是便产生了这样的想法：为档案库建立一个数据接口，以获取推荐系统所需的相关数据。然而，开发团队中没有人确切知道档案库是如何运作的，也不知道连接其数据库的技术基础设施是什么样子。因此，项目经理之一 Charlie 和我约见了档案库的一位代表，讨论可能的连接方式与接口。这个想法在不同层面上都颇有前景。首先，视频在档案库中被集中标注了元数据，以供再利用。因此，数据已经存在；此外，这些数据是集中生产的，这使得指涉中意义稳定性这一核心要求（affordance）很可能得到满足。正如我们后来得知的，档案管理员甚至有专门的培训。 在这次会议上，Charlie 和我了解到，档案库在两个不同的层面上运作。 > 1）形式描述：形式描述在视频进入档案库几天之后进行。来自编辑团队的数据，如策划标题、标题、副标题，会被录入并补全。这是在整集的层面上进行的。在这一层面上，也会进行分类。如果不清楚该视频应当如何归类，则不录入类别。 > > 2）文献著录：第二个层面要精确得多，可能要等上几个月才会进行。如果一集节目是单一主题的，数据便在整集的层面上录入；如果它是杂志类节目的一部分，则在片段的层面上录入。与此同时，分类工作也会完成。各集节目还会获得一段描述其内容的摘要（一句话）。索引（Indexat）：用关键词对该集节目加以概括。这里存在两种不同的“理念”。对于广播节目，这是依据一个规范数据库进行的；视频节目则被自由地标注（田野笔记）。 档案库是编辑工作中一个非常重要的要素。编辑们在这里找到可用于未来节目的较早的视频物品。其中一位编辑举了 1969 年登月的视频片段为例，这段视频可以用于非常不同的节目和语境之中。然而，生产元数据的时间安排和方式是与编辑的需求相协调的。在这次会议中，档案管理员对将档案数据用于推荐系统表示了担忧。在她看来，档案库中生产的元数据相当复杂，因为它必须与一个跨制度的分类规范数据库相匹配。此外，档案库是为编辑调研以及新节目和影片的制作而建立的。它属于另一组转译和功能性相互依存关系，这一点也在其自我描述中得到了回响。会议期间，“档案管理员向我们解释说，所使用的类别列表是为编辑调研而建的。通过为一集节目的不同片段添加标签，各集节目得以向此类查询开放”（田野笔记）。这一问题也同样困扰着推荐系统的开发者自己。在一次周会上，Dave 提出了如下论点： > 如果要集中标注所有视频，档案库的同事们可能会被工作量压垮。此外，他们标注内容的方式对推荐系统来说过于密集了。它产生的数据过于细粒度，需要太多的计算能力（田野笔记）。 作为视频物品之描述而产生的数据，属于另一种秩序化，在其中，视频及其描述扮演着另一种角色，解决的是另一个问题。在对档案管理员实践的描述中，组织以及档案库被设想的功能一再被援引，即：让编辑能够为新的节目寻找存档材料。档案库是编辑工作中一个非常重要的要素，因为他们在这里找到可用于未来节目的较早的视频物品。在后来的一次访谈中，有人提到了“档案库里的珍珠”（Online-Editors Interview，笔者译）这一说法。借此，线上编辑们暗示了档案库对于为后续制作寻找高质量内容的重要性。对他们而言，档案库并不是一个元数据前后一致的地方，而是一个供创造性投入的丰富宝库。 第二个问题是时间安排。正如流程描述中所提到的，各项工作流程的时间安排各不相同。物品在频道的线性节目中播出几个月之后，才会配备丰富的元数据。然而，这意味着这些物品在相当长的时间内都无法为推荐系统所用。此外，视频并不是按到达的先后顺序被处理的，其排队顺序会根据一套优先级方案而变化。 > 在档案库会议上，Charlie 和我被告知，“有分为三个不同优先级的优先级列表”。这意味着视频并不是按到达顺序进行编辑的。整个过程可能需要长达三个月（田野笔记）。 其结果是，时新的内容几乎永远不会被系统推荐。一位开发者在一次开发会议上也提到了这一点：“Dave 问道：档案库的人需要多长时间来补全数据？如果时间太长，新内容很可能就不会被纳入——这就构成了一个问题”（田野笔记）。因此，档案库并不是获取推荐系统所需元数据的合适地方。 尽管我们没有进入档案库、观察实际生产元数据的实践，但向我们解释档案库的那位同事一再援引这些实践的功能及其与编辑工作的关系。通过将档案库的工作叙述为对编辑团队至关重要，这位同事所做的正是 Maynard 和 Clayman（1991, 407）所说的“揭示出一种对制度性或其他语境的取向”。生产元数据的时间安排和方式与编辑的需求相协调，并因此援引并述行（performed）了档案库作为此类工作之关键制度的地位。基于制度的这种述行性（performativity），将元数据的密度降低到推荐系统能够处理的程度，并不是一个可行的选项。档案库的述行性在档案管理员的实践与叙事的取向中，显示出组织结构的相互依存[^f05-14]——此处是档案库与编辑团队之间的相互依存。因此，制度性和组织性的相互依存能够在局部化的实践和言语中被观察到。[^f05-15] 虽然战略文件或指导方针中所描述的组织和制度性规则与程序并不能直接转译为可观察的实践，但它们提供了理解制度理性的一种资源，尤其是当它们在局部化的实践中被援引时（Maynard and Clayman 1991）。正如 Suchman 所论证的，关于社会秩序的互动论视角“总而言之，主张只有通过日常的实演与反复，制度才得以再生产，行为规则才得以实现”（Suchman 2006, 16）。然而，这种在局部实演的制度性行为在这里成了问题。两种生产元数据的构想非但没有在档案库与算法之间建立起联结，反而在实践中变得互不相容，开发项目也无法使档案库与其自身的局部社会秩序相协调。通过不改变数据生产的模式，档案库稳定了他们自己关于制度秩序之常态的构想，而这是他们认为重要的。其生产数据的方式无法被算法民族方法所解读。 ## 技术修复（Technological Fix） 由于档案库并不是获取所需元数据的可行选项，就必须设想获取或生产元数据的其他形式。当我们开发团队对改变或调整组织需要付出什么有了初步认识之后，我们便开始寻找其他选项。于是，一个典型的工程式解决方案浮现出来：我们能否用一种技术修复（technological fix）来解决这个问题？ > 当元数据质量的问题被提出来时，Edward 说我们可以使用语音转文字（Voice-To-Text）软件。这样，视频的音轨就可以用来生成元数据。后来 Charlie 问我能否帮忙解决这个问题。我答应了。［几天后］我与那位开发者见了面。他向我解释说，他们已经用不同的视频试过一次。他们为此搭建了一台测试服务器，效果相当不错。然而，一档著名的节目失败了。软件无法识别当地方言。我们笑了。然后我们进一步讨论了这件事。这是一个相当大的问题，因为这档节目是该广播机构最成功的节目之一。这样一来，它就不会出现在推荐中了。情况棘手。我会和 Charlie 谈谈这件事（田野笔记）。 语音识别是为推荐系统生成所需元数据的一种方式。通过部署语音识别软件，推荐系统将利用节目特有的自我描述，把相似的节目相互匹配起来。这样做就不会触动组织结构，而是——与线上服务本身并无二致——在现有结构之上添加一个额外的系统，而无需改变现有结构。语音识别软件将从公司外部被动员进来，以在视频数据库与推荐系统之间建立一种稳定的关系。它将充当一个中介者（mediator），把视频的原初形式改变为推荐系统能够处理的东西。此外，开发团队还展现出一些原社会学（proto-sociological）的洞见。从社会学视角来看（例如 Bourdieu 1984），这一建议背后的想法颇为耐人寻味：相似的节目制作必定会使用特定于类型的语言，从而产生能够为视频建立一种稳定描述体制的描述。他们不仅试图动员一种技术工具，还试图将其用作一台文化比较的机器。技术工具变成了一种社会探究的工具。 然而，存在一个大问题：频道最受重视的那些视频无法被这款由一家北美大公司生产的语音转文字软件识别。这些节目使用的是该软件无法理解的德语变体。如此一来，元数据的生产将无法涵盖所有视频，而且也不清楚究竟有多大比例的视频能够真正配备源自其音轨的文本描述。这一方法与推荐系统应当处理的内容并不相容。视频的分布式自我描述非但没有形成对视频的稳定转译，反而既无法在软件的中心位置被转译，也无法在那里得到协调。为何如此？因为语音识别软件已经预设了某种指涉世界的形式。它需要一种特定的语言使用形式，而无法应对不同的表达形式。它并没有协调那些通过多样的语言使用、经由视频音轨表达出来的不同形式的自我描述，而是未能认可这些不同的语言形式。因此，软件非但不能通过语音识别使视频彼此之间具有可比性，反而只会从现有视频物品中选出一个子集。这款语音识别软件是用一种与这家公共广播机构中所见不同的世界之数据表征来训练的。另一方面，这档节目的制作方式是不可改变的。它是该广播机构最成功的节目之一，最重要的是，它通过使用当地方言表达了广播机构的地方认同。这是一种受到高度重视的东西。 机器学习和模式识别算法在很大程度上依赖于它们据以训练的数据——这些数据对它们而言成了世界的一种表征（Jaton 2017）。然而，在机器学习的情形中，训练数据（共同）生产出作为关于世界的理所当然之假设的算法民族方法——这个世界不是“单纯的自然世界，而是处于解释之中的自然世界，或者说是我们通过语言所构造的世界”（Suchman 2006, 76）。在语音识别软件中实现的算法脚本，基于开发者对一种特定语言使用的假设——这一假设通过实际生成该软件所用的数据集得以实现。然而，这档地方电视节目中的表达恰恰没有被纳入语言识别软件能够解读的那些说明之中。为了生产出一种推荐系统能够在其中运作的稳定的社会技术秩序，这种相互理解是一个前提条件。局部生产的秩序以可相互理解的说明及其反身性解读为基础。正如 Suchman（2006）所写：“社会世界的稳定性［……］并非源于某种永恒的结构，而是源于在特定互动场合中创造并维持共享理解的情境行动”（Suchman 2006, 83）。正如 Ziewitz（2017）不得不以一种算法能够理解其表达的方式使自己的观察变得可说明（accountable），语音识别软件也预设了一种使用并继而消解语言的特定方式。为了匹配当地方言的表达，就必须把它们转译成语音识别软件能够消解的一种语言形式。然而，在 Ziewitz（2017）的例子中，可以观察到许多修复情境的场合，人们就何者算作一条街道、或者规则的应用在此是否说得通等问题进行推理。算法所需的表达在其应用的情境中被重新解读、重新协商。然而，在这里修复情境意味着：要么改变节目的语言，要么重新训练语音识别软件，要么设置一个译员团队，由他们来完成“用算法的语言阐明观察”（Ziewitz 2017, 4）的工作。 动员实际组织之外的一个行动者来解决问题的策略之所以失败，是因为无法容纳第一个算法的那个生态，同样无法容纳第二个算法。在档案库的例子中，问题在于组织内部制度化的实践不允许整合算法；而一种跨制度的解决方案之所以失败，则是因为这两个组织（及其被委派的行动元，即那档电视节目和语音识别软件）的意义生成实践根本互不相容。这两个不同的组织各自带着对社会技术世界的理所当然的视角，在相遇中既无法生产出说明，也不具备使这些说明彼此可理解的方法。为了在视频数据库与推荐算法之间进行中介，语音识别软件本需要一个以不同方式预先结构化、预先规范化的、对它而言可解读的世界。问题非但没有得到解决，反而只是转移到了另一个转译的环节。所设想的转译链戛然而止。既不可能创造出一种使这款被黑箱化的软件得以使用的秩序——即改变节目中演员说话的方式——也不可能打开黑箱、重新组织其内部运作。 ## 数据如何结构化（How Data Structures） 上述所有试图将推荐系统附着于公共广播机构现有组织结构、或者动员外部行动者作为跨制度解决方案进入组织之实演的尝试，都失败了。因此，关注的焦点从利用现有解决方案转移开来，转向创建我们自己的组织程序和结构，以实现这一算法系统。用于策划线性节目的核心系统——名为 WhatsOn——进入了我们的视野。在一次会议上，开发者询问线上编辑能否生产这些元数据。然而，这会给规模相当小的线上编辑团队带来过多的工作量。对于开发团队和线上编辑而言，解决方案是将集中化与去集中化结合起来。元数据的生产应当成为各主题编辑团队的工作，而不是线上编辑团队的工作。正如编辑团队的一名成员所论证的，这样一个流程所需的信息基础设施已经就位。编辑团队的 Trent 认为，“录入元数据最好在编辑系统中进行。没有人能绕开 WhatsOn”（田野笔记）。WhatsOn 是该广播机构节目的核心策划系统，在此之前只用于线性节目。在这个系统中，不同的编辑团队记下何时计划播出哪档节目，并录入相关描述，例如标题、简短描述、播出时间和视频时长。然而，利用 WhatsOn 及其中元数据的想法带来了两个必须应对的主要问题。WhatsOn 系统提供了用于关键词和较长文本的输入字段，以描述排定播出的各个视频。编辑团队在将其节目登记到这一核心系统的过程中并不使用这些字段，因为这些字段在此之前并没有任何作用。该组织迄今使用的元数据对编辑团队而言是有目的的，即为线性节目提供描述。这意味着，为已使用的字段提供数据确实为编辑团队解决了一个问题，而提供关键词或额外描述则根本没有用处，因而也没有价值，因为关键词和类别对线性节目的播出并不重要。在一次访谈中，一个元数据团队的受访者告诉我： > 你要那个做什么？因为元数据自然不是你能直接看到的东西，只能间接地看到，其作用仅仅在于你随后能够自动控制某些东西。就是说你有类别。你说，我这里有电影故事片这个类别，或者纪录片这个类别。我的意思是，这相对来说说得通。但还有许多其他的元数据。它们乍一看并不直观，人们为什么会需要它们？因为在经典的播出分发中，它们并不是必需的。（Interview Metadata Team，笔者译） 然而，这构成了一个问题，因为元数据过于稀少，不足以产生好的推荐。必须为此做点什么。作为项目自己的社会学家，我开始了一项外交使命。我参加了一些会议，在会上听人讲解 WhatsOn 在组织中如何被使用、如何与其他部门相连接。此外，我还与各编辑团队的代表主持了讨论会。他们是所谓的关键用户（key users），会向我提供信息，并反过来指导其他编辑团队中的 WhatsOn 用户。因此，让他们相信推荐系统的价值至关重要。为了使推荐系统成为可能，我必须让他们成为算法的盟友。如果不能将他们征召（enrolment）进算法的行动者网络，项目将面临一个重大问题。 这一解决方案的另一个问题源于这样一个事实：有超过 300 个编辑团队将其节目的信息录入这个系统。即便这些字段被使用，数据生产者也可能会遵循 300 种不同的方式来描述共同的视频宇宙。开发团队所识别出的这个问题，是推荐系统共同体所熟知的一种状况，在那里它被称为社会化标注推荐系统（social tagging recommender）。元数据的生产不是集中地为物品创建标签和描述，而是被外包给了大众（crowd），允许用户上传内容，并以开放的方式——即不在某个给定的分类方案之内——为之添加标签和描述。有趣的是，在推荐系统文献中，这被称为一种“通常被称为大众分类法（folksonomy）的非结构化协作分类方案”（Cantador, Bellogín, and Vallet 2010, 237）。这里数据生产的运作方式已经发生了转变：从基于共同使用模式的方法或对分类方案的集中生产，转向一种众包形式的分类，使相似性的建构方式去中心化。内容提供者与算法之间的关系变得复杂化和多重化了。不会有任何持有预先给定分类方案的专业编辑或数据工作者被纳入其中。然而，在组织内部生产可比较的元数据这件事上，团队并不信任大众的智慧。在一次开发会议上，Gillian 认为“人们就是会录入各不相同的东西”（田野笔记）。Bob 在早期的一次访谈中谈到视频标注时说：“我不知道他们做得有多好，但就我迄今从其他产品那里听到的，这是一个大问题，东西标注得不好”（Interview Bob，笔者译）。问题的范围从各团队撰写描述文本的特定方式，一直到核心策划软件中的关键词字段是一个自由文本字段这一事实，也就是说，人们可以在其中输入任何想要的文本。因此，开发团队（包括被选中的编辑）设想设立一个中央控制机构。[^f05-16] 线上编辑团队应当充当一个控制元数据的中心通道点（central point of passage）。不完整或不起作用的标签或描述应当被退回给各主题编辑团队进行更正。当被问及他们打算如何控制对视频物品的恰当描述——包括挑选好的图片——时，线上编辑们告诉我：“我们甚至会有一位同事，专门去敲他们的手指头”（Online-Editors Interview，笔者译）。与此同时，还设想为各主题编辑团队举办工作坊，培训他们使用共同的分类方案。此外，还设想从一开始就改变录入数据的可能性。不再使用旧的类别列表——它庞大且难以理解——而是创建一个新的列表，一个简单得多、并且在线上编辑团队看来说得通的列表。与此相配套的是向各编辑团队提供一份风格指南的计划。 > 在元数据方面，将会有一份风格指南，这样各编辑部就有可以遵循的东西了。然后我们还得看看效果如何（Online-Editors Interview，笔者译）。 通过设立这一共同分类方案并在核心的 WhatsOn 系统中加以实施，开发项目还额外实施了——或者更确切地说：更新了——一种共同的基础设施，将不同的群体连接到一个共同的数据生产体制之中。其结果是，项目从三个不同的方向着手处理眼前的问题：a）使 WhatsOn 关键用户成为算法的盟友；b）更新类别列表并将其硬接线（hard-wiring）到核心策划系统中；c）培训 WhatsOn 用户，使他们学会如何应用新的类别列表。在此过程中，开发团队试图确立并自然化共同的分类，即建立一个全组织范围的标准。他们并没有让这一标准缺乏任何盟友、从而缺乏权力，而是更进一步，设立了一个中心通道点——线上编辑团队——以确保所生产元数据的质量。因此，通过设立一个全组织范围的标准，并使之与将会支持和执行该标准的守卫者相协调，一个用于协调不同子共同体的信息基础设施便被建立起来了。 当然，当涉及把共同分类视为共同知识之自然化形式的想法时，我们必须保持谨慎。虽然分类系统被设立为一种生产共同说明的制度性和组织性装置，但假定一种将观察转译为分类的决定论式构想，可能会把我们引上一条滑坡。正如 Suchman（2006）所论证的，计划（或在我们的案例中是分类系统和指导方针）成为局部化实践的一种定向资源，但我们“按照计划行动的能力，最终取决于你在现场（in situ）所能调用的具身技能”（Suchman 2006, 72）。如前所述，互动论理论假定，一个符号的意义并非单纯给定的，而是在社会群体的有能力成员之间的互动中生产出来的。对所交换的符号和行动的解读，以先前的知识（包括计划之类的资源）以及关于该情境应当如何解读的理所当然的观念为基础。Garfinkel 称之为参与者的民族方法，而实用主义则大量借助于社会化和常规行动的观念。然而，这两种进路在其概念化中都包含了变异和创造性的环节（例如 Joas 1997）。常人方法学甚至正是建立在对传统社会学的批判之上的，后者把个体当作只会遵循预先界定的规则或规范的“判断力上的傻瓜”（judgmental dopes）（Garfinkel 1984, 68）。[^f05-17] 相反，社会集体的成员自身就是有能力的，社会结构和秩序总是被重新述行，因而也可能总是略有不同。换言之，社会秩序的稳定性不是一种理论预设，而是一个经验问题。这当然对局部化秩序和说明的生产——在本案例中即类别和关键词的使用——在共享标准化分类系统的更大共同体中产生了一些重要的后果。我们在这里面临的问题是，迄今为止，这些类别在不同的编辑团队中被以非常不同的方式使用，而且这份列表是历史过程的产物，有些团队甚至拥有完全属于自己的、仅用于其节目的类别。Bowker 和 Star（2000, 287）认为，“类别是历史地处境化的人造物，并且和所有人造物一样，是作为实践共同体成员身份的一部分而习得的”。而这在此成了一个问题，因为数百种习得的分类实践必须相互协调。WhatsOn 这一核心策划系统并没有把所有人都整合进一个能够在现场协调说明（以及社会技术秩序）之生产的共同情境中，而是成了连接众多不同共同体的一种装置。在这方面，将编辑团队设立为强制通行点（obligatory passage point）十分重要，因为“当多个实践共同体聚在一起时，总会出现反常，而有用的技术无法在所有共同体中同时被设计出来”（Bowker and Star 2000, 310）。线上编辑团队并不是在情境之内修复对共同秩序的沟通性生产，而是被分派了从事类别工作（categorial work）的任务（Bowker and Star 2000, 310），即管理不同共同体中的不同意义，以促进合作。回到 Ziewitz（2017）的例子，任务不再是以算法能够理解的方式来表述自己的观察，而是在一个过程中协调不同形式的意义生成，这一过程将允许一种沟通逻辑，以对算法有效的方式更新和更正自己的说明。关于某物是否符合“我们对一条道路的理解”这一限定（Ziewitz 2017, 6）的讨论，不再发生于处境中的观察者之间，而是经由一种共同的基础设施和分类系统来中介，这一基础设施和分类系统连接着线上编辑与众多其他编辑团队。这一切都必须完成，以便“一个在系统之外被想象出来的世界，一个会话与交流、社会性与沟通的世界，能够成为这里面的世界，即算法系统的社会世界”（Neyland 2015, 128）。在这里，生产我所称的算法反身性，不仅意味着消解信号的意义，还意味着建立一整套组织结构，由它来生产能够转译给算法技术的关于社会世界的说明。 ## 将算法反身性制度化（Institutionalizing Algorithmic Reflexivity） 元数据的生产远不只是让一个视频数据库变得机器可读。我们所能看到的毋宁是：算法假定，在社会技术系统中流动的指涉彼此之间是可比较的。或者换言之：算法系统应当在其中运作的那个世界，其实演必须被标准化（另见 Gillespie 2014）。在本章中，我讨论了生产这样一种稳定的指涉实践——即经由元数据对视频数据库的一种支配性实演——的不同进路，每一种进路都有其难题与问题，因为现有的组织结构和相互依存关系使之成为可能或不可能。每一个失败的案例都属于另一个由转译或功能性关系构成的网络，它们生产数据，满足特定场景和情境的要求。算法嵌入在一个更广泛的生态系统之中，它在其中运作，也在其中被赋予可操作性。算法的权力并不在算法之内，而在于它为展开自身能动性所能动员的盟友（Ananny 2016; Ensmenger 2012; Neyland 2015）。因此，抽象的算法原则与数据生产过程之间的转译，需要一种制度化、稳定化的算法反身性，以消解算法先前仅被抽象假定的那些指涉。这可以被理解为一种二阶的铭写过程：开发者关于社会系统的假设，或是通过对信号的解读和脚本化使用而被纳入具体的人造物之中——正如我们在解读用户评分时所见——或是被委派给组织结构，正如我们在为视频内容生产元数据的案例中所见。因此，铭写过程不仅是把一个算法组装起来，同时也是一个嵌套形式的去铭写（de-inscription）过程，而这些去铭写可能被稳定下来。因此，理解算法能动性要求我们递归地重构铭写与去铭写的过程，以及其中所涉及的各种反身性形式——正是它们导向了我们称之为“算法”的那个已稳定化、已制度化的实体。 说算法正在被制度化，甚至成为一种制度，这意味着什么？在过去大约一百年的社会学话语中，制度这一概念一直是人类学给定性（anthropological givens）观念的对立面。制度概念并不通过论证人类或社会本来就是如此来将可观察的结构自然化，而是强调：人类需要发展出稳定的、重复的、能够跨越时间与空间而持久存在的互动形式（例如 Parsons 1954）。这些行为形式为我们的日常生活建立秩序，因为它们变得不容置疑，并仿佛是自然的那样发挥作用。在现象学的思路中，Berger 和 Luckmann（1967）甚至谈到意义与实践的客观化（objectivation），正是它使人们得以将某些类型的互动识别为一种制度。通过这样的论证，制度便成为 Durkheim（[1895] 1982）意义上的社会事实（social facts）。[^f05-18] 对 Durkheim 而言，社会事实是客观给定的坚硬结构，仅凭社会领域本身即可得到解释。然而，这种把制度理解为持久的、可比较的、可追溯的实践的观点，赋予了制度概念一种本体论地位，使之与其说是社会分析的起点，不如说是一种解释。与此相反，或许值得追问的是：制度作为——借用 Law（1994）的一个术语——相当规则的模式（fairly regular patterns），是如何在这些情境中被实演、被援引的？Giddens 在其结构化理论（theory of structuration）中结合了这些不同的态度，他认为制度自身再生产着这些场景，从而使后续的实践或多或少地更有可能发生。正如 Giddens 所论证的，稳定化的实践在社会结构的生产中扮演着至关重要的角色，而我们在具体情境中正是将这些社会结构作为对我们行动的持久阻碍来面对的（Giddens 1984）。然而，我们总是通过情境中特定行动者对这些结构的实演来遭遇它们——它们必须被动员起来。正如 Garfinkel 主张社会秩序是有待解释的，而不是用来解释的，制度及其维持也是情境实践的结果，这些实践依照关于该制度的某种观念来为情境建立秩序（另见 Passoth 2021）。观念、规则与习俗是如何被动员起来以维持制度的？这也使我们有必要考察这些情境中所有起秩序化作用的要素。为了使这些相当规则的实践模式成为可能，有哪些基础设施、算法脚本、数据孤岛（data silos）、传输协议，以及诸如新闻伦理这样的学科规范被动员和协调起来？每一个所涉及的行动者都由此代表着一组保持自身稳定的实践，从而使人们得以跨越时间与空间追溯稳定的实践，并将它们相互关联起来。在这个意义上，档案库的视频数据库同时代表着一种制度和一个后续制度化的过程。因此，制度总是必然兼具二者：既是稳定的社会技术事实，又是一种实践成就（practical achievement）。安装算法反身性是将算法系统制度化的一个关键要素。 如前所述，开发团队将算法技术的脚本与其他行动者——如数据生产者、基础设施或数据库——的实践和脚本结合在一起。算法反身性必须从显性的、不确定的状态转变为隐性的、持久的状态。然而，所达成的社会秩序将算法生产为一个持久的行动者，同时也依赖于那些被组装起来的行动元，它们各有其抵抗与假设，简言之：各有其脚本。在推荐系统的案例中，这以两种根本不同的方式发生。第一，在协同过滤的案例中，用户与视频物品之间互动的信号受到质疑、被重新解读，并被挪用于推荐系统之中。开发团队基于自身的经验，试图理解评分所指涉的不同情境，并据此加以解读。在这里，消解信号的意义是算法开发的一部分，一种形式的算法反身性作为算法脚本的一部分而被稳定下来。在第二个案例即基于内容的过滤中，开发团队并没有考虑如何自行解读信号，而是将反身性的过程委派给了其他组织场所。他们所关切的不是应当以何种方式理解这些信号，而是人们如何能够首先确保组织所提供的指涉彼此之间是可比较的。然而，在这两种情形中，各种形式的算法反身性都作为组织实践而被安装并稳定下来。 在前面讨论过的例子中，Ziewitz（2017）所苦苦应对的恰恰是这些转译过程。每遇到一条新的街道，都不是生产出理所当然的意义，而是必须加以质疑和检验。算法表达的索引性并不容易消解——而且它肯定不是一个无关切的（即常规化的）反身性过程的结果。相反，隐性的程序通过使“实践活动的‘反身’特性变得可观察”（Garfinkel 1984, 9）而被显性化了。在 Ziewitz 的例子中，城市的结构与秩序并不遵循算法民族方法的想象与假设。消解“道路”这一概念并不那么容易转译，而是需要中介者——在这里即 Ziewitz 本人及其他参与者——付出大量工作。然而，这不仅是不同解读之间不相容的问题，更是不同的世界秩序化形式之间的不相容。作为所表述之算法的探究对象的那些街道，是城市及其社会技术秩序的结果与委派。街道的形成是城市整个历史的物质化——并随之是众多植根于城市规划与政治的决策的物质化（例如 Aibar and Bijker 1997）。Latour（1999a）表明，科学知识的生产有赖于指涉的生产与流通。在他关于丛林土壤的著名例子中，丛林借助可以来回追溯的指涉，跨越距离变得可经验、可比较、可描述。从丛林到出版物，指涉链保持稳定，在转译过程的每一站所实演的实在也随之保持稳定。然而，从亚马孙森林流通到巴黎办公室的指涉，并不仅仅是指涉丛林土壤的符号或象征。它们表示着首先使指涉的生产与流通成为可能的整个装置。它们指涉着一种社会技术秩序，其中包括仪器、科学家、编辑、研究助理等等。与此类似，在公共广播机构内部生产的数据并不仅仅是一个外部描述的问题，而是每一个生产了数据（或未能生产数据）的环节，都是整个组织的问题。可用的数据不仅指涉单个的视频，也指涉首先使这些数据成为可能的实践与安排。被解读的信号不仅指涉用户及其偏好，也指涉国家的数字基础设施，以及将这些信号输送到算法脚本的追踪体制。数据所表征的并不是一个可以被轻易重新解读的、脱离语境的符号。相反，这些符号指涉着特定的组织结构，而这些结构在被称为“公共广播机构”的更广泛的装配（assemblage）之中，有着各自被述行、被实践地实演的功能性。正如道路指涉着城市的历史，所生产的数据符号也指涉着公共广播机构穿越时间的生成过程。 然而，这些组织构型与铭写在算法脚本中的理所当然的假设并不相容。在协同过滤的案例中，改变的是算法的民族方法；而基于内容的过滤则需要一种新的、分布式的、有组织的沟通结构。通过实施这样一种分布式沟通结构，公共广播机构并没有改变其组织结构，而是扩展了它：增加了与一种基础设施相耦合的制度性实践，这一基础设施使不同实践共同体及其说明的生产得以协调。软件开发团队没有使用既有的数据孤岛或外部解决方案，而是增加了一层组织性和制度性的实践。最终，为了解决新出现的问题，我们让公共广播机构变得比以前更大了。但这样做的同时，我们也增加了一个新的组织，因为在新安装的社会技术结构之中，公共广播机构——以及算法——的实演，与我们所遭遇的所有其他实演都不相同。算法系统的实践成就变得不只是摆弄代码、开发环境或数学函数。组织结构是动员、安装和关联新的行动者，并将它们征召进那个作为制度化算法的网络的一部分。 [^f05-1]: 这里或许值得一提的是，《门闩》（Door Closer）一文的作者 Jim Johnson 实际上是 Bruno Latour 发表该文时所用的化名。事实上，这篇文章已成为 ANT 学者的一篇相当核心的文献，这使它成为一个既有趣又耐人寻味的参照点。 [^f05-2]: 这里与 Peirce（[1900] 2010）符号学的某种亲近性是无法否认的，尽管 ANT 传统上建立在其他符号学传统之上，尤其是 Greimas（1983）。 [^f05-3]: 不应将其与规定（prescriptions）相混淆，后者是由人工物的脚本所允许或禁止的（被想象的）行动；也不应与预先铭写（pre-inscriptions）相混淆，后者是人工物使用者被假定具备的能力。概述可参见 Akrich and Latour（1992）。 [^f05-4]: 尽管这看起来是算法情形所特有的，但它也可以被表述为一条一般原则。每一种工程实践都建立在总是已然可用的工具之上，而这些工具本身就是承载着铭写的人工物。因此，在生产技术人工物的实践中，我们调整并组合我们工具的不同脚本，其结果是一个——往往被黑箱化的——带有自身脚本的行动者。 [^f05-5]: 这里存在一种有趣的术语巧合，因为在计算机科学中，解释器（interpreter）实际上是一种软件，它解释一组给定的指令并立即执行它们。经典的例子是 BASIC 语言，或 CSH、BASH 之类的 shell 脚本环境。 [^f05-6]: 这两种方法之间的区分并非推荐系统所独有，而是有着悠久的历史（B. Rieder 2017, 106）。 [^f05-7]: 简短说明一下：尽管理论上可能出现 0%，但实际上很难做到，因为用户必须以极低的延迟开始并停止视频。 [^f05-8]: 当然，还有技术哲学、媒介理论，以及部分计算机科学。 [^f05-9]: 然而，这也涉及交流的另一个问题：即意义对互动伙伴而言从来都不是透明的，因为他们永远无法确定对方所指的与我所指的是同一件事，即双重偶然性（double-contingency）问题。这使得其他理论家，如 Luhmann（1996），提出这样的表述：只有交流本身而非附着其上的语义范畴才是相关的。只要交流继续进行，社会系统就得以稳定。 [^f05-10]: 对于进一步的研究而言，比较实用主义、ANT 与常人方法学的不同符号学取向，或许会是一项富有成效的工作。 [^f05-11]: 这也是 21 世纪社会学面临的挑战之一。数据科学与机器学习正在成为社会分析领域中的直接竞争者。这一点也可以从那些呼吁将这些技术纳入社会学方法正典的主张中看出（Marres 2017; Mützel 2015）。 [^f05-12]: Netflix 似乎也遇到过同样的问题，因为——在撰写本书之时——它开始在一段时间没有交互之后询问用户是否仍在观看。 [^f05-13]: 有趣的是，这对其他平台（如 YouTube）而言同样是一个问题。存在一些指南和常见问题解答，描述如何通过改变推荐算法所处理的信号来摆弄（tinker with）它。因此，这些文本试图通过向用户提供语境——即 YouTube 如何解读他们的信号——来修复沟通，而不是反过来询问 YouTube 应当如何解读这些信号。https://support.google.com/youtubemusic/thread/160722?hl=en（访问日期：6.9.2020）。 [^f05-14]: 这也将使人们得以对 Norbert Elias 的过程社会学（1978）作出一种有趣的重新解读，即把焦点放在对多重的、被述行的相互依存关系的协调之上。 [^f05-15]: Drew 和 Heritage（1992）在其常人方法学进路中表明，组织性的相互依存关系可以通过局部实演的秩序得到重构。 [^f05-16]: 这里需要指出的是，在开展民族志研究之时，这仍然只是一项计划。该小组的全面设立是后来才完成的。 [^f05-17]: 当然，这是社会学及其他社会科学中结构主义遗产的结果。也就是说，从一种无处不在、自我再生产的结构的视角来看，决定论式的行动构想是说得通的——甚至是在既定范式中占据主导所必需的。 [^f05-18]: 当然，我们也必须把 Durkheim 的纲领理解为一种政治举措，其目的是将社会学确立为一门独立的学科，使之独立于生物学、心理学或自然科学。 # 第五章 算法政治（Algorithmic Politics） > 启迪、教育与娱乐。——Reith，1924 推荐算法与过滤系统（例如搜索引擎）是当代民主国家面临的普遍问题。至少，流行的叙事是这样讲的。按照这一套话语，过滤气泡（filter bubbles）或回音室（echo chambers）威胁着我们在社会中获取政治与社会新闻的方式。如果使用这类算法的制度本身肩负着通过平等且多元地分发信息来促进民主的明确使命，那么问题就更加严重。因此，本章将讨论过滤气泡这一议题如何在开发团队中成为问题，以及不同规范性目标之间产生了怎样的含混：一方面是对流行度的追求，以及以 Netflix 或 YouTube 等成功范例为榜样的取向；另一方面则是一种共享的规范性理念，以及在个性化与多样化的信息供给之间取得平衡的（表面上的）必要性。这些问题并不只出现在这家特定广播机构的开发项目中，而是折射出学术界和德国政治系统围绕过滤系统与民主展开的更为广泛的讨论。因此，我将着重梳理这些辩论中的论点，以理解这一议题是如何在本地场所中浮现的，也就是说：它是如何被动员（mobilized）起来的。 将过滤气泡视为民主威胁的讨论，取决于关于传播结构以及信息多样性这一规范性目标的特定假设。关于公共领域（public sphere）的讨论尤其建立在一个隐含假设之上：存在着一个融贯而单一的公众。我认为，一种实用主义的、复数形式的公众（publics）概念能更好地帮助我们理解眼前的问题，并有助于我们更好地理解可能的补救之道。我并不假定算法将一个原本融贯的公共领域碎片化了，而是主张：公共广播体制是针对媒介技术的特定配置以及复数公众的生成过程而形成的一种解决方案。多样性作为一项政策目标，在生产共同的传播领域方面具有特定功能。因此，问题与其说是多样性是否得以实现，不如说是它如何被实现。在开发项目中，我们尝试了不同的方法来生产多样性，使之成为一个可把握、可操作的对象。尽管这些方法各有其问题与挑战，它们仍能就必要的后续步骤给我们一些启示。然而从更大的图景来看，问题不仅在于我们如何可能在媒介系统的新条件下生产一个融贯的公众，还在于一个算法系统——比如我们所开发的推荐系统——如何成为了一个政治行动者。在以一种对媒介敏感的方式重新表述实现多样性这一法律与政治目标时，作为技术行动者的算法必须在不同的规范体系之间进行调解，而这些规范体系对互动系统各有不同的想象。 选择公共广播机构作为案例，乍看之下或许显得奇怪。技术及其人工物是政治性的（Winner 1980），它们产生影响，它们规制、促成或抵制某些（互动）行动方式。因此，这并非广播机构所特有，也并非算法与机器学习所特有。然而，政治发生的场所是特定的。正如上一章所见，一个组织的社会秩序化体现在输入机器学习系统的数据生产之中。也就是说，机器学习不仅需要某种形式的数据，还需要某种形式的社会秩序。与此同时，公共广播的案例不仅是人工物隐含政治的一部分，而且处于一场关于民主秩序与媒介系统的、持续进行的制度化政治辩论之中。在这里，辩论与议题不仅是隐含的，而且以争议和危机的形式出现。在这场辩论中，由机器学习驱动的信息选择机制挑战着媒介系统既有的政治功能及其秩序化。因此，作为一个诞生于政治辩论、并自诞生以来就一直是政治辩论对象的制度，社会秩序化、机器学习技术与政治权力之间关系中产生的种种议题得以浮现，并可供研究。在研究算法系统的过滤气泡、偏见或不公正时，常被提出的一个问题是：我们应当依据何种规范框架来衡量一项技术的影响？然而，这个问题并不总是容易回答，尤其是当不同的规范理念相互冲突时，例如自由主义与平等。不过，就德国公共广播的案例而言，这个问题原则上很容易回答。其规范性与政治性主张被表述得非常明确，甚至是德国宪法的一部分。因此，使公共广播机构这一组织和制度成为此类研究之案例的原因在于：算法与民主之间的纷争在这里更易把握，规制与算法设计之间的相互作用更加清晰可见。算法政治的议题——无论是小写 p 的政治还是大写 P 的政治——及其向政治与规范性推理的转译，在任何地方都是相同的，但在这里它们表现得非常明确。因此，公共广播既是一个普通的例子，同时又是一个特殊的例子，因为它展示了哪些问题、政治与设计策略被动员了起来，以及它们彼此之间如何关联。 ## 动员问题（Mobilizing Problems） 在开发项目中，有两个不同的议题对团队而言变得重要。第一，是公共广播机构的法律与政治义务问题，这在一定程度上使其区别于私营媒体行动者。作为一个公共制度，公共广播机构在德国的民主体制中承担着特定角色。随着这些议题被动员起来，关于推荐系统及其功能的问题在项目中很快就浮现了。然而第二，与 Netflix 或 YouTube 等大型玩家竞争的问题也在讨论中变得重要。为了在不断变化的媒介格局中保持相关性，采用由老牌大型玩家开发和推广的技术的需求也很快出现了。这两个议题都成了开发者的关切事项（matters of concern），然而每个议题都指向一个不同的规范性秩序体系，而这一体系需要在推荐系统的特定设计中得到实现。法律—政治义务以法律规范话语的形式出现，竞争问题则以特定算法技术的形式出现，二者各自带有关于社会互动、目标与问题的假设。因此，下文将讨论这些议题是如何被动员起来的，以及它们如何指向不同的秩序化与规范框架，同时还引入了其他一些看似不可通约的议题。 ### 广播机构的民主角色（The Democratic Role of Broadcasters） 2016 年初我加入开发项目时，项目的目标是为一个视频点播（video-on-demand）系统的开发与整合寻找解决方案，以降低为个体用户提供的视频内容多样性减少的风险。在线性广播的条件下，这一问题曾通过编辑对内容的选择来处理，但在非线性广播的新条件下，这一角色似乎发生了转变。问题在于：视频点播是否会导致提供给用户、并被用户消费的话题范围大幅缩减？如果是这样，又该如何缓解？项目在项目说明中将要处理的问题表述如下： > 公共广播机构的数字服务尤其面临挑战，因为所开发的平台战略不仅要面向用户的需求与反馈，同时还必须考虑“媒体报道的客观性与中立性原则、意见的多样性，以及其服务的均衡性（项目申请书，1，笔者自译）。 这里被凸显出来的问题，源于公共广播机构在德国民主体制中的角色。因此，它指涉一套特定的规范性、法律与政治理想及想象，其根源在于这一政治共同体的法律史发展。德国的媒介体制以及宪法法院的相关判决，赋予了德国的公共服务广播机构某种特定角色。项目团队以这一在德国国家的制度与社会架构中被赋予的角色为出发点，为有待开发的视频点播系统拟定需求。因此，我将简要讨论德国公共服务广播的特定法律面向。这一点之所以重要，是因为它表明：围绕德国媒介体制及其中存在的社会技术系统的讨论持续而棘手，这些系统是法律、社会与技术议题的纠缠，而这些议题必须彼此协调一致。 德国媒介体制是基于第二次世界大战之前及战争期间的经验而设计的。在那一时期，广播和电视主要被用作宣传工具（例如 Kallis 2005）。这一体系被用来支撑并巩固国家社会主义者的法西斯体制。基于这些经验，并为了防止重新退回反民主的体制，盟军为新成立的联邦共和国将德国媒介体制设计为一种由分散的公共广播机构构成的去中心化且中立的结构。建立一个家长式但独立的信息供给体系，应当服务于战后社会的民主化，同时也促进对民族国家形成一种不同的想象（Jauert and Lowe 2005）。这些广播机构过去（以及现在）彼此独立，也独立于政府。[^f06-1] 然而，公共广播必须遵守的具体原则来自两个来源。首先，客观性与公正性原则规定于 § 26 para. 2 MStV，即《Medienstaatsvertrag》（《州际媒体协议》，Interstate Media Agreement），以防止在报道立场与意见时出现失衡。《州际广播协议》（Interstate Broadcasting Agreement）也体现了公共广播的政治与法律使命，即稳定并保障德意志联邦共和国的民主。通过为德国公民提供现有政治立场与意见的概览，公共广播机构使人们能够以知情、自由且民主的方式形成自己的意见并作出决定。公共广播机构民主角色的这一理念体现在信息基本供给（basic provision of information）的理想之中；在德国语境中，这一理想最早是由西德广播公司（WDR）前法务总监 Günter Hermann 于 1975 年首先提出的（Grassmuck 2014a）。 然而，迄今所描述的公共广播机构的各项法律义务，并未编纂于成文法中，而是从德国宪法（《德国基本法》，Deutsches Grundgesetz, GG）尤其是第 5 条中推导出来的。在联邦宪法法院的许多判决中，GG 第 5 条成为德国媒体法的决定性要素（Grassmuck 2014b）。德国宪法第 5 条第 1 款规定了言论自由，以及新闻自由和广播自由： > 人人有权以言语、文字和图像自由表达及传播其意见，并有权不受阻碍地从一般可获取的来源获取信息。新闻自由以及通过广播和电影进行报道的自由应予保障。不得实行审查（《德意志联邦共和国基本法》第 5 条第 1 款）。[^f06-2] 多年来，联邦宪法法院在许多判决中对这些权利作出了解释，并由此形成了极为细致深入的规制细节（Hagen 2013）。信息供给的法律义务也被称为公共服务广播的 Programmauftrag（节目使命，Program Mandate）。它源于通过广播进行报道的自由，以及不受阻碍地从一般可获取来源获取信息的权利（见上引文）。联邦宪法法院从这两项权利中推导出公共服务广播机构的一项义务，即使不受阻碍地获取信息成为可能。信息基本供给的理念最早于 1986 年被联邦宪法法院在所谓的第四次广播判决（4. Rundfunkentscheidung）中采纳（Federal Constitutional Court 73, 118）。在这一语境中，报道自由也被视为一种义务，法院在 2007 年 9 月 11 日的一项判决中再次强调了这一点： > 广播自由服务于自由的、个人的与公共的意见形成。[...] 《基本法》第 5 条第 1 款第 2 句所包含的保障广播自由的使命，旨在建立一种秩序，以确保现存意见的多样性在广播中得到尽可能广泛和完整的表达（BVerfG, Decision from 11.09.2007, Rn 115，笔者自译）。[^f06-3] 联邦宪法法院所表述的这一义务，旨在形成这样一种媒介格局：它确保不同政治、规范与文化立场得到播出，以便对欧洲、国家和地方各区域、生活各领域的一切事件提供全面概览，这也规定于 § 26 para. 1 MStV。因此，信息基本供给的使命不仅规制广播服务的普遍可得性，也关涉所播出节目的内容。 然而，随着技术的持续发展以及通过互联网播发新闻和信息的新形式出现，公共广播机构的角色也发生了变化。互联网使人们不再只是以线性方式提供电视和广播节目，而是可以用非线性的方式、以不同媒介的混合来分发新闻，从而模糊了印刷、音频和视频格式之间的边界。调整公共广播机构借助这些新技术提供其节目的方式，就公共广播的基本使命而言带来了挑战。在前文已引用的 2007 年判决中，联邦宪法法院也对新的数字技术条件下宪法所要求的信息基本供给表达了担忧： > 此外，新技术允许使用导航器和电子节目指南，其软件可被用来影响接收者的信息选择决定（BVerG, Decision. from 11.09.2007, Rn 118，笔者自译）。[^f06-4] 联邦宪法法院的这一担忧反映出这样一种恐惧：借助（尽管未明确提及）算法推荐器，过滤气泡和回音室会出现，成为削弱 GG 第 5 条第 1 款所规定的不受阻碍地获取信息之能力与权利的一种方式。公共广播部门要适应技术可能性已然改变的环境，以及公民消费信息的方式，这为如何实现公共广播带来了新的挑战。这些挑战使得我们有必要重新思考：公共广播如何运作，才能在民主社会以及重新秩序化的媒介格局中履行其原初角色（另见 Grassmuck 2014a）。尤其是推荐算法，已成为协商民主制度及其在当代社会中之角色的讨论中的一个重要元素。 项目正是以这些讨论为背景启动的。因此，项目及参与各方都意识到德国公共广播机构的特殊处境，以及引入一项新技术可能引发的潜在问题。然而，讨论很快便聚焦于推荐算法的角色，这些算法正在成为新视频点播系统的核心要素。在一次开发者、学术合作方和在线编辑共同出席、专门讨论推荐系统的会议上，Alice 总结了推荐系统的不同目标： > Alice 介绍了推荐算法的两种不同技术，解释了基于内容的过滤（content-based filtering）方法是做什么的，以及协同过滤（collaborative filtering）是什么。一位在线编辑问后者使用什么样的数据。Alice 解释说它只使用互动数据。她还提到，过滤气泡问题是开发中的一个难题，因为尤其是基于内容的过滤容易制造过滤气泡。不过，推荐系统的不同方法与目标可以概括为三种不同的思路：第一，推荐你最可能喜欢的内容，她将其归于“正是为你”（Exactly for you）的标题之下。第二种推荐方法可以产生令用户感到意外的结果，从而创造多样性——标题为“不一样的东西”（something different）。最后，一个目标可以是推荐有争议的话题。在这里，Alice 没有给出例子或可能的标题。编辑团队的成员打断了她，问她能否把一份文件发给大家，还是说他应该做笔记（田野笔记）。 为了在一个围绕“通过均衡而广泛的信息供给来支持民主”这一理念建立起来的制度中处理过滤气泡问题，项目响应了 Crawford（2016）的呼吁，从设计的视角来思考这一问题。对开发者而言同样重要的是，这样一个推荐系统的设计必须深深嵌入公共广播体制的理念与规范性之中，而不能只是简单地购买现成产品。在一次关于是否应购买外部解决方案的讨论中，Bob 在 Slack 上回复道： > 除了 Charlie 和 Alice 正在讨论的内容之外，我想再次强调，我们应当尽可能把这场讨论提升到一个更一般、更合理的层面，[……] 因为我们正在努力生产必要的专门知识，以便恰恰为公共广播实施并推进推荐（Bob 于 Slack #machinelearning 频道） 需要指出的是，尽管我们所处理的问题在一定程度上是德国特定法律环境的结果，但它并不是由法院或监管机构提出的，而是由参与研究项目的制度自身提出的。因此，公共广播机构希望基于一般性的话语，对开发此类产品时可能出现的潜在或想象中的问题作出前瞻性回应，并将讨论主动嵌入公共广播的道德与规范框架之中。因此，这样一个推荐引擎在事实上是否会违反该制度的法律义务，这一问题的重要性就不如如下观察：这种可能性成了一个关切事项。[^f06-5] 因此，法律议题是由该制度基于一般性讨论（例如 Neuberger and Lobigs 2010）动员起来的。关于德国公共广播机构特定角色的规范理念被动员起来，以改变算法所要解决的问题。开发项目由此在推荐系统的技术实现与一整套法律和政治秩序之间建立了直接联系。推荐系统不仅是计算、代码与数据库的技术实现，也是对德国民主及其制度的一种指涉。然而，这一在组织内部被动员起来的法律架构，并不是实施推荐算法时出现的唯一议题。 ### 竞争（Competition） 在开发项目中——以及项目之外——提出的第二个关切，是如何在一个以私营企业激烈竞争和技术进步为特征的媒介系统中保持相关性。Netflix 也多次被当作榜样提及，但同时也被视为竞争对手。下面这张幻灯片由 Alice 和 Bob 在开发团队中分发。它曾在一次由不同公共广播机构参加的会议上被讨论和分发，这些机构在会上直接将自身与 YouTube 和 Netflix 相对照。因此，它代表了公共广播机构内部的这一持续讨论：竞争问题恰恰是在同样提出多样性问题的那个制度内部被动员起来的。 > [图 6] 在项目团队中分享的幻灯片，显示不同视频点播服务的市场份额（图像见原书第 127 页） 尤其是年轻一代，在这里被描绘为一个不再遵循传统电视消费方式、并已按照 Netflix 等服务调整了观看习惯的消费群体或人群——Netflix 在此处也被明确提及。因此，Netflix 一方面被视为直接的竞争对手，但另一方面，也是更有意思的一点在于，它被视为一种塑造政治经济以及人们观看习惯的力量。这一视角的结果是：人们必须变得更像 Netflix，才能在激烈的竞争中生存下来，同时也要学习其最佳实践和成功经验。简言之，Netflix 成了开发项目——以及项目之外——的榜样。这一点在多次会议中都有所体现，但 Bob 在一次访谈中总结得最好： > 是的，我觉得，就像，最大的榜样当然是 YouTube 和 Netflix 这类东西。原因很简单，就是人们如何与之互动，它们对人们意味着什么，等等。而且在所有方面，凡是属于推荐的东西 [……] 它们当然都是教科书式的范例（Bob 访谈，笔者自译） 因此，Netflix 以两种不同的方式成为参照点。第一，Netflix 被视为一种市场力量，能够改变政治经济，这体现在观看习惯——例如刷剧（binge watching）——以及用户的期待之中。第二，开发项目所动员的算法技术恰恰来自这些行动者。而这些技术深受 Netflix 及类似服务之问题定义的影响。 用于推荐系统的技术之一是协同过滤。这一算法技术直接来自 Netflix 的领域。在我参与项目之初，Alice 发给我一篇解释协同过滤的论文，这篇论文直接产生于所谓的 Netflix 竞赛（Netflix Competition）。在那场竞赛中，Netflix 提供了其流媒体系统的一个数据集，要求参赛者为预测评分这一问题找到合适的解决方案。有意思的是，这篇论文不仅描述了 Netflix 竞赛以及在其中发现的技术，而且实际上正是由多次赢得该竞赛的团队撰写的。 > 我们团队的参赛作品，最初名为 BellKor，于 2007 年夏天在竞赛中登上榜首，并以当时的最佳成绩赢得了 2007 年进步奖：比 Netflix 提高了 8.43%。后来，我们与 Big Chas 团队联手，以 9.46% 的成绩赢得 2008 年进步奖。在撰写本文时，我们仍位居第一，正在一点点逼近 10% 这一里程碑（Koren, Bell, and Volinsky 2009, 47）。 据作者们所说，尽管这是一场竞赛，开发者社群中却一直有围绕这些技术的讨论。作者们描述道，他们“与其他顶尖团队的讨论以及竞赛论坛上的帖子表明，这些是预测评分最流行、最成功的方法”（Koren, Bell, and Volinsky 2009, 47）。因此，开发团队针对推荐问题动员了在其他语境中非常成功的算法方法。如果 Netflix 和 YouTube 是自身开发的主要竞争对手和榜样，那么至少看一看那些被视为表现最佳的技术，是合乎情理的。此外，这些公司也被广泛认为是推动推荐算法发展的重要创新力量（Amatriain and Basilico 2016）。然而，被引入开发项目的推荐技术，是一种规范秩序的产物，这种秩序带有非常具体的假设、目标以及技术得以开发并表现良好的环境。这种良好表现恰恰与算法应当解决的问题纠缠在一起。但 Netflix 要解决的问题究竟是什么？查看 Netflix 大奖（Netflix Prize）的网站，我们看到： > Netflix 的一切都在于把人们与他们喜爱的电影联系起来。为了帮助顾客找到那些电影，我们开发了世界一流的电影推荐系统：CinematchSM。它的任务是根据某人对其他电影喜欢或不喜欢的程度，预测他是否会喜欢某部电影。我们利用这些预测，根据每位顾客独特的品味向其提供个性化的电影推荐。尽管 Cinematch 表现相当不错，它总还可以做得更好（Netflix Prize）。[^f06-6] 推荐的理念在于匹配用户独特的品味，预测一部电影的可享受程度。这或许并不令人意外，但仍然值得指出，因为推荐可以服务于许多不同的目的。推荐系统的一般目标，一方面建立在信息过载（information overload）[^f06-7] 以及多选项社会中选择负担的叙事之上。因此，推荐系统可以帮助管理和降低现代信息社会的复杂性。这一点也体现在《推荐系统手册》（Recommender Systems Handbook）的序言中，这本书同样是 Alice 提供给我的。Ricci、Rikach 和 Shapira 在其中写道：“推荐系统是在线用户应对信息过载的宝贵手段，帮助他们作出更好的选择”（Ricci et al. 2011, vii）。然而，何为更好的选择并未得到界定。视推荐系统的根本目标而定，生产推荐相关性的形式有许多种。正如 Morris（2015）所指出的，布迪厄式的视角会认为，推荐系统作为一种文化中介者（cultural intermediary），其任务不在于推荐你喜欢的东西，而在于推荐那些可能体现某种文化惯习（habitus）、标示对某一社会阶层或社会环境之归属感的东西。因此，一个假想的布迪厄式推荐系统，其功能恰恰在于不让推荐与你的品味相匹配，而是推荐违背你最初享受观念的物品。一个促进多样性的推荐系统——如 Helberger（2015）所设想的那样——同样未必会推荐你喜欢的物品，而是推荐能够补充一种多样化信息食谱（information diet）的内容。因此，值得注意的是，推荐相似物品以匹配用户品味的推荐系统理念，已经不言自明到了这样的程度：对许多人而言，质疑这种形式的相关性显得很奇怪。不过，回到上述论文，这些假设的背景在其中表述得非常明确。 > 现代消费者被各种选择所淹没。电子零售商和内容提供商提供海量的产品选择，以前所未有的机会满足各种特殊需求和品味。将消费者与最合适的产品相匹配，是提升用户满意度和忠诚度的关键（Koren, Bell, and Volinsky 2009, 42）。 鉴于 Netflix 的强大影响力以及上引 Koren、Bell 和 Volinsky（2009）的论述，这种选择模式似乎并不反映一般性的社会需求，而是针对一种明确的、以市场为导向的需求：让消费者的注意力停留在服务/产品提供者的网站上，并确保他们会回来。Seaver（2019）甚至在这方面将推荐算法比作陷阱。因此，目标在于个体消费，而不是社会地位（“看我看了多么高级的电影”），也不是以信息需求为导向。此外，表述所要解决之问题的措辞选择，也反映了这种态度。推荐系统针对的不是公民、个人或成员——这里每个类别都带有各自的意涵——而是消费者。考虑到这一技术的经济起源（Amatriain and Basilico 2016）以及推荐系统所创造的市场价值，这也不足为奇。时至今日，这些技术已是整个商业模式的核心要素（Smith and Linden 2017），而对用户品味的预测则是市场形成的关键要素（Poechhacker and Nyckel 2020）。因此，可以公允地说，推荐系统的开发主要由市场利益驱动，这一点体现在算法被开发的方式之中。正如 Hallinan 和 Striphas（2016）所论，算法是一种特定竞赛设计的产物。换言之，一个社群明确表述的问题及其视为理所当然的方法，深刻影响着算法技术的构建。 需要指出的是，这本身并不是一种批判，而更多是对该算法技术的起源及其所假定要解决的问题的一种反身性（reflexive）说明。这种反身性在项目中变得很重要，因为它表明：通过社群的努力以及学科性委派（disciplinary delegation）与铭写位移（displacement of inscriptions）的过程，后续的开发项目会受到影响。问题及其解决方案，是经由特定的算法技术被引入的，而这些技术与种种服务相连，这些服务带有其自身以市场为导向的视角与愿景，并被铭写进技术之中。这些技术中的信息选择由相似性与市场逻辑所引导。而且它们是在一个经济性的、市场驱动的环境中被开发和评估的。因此，其目标是将信息缩减为一组足够相似的物品，以使消费者持续与平台互动。 ### 技术的议题（Issues of Technology） 从 Netflix 及类似来源引入算法技术，也同时引入了这些技术关于问题、互动与解决方案的脚本化假设。正如我们在前几章所见，算法技术并不只是可以拿来应用的工具，它们同时也指涉整个社群以及由这些社群所表述的议题。在德国一家公共广播机构的语境中，推荐系统所解决的问题，与关于公共广播机构应当如何运作的规范理念之间产生了某些摩擦。推荐系统被视为给广播机构的在线业务引入了一些成问题的特性。这两种问题定义——一种来自 Netflix 之流，另一种来自公共与民主话语——并不是凭空在项目中被动员起来的，而是各自连接着更大的规范秩序。其一是一种广为流传的理解的核心，即把公共广播视为德国民主的核心制度；其二则来自一个讨论并开发推荐系统的商业社群。这两个被动员起来的问题，在推荐系统所表述的目标中制造了一种必须加以处理的张力。如前所示，开发项目夹在两种非常不同、被引入开发项目的关切与问题之间——而且二者彼此直接对立。作为一个肩负促进民主话语这一特定任务的公共制度，这引出了在推荐系统中生产多样化信息集合的想法。然而，竞争的关切却导向了恰恰相反的问题定义——即生产个性化的、经过缩减的信息集合，以辅助媒介选择，同时让用户留在平台上。 要理解作为整体性传播空间之驱动力的多样性与媒介服务个性化之间的这种张力，我们需要重新审视其背后的公众观念。公共广播服务的民主功能，建立在提供全面信息以使公共领域中的讨论成为可能这一理念之上。重新表述关于公众的种种理念，或许能为契合当前媒介格局转变的解决方案铺平道路，并在推荐技术中重新铭写假设、议题与解决方案。因此，我们首先需要理解当代民主在过滤系统方面的根本问题，并对其加以重新表述，以找到社会技术的答案。虽然我已经讨论过德国的情况，但它只呈现了这一议题的一个具体实例，而这一议题可以在更广泛的意义上被问题化。因此，在下一节中，我将讨论政治理论中关于过滤气泡的一般学术讨论，以及专门针对推荐系统的讨论。 ## 算法、话语与若干议题（Algorithms, Discourse, and Some Issues） 自过滤气泡或回音室出现在学术讨论中以来，这些概念就一直被与整体意义上的民主联系在一起。欧洲委员会（Council of Europe）在 2007 年宣称，“媒体多元化与媒体内容的多样性对于民主社会的运作至关重要”（Council of Europe 2007 cited in Helberger 2018, 155）。如前所述，这一点已被德国宪法法院所采纳，也成了软件项目中的一个议题。然而，这也关涉民主内部其他更宏观的问题。如果像人们所宣称的那样，广泛的信息食谱是当代民主的必需品，那么这就触及了关于民主应当如何运作的某些假设与预设。我将重新审视那些可以与过滤问题相关联的民主理论，以及公共话语在其中所扮演的角色。这样做将有助于说明，为什么推荐系统和其他信息过滤器被认为是危险的。在论证中，我将对这场讨论作一个宽泛的概览——对民主之传播结构的深入讨论，即便不需要一整座图书馆，也肯定需要一本专著。不过，目的并不在于提供全面的讨论，而在于凸显政治理论中公共话语的核心特征——以及为什么推荐系统似乎挑战了公共话语在民主社会中的功能。为此，我将引入理论路径的一种区分：其一我称之为以共识为导向的民主理论（consensus-oriented democratic theory），其二则是冲突的政治理论（political theory of conflict）。与所有分析范畴一样，这样的区分总有几分人为，也可以找到对理论贡献进行秩序化的其他形式。但我这样做，是为了说明：这些不同的民主话语概念在根本上面对着引入新的算法媒介时的同样挑战，尽管解决方案会有所不同。随后，我将回顾在公共广播语境中被讨论的多样性概念，说明这一概念回应了哪些问题、它本身又带来了哪些问题，以及我如何将其置于民主理论视角的更大框架中加以语境化。最后，我将指出这场讨论的两个缺陷：对一种整体性公共话语的假设，以及多样性的去语境化。 ### 政治理论的议题：公共话语的碎片化（Issues of Political Theory: Fragmentation of Public Discourse） 媒介系统是政治共同体的核心要素，因为像民族国家这样的政治共同体，其理念本身正是经由并借助通过这种传播形式所传递的共享想象与愿景而形成的（Anderson 2006）。为了使一个共同体能够将自身视为共同体，必须找到某种能够以某种方式把该社会所有成员联结在一起的传播形式。Anderson（2006）所指涉的，是把那些在时间和空间上原本永远不会相遇——因而也无法组成一个社会——的个体黏合在一起的问题。因此，对 Anderson（2006）而言，一个民族的媒介系统是构成共同身份、共同目标和共同想象（imaginaries）的关键要素。正如 Taylor（2004）所表述的，后者在构成关于事物应当如何的共享理解方面十分重要。也就是说，它们传递着一种供个体取向的规范框架。书写文本或录制声音与图像，使超越当下情境、跨越地理与时间距离的新型社会关系成为可能（另见 Marvin 1990）。这也就把社会建构的关系性观念（例如 Simmel [1908] 2009）与诸如“社会”这样的稳定社会实体的整体性理念联结在一起。因此，核心的媒介基础设施是现代社会的重要制度。但媒介系统被赋予的角色，在不同的政治体制中各不相同。 自由民主的前提是多元主义，即多元主义是“民主之公共文化的一个永久特征”（J. Rawls 2005, 36）。因此，自由民主的理念建立在这样一些形式之上：通过包容与话语的手段，在不同的理念、利益与身份之间寻求妥协，以在不同立场之间达成政治共识。与此同时，为了防止极化和极端的立场，这就要求公民能够自由而自主地形成一种知情且有教养的意见。虽然我在这里所说的以共识为导向的民主包括一系列不同的路径和理论，但这是它们共有的一个特征。对于自由民主的重要思想家 John Stuart Mill（[1861] 2020）而言，知情的公民是参与自由民主的一个重要前提。这一观点基于启蒙运动关于政治上受过教育之公民的理想，即公民能够基于理性推理作出自己的决定。与这一理念并无太大差别，共和主义的民主视角追求的是有德性的公民，这样的公民“应当是开明而知情的，以便代表共同体作出良好决定”（Mossberger, Tolbert, and McNeal 2007, 6）。而协商式或参与式[^f06-8]的路径同样强调，有能力且知情的公民是成功参与的前提。参与要求参与者有能力被倾听、从而被包容，但也要求他们能够接纳他人的论点与立场，从而达成共同的解决方案或结论。然而，对有能力之成员的需求，给以共识为导向的民主形式造成了一种两难。这些理论在表述对受过教育且知情之公民的需求时，表述了一种基于能力而非群体成员身份的包容或排斥模式。这对参与式或协商式民主的路径而言尤其成问题，因为包容对这些民主形式至关重要。这一张力随后以不同方式得到了化解。例如，Barber（1988）假定公民已经具备这些品质，也就是说，Barber 把知情且有能力的公民视为既定前提。他进一步论证，处理政治议题的能力是面对这些议题的结果。因此，让公民参与政治讨论、使其面对不同的议题，便能使他们在民主体制中参与进来。在这一论证中，代议制民主不允许有能力的公民出现，因为政治议题是在专家之间而非与公民一起讨论的（另见 Parry 1989）。另一些思想家如 Warren（1992）则不认为我们可以简单地假定这些品质，因此提出有必要使个体成为有能力的公民。为了作为民主而运作，国家必须通过为人民提供信息和教育来生产其自身的基础。 从这些民主路径中，可以推导出国家有义务通过提供信息，使其公民能够参与政治讨论。这一要求后来——例如在德国语境中——被表述为公民的一项权利，同时也物质化为一个积极使公民能够自我获取信息的公共广播体系。在一个知情的公众之中，所有论点都得到交换和评估，而且——最重要的是——能够被看见。有经验证据表明，这样的公共领域能够促进社会包容（Huckfeldt, Johnson, and Sprague 2002）和政治参与（Mutz 2006）。因此，自由民主的想象建立在生产一个共同传播空间的基础之上，在这个空间中，这些不同的声音和意见得到讨论。这一视角被 Habermas（1991）推向了极致：他认为公共领域应当是一个免于权力与压迫的领域，实现所谓的理想言说情境（ideal speech situation）。在哈贝马斯式的公共话语中，最佳论点之所以胜过其他论点，仅仅是因为其合理性，而不是因为某种权力游戏。这导向这样一种状况：不仅每种立场都得到倾听，而且政治决定也获得普遍接受。因此，一个共享的公众是实现自由的、协商的、更不用说理性的治理与民主形式的关键要素。 能够以理性方式形成自身意见的知情公民这一理念，受到了不同学者的批评。其一，受过教育的公民这一理念表现出将部分人口排除在投票之外的倾向（Ten 1998）。在这一视角下，参与无法像在一个多元社会中所应当的那样具有包容性。尤其是因为这会把结构性不平等延伸到政治领域。通过表述一种受过教育的、理性的、知情的决策理想，社会经济上处于不利地位的那部分人口将被排除在政治体制之外（Englert 2016）。针对理性与协商式共识理想提出的第二个论点，反对的是共享合理性的理念。知情且受过教育的选民这一理想，取决于共识可以通过理性论证与妥协而达成的理念。然而，John Rawls（2005）认为，寻求一种外在的合理性或任何其他共识建构原则，都会破坏自由主义的原初目标及其对多元主义的承认。如果存在一种真正的合理性，多元主义就会被去合法化，因为我们拥有了评估政治立场的外在参照。多元的理想于是偏离了这一种真正的合理性——因而是错误的。Schumpeter（[1942] 2008）也提出了这一批评，他关注的是他所称的古典民主理论对公共利益（public good）的取向。按照 Schumpeter 的说法，并不存在一个可以识别的、一群人能够就其达成一致、或能够通过理性论证而被带向一致的单一公共利益。这不仅仅是因为关于公共利益的理念过于不同、过于多元。按照这一批评，归根结底，生产一个受过教育且知情、因而能够参与政治话语的公民，这件事本身就偏向一种霸权性的政治与合理性理念。 因此，对另一些人——例如 Chantal Mouffe（2005）——而言，民主与政治（the political）并不像 Habermas 所构想的那样是对共识的寻求和理性论证的结果，而是创造了这样一种潜能：“颠覆民主社会中始终存在的、将其边界自然化并将其身份本质化的诱惑”（Mouffe 2005, 105）。也就是说，每一种民主治理形式都是一个霸权体系，基于（政治）权力的积累而偏向某种立场而非另一种。民主与其他体制的区别在于重新安排权力分配的可能性，即把权力交给其他理想和行动者。在这种可能性不复存在之处，就不存在真正的民主。然而，以共识为驱动的民主会导向一种后民主（post-democracy）状态（Crouch 2004; Ranciere 2005），其中公民的参与被削弱。例如，Ranciere（2005）认为，共识建立在排斥那部分在制度化形成的政治共识中未被代表的人口之上。结果，共识暗示了一种共同达成的决定，而它可能只是把偏离的立场排除在了话语之外。因此，对 Mouffe（2000, 62）而言，至关重要的是不同的“围绕明确区分的立场而形成的集体身份，以及在真正的替代选项之间进行选择的可能性”。在对以共识为驱动之民主的批判中，她认为一种共同的合理性导致了这样一种政治体制：不同行动者向颇为相似的立场趋同，不同选项之间只剩下细微差别（Mouffe 2005）。[^f06-9] 按照 Mouffe 的说法，由于不提供真正的替代选项，政治体制被削弱了，并让颇为极端的政党得以崛起。虽然冲突驱动的民主理念在一些根本点上不同于自由的、共识驱动的民主体制理念，但公共领域的角色在这里同样相当重要。其重要性不在于教育公民、从而使其能够参与知情的讨论，而在于使真正的替代选项变得可见，从而提供成为另一种集体身份之一部分的可能性。在民主体制中于不同立场之间进行选择的能力——无论这些立场是否被视为理性的——取决于首先能够看见它们的能力。因此，一个使某些立场变得不可获得的媒介系统会阻碍潜在的变革——其效果与根本没有替代选项无异。[^f06-10] 因此，在这种民主政治体制的概念中，一个回响着大多数（如果不是全部）意见的共享公众同样重要。 对于不同的民主理念而言，共享的公众同样重要：要么是为了生产一种共同的公共利益理念或理性决定，要么是为了以替代性的理念和路径与既有体制相对峙。诸如搜索引擎或推荐系统这样的过滤系统，如今正积极地挑战着媒介系统在这样一个社会的政治体制中的这一功能。基于经验研究，Thorson 等人（2021）认为，虽然个体选择对信息接触有重要影响，但推荐算法充当着集体行动与个体选择之间的中介者，从而塑造了信息接触。在这种信息接触的共同生产（co-production）中，算法扮演着核心角色，它基于所观察到的集体行为为用户选择合适的信息。因此，尽管我们生活在一个可获得信息比以往任何时候都多的时代，这些机制却减少了我们可获得的信息量。原则上，这是一种有意义的复杂性缩减方式。然而，当涉及关于政治议题的公共话语时，这些技术可能会使政治话语碎片化。 从这样一种视角出发，就可以清楚地看出，为什么过滤气泡的出现以及随之而来的公共领域碎片化，对于话语导向和冲突导向的民主形式而言似乎同样成问题。如果没有共享的信息使人们自我认同为一个更大共同体的一部分，Anderson 所指的那种想象便失去了将高度复杂且分散的政治共同体黏合在一起的能力，从而导致一个由对立且往往互不相连的社会群体构成的、极化而分裂的公众。这不仅对作为想象的共同体（imagined community）本身的民族国家成问题，而且尤其对当代民主成问题（例如 Sunstein 2009），因为在共享话语中寻求政治共识的过程遭到了破坏。在过滤气泡和共同体之间传播隔离的条件下，这些话语变得自我指涉。通过计算，过滤算法不仅把内容分类为相关或不相关，还创造出一些人群，这些人——基于所观察到的行为——作为一个类别而行动。共识在每一个过滤气泡中各自达成，导致民主与社会的多重实演，这可能破坏参与，并生产出极端且不可通约的立场。[^f06-11] 就想象的共同体瓦解为许多不同的共同体而言，这是一个问题。 如果我们现在设想一个缓解这些效应的推荐引擎，我们会得到一种理想类型的路径：它分发种类广泛的信息，展示外面都有些什么。但这样一个哈贝马斯式推荐系统不仅会提供“其他论点存在”这一信息，还会使公民能够理解和评估这些论点。因此，一个哈贝马斯式推荐器将是一种对论点进行语境化的持续练习。这是一种理性算法的理想，处于一场永无终结、只要出现更好的论点就总能被重新开启的话语之中。 在那些不偏好共识、而偏好冲突导向之民主参与形式的政治理论中，过滤系统同样是一个问题。Crawford（2016）援引 Mouffe 提醒我们，算法未必具备使其成为公共立场之良好中介者的那些品质。由于遵循选择相似内容的逻辑，用户——潜在地——以一种限定其可能采取之立场的方式被治理。正如 Mouffe（2005）以及其他人（例如 Papacharissi 2010）所论，虽然数字技术尤其是互联网可以成为增加和支持这些不同立场及其涌现的工具，但问题更多在于互联网的实际结构：在其中，一些过滤系统——例如 Google 的搜索引擎或 Facebook——成为进入这些信息领域的核心入口。通过生产内容同质的微型公众（micro-publics），不同立场之间产生异议的可能性即便没有被剥夺，至少也被削弱了。因此，作为过滤气泡之主要关切的传播与信息碎片化，似乎提供了颠覆“不断演进、永不完美的民主”（Papacharissi 2010, 79）中所需之颠覆的手段。然而，算法缓解策略将需要一种不同于哈贝马斯式推荐系统的路径。一种激进民主的算法会去寻找替代性的、对抗性的立场，从而使人们能够围绕清晰可辨的立场来确定自己的归属。因此，这样一种算法未必会去寻找对论点的语境化，或提供关于某一立场的更多信息，而是会凸显该立场与其他立场的不同之处。 虽然传统推荐系统所带来的挑战对这两种民主话语路径而言在根本上是相同的，但解决方案可能看起来不同。然而，在这两种视角中，共同传播空间的政策都是防止某一群体支配其他群体的手段（另见 Karppinen 2013）。因此，建立一个共同的、包容的、独立的传播基础设施，是在一个（政治）共同体中限制和分配权力的重要前提。这些一般性关切也在公共服务媒体特有的话语中得到了讨论，这一话语尤其聚焦于推荐系统与信息多样性的问题。 ## 多样性话语（Diversity Discourse） 关于公共服务推荐系统的争论并不新鲜。恰恰相反，围绕过滤气泡（filter bubble）以及公共广播机构在推荐系统方面所负民主义务的讨论，早已在学术界内外引发热烈争论。这一议题不仅在德国法律语境中得到讨论（e.g., Dörr, Holznagel, and Picot 2016），而且至少自 2011 年以来，也在一个规模虽小却不断壮大的国际性、跨学科学者共同体中得到讨论（e.g., Breeman, Breeman, and Helberger 2011; Helberger 2011; Seaver 2012）。 正如上一节所讨论的，民主话语取决于这样一种观念：存在一个由彼此交流的观念、理想与立场在其多元性中构成的共同领域。然而，这随即引出一个问题：这样一种观念能够或者应当如何在媒体系统层面得到处理？随后，Helberger（2011）或 Napoli（2011）等学者将多样性（diversity）表述为一个概念和政策目标，以便在媒体情境中将多元主义（pluralism）的观念加以操作化。按照 Helberger（2019）的理解，多样性因此必须囊括特定共同体内的每一种重要利益，包括关于政党、立场、经济发展以及宗教等非国家利益团体的新闻。这种对多样性的理解如今似乎与推荐系统的功能相抵牾。因此，在下文中，我将聚焦于在多样性名义下被讨论的问题，同时也关注多样性概念本身的缺陷。 多样性是公共媒体系统中新闻分发的核心原则。然而，随着媒体技术从线性分发模式向非线性分发模式的持续转型，推荐系统正在成为广播中的重要元素。按照 Van den Bulck 和 Moe（2018）的说法，这给公共广播机构造成了一种两难。一方面，它们肩负需要履行的法律和政治任务；另一方面，这项技术的设计初衷是提供依用户需求而定制的内容。在线性、集中式广播的条件下，多样性观念植根于编辑的实践之中：由编辑决定节目应当是什么样子、哪些信息需要播出以及以何种形式播出。然而，随着向新的媒体生态以及过滤信息的算法的转变，多样性与流行度之间出现了一种张力。 因此，作为公共广播政策目标的多样性似乎与现代推荐系统相抵牾。人类编辑制作的节目代表着社会的多元性，而算法选择的内容则多样性较低，并且有可能使媒体组织承受制作流行内容的压力。因此，这些系统并不必然遵循作为公共广播机构精神气质（ethos）之组成部分的多样性观念。按照 Sørensen（2019）的看法，推荐系统在信息提供的多样性方面可能引发的这些问题，加上公共广播服务不得不周旋其中的政治环境，导致公共广播机构对推荐系统的采用相当迟疑。 这不仅在政治层面，而且在概念层面带来了挑战。多样性本身就是一个难以把握且多维度的概念（Napoli 1999）。Helberger（2018, 154）指出，在这场讨论中“仍然存在相当大的概念分歧”。这一点在 2018 年成立，今天依然成立。在这方面，多样性被区分为结构多样性（structural diversity）、内容多样性（content diversity）和接触多样性（exposure diversity）来讨论（see also Joris et al. 2020）——这导致了多样性概念在用法上的某种“多样性”。结构多样性指媒体所有者和来源的多元性，处理的是媒体部门中的市场集中问题（Karppinen 2013）。内容多样性处理的是被分发且实际上可以获取的内容的多样性（Roger & Tang 2009; Hargittai 2000），即向用户提供的内容。而接触多样性处理的则是用户实际主动消费的内容的多样性（Napoli 2011）。不过，还存在其他形式的多样性，它们提出了代表性（representation）问题。Malik（2018）提醒我们，多样性也可以应用于内容生产者群体，或应用于被推荐内容中所呈现的社会群体，例如以种族偏见和性别偏见的形式出现。由此可见，多样性作为一个概念几乎被应用于媒体系统的每一个层面：生产、组织、分发和消费。因此，多样性是一个涵盖了极为多样的多元性观念的总括性术语。 就推荐系统而言，多样性主要是在内容多样性和接触多样性的意义上被讨论的，前者着眼于供给侧，后者着眼于消费侧。至于哪一种代表了公共广播的精神气质、从而履行了公共媒体系统的民主功能，学界存在争论。推荐系统最初的问题在于可获得信息的减少——从而也是选择的减少。因此，在推荐中创造多样性，便可以赋权观众，使其能够从不同的、想必是陌生的内容中进行选择。Bennett（2018）认为，通过一扇“意外发现之窗”（serendipity window）（Bennett 2018, 118）呈现新颖、令人惊讶或具有挑战性的内容，将使公共广播服务区别于商业竞争者。对于实现德国联邦宪法法院所表述的信息权而言，这里所提出的内容多样性与意外发现无疑似乎已经足够。然而，Napoli（2011）和 Burri（2015）等其他学者则主张接触多样性。他们的论证基于这样一个观察：所提供内容的多样性与用户所消费内容的多样性之间，并不存在确凿的或因果性的联系。因此，以知情公民（informed citizen）这一政策目标为背景，对这些学者而言，接触多样性比内容多样性更为重要。后一种路径关乎使公民能够获得信息，而前一种路径则主动地想要生产出知情公民。因此，正如 Sørensen 和 Hutchinson（2018）所表明的，推荐系统的问题界定取决于其背后的社会想象，以及赋予公共服务推荐系统的特定角色，这引出了“公共媒体服务（PMS）语境中公共广播服务（PBS）家长主义这一棘手问题”（Sørensen and Hutchinson 2018, 97）。因此，人们要处理哪一层面的多样性，取决于所作出的规范性假设。 ## 争论中的若干缺陷（Some Shortcomings in the Debate） 在本节中，我简要回顾了关于算法系统中过滤气泡的讨论、公共领域（public sphere）在民主中的角色，以及多样性在这一讨论中的角色。然而，这一讨论在一个重要方面有所不足。公共领域和多样性都被当作特定社会中的静态元素来讨论。然而，要充分把握媒体技术、民主话语与多样性之间的关系，将我们的注意力转向这些元素的生成过程可能会有所助益——尤其是在新媒体生态不断变化的条件下。 首先，将我们对公众的看法从某种既定之物转向在特定社会技术环境中被达成之物，可能是富有成效的。这样做就是将公众视为实践以及异质行动者——包括通信基础设施——之间互动的结果。于是，公众的形成会在不同的技术与社会配置下发生变化——它是动态的、偶然的。对于 Anderson 以及其他一些人而言，20 世纪发展起来的大众媒体系统能够生产出这样一种公众，但这只对通信渠道与结构的某种特定配置成立。在线性广播的条件下，一个集中式的线性通信平台得以建立，（公共）广播机构充当着信息削减的代理者。在那里，多样性是通过编辑团队的专业知识与经验生产出来的，由他们将不同且有意义的媒体内容组合在一起。然而，在当前数字化、网络化传播的条件下，这一系统已转变为一个非线性的、往往是去中心化的系统，新出现的行动者借助搜索引擎或推荐系统等新手段来选择、削减和分发信息。因此，一个共同公众的生产——倘若它曾经真正实现过的话——必须适应新出现的通信基础设施与模式。 与此同时，关于多样性的讨论把信息分发与信息消费之间的关系抽象化，归入“算法”这一概念之中。围绕搜索引擎或推荐系统的讨论往往把过滤气泡效应仅仅归根于算法。尽管这一议题上最初的文献是理论性的，但对经验证据的探寻仍在继续。针对 YouTube 的经验研究发现，基于该平台推荐算法存在强烈的极化效应（O’Callaghan et al. 2015）。在搜索引擎方面，学者们也认为，我们可以观察到搜索结果偏向已经流行的内容的偏差（Halavais 2017; Introna and Nissenbaum 2000; Rogers, Becker, and Stalder 2009）。这在信息选择方面便成了问题。Unkel（2019）在一项经验—实验设计中表明，搜索结果的排序对信息选择有很强的影响。因此，这些发现似乎支持迄今为止所表述的过滤气泡假说。然而，另一些研究得出的结论是，不存在过滤气泡效应，或者这种效应并不强烈（Courtois, Slechten, and Coenen 2018; Puschmann 2019）。尤其是，Bakshy、Messing 和 Adamic（2015）在一项经验调查中发现，社交网络对过滤气泡形成的影响并不像通常认为的那样强烈，因为这些气泡更多是用户自己塑造其环境和选择逻辑的结果。Puschmann（2019）在考察 Google 搜索和 Google 新闻中政党呈现方面可能存在的过滤气泡之后，得出了类似的结论。此外，正如 Quattrociocchi、Scala 和 Sunstein（2016）在 Facebook 上所观察到的，确认偏差（confirmation bias）现象已被认定为解释回音室（echo chamber）形成的一个重要因素。另外，经验检验表明，个性化并不必然导致多样性降低（Möller et al. 2018），甚至会使所消费新闻的多样性有所提高（Beam and Kosicki 2014）。 这些不同的发现提示了这样一个问题：过滤气泡和有偏差的信息选择（也）是平台特有逻辑以及所涉异质行动者之间互动模式的结果。过滤效应的出现不能仅仅归因于某个算法，而应同时考虑平台以及平台所嵌入的更广泛的媒体环境（Helberger 2018）。搜索引擎的运作方式不同于社交网站。YouTube 本身作为一个平台，兼具这两个世界的特征。因此，信息接触是一个多维度的过程，在这一过程中，主动选择与算法策展（algorithmic curation）共同作用而形成接触。无论在内容提供还是在算法选择过程中，实践与期待的持续转变与调适都会产生高度不稳定的过滤结果，这些结果建立在对信息来源的排除与纳入之上。因此，一个经算法计算的公众的结果，总是从消费者、提供者与算法系统之间复杂的互动中涌现出来的（Mager 2012）。[^f06-12] 然而，这其中也包括“为试图‘操纵’（game）搜索算法而出现的个人、机构和行业”（Crawford 2016, 82）。用户通过选择和行为模式塑造自己的环境，提供者试图操纵算法，而算法本身则通过重新计算对这些过程作出反应。但与此同时，平台服务提供者也在不断调整算法，以规避不想要的效应（Mager 2012）。然而，并非每个人都同等地拥有影响选择过程的能力。虽然在数学上不同的互动之间并无区别，但技术诀窍和平台的设计会以不同方式分配影响信息流结果的权力，使少数人得以推送某些内容，从而加剧回音室效应（Jamieson and Cappella 2008; Meraz 2009）。此外，媒体学者批评说，新形成的群体可以通过 Facebook 广告系统而被定向触达。就这样，Facebook 允许广告主专门定向那些被其标注为“情绪不稳定的青少年”和“仇恨犹太人者”的群体（Angwin, Varner, and Tobin 2017），或者定向具有特定政治兴趣的人群，从而得以针对这些群体投放量身定制的内容——并可能影响投票行为（Kim 2016; Kim et al. 2018; Kreiss and McGregor 2018）。因此，这些机制非但没有尝试将这些被共同生产出来的亚群体纳入更广泛的公众或新闻接触之中，反而可能强化既有的极化，并建立新的集体行动形式（Bimber 2003; O’Callaghan et al. 2015）。不过，这并不必然是算法的结果；在广告定向的情形中，它是平台及其商业模式的一种特定逻辑。因此，过滤气泡问题必须针对特定的信息提供形式加以语境化，无论是搜索引擎、社交媒体网站、视频门户还是其他。过滤气泡并不只是某个算法的结果，而是在用户、算法、平台和经济利益之间共同建构起来的——并且需要具备在所有这些因素之间周旋的、针对特定平台的专业知识（Allgaier, Geipel, and Morcillo 2019; Cotter 2019）。 这些发现表明，我们不能孤立地谈论推荐算法。相反，具体技术被应用于其中的语境至关重要。要解释过滤技术的效应，我们必须承认算法技术及其历史，以及它们在其中运作的平台逻辑。讨论的这些方面指向这样一种理解：公众与多样性是在一种情境化的互动秩序中的实践成就。探讨公众角色的路径不应只是假定外面存在着一个公众，而算法如今正在扰乱或损害它。相反，把公众理解为一种成就而非既定之物，便将问题转向了公共话语的生成过程。转向这样一种视角，也使我们能够看到，作为规范性概念的多样性如何与这些生成过程相互作用，以及我们可以如何改变这些过程，以实现某种特定的多样性规范目标。因此，这要求对推荐系统与多样性这一规范目标展开细致且语境化的讨论。媒体技术是这些生成过程中的一个重要元素，而过去几十年间的技术发展已经改变了公众被构成的方式。因此，重新设计媒体行动者也会改变公众被生产的方式。要做到这一点，我们必须首先改变我们的公众概念，并追问政治信息与传播的空间是如何被生产出来的。因此，在下一节中，我将基于 John Dewey 的实用主义哲学，讨论一种理解公众（public(s)）的不同路径。 ## 实践公众（Practical Publics） 公共话语与信息提供的问题，并不是在互联网被发明之后才出现的新现象。转向基于实践的公众概念，尤其是来自美国实用主义（American Pragmatism）[^f06-13]的观念及其在 STS 中的接受，可以为关于数字技术的角色以及如何应对一个日益分裂的公众的讨论增添一些东西。在下文中，我将以 John Dewey 关于民主与公共领域的构想及其在 STS 中的接受为论证基础。基于实用主义者对个体实践的关注，Dewey 提出了一种公共参与理论，该理论建立在两个基本假设之上。第一，政治参与是以在行动之中（in actu）产生的议题（issue）与问题为中介的（see esp. Marres 2007）。第二，人们相当有能力自行识别相关的话题。因此，公共讨论并不（仅仅）围绕专家所生产的话题展开，而是围绕人们在其（互）动中所遭遇的话题、对象和问题展开。这里需要注意的是，对 Dewey（[1927] 2006）而言，个体所面临的问题是其他个体或制度的集体性、非意图行动的结果。[^f06-14] 因此，在一种以实践为导向的路径中，公众是集体行动后果的产物。 > 公众由所有那些受到交易（transactions）间接后果影响的人组成，这种影响达到了被认为有必要对这些后果加以系统照管的程度……这种［对这些后果的］监督和调节无法由初级群体自身来实现。……因此，若要对这些后果加以处理，就必须设立专门的机构并采取专门的措施（Dewey 1927, 15–16 cited in Marres 2007, 767-768）。 因此，对 Dewey 而言，公众是受到（集体）行动结果影响、且这些影响对其成为问题的那群人。Dewey 相信这些问题可以被客观地识别，而 Marres（2007）则认为，问题必须被表达出来（articulated）才能成为议题。因此，在对实用主义的现代诠释的意义上，只有被传播的问题才是议题。在把问题表达为议题的过程中，我们也把客观给定之问题的观念转向了议题及其相应的公众，将其视为一种实践成就。把不同行动者聚集在一个议题周围的过程，是一个关乎传播、诠释和地方性实践的问题。一种议题界定可能被某人接受并应用于自身的处境——也可能不会。基于这一推理，实用主义视角将公众及其相应的议题视为一连串互动的结果。公众并非只是既定的，而是在实践中被建构的。 这种公众观念包含一个重要结论——并不存在一个单一的公众。相反，诸公众（publics）是将人们与从集体行动中产生的议题联系起来的结果（Dewey [1927] 2006）。如果公众被界定为个体与某一特定的、已被表达出来的问题之间的联结，那么有多少议题，就有多少公众。单数的公众并不存在，而是总是围绕不同议题重新配置自身，形成 Dewey（[1927] 2006）所谓的议题公众（issue-publics）。因此，我们面对的是复数的公众。并非每个人都必须参与每一场讨论，而只需那些与手头所讨论议题相关（或认为自己相关）的人参与。因此，公众也并不受制于某种将国家这样的固定共同体维系在一起的共同想象。[^f06-15] 与其把某种共同想象假定为共享公众的解释性原因，不如追问：实践的协调如何能够通过实践手段生产并稳定这样一种公众？Dewey 将关注焦点从（看似）独立的公众转向了构成不同公众的地方性、实践性过程。 如今，一种重要的政治探究模式是使议题变得可见（Barry 2001）。Barry 认为，政治抗议并不必然具有阻止干预的功能，而是要把议题提上政治议程并使之可见。因此，“在公共场合讲出一个真相［……］总是意图对他人的思想产生影响或提出挑战，或影响他人的行为”（Barry 2001, 178）。通过让他人听到自己所识别的议题，这些话题只要让他人面对，就会成为他人的问题——并使他们有机会自己也把它们变成议题。然而，这种议题制造（issue-making）并不仅仅通过发声或抗议来实现，而是由技术与物质基础设施促成和中介的（Marres 2012），这些基础设施对于建立共同体至关重要（Callon 2004）。因此，对 Marres（2007）而言，关键在于关注议题如何被公开这一问题，将其视为民主的一个条件。通过使议题可以公开接受审视，行动者便能够依附于议题，并使议题变得更强有力。 在这样一种公共话语构想中，专家与专业知识的角色必须被重新诠释。民主有赖于这样一种必要性：公共媒体在哪些议题被公开这一点上不作选择性处理。相反，它应当设法使各种各样的议题能够为广泛的受众所获得——并由此有可能使议题实现规模上的转变。Dewey 将公众界定为受集体行动后果影响的个体之总和。通过广泛分发这些议题，媒体行动者的制度化行动将集体行动的后果进一步扩展，并使其能够在更广泛的人群中得到反思。这样一来，正在形成的公众便向社会的其他成员开放，这有可能使正在形成的议题公众更加强大，但同时也使其面对其他争胜性的（agonistic）观念与立场。因此，专家的角色至关重要，只是以一种截然不同的方式。这些专家不再只是向正在形成的公众提供信息，连接和关联不同的讨论、提供相关信息，也成为他们的一个基本特征。 然而，何为相关，是偶然的，这不仅适用于、而且尤其适用于算法。在算法那里，相关往往意味着流行或热门，因而遵循一种经济驱动力，而且更常见的是以一种不透明的方式进行（Gillespie 2014）。然而，在民主讨论中，相关性有另一层含义。对民主而言，相关的还包括我可以了解并试图予以反击的对抗性立场——无论是像 Habermas 所主张的那样通过理性话语，还是像 Mouffe 所论证的那样通过公开的争胜性异议。因此，相关性也被界定为那些会促进冲突与辩论、从而可能审视现存秩序的信息。因此，由个体或围绕某一议题的封闭集体所界定的相关性，必须加以拓宽，以纳入争胜性立场。通过中介性行动，不同的集体借由不同议题与群体的连接而在辩论中相互对峙。Papacharissi（2010）对作为自由民主之组成部分的数字技术作了相当积极的阐述，她认为，诸领域的多重性（multiplicity）并不妨碍民主话语，因为它们产生了一种“居间性”（in-between-ness），从而按照人们的偏好、价值和想象将他们连接起来。然而，考虑到过滤系统潜在的极化影响，以及陷于霸权性秩序化（ordering）和不平等权力分配之中的、永不停歇的公众共同建构过程，呼吁一个能促成讨论与冲突的中介实体似乎是合理的。当代民主的核心制度之一——即所谓的第四权力——必须维持一种脆弱的平衡：一方面通过连接对立的公众来促成异议的建构，另一方面又以与这些讨论相关的事实和可验证的知识来支援这些正在形成的公众。 需要牢记的是，Dewey 将民主表述为一种自下而上的议题路径，这是 20 世纪初一场讨论的产物。这场争论涉及民主在新的工业化社会中的命运（Marres 2007）。按照 Marres（2007）的说法，有两个因素与这场争论相关：一是包括报纸和广播在内的新媒体系统，二是工业社会日益增长的复杂性。因此，这场争论是对一种特定媒体系统及其给民主带来的挑战与可能性的回应。当时为建构一个共同的传播领域——议题在其中被选择和呈现——所找到的解决方案，与我们今天所见的截然不同。 20 世纪的媒体系统代表着一种相当集中且线性的议题采集与分发形式。新闻价值以及与之相关的多样性观念，是在编辑和节目策划者的办公室里被讨论的。他们编排出的媒体条目集合，原则上对每个人都是一样的。因此，一小群专家负责挑选和组合信息集，而可获得的信息（原则上）可以通过报纸或广播机构等中央分发中心为每个人所获取。媒体基础设施不仅充当发送信息的工具，而且这些组织本身就是信息的聚合者。多样性的生产是事前（ex-ante）发生的。然而，在非线性流媒体时代，节目并不固定于某一给定的时间段。用户可以随时享用内容。当然，这里仍然存在控制的环节，因为按需媒体网站通常会展示经过策展的区域。然而，个性化程度很高的网站则找到了其他方式来选择和策展内容：将媒体内容与用户一并数据化（datafication）。在自动化信息选择的情形中，所展示的内容不是由专家提供的，而是由算法提供的。推荐系统基于观察到的用户行为，计算出接下来应当展示哪个视频。因此，相关性的共同生产过程逐渐将策展的专业能力从编辑团队转向了度量性和算法性的信息选择手段（see also Jones and Jones 2019; Sørensen and Schmidt 2016）。Thorson et al.（2021）因此得出结论：对被呈现为可见之信息的选择，正在从组织转向算法。因此，话题——作为潜在的议题——并非基于编辑的行动而出现，而是基于我自己的行为以及其他用户的行为而出现。 一方面，计算出的公众（calculated publics）的生产如今正处于旧媒体系统之问题的核心。算法通过计算生产出此前并不存在的集体（Gillespie 2014）。因此，谁看到什么信息并不清楚。另一方面，编辑无法再组合出能够产生多样化信息食谱（information diet）的相应信息。因此，事前的多样性生产遭到了破坏。但实用主义的阐述也开启了以另一种方式思考计算出的公众之涌现的可能性。算法过滤系统基于集体行为来计算不同的公众，以使某些信息对某个个体变得相关。然而，实用主义理论恰恰以完全相同的方式来概念化议题公众的涌现。议题基于他人行为的后果而对个体变得相关。于是，公共服务算法的角色便不是阻止过滤气泡，而是识别它们，并将“多样的受众连接到共享的内容上”（Bennett 2018, 117）。要做到这一点，就意味着重新思考技术与基础设施在生产共享信息空间中的角色。正如 boyd（2010, 39）在谈及“网络化公众”（networked publics）这一较早的术语时所论证的：“虽然网络化公众与其他类型的公众有许多共同之处，但技术构造它们的方式引入了独特的可供性（affordances），这些可供性塑造了人们如何参与这些环境。”借此，她与其他学者（Itō 2008; Varnelis 2008）概念化了社交媒体网站如何促成、塑造和阻碍新公众的涌现。因此，推荐系统对正在涌现的议题公众的贡献，也可以——并且应当——以一种对媒介敏感的方式来解读，这就提出了不同的算法技术如何以不同方式卷入公众之制造的问题。 议题公众在数字信息环境中的涌现是一个复杂的过程，权力关系对其有着巨大影响。Marres（2007）认为，我们应当把对民主的理解扩展到物如何参与民主与公众的形成。借由这一转向，她将 STS 的研究纲领扩展到政治理论之中。对实用主义者而言，议题是否使公共参与成为可能，是一个关键问题。使议题公开化，意味着为其开放更多的联结（associations），并允许不同的立场与之相连。现在便显而易见，为什么媒体系统的配置对议题的分发至关重要。通过采纳和分发各种已被表达出来的问题，媒体系统可以让他人与之建立新的联结。因此，介入议题的生产，也意味着介入共同建构正在涌现之议题的数字基础设施与算法，以使民主系统的规范目标得以实现。根据这些结论，就过滤气泡讨论而言，紧迫的问题并不在于过滤气泡是否存在，而在于：在民主社会及其制度之中，议题公众的形成如何被算法过滤系统所规定（prescribed）、转变或调制（modulated），以及在一个民主社会中媒体环境应当如何被设计。 因此，按照一些学者的看法，为了实现多样性这一政策目标，介入这一复杂的装配（assemblage）是势在必行的。推荐算法并不必然威胁民主理想，也可以被用来支持公共广播服务的民主角色并促进多样性。借助“设计即多样性”（Diversity by Design），广播机构甚至可以更好地实现多样化信息提供的理想。例如，Reviglio（2019）认为，推荐结果中的意外发现——即用户未曾预料到的令人惊讶的内容——可以成为对抗过滤气泡的一项强有力的设计原则。这甚至有可能借助最初造成过滤气泡问题的同一批技术来实现。正如 Helberger（2015）所论证的： > 简言之，既然可以将电子节目指南或搜索引擎等其他搜索中介设计成帮助用户找到其感兴趣内容的样子，那么同一种技术也可以被用来做可能恰恰相反的事情，把用户引向更加多样的选择（Helberger 2015, 1329）。 因此，通过以算法手段主动生产多样性，推荐系统可以成为缓解过滤气泡的一种手段（Helberger, Karpinnen, and D’Acunto 2018）。因此，助推（nudging）用户走向内容多样性，已被讨论为一种忠于公共广播机构精神气质的可行选项（Burri 2016）。Nissen（2006, 69）甚至认为，“影响听众或观众的选择、从而影响其媒体消费模式，正是公共媒体得以建立的根本原因，也是即便在媒体供给极其丰富的时代其存在仍得以维持的原因”。 有一些声音在这些技术的开发中提出了家长主义（paternalism）问题（e.g., Sørensen & Schmidt 2016）。这一立场有一定的吸引力，因为对公众生产的介入是某种特定政治理想以及某种强有力的制度性、霸权性基础设施的结果。然而，如果我们讨论公共广播在当代民主中的角色，那么只有在我们共享这样一个假设——这些公共媒体基础设施在我们的民主社会中履行着某种功能——的前提下，这样的讨论才有意义。如果这一前提丧失，那么对公共媒体系统本身的需要也就随之消失。因此，如果公共广播机构的精神气质被接受为某种有价值的东西，那么公共广播服务是否应当介入一个共同公众的生产这一问题便是徒劳的。相反，这样的介入成为一种必然。 基于实用主义的公众视角，公共领域如何被建构这一问题发生了变化。设计算法系统与媒体景观的过程，并不是去缓解那些源自我们当代社会之数字境况的过滤气泡，而是调整公共广播的角色，以缓解人类传播在新的社会技术条件下（再）生产过滤气泡和偏见的倾向。因此，一方面理解公众的生成过程，另一方面在我们的媒体系统中应用新技术，以便在已然改变的条件下履行其规范性义务，对 21 世纪的民主而言势在必行。关于推荐系统之政治与民主影响的争论，由此不仅引发了关于算法在公共媒体系统中之角色的讨论（Helberger 2019），也引发了关于这些推荐系统如何能够依照所表述的多样性政策目标被构建的讨论（Helberger 2011; Pöchhacker et al. 2017）。 正如本节所表明的，新闻业的数字转向——而不仅仅是公共广播服务中的数字转向——已被作为对媒体系统及其既有实践的一种扰乱来讨论（Caswell 2019）。编辑任务日益被委托给算法系统，这可以创造机遇（Helberger 2015），但也必须在一个独特的法律与规范环境中运作。然而，这两种视角都敦促我们转向新闻技术的设计（Diakopoulos 2019, 2020）。正如 Hunt & McKelvey（2019）所论证的，媒体政策也应当考虑（媒体）算法的部署与开发过程。本节所描述的政治斗争在开发项目中也变得切身相关：项目试图以一种使推荐算法与公共政治领域中传播的规范性视角相容的方式来重新表述该算法。关于推荐算法的传播应当是什么样子的隐含假设——即我们如何界定信息的相关性——在这个运用早已广为人知之算法技术的制度内部被问题化了。围绕这一公共服务推荐系统的整个研发项目（我有幸参与其中）调动了多样性、流行度与专家知识等议题，并开始以不同的路径着手处理它们，我将在下一节进一步讨论这些路径。迄今在宏观层面所描述的种种规范性张力，在开发项目的微观世界中同样变得可见，这使得有必要在不同的规范性与政治性主张及必要性之间周旋并调校（align）算法。 ## （不）可能的解决方案（(Un)Probable Solutions） 算法并非不可改变的事实——但我们也不能将其纯粹当作建构而置之不顾。相反，算法的设计与实施代表着一种规范性理想：对于某个给定共同体而言问题是什么，以及人们应当并能够如何处理它。推荐算法也不例外。正如前几节所讨论的，推荐算法运作于该技术的经济起源与公共媒体环境的规范性要求之间的微妙张力之中。这一张力以及可能由此给民主社会带来的问题，呼唤一种针对公共服务算法的设计路径（Helberger, Karpinnen, and D’Acunto 2018）。在这个软件开发项目中，这正是目标之一：构建一个既有吸引力、紧跟当前发展，又能实现公共广播机构之民主义务的推荐系统。然而，在开发过程中，事情变得清楚起来：问题并不仅仅源自这一张力，更具体地说，是源自以不同方式实现这些规范性主张的不同地方性秩序化之间的碰撞。因此，如果我们将视角从抽象的规范性义务转向实践性的、情境化的秩序化形式，事情就变得更加复杂。因此，在下文中，我将讨论三个不同的小品（vignettes），它们记述了我们基于多样化信息食谱这一观念来构建和/或评估推荐系统的尝试。这些路径位于不同的探究层面：改变算法及其参数，重新诠释算法学习程序所产生的模型，以及评估现有的信息食谱。 ### 噪声（Noise） 在我们了解推荐系统及其不同技术的旅程中，我也接触到了各种公式和优化指标（optimization metrics）。简言之，每一种机器学习路径都需要一个函数，用来衡量计算出的模型对现有数据的预测有多好。优化函数因技术不同而不同，有时也因目标不同而不同。一个频繁出现的问题是：机器学习模型应当针对什么来优化——这便引出了不同的评估形式。在讨论所采用的协同过滤路径的优化函数时，我们想出了另一个主意。如果我们不知道多样性是什么，那么也许我们可以干脆生产噪声，这最终会产生多样性，因为算法的准确度会下降。随后，我们讨论了摆弄（tinkering with）该公式中单个参数的想法，这个公式如下所示： > [图 7] 协同过滤算法的优化函数（Hu, Koren, and Volinsky 2008）（图像见原书第 150 页） 图 7 中的公式展示了协同过滤的一个优化公式。该公式所做的，是将测量到的评分（此处为数值 p）与预测模型的计算值（此处为 x 和 y）进行比较。计算值越接近测量到的评分，模型对观测数据的拟合就越好。颇为有趣的是，参数 $c_{ui}$ 代表算法对该测量的置信度（confidence），其取值通常介于 0 与 1 之间。这意味着，c 的值越高，算法就越看重计算出的误差幅度；而 c 的值较小，则意味着计算模型所犯的误差并不那么重要，在一定程度上可以忽略。于是，我们的想法是降低 $c_{ui}$，声称模型所犯的误差总体上并不那么重要。按照这一设想，通过允许与原始评分行为之间存在更大的偏差幅度，算法会自行在推荐集合中产生多样性。如此一来，那些原本可能不会被接受部署的模型，也会被推荐系统纳入考虑。其结果是，推荐系统会产出预测精度较低的模型，即产生更多令人惊讶且不相契合的结果。然而，这带来了两个问题。第一，模型会产生一种随机的多样性，这意味着多样化的信息集合将如何被组合起来几乎是不可控的。而这种多样性观念，恰恰在对线上编辑团队的访谈中被明确谈及。当被问到多样性在推荐系统的结果中有多重要时，他们回答道： > 多样性对我来说很重要。但它不应该那么多样。所以，主题上的关联对我来说当然是重要的。所以不能这样：一部犯罪剧集叫《坑里的兔子》（bunny in the pit），然后就去展示一部关于兔子的纪录片（Interview with Online Editors, my translation）。 通过算法脚本所实现的多样性观念，与编辑们的制度性期待并不一致。随机性的观念并不符合编辑们的需求。在我们后来举办的一次工作坊中，编辑们再次指出，他们需要能够引导推荐系统的行为，因为针对不同的页面，推荐系统需要以不同的方式来推荐条目。然而，噪声剥夺了控制输出的可能性，因为预测会变得不那么准确。 此外，我们开发团队也对结果的随机性有些担忧。我们认为，通过产生用户无法理解的随机结果，用户真正留在平台上的可能性将非常小。因此，这一干预并不会带来更高的接触多样性，因为人们会干脆把推荐系统当作故障而不予理会——尤其是因为在不同的子人群之间，用户对多样性的态度本身也是多样的（Bodó et al. 2019）。开发者们预先假定了用户的期待。算法脚本在技术上本可以奏效，但编辑们的制度性期待，以及开发者关于用户期待的期待——即二阶期待（expectations of a second order）——都与这种改变算法脚本的形式不相契合。尽管本可以调整算法，但其他的秩序化形式使开发团队重新考虑，并最终放弃了这一想法。 ### 反推荐器（Anti-Recommender） 生产噪声在开发团队内部被证明是成问题的，因为计算出的推荐——包括不可预测的噪声——偏离了开发团队所预期的用户期待。在这些进展之后，我们采用了另一个想法，它并不调整推荐系统的模型创建，而是利用同一个模型来推荐不相似的条目。因此，推荐算法被修改为以两种不同的方式使用同一个计算出的模型。按照传统方式，它会推荐那些被预测与用户通常观看的条目相似的条目。而第二种模式则会搜索在计算出的向量空间中距离较远的条目，即推荐系统会向你展示与用户通常观看的条目非常不相似的条目。这一路径被称为反推荐器，并在视频点播平台的测试版中以“来点不一样的”（something different）为标题展示出来。这一路径预期的优势在于：计算——即推荐系统中计算开销较大的部分——将保持不变，只有随后通过推荐系统进行的条目选择会被重新编写脚本（re-scripted），以遵循多样性的规范性观念。正如 Helberger（2015）所论证的，可能产生过滤气泡和信息接触减少的同一种技术，可以被用来主动生产多样性。此外，这一路径基于协同过滤，因而不会使该路径与元数据（meta-data）的生产方式发生冲突。在协同过滤中，n 维向量空间仅根据观察到的用户评分来计算，而不使用组织所生产的元数据。 然而，反推荐器的想法在向多样性的可转译性方面也产生了问题。这一次，结果不是随机的，因而不会在用户期待（之期待）方面造成问题。此外，反推荐器的推荐结果被展示在一个单独的区域中，在完成推荐之经典任务的同时，提供了一个使自身信息食谱多样化的额外机会。然而，随着项目的推进，我们遭遇了协同过滤的一个核心特征，它在评估多样性方面构成了一个巨大的问题。Alice 和我在项目相对早期的时候就讨论过协同过滤技术的输出。 > 基于因子分解得出的正态分布形成了漂亮的钟形曲线。但为什么？这个因子指的是什么？今天我坐在 Alice 旁边，她给我展示了一个协同过滤的示例计算。她在 10 个维度上计算了特征，我们一起看着它们。Alice 告诉我，她计算的是潜在因子（latent factors）。它们全都是正态分布，即一条钟形曲线。Alice 问我，我们该如何诠释这一点。“也许你作为社会学家，能告诉我这意味着什么？”我自己也完全不知道我们在这里看的究竟是什么（fieldnote）。 这里的问题实际上是双重的。第一，推荐系统计算出的维度并不真正直观，也不易把握。由于矩阵分解的输出是潜在维度（latent dimensions），其含义并不透明。相反，描述条目与用户的向量空间是由从使用模式中涌现出来的维度所界定的。可能的例子是“Antonio Banderas 留着胡子的电影”——只不过推荐系统不会告诉你该维度的描述。同样的问题也出现在基于内容的过滤中。虽然基于视频条目的元数据来把握多样性意味着什么要更容易一些，但这里所产生的向量空间非常庞大。描述中的（几乎）每一个词都被用作所计算向量空间中的一个维度描述符——这造就了一个高度复杂的系统，它不易被理解，也无法轻易地从多样性的角度加以诠释。也就是说，转译一套关于多样性构成的规则集似乎几乎是不可能的。 尤其是，当被问及编辑们如何评判内容时，他们的回答是隐含的，并且诉诸编辑们在该领域的经验。“他们都是记者，在许多编辑部工作过，他们有很好的全局视野”（Online-Editors Interview）。然而，这种解释不仅在评判一般意义上的内容及其质量时被援引，也被应用于多样化内容的观念以及公共广播机构的道德与法律义务。 > 他们都是策展人，在这个机构里待了很长时间，他们完全清楚公共服务使命。［……］每个人也都已经在［该机构］工作很久了。但他们也有自己的专业训练。［……］这是他们固有的一部分，而且这［……］某种程度上是不言自明的。因此，没有必要每天都讨论这个，因为它是我们的一部分（Online-Editors Interview, my translation）。 编辑们所诉诸的是在工作中随时间发展起来的隐性知识（implicit knowledge）。因此，他们在多样性以及评判内容和内容编排方面的专业知识，无法被转译为一种算法指标。在制度环境中多样性是什么，无法被直接获取，因而也无法被转译为一个可用的多样性指标定义。于是，最终我们陷入了这样一种境地：面对两种形式的专业知识与知识，它们都难以被明确表述，而更多地依赖于不同行动者的隐性训练[^f06-16]与理解。这两种秩序化与理解世界的路径都依赖于知识——一种是职业性的，另一种是机器性的——而它们彼此之间并不容易相互转译。 ### 多样性计算（Diversity Calculations） 上一节暗示了这样一个问题：如何把关于多样性的规范性观念转译为一种指标，用以在组织与政治规范同推荐系统的算法推理之间建立一个接口。为此，我们必须考虑多样性如何能够被计算，以及这在（评）价（(e)valuation）方面意味着什么。在最抽象的定义中，一个给定条目集合的多样性，可以通过将每一个条目与其他每一个条目进行比较、并将相似度得分加总来计算。在数学上，这可以表达如下： > [图 8] Yadav et al.（2020）所定义的多样性计算（图像见原书第 154 页） 因此，数学表述中的多样性定义，取决于对相似度函数的进一步定义。然而，相似度如何被定义，又取决于对这一术语的操作化。例如，Yadav et al.（2020）提出了一种基于某一特定类型集群（通过 k-means 聚类计算得出）中其他用户评分的多样性计算与推荐方法，以实现跨类型推荐。因此，相似度的计算取决于其他用户的评分。Möller et al.（2018）采用了另一种方法，即基于 LDA 算法的主题建模（topic modeling）技术。借此，Möller et al.（2018）基于新闻条目的全文文章及其元数据描述计算出潜在主题。随后，被推荐条目之间的相似度被表达为条目在由此得出的向量空间中的度量距离。仅从这两个例子中，我们已经可以看到，相似度以及由此推断出的多样性属性，都建立在关于如何操作化多样性的非常特定的观念与选择之上。于是，一个悬而未决的问题是：多样性的不同度量版本，如何与某个给定共同体对这一术语的理解相互作用。 在我们项目团队处理这一问题的时候，Alice 让我去看她早些时候给我的那本推荐系统手册中关于评估的一章（Shani and Gunawardana, 2011），其中讨论了作为概念的多样性。作者们在那里提出了一种指标，基于用以描述条目的向量空间中条目之间的距离来计算多样性。作为这一计算之基础的向量空间，是由基于内容的推荐算法生成的。因此，用以描述不同条目的元数据十分重要。其中的一项建议是：“我们取算法所生成的每一个推荐列表，计算每个条目与列表中其余条目的距离，并对结果取平均，以获得一个多样性得分”（Shani and Gunawardana 2011, 288）。多样性即被推荐条目之间的平均距离，因为多样性被反映为可比性的反面。而正如我们所了解的，两个条目在计算出的向量空间中位置越接近，它们就越相似。作为一个附带项目的一部分，Alice 实现了这样一种多样性指标，并将其应用于不同的推荐系统输出和不同的节目。 > Alice 正在展示多样性得分的结果。我方的项目负责人 Marvin 和我已经坐在那里了。Alice 把她的 Macbook 连到投影仪上，站在我们面前展示结果。她给我们看了一些图表，展示了基于推荐系统原型的输出（她在 iPython notebook 上实现的）以及视频内容现有元数据而得出的不同多样性得分。总体而言，多样性得分处于偏低到中等的水平。然而令人惊讶的是，那部节目——一部肥皂剧——得分非常高。我问 Alice 怎么会这样。所有人都被逗乐了。Alice 认为，这是因为每一集里都发生了不一样的事情。这解释了各集之间的距离（fieldnote）。 按照所提议的方式来测量多样性，植根于推荐系统的逻辑，而在这一逻辑之内，它是完全准确的。然而，我们所有人都被一部肥皂剧的各集竟能代表多样性这一想法逗乐了，这表明，数学的、数据驱动的多样性观念，与我们在一种更具反身性的、质性的基础上理解这一概念的方式之间，存在着分歧。因此，基于所考虑的数据，多样性也许在计算上得到了实现，但并不是以组织或法律所意图的方式实现的。所选条目的元数据描述——例如标题、关键词、文字简介（text teasers）——是多样的，因为其中采用了许多不同的词语。然而，项目团队的诠释却完全不同。 测量和可视化多样性时遇到的问题在不止一个方面富有启发。首先，基于一套丰富的现有元数据的指标并没有多大帮助，因为该指标无法将元数据的意义语境化。正如我们在上一章所看到的，算法需要发展出某种形式的算法反身性，才能以一种适合其所处社会系统的方式来处理数据。然而，计算多样性指标的算法未能顾及多样化内容的那种情境化的、在制度上被接受的方式。从一个抽象的 n 维向量空间中推导出的相似度，并不足以评估他人会如何看待相似性与多样性。这种计算性定义偏离了公共广播机构中制度化的理解以及对多样性的规范性想象对它的界定方式。问题在于，如何定义一种指标，使之反映在其被观察和体验的语境中所应用的那种对多样性的理解（Sørensen and Schmidt 2016）。 再一次，现行的数据生产体制（data production regime）与 Alice 关于多样性生产的直观想法背道而驰。为了在组织中应用所表述的这种多样性形式，各集的元数据本应彼此更加相似。然而，这与新组建的线上编辑团队所讨论的良好元数据观念不相容。在一次访谈中，一位同事告诉我们： > 那么。现在我们还有一个问题，就是他们给所有剧集都取一样的名字。副标题总是，嗯，副标题总是一样的。那倒也行，但是。这里这个也总是一样的。这意味着，这其实，简单说吧。你会跟编辑们说什么？［问她的同事］（Online Editors Interview） 对此，她的同事回答道：“说实话，我脑子里冒出来的只有些刻薄话”（Online Editors Interview）。也就是说，工作实践以及所表述的需求——编辑团队需要并希望元数据呈现的方式——与该指标测量多样性的目标并不相容。相似性或多样性如何被定义，在算法的相似性逻辑与专业人员所应用的逻辑之间存在差异，这随之使推荐系统在信息分发过程中被体验为成问题的行动者。因此，对多样性的算法评估所作的调整失败了，因为制度逻辑与算法的多样性观念不相容。计算多样性本身之所以变得成问题，是因为它与对这一术语至少两种不同的隐含理解发生了碰撞——项目团队内部我们对多样性的直观把握，以及编辑们既有的工作实践。 ## 为算法赋值（Valuing Algorithms） 公共广播机构始终处于一种持续的挣扎之中，要在其作为民主制度的社会角色与最大化其覆盖面的需要之间取得平衡（Nissen 2006）。开发项目中所设定的多样性规范理想，有一个具体目标：遵循并衔接一个早已确立的规范体系。我们所指涉的这一规范体系，由法律与法律原则、法院、合同、监督委员会以及公众和学术讨论装配而成。因此，组织以及作为其一部分的开发团队，表述了一个有待解决的问题——履行通过推荐系统向受众呈现多样化信息食谱的法律义务。这个从一般政策目标中在地推导出来的问题，在项目所设想的议题与一个现成的（off-the-shelf）推荐算法所要解决的问题——即推荐相似或流行的条目——之间造成了一种张力。然而，这一张力并不仅仅是这些技术的经济起源与一个公共制度的法律义务之间的结果。相反，当代媒体生态的新配置与新条件，挑战着生产一个服务于民主话语的公共信息领域的既有形式。我在本章中提出，与其假定推荐算法是对民主的威胁，我们不如将注意力集中于一个共同公共领域的可能性条件，并将其概念化为（部分地）由公共媒体系统所达成的一项实践成就。一种关于复数的议题与公众的实用主义构想，以及它们各自如何从集体互动中涌现出来的方式，或许有助于我们评估生产一个共享而开放之信息空间的可能途径。在这样一种构想中，公共媒体基础设施及其专家的工作，主要是使不同议题能够为更广泛的受众所获得，并给予他们机会，使这些议题成为他们自己的议题——从而使其更加强大——或者在一场争胜性的或理性的讨论中反对它们，审视它们，并让这些议题直面其他视角与意见。 将议题公众的实用主义视角应用于推荐系统，便产生了这样一种需要：重新审视算法技术并重新表述它们，以使之与分发和拓宽议题公众的民主观念相容。这样做，我们便聚焦于计算出的公众的生成过程，并寻求介入其生产、以及将它们彼此关联起来的途径。在近来关于推荐系统的讨论中，这被称为在推荐结果中生产多样性的需要。在这个软件开发项目中，我们恰恰尝试这样做，并探索了借助推荐系统介入公众之生产的不同方式。 在项目中，无论是问题还是解决方案，都没有经历根本性的重新表述，而是对已知技术的调整。测量多样性的问题利用的是推荐系统本来就在使用的同一个模型，只是对其作了不同的诠释和应用。通过基于条目在模型的 n 维向量空间中计算出的距离来测量多样性，这一逻辑在原则上得以延续，只是采用了一种反向的诠释。推荐系统本身的调整也是如此。所给出的两个例子展示了两个不同的介入步骤：一个在模型生产本身之内——通过摆弄参数来生产噪声——另一个则通过应用一种不同的选择逻辑，对计算出的模型作不同的应用。 然而，将政策目标转译为算法手段并不那么直截了当，因为我们在这一过程中遇到了一些问题。正如算法指标所尝试的那样，测量多样性预设了一种不同形式的元数据生产，这导致了算法将什么呈现为多样这一方面的有趣结果。这种与指标的假设相冲突的元数据生产，甚至还通过中央线上编辑团队得到了强化和推动，该团队遵循一种追求良好且可呈现之视频描述的新闻精神气质——其首要考虑的是用户。在生产噪声时也可以观察到同样的冲突，它削弱了对被推荐视频如何被选择的控制。此外，开发者期待用户会期待其他——更为连贯的——推荐形式，这使得对计算出的模型进行调整变得困难。最后，职业与算法各自所依赖的隐性知识无法相互转译——因为二者都无法被明确化。两个行动元——作为其各自学科[^f06-17]的产物——都对可比性、兼容性和多样性对它们而言“意味着”什么有一种观念，但在两种情形中，都不可能对这些原则与理解作出明确的表述。然而，这里所描述的不同评价形式与隐性知识之间的不可通约性（incommensurability），正如前文所述，给推荐系统的民主角色带来了严重的问题。如前所论，公共广播服务的角色在数字信息生态中发生了变化，这使得新的专业知识形式成为必要，以连接不同且相互对立的议题公众。然而，这需要对这些公众进行质性评估的理解。由于算法的评价形式引入了从制度与职业视角无法把握的可比性形式，将这些议题彼此关联起来的任务便变得更加困难。在这些不同的可比性表达之间进行某种形式的转译似乎是必要的。因此，如果要将这些行动者整合进一种规范性秩序化——例如民主价值——之中，那么将算法的输出与模型转译为在某一给定规范架构内可理解、可诠释的说明（accounts），便成为一种必然。例如，从实用主义对正在涌现之公众的理解来看，反推荐器本可以成为实现多样性的一个成功工具。然而，要纳入编辑专家及其（往往是隐含的）多样性理解，就需要一个数据科学家部门，把潜在向量空间中的集群转译为政治范畴，反之亦然。因此，多样性不只是一组多样的内容，而是指涉一种规范性秩序，正是这一秩序界定了这一概念是什么，并使之涌现。因此，在新的社会技术配置下保持我们公共媒体系统的民主理想，就意味着相应地将种种秩序化与这些配置重新调校。 所有这些议题都不只是技术性的，而是指涉社会秩序、制度实践与职业知识的不同形态。算法的开发必须在关于公共广播机构的三种不同规范性观念之间周旋，这些观念物化为算法应当解决的三个截然不同的问题：流行度、民主理想与新闻精神气质。在将假设铭写进算法这一混乱过程中周旋并对其加以重构，表明了不同的规范性观念必须如何被协商、排定优先次序并彼此平衡。因此，算法的民主品质正是这些协商与平衡的结果。算法不只是一个推荐系统，而是一场持续进行的政治斗争的投射场域。 [^f06-1]: 这也是德国公共广播不通过税收、而是通过一项额外的家庭收费来筹资的主要原因。 [^f06-2]: 译者：Christian Tomuschat 教授、David P. Currie 教授、Donald P. Kommers 教授与 Raymond Kerr，与德国联邦议院语言服务处合作。 [^f06-3]: 德文原文：Die Rundfunkfreiheit dient der freien, individuellen und öffentlichen Meinungsbildung. [...] Der in Art. 5 Abs. 1 Satz 2 GG enthaltene Auftrag zur Gewährleistung der Rundfunkfreiheit zielt auf eine Ordnung, die sicherstellt, dass die Vielfalt der bestehenden Meinungen im Rundfunk in möglichster Breite und Vollständigkeit Ausdruck findet. [^f06-4]: 德文原文：Die neuen Technologien erlauben im Übrigen den Einsatz von Navigatoren und elektronischen Programmführern, deren Software ihrerseits zur Beeinflussung der Auswahlentscheidung von Rezipienten genutzt werden kann [^f06-5]: 这一表述取自 Latour（2004），但语境略有不同。这也触及一种关于法律的视角：法律本身并不规制行为，而必须在实践话语中被援引才能生效。 [^f06-6]: https://www.netflixprize.com/rules.html，访问日期：2020 年 3 月 13 日。 [^f06-7]: 关于信息过载概念的概览，另见：Eppler and Mengis (2004)。 [^f06-8]: 关于这些术语的区分，见 Schmidt (2010, 237)。 [^f06-9]: 在这方面，重新审视 Hannah Arendt 对西方政治哲学的批判也颇有意思。她写道，在这一传统中，政治一向被视为专家的事务（Arendt 2017）。 [^f06-10]: 顺带一提，这也是定向的（即个性化的）政治广告之所以成为大问题的原因之一。它们可能过度呈现被宣传的立场，使人觉得似乎没有多少替代选项，而对替代选项的呈现本身也是一种针对目标群体起作用的特定框架。 [^f06-11]: 当政治作为一个有边界的互动空间和专门化传播空间不复存在（如果它曾经存在过的话）时，这一视角就变得更加棘手。在晚期现代性或反身现代性（reflexive modernity）（Beck 1992; Giddens 1984）中，（日常）生活的多个领域都成了政治议题，成了讨论政治的场所。没有这样一个界定清楚的政治舞台——无论是否存在理想言说情境——经由媒介系统进行的碎片化传播对当代民主的损害就更大了。 [^f06-12]: 在这里，我们也看到了算法意义上的激进透明性的根本问题之一，因为算法透明性会在调适过程中造成一种新的权力分配。在这个意义上，算法并非稳定的实体，而应被视为一个相互调适过程中不断变化的行动者；在这一过程中，控制论意义上的均衡永远无法达成，因为对于一种稳定且有利之状态的界定，在所涉行动者之间各不相同。与控制论中的反身性转向（see Hayles 1999）不同，这里并不是一个系统观察自身并据此调整其内部运作，而是互动系统从多个视角、带着不同的规范性态度观察自身，其结果不是一个受青睐的稳定状态，而是多个稳定状态。哪一个能够——借助相应的算法系统——得以实现，便是一个关于手段与权力之分配的问题。 [^f06-13]: 当然，Habermas 的交往行动理论在很大程度上依赖于实用主义的观念，而 Habermas 出色地使之与法兰克福学派批判理论的遗产展开了对话。 [^f06-14]: 在这方面，Dewey 的构想已经表述了 Giddens（1984）后来发表的理论中的一个重要元素，即社会实践的非意图后果。 [^f06-15]: 这里需要注意的是，这并不排除一个社会集体拥有某种共同想象的可能性——只是这种想象与公众的生产无关。 [^f06-16]: 确实耐人寻味的是，编辑与算法二者都在被训练以获得隐性知识。因此，训练机器学习模型可以被视为一种（简单的）机器社会化（machine socialization）形式。 [^f06-17]: 尽管并非本讨论的重点，但值得注意的是，关于在推荐系统中实现多样性的讨论，开始反馈到计算机科学内部的相应专业子学科之中。地方性的关切之事（matter of concern）如今被委托到另一个语境之中，以推动社会与技术的变革。 # 第六章 秩序化算法民主（Ordering Algorithmic Democracy） > “在所有的点上都有秩序。”——Sacks 1984, 22 我们如何能够从民主秩序的角度来思考一般意义上的算法，特别是机器学习？这样做究竟意味着什么？这个看似纯粹技术性的话题，与社会科学中最古老的问题之一之间有何关联？我们又是否有资格作出这样的判断？算法、人工智能（AI）与数字技术的本性之中，有某种东西引发了不安，让人感到社会及其议题与新技术的发展并非彼此分离。当然，这一点并不只适用于数字技术。在一篇如今已成经典的文章中，Winner（1980）论证说，人工物（artifact）就其对人类（互）动的后果而言是政治性的。社会/技术关系研究中另一句广为人知的箴言说：“技术既非善亦非恶；它也不是中立的”（Kranzberg 1986, 545）。技术是我们的社会结构以及我们在社会肌理中所作道德干预的基本构件，算法和机器学习技术亦然。因此，关于“算法的社会权力”（Beer 2017）的丰富讨论早已开始，并且随着这项技术的许诺与应用日益增多而愈发激烈，这不应令我们感到意外。这不仅体现在日益增多的出版物上，也体现在专门关注人工智能与数字技术之社会影响的新兴机构上，例如 AI Now Institute 或 Data & Society Institute。围绕算法、人工智能与数字技术的讨论涉及不同的主题和理论路径，它们凸显出若干不同的问题，有时也凸显出干预的可能性（例如 Benjamin 2019; D’Ignazio and Klein 2020）。当然，关于算法的辩论范围广泛且不断流变，几乎不可能列举所有贡献。然而，人们可以看到讨论中浮现出一些模式：采用了哪些视角，又运用了哪些占主导地位的理论视角，以便对作为社会技术现象的算法这一现象有所阐明。在我的研究中，我辨识出了关于这一主题的四种不同视角。第一种是问题导向的路径，它并不首要关注理论或概念问题。这里的问题围绕着算法系统的透明性问题（Pasquale 2015）、通过算法系统再生产出来的偏见与不平等（Eubanks 2018; Noble 2018），以及算法看似具有的客观性这一观念（Beer 2017; G. Rieder and Simon 2016）。在那些更侧重于发展理论和概念路径的贡献中，有三种视角在当代讨论中似乎占主导地位：福柯式路径、马克思主义视角和控制论理论。其他视角，如 ANT（即我在本书中所倡导的视角）、现象学视角或实用主义路径，也确实存在，但它们似乎处于讨论的边缘，而且大多没有与社会秩序问题或算法系统的、以及与算法系统相关的权力关系问题联系起来，尤其是在民主制度之中。 在迄今为止文献所讨论的对算法的种种阐述中，人工物的政治性质要么被自然化了（算法本来就是那样），要么被社会的某种总体性规范结构——例如资本主义理性——解释掉了。无论哪种方式，算法权力都被当作一种社会事实（social fact）——借用 Durkheim（[1895] 1982）的说法——即当代社会构型中一种客观给定的力量。然而，这引起了一些不安，并提出了一个问题：我们所谈论的算法究竟是什么（Seaver 2017; Ziewitz 2016）。正如 Mager（2014, 30）所言：“然而，所有这些贡献都无法解释，搜索引擎究竟为何首先成为了强大的行动者，以及它们——还有算法意识形态——是如何在当代社会中得到稳定化的。”那么，什么样的视角能够探究算法权力这一观念，而不依赖于客体与结构、本质与建构这些往往非常富有成效、却多少仍带有悖论性质的观念呢？在前面各章中，我根据经验观察重构了算法是如何由各种领域特定的实演（enactment）所形成的——这些实演制作了算法，但与此同时，也必须把算法的技术属性整合到这些制作算法的实践之中。首先，算法作为一种学科实演而存在。它回指一整个学科和实践共同体，后者使得随后被实施的算法技术成为可能，并对其加以传播和解释。就此而言，它以教科书、讲义幻灯片、会议专题讨论的形式，也以标准化的开发环境、编程库（其中包含许多前述技术）等形式，提供了智识的和物质的基础设施。算法及其技术的扩散，是理解它们如何进入社会生活几乎所有领域的重要因素，也是理解这一过程和结构化的扩散如何已经限制了随后将这些行动者整合进组织或制度环境之可能性的重要因素。其次，算法被生产为一种组织实演，公共广播机构被组织的和进行组织的实践共同塑造了最终的实现。这一点尤其体现在运行算法所需的数据在组织内部被生产的方式上。基于内容的推荐这一算法技术，要求为视频内容提供标准化的、同质化的、快速生产的元数据，而组织实践——基于广播机构的运作逻辑——遵循的却是另一种逻辑：多样化的描述以及漫长的事后元数据生产过程。数据生产与算法对数据的使用之间这种缺乏对齐的状况，在应用协同过滤时也变得显而易见。虽然不需要来自组织内部的元数据，但它表明，有必要理解或控制用户观看广播机构视频内容时的情境。在开发团队内部，对于如何解释用户的信号存在相当程度的不确定性。一个评分何时是好的，何时是坏的？用户是有意看完了整个视频，还是睡着了？因此，算法需要一种方式，来对它所计算的数据信号进行反身性的意义建构——这要么包括控制数据生产，要么需要有足够的洞察以“正确地”解释它们。我把实现数据信号这种可解释性的过程称为事前算法反身性（ex-ante Algorithmic Reflexivity）。算法的最后一种实演把它建构为一个需要应对的政治挑战。德国的公共广播在民主体制方面具有一种非常特定的功能。遵循启蒙运动的洞见，即公民能够并且被要求成为政治话语中有能力的成员，公共广播机构的目标就是使他们能够做到这一点。[^f07-1] 一般而言，这被解释为公共广播有义务向公民提供广泛的信息食谱。而推荐系统的引入危及了这一职责，因为推荐系统就其设计而言，就是在选择和剪裁可获得的信息。这正是算法本身成为一个需要干预的问题的原因。随之而来的是种种不同的尝试，试图改变推荐算法的基本功能，使其符合信息提供之多样性的民主理想，包括引入噪声，或者以不同的方式使用计算出来的数据模型。这一切导致了算法以三种不同方式的同步实演：每一种方式在项目期间始终在场，同时又需要彼此同时地加以协调。 在本章中，我将把这些经验观察汇集起来，在社会秩序这一概念之下，并通过 ANT 与常人方法学的概念透镜加以讨论。为此，我首先提出，将算法要么视为自身强大的行动者、要么视为结构性附带现象的这种分歧，类似于社会理论中、尤其是社会学学科中一场持续进行的讨论。这将成为讨论 ANT 所提出的社会秩序概念的出发点——该概念部分基于常人方法学的洞见——并表明它如何为这场讨论提供了一种可能的视角，同时又使社会秩序的图景复杂化。我进一步论证，这种复杂的社会秩序观念以及社会技术行动的结构，能够让我们更好地理解社会秩序、民主制度与机器学习或算法之间的关系。因此，重构算法权力这一艰深的观念，取决于我们如何尝试理解不同的情境化社会秩序网络如何彼此协调，以及算法的不同实演如何通过软件开发者的实践被捆绑在一起。 ## 结构与能动性：两种社会学（Structure and Agency: The two Sociologies） 结构与行动的问题对于社会研究来说绝不是一个新问题。因此，关于算法权力的话语在某种程度上再生产了社会学和其他社会科学长期以来一直在处理的问题：如何基于某种更大的规范性结构或历史给定的结构来解释可观察的社会行为（例如 O’Donnell 2010; Sztompka 2014）？尤其是在社会学中，结构与行动的区分自其创立以来就一直伴随着理论讨论。正如 Archer（1982）所表述的：“将人类能动性与社会结构联系起来这一根本问题，贯穿了社会学理论的历史”（Archer 1982, 455）。社会学推理要么聚焦于自我调节的结构，要么聚焦于局部的、脱离锚定的（社会）行动。这一发展导致了“两种社会学”的提法（Dawe 1970, 207）。这一区分——以及它所构成的悖论——映照出我们的日常经验：我们能够行动，却仍然遭遇限制、调节和影响我们可能行动的约束。 > 虽然我们从未停止将自己体验为行动着的、选择着的、有目的的、有抱负的人，但我们也从未停止意识到工厂大门在我们身后关闭，意识到那些并不属于我们自己的办公日，意识到被无人掌管的组织所压迫的感觉，意识到我们在大部分时间里被迫栖居其中的那个“不够的世界”（Dawe 1978, 365）。 因此，在一些学者看来，这一区分不仅内在于社会经验，而且必定也是社会理论化的一个本质特征（例如 Archer 1982）。然而，对于结构/行动、系统/个体或话语/主体的这种区分，曾经存在（而且，人们可以补充说，现在仍然存在）日益增长的不满。正如 Sztompka（1994, 273-274）所论证的：“社会整体和人类个体都只具有虚拟的存在，它们的分离和相互对立是虚假的、扭曲的想象的产物：常识的幻觉，以及理论和元理论的谬误。”因此，将算法权力理论化的问题，映照出社会学（以及其他社会科学）自其成为一门独立科学之时起就一直在进行的一场讨论（例如 Vargas et al. 2008）。 不同的社会学路径恰恰处理了这个问题，以重新表述行动者/结构问题，并寻找一种解决方案，这种方案的观察既不从形而上学的视角出发，也不从一个永远自由、全能的行动者这一假设出发。相反，能动性/结构问题是通过一连串实践得到解决的：这些实践看起来仿佛是一种外部力量，但归根结底是互动以及由此产生的和被假定的相互依赖的——往往是非意图的——结果（Elias 1991; Giddens 1984）。这一视角随之也对我们理解（民主）制度和组织具有一些重大意涵。我们再也不能把它们视为理所当然，而必须理解制度如何从实践中涌现出来。其结果是，常被引用的微观、中观和宏观结构之间的区分开始消解。Callon 和 Latour（1981）提供了一种无需在宏观与微观层面之间作先验区分的视角。他们并不假定宏观行动者与微观行动者之间、结构与能动性之间存在差异，而是论证恰恰是这种差异需要解释。他们通过完全忽略微观/宏观之分而解决了它。 > 我们在导论结尾时提出的悖论现在已经得到了解决。我们最终得到的是大小各异的行动者，尽管它们都是同构的，因为有些行动者能够将更多的元素持久地放入黑箱，从而改变其相对大小。[……][通过]不把我们的注意力引向社会，而是引向行动者借以创造持久不对称性的过程（Callon and Latour 1981, 285–286） 微观与宏观、结构与能动性不是被当作给定的实体，而是同一枚硬币的两面，只有通过流通的指涉（circulating references）才变得相关和可见（Latour, 1999b）。然而，ANT 不仅提供了一种消解结构/能动性问题的视角，而且将非人类行动者——例如算法——视为结构化实践的生产、实演和稳定化中的关键要素。根据 ANT，对于制度如何变得强大、算法如何获得能动性这一问题的回答是相同的：通过它们与其他行动者之间在实践中建立起来的联结。采取这样一种立场，就会把问题倒转过来：问题不在于算法如何施加权力，而在于算法这一形象——作为一种实践成就——如何能够创造出一个有序的、持久的环境，这个环境使它自己显得仿佛就是这个强大的实体；以及秩序化过程创造了哪些不对称性。因此，在下文中，我将讨论实演算法（Seaver 2017）如何与做秩序（doing order）相关联——以及这如何（但愿）能够提供一种关于算法权力的视角，对所讨论的算法如何“首先成为了强大的行动者”（Mager 2014, 30）这一问题有所阐明。当算法正在成为民主制度的内在要素时，这个问题就变得更加紧迫。 在我们继续之前，有一个房间里的大象必须加以处理。到目前为止，我把权力和社会秩序的概念混在一起使用，仿佛这两个概念可以互换。因此，关于权力与社会秩序之间的关系，或许有必要说几句。权力和社会秩序无疑是社会理论中使用最多的两个概念和词语。后者甚至被认为是社会学的一个界定性问题。社会秩序何以可能？我们如何解释这个我们称之为社会的东西没有分崩离析？这样的问题推动了社会学理论化长达数十年，并导致了功能—结构视角或系统视角的形成，这些视角将社会秩序视为一个独立的实体。[^f07-2] 与此同时，权力被用作一种工具，以揭示行动手段的不平等分配，并表述抵抗（例如 Foucault [1975] 1995）。这两种视角都可以被理解为对启蒙运动发展的一种反应。作为秩序化原则的形而上学力量或神圣力量被抛弃了，取而代之的是这样一种洞见：社会世界及其秩序是由人创造的（Dawe 1970）。这两种路径都受到了批评，因为它们以结果取代了原因。正如 Law（1992, 380）所论证的：“如果我们这样做，我们就封闭了关于权力和组织之*起源*的那些最有趣的问题”（原文强调）。ANT 在社会秩序与权力之间提供了一个有趣的联结。两者都是由关系生成的，或者用更经典的社会学词汇来说，是由一组异质的个体实体之间的行动生成的。秩序是使不同行动者对齐的互动模式的结果，并因此赋予它们行动的能力。于是，权力是这些互动的效果，因为它是一个行动者在互动模式之中、在行动者网络之中所处位置的产物。实践生产出（局部的）社会秩序，同时建构出（强有力地）行动的能力，即权力。这也类似于源自 Weber 的权力定义： > 权力（Macht）是指一个行动者在一种社会关系中，即使遇到抵抗也能贯彻其自身意志的概率，无论这一概率所依据的基础是什么（Weber [1922] 1978, 53）。 只不过，这一概率所依据的基础，在于有序性（orderliness）的局部生产，以及一个行动者在那种互动模式中所处的、使她能够贯彻自身意志的位置。社会秩序与权力是同一枚硬币的两面，由能动性的生产联系在一起——如果我们聚焦于使它们得以存在的实践的话。因此，在转移焦点之后，我们考察的不是某种全能的原则或行动者，而是做秩序与做权力（doing power）的观念。这（而这正是 STS 等领域的重大贡献之一）也包括那些传统上被排除在社会学推理之外的要素，即物与技术的领域（例如 Graham and Marvin 2001; Latour 1990; Marres 2012）。技术人工物使能动性成为可能或对其加以限制，因而也同样有助于秩序与权力的生产。所以，当我们谈论秩序与权力时，我们所指的不是社会的，而是社会技术的。 通过“做秩序”这一表述，我已经暗示了 ANT 最重要的影响之一：常人方法学及其关于局部生产的、在实践中达成的秩序的构想。Latour（1999b）写道，ANT“只是忠实于常人方法学洞见的另一种方式：行动者知道他们在做什么，我们不仅必须向他们学习他们做什么，而且要学习他们如何以及为何这样做”（Latour 1999b, 19）。这反映了 Garfinkel（1984, 2002）对社会学中涂尔干遗产所提出的根本批判。在 Garfinkel 看来，将对社会的分析建立在普遍化的规范系统或结构系统之上，会把个体行动者降格为“判断的傻瓜”（judgmental dopes）（Garfinkel 1984, 68）。与此相反，解释性范式追问的是，社会世界是如何通过互动和解释被建构起来的——它假定一个总是已经有序的世界中的成员是有能力的行动者，知道如何生产秩序。Garfinkel 意义上的社会秩序总是在局部被生产出来、通过实践被实演的——因而是一种实践成就。对 Garfinkel 和其他常人方法学家来说，不存在无序的情境（Sacks 1984）。秩序可以在“实践行动的有序性”中找到（Livingston 1987, 13）。换言之，世界总是已经有序的，尽管不是依照一位外部观察者（例如一位社会学同行）所应用的某个宏大范式，而是依照一种通过局部实践并在局部实践中被实演的内部的、情境化的逻辑。[^f07-3] 因此，常人方法学并不聚焦于一个客观给定的、被认定为结构或系统的世界如何决定特定情境中的互动这一问题，而是聚焦于这样一种结构如何在情境化的行动中被达成。正如 Suchman 所论证的： > 因此，社会科学中悬而未决的问题，不是社会事实是否具有客观根据，而是它们的客观根据是如何被达成的。客观性是系统性实践的产物，或者说是成员方法的产物，这些方法使我们独特的经验和相对的境况变得相互可理解。相互可理解性的来源不是某种被接受的概念图式，也不是一套强制性的规则或规范，而是那些产生出类型化的共同实践——图式和规则正是由这些类型化构成的（Suchman 2006, 76）。 因此，从实践导向的视角来思考，社会秩序是一种在局部被实演的做秩序，它也创造出社会学通常视为结构化要素的那些分类、主体化和关系（另见 Law 1994）。而在这种“做”之中，实践显示出它们对于那些并不实际在场、却在情境中被实演的观念、行动者、结构等的取向。因此，做秩序也指向其他情境，在那些情境中秩序同样是在实践中、在局部被达成的——但这以可能总是不同的、崭新的形式发生。在预期其他情境及其秩序的过程中，通过 Schütz 所称的类型化（typification）过程，情境之间在时间和空间上建立了联系（Schutz 1976）——Schütz 对 Garfinkel 的思想以及常人方法学的形成有着重要影响。例如，即使没有女警在场，我也可能会在红灯前停下来。在情境中预期其他秩序并使之变得相关，会改变情境以及我对它的解释。然而，这又带来了其他问题。 Schütz 大量借鉴了 Husserl 和 Bergson，他感兴趣的是表述一种关于社会的一般理论，这种理论将理解（understanding）的观念激进化，并因而将主观视角纳入考量（Schütz [1932] 1993）。在他看来，理解一个情境、预期他我（alter ego）的反应并将其纳入对我将要采取之行动的设计之中的过程（Schütz, [1932] 1993），本身就已经是社会行动的一部分。这一推理的一个重要意涵是，设计自身行动的这些部分无法接受经验审视——无论是对于互动中的参与者，还是对于观察互动过程的社会科学家而言。未被表达出来的东西，也就不能被另一个人所理解（Eberle 2008）。因此，Garfinkel 忽略了行动的主观和认知设计，而聚焦于社会秩序如何通过说明（accounts）的交换在实践中被达成这一问题。[^f07-4] 因此，对 Garfinkel 来说，秩序与个体行动之间的联系，就是通过他所称的民族方法（ethnomethods）来理解并使自己可被理解的过程。[^f07-5] 通过运用民族方法，社会群体中有能力的成员积极地对社会进行秩序化，而不是遵循某种抽象的社会秩序原则。因此，解释性视角[^f07-6]的目标在于，基于那些自下而上地创造和再生产社会秩序的、不同的局部化实践来解释社会，而不假定某种给定的、决定社会互动的社会规范结构观念。规范和价值并不是被转译成社会行动，而是社会行动让规范从局部化的互动情境中涌现出来。规范性说明、组织结构或社会的相互依赖在不同的情境中被实演和表演（Drew and Heritage 1992）。在这一视角中，结构并不是某种与可观察实践相对立的形而上学实体。相反，“结构[……]只存在于它在这些实践中的实例化之中”（Giddens 1984, 17）。社会结构不仅是实践的产物，而且必须在这些实践中被实演。对于诸如多样性或平等这样的政治观念或愿景来说，也是如此。这些价值必须被实演，也要在技术中、通过技术被实演。 ## 论网络与秩序化（Of Networks and Orderings） 创造秩序也总是指向（局部的）社会控制方法以及对可能行动的协商。如果行动序列偏离了已知的或假定的秩序，行动者可以尝试通过干预或对情境的重新解释来修复情境。Garfinkel 在他的破坏实验（breaching experiments）中出色地展示了这一点。这也涉及这样一个观念：互动总是为了“又一个第一次”而发生（Garfinkel 1984, 9）。每一次互动都有失败的可能，都有可能偏离已知的或假定的实践链条——因而需要重新解释或干预，才能把它带回熟悉的领域。然而，人类行动者并不是唯一可能限制或使可能行动成为可能的行动者。Latour 在许多例子中表明，物质世界和技术世界也是局部被实演之秩序的要素（Latour 1990）。减速带可以让我们开得更慢，闭门器可以促使我们调整步速。然而，正如计划或规范性说明一样，物质行动者的在场并不会决定论式地强制出某种行为，而是成为实演的一部分，在其中不同的行动看起来都是可能的。回到算法这一概念，它无疑是一个能够使可能的互动成为可能或对其加以限制的行动者，例如，通过过滤掉人们为获得多样的信息食谱所需要的重要信息。然而，正如人类行动者一样，这些技术实体必须先成为情境的一部分，随后才能成为局部秩序的一部分。Latour（2005）把这一过程称为委派（delegation）与移位（translocation）：技术行动者和物质行动者被置入一个社会情境之中，某项特定的规范性任务被委派给它们。工程师和开发者（以及其他许多行动者）主动地把这些行动者派往其他情境以产生某种效果，而这建立在对将要展开的、被假定的互动的预期之上（Callon 1987）。因此，情境通过委派与动员（mobilization）的过程彼此相连。ANT 将情境中的局部非人类行动者视为对其他情境的指涉，从而扩展了常人方法学的视角。 在讨论制度秩序时，常人方法学家论证说，局部互动可以指涉那些并非局部的观念、行动者或情境，并把它们转译为局部生产秩序的资源，例如，通过让自身实践以组织规则（Drew and Heritage 1992）、行为守则（Wieder 1974）或计划（Suchman 2006）为取向。通过采取一种符号学立场[^f07-7]，这些互动便可以被理解为彻底关系性的——因而是可以被追踪的。凡是被动员起来并整合进社会秩序之局部实践达成之中的东西，都指涉着别的东西。规范性框架因此不仅是在局部被实践地达成的，而且更好的描述是：它们被重新实演（re-enacted）。通过说明被动员起来的东西——即便它并不在场——成为情境的一部分，从而也成为那些既被情境框定、又框定着情境的互动的一部分。在讨论微观/宏观问题时，Callon 和 Latour（1981）论证说： > “常人方法学家忘记在他们的分析中纳入这样一个事实：人类社会中语境的模糊性，部分地被一整套工具、规章、墙壁和物件所消除，而他们只分析了其中的一部分”（Callon and Latour 1981, 284）。 这些行动者——工具、规章、物质和技术要素——是情境的一部分，因而成为解释的一部分：它们框定了情境。此外，它们是从别处被动员而来的，例如在一次团队会议上制作出来的类别清单，我们可以穿越时间和空间追踪这一资源。因此，“追随行动者”（follow the actors）（Latour 2005）这一方法论信条并不是从外部强加一种结构，而是追随在一个行动者网络中展开的关系结构（Latour 1996）。 算法不是一个单一的实体，而是众多行动者——以及建构它们的众多情境——被动员并相互关联的（实践上达成的）结果。因此，那些作为工具、技术、书籍和文章而在场的黑箱，各自都指涉着一个不同的、由相互关联的情境构成的网络，而这些情境本身又实演并稳定化了我们所处理的那个实体的特定版本。把所有这些实体（包括算法技术）汇聚在一起，使算法的涌现成为可能，但同时也限制了随后的行动。而这些工具往往是以一种被视为理所当然的方式被使用的，也就是说，它们没有被问题化。算法是在软件开发者的办公室里被局部实演的，但每一个被动员起来的项目都指涉着别的东西，超出了实际的情境。一篇关于推荐技术的论文并不只是由符号拼合而成的，它本身也成为了一个符号。因此，通过把行动元和叙述（例如规范性框架）理解为指涉，我们便连接起一条超出局部情境的实践链条。没有计算机科学这门学科或软件开发者共同体，算法技术就不可能在那个为公共广播机构设计推荐算法的项目中可供使用。正如 Callon 和 Latour（1981）就其他“宏观”行动者所表明的那样，算法通过组装许多不同的黑箱而获得了持久性。数据生产方面也以类似的方式表明了这一点。在生产社会秩序并在技术上将其稳定化的情境中被动员起来的一个单一数据点，不仅指涉一个外在的对象（例如广播机构存储服务器中的一段视频），而且指涉生产这些数据的（一连串）实践。到头来，这其中还包括了一个全新的组织。因此，ANT 对于理解实践上达成的社会秩序的贡献在于，它提供了穿越时间和空间追踪社会秩序（因而也是权力和能动性）之实践生产的手段，而无需重新引入某种关于系统理性之普遍化结构的形而上学观念。这对我们理解结构或社会秩序的概念有着深远的影响。 某个行动者网络以及随之而来的某种秩序是否持久而稳定，是一个关乎力量与权力的问题，正如 Latour 所论证的：“一个联盟的一致性，体现在为了拆散它而必须被聚集起来的行动者的数量上”（Latour 1993a, 185）。与此同时，这样一个行动者网络展开到何种程度，是一个开放的、（基本上）经验性的问题。因此，诸如社会、组织乃至民主制度这样的概念，只有在我们能够观察到这些实体如何在一条由行动元所中介的实践链条中被实演和达成的意义上，才是重要的。当我们回到档案库时，数据生产遵循的是该部门所要解决的一个在局部被实演的理由或问题。他们把自己描述为一个根据编辑需求来组织视频素材的制度。对其部门的话语性描述的生产，被递归地应用到他们自己的实践之上。档案库的那位同事告诉我们的，不仅是事情是如何被做的，而且也实演了某种合理性。关于算法技术，人们也在讨论同样的问题（B. Rieder 2017）。这些技术伴随着对一个（相对抽象的）有待解决之问题的想象而来。它们还伴随着许多预设脚本（pre-scriptions）（Akrich 1992）[^f07-8]，也就是说，伴随着使用户能够想象该部件应在何种场景中被使用的资源——在这里，其形式是手册、教学视频或课程大纲，它们教软件开发者如何解读和使用这些技术，以及如何把它们与其他行动元关联起来。因此，那里的话语是使观念和合理性变得可说明（accountable）的一种表达。算法和档案库这两个实体，都只是作为不同实践链条的表达而存在。然而，算法或档案库的这些实践实演可以有所不同，这取决于我们从哪个情境化的视角去观察。 ## 多重秩序化（Multiple Orderings） 借助关系性和联结的观念，ANT 提供了一种视角，把局部生产的秩序这一观念与社会结构的概念——后者被表征为一条转译和/或实践的链条——联系起来。简单而有力的回答是：它们是同一回事。局部达成的秩序与一个据称能够解释这种秩序的更宽泛的社会结构之间根本没有区别，因为前者和后者都是总是被重新建立的联结与互动的产物。正如 Latour 所论证的：微观层面和宏观层面并不自在地存在，而是被那些将它们作为微观和宏观来称呼的流通的指涉所识别出来的（Latour 1999a）。不是用一个更大的结构来解释局部行动，而是每一次互动都已经嵌入在一个由实践和行动元构成的（块茎式的）网络之中，这个网络穿越时间和空间把各个情境连接起来。这在某种程度上构成了对 Giddens 论点的激进化：我们总是通过局部实践并借助局部实践而遭遇社会结构（Giddens 1984）——这一点甚至已被应用于国家制度（Callon and Latour 1981; Passoth and Rowland 2010）。然而，关系性与联结的局部性结合在一起，给社会的概念化带来了问题。我们的探究对象不仅是在局部被生产出来的，而且是多重的。 ANT 中具有生成性的要素既不是行动者，也不是结构，而是联结与转译的过程。行动者和结构都是通过稳定化这些联结链条而被客观化的。然而，由于在文化上被稳定化的符号或规范之间存在决定论式转译的观念，已经被实践地达成规范性说明的情境化、局部化实践所取代，由此产生的秩序和由此产生的行动者就可能各不相同。这当然造成了一种社会秩序多重性的局面。在这一视角中，关于社会秩序如何被达成的一种单一而独特的解释，将永远无法说明“逻辑、意义、方法、理由与秩序的每一个论题”（Garfinkel and Wieder 1992, 202）。相反，Garfinkel 和 Wieder 引入了 order*（秩序*）这一概念，以强调社会秩序是一个总括性术语，指涉的是这种在局部被实演之秩序的多重性。因此，制度、组织乃至整个社会都可以是一个由规范性说明或相互依赖构成的系统的一部分。然而，这些东西并不是被一一对应地转译为行为，而仅仅是实践上达成之秩序的资源。[^f07-9] 这有两个重要意涵：第一，所涉行动者的实演随着实践上达成的局部化秩序而变化。第二，取决于人们从哪个情境出发，会涌现出不同的、作为情境间秩序的行动者网络。 社会秩序的这种多重化，对于被委派的技术和人工物这一观念也有着深远的意涵。在设计物质和技术人工物的过程中，开发者实现了他们关于情境将如何展开的假设。按照 Callon（1986）的说法，开发者自己成为了社会科学家。[^f07-10] 目标不仅是设计一个人工物，而且是设计情境。这一过程被 Akrich（1992）概念化为铭写（inscription）。然而，被设计出来的技术的脚本并不会决定论式地规定随后的互动。倘若如此，我们只不过是替换了生产 Garfinkel 所说的“判断的傻瓜”的机制而已。相反，转译过程可能偏离被假定的互动——Akrich 和 Latour（1992）所称的认同（subscription）或去铭写（de-inscription）过程是可以变化的。也就是说，制作技术人工物之本体论的过程，会以不同的方式实演它。甚至算法这个技术对象，也会随着它所参与其中的互动而改变。不同的实演是不同行动者网络的一部分。也就是说，在局部实演本体论与主体性的多重性之中，我们也能观察到社会秩序的不同局部达成的实演，以及它如何穿越时间和空间在不同情境中展开并连接各种语义实体。 身份或主体性是被达成的而非自然给定的，这一点如今在社会科学中已是老生常谈。身份、规范性等等并非事先给定，而是在互动中被达成的。它们从实践中涌现，而不是反过来。这一点在 Garfinkel 对 Agnes 的分析中得到了最令人印象深刻的重构。Agnes 是一位跨性别者，她的性别身份是在不同的情境中、通过生产那些被认定为女性性别身份的说明而被实演出来的（Garfinkel 1984）。然而，仅仅生产说明是不够的。这些说明必须被其他互动者接受和解释，而后者自己又会以生产说明作出反应，Agnes 则必须把这些反应解释为成功或失败。当然，此后 Agnes 还必须决定如何以恰当的说明继续跟进。因此，生产说明的实践不仅是一个行动者一方的“做”，而且还涉及互动伙伴一方运用（足够）相似的民族方法来解释这些说明。实践处于相关伙伴之间。在一个总是已经有序的情境这一假定之中，Garfinkel 随后转换了视角，论证说这些说明的涌现生产出了身份。因此，他也谈论行动者，而不是个体或自我。行动者是实践的结果，而非事先给定的。遵循彻底对称性（radical symmetry）的观念，这一思想随后不仅被扩展到角色理解，而且被扩展到身体以及非人类行动者的物质性。Mol（2002）重构了动脉粥样硬化（atherosclerosis）在一家荷兰医院里是如何被诊断和治疗的（在整本书中，她只称之为 Z 医院）。通过走访不同的场所，她重构了每一个场所、每一个情境在对待这种疾病的方式上如何各不相同。由于运用了不同的技术、不同的仪器或习得的类型化，这种疾病在每一个情境中都是别的东西——因为在每个场所，处理它的实践都各不相同。 > 相反，客体随着它们在其中被操纵的实践而生成——并消失。而由于操纵的对象往往因实践而异，实在便多重化了（Mol 2002, 5）。 不仅行动者是通过情境化的实演被生产出来的，身体、仪器和物质性也是如此。然而，这也给我们对社会秩序的理解带来了一些问题。前面我把委派机制描述为将技术行动者作为一种调节力量派往某个情境。可是，如果它们是在局部——在情境中——被实演的，这种调节力量就成了疑问。实演多重实在也意味着与行动元互动的多重方式——因而也意味着其本体论的多重化（Mol, 2002）。这给本文对做跨情境秩序（doing transsituational order）的勾勒带来了一些复杂之处。如果被委派的人工物被以不同方式实演，我们又如何能把它们理解为在远距离上生产秩序？局部实践干脆就破坏了开发者置入人工物中的想象和假设。多重本体论的概念确实使委派的图景复杂化了，但委派仍然产生效果。行动者是多重的，取决于它们所参与的实践秩序化，但它们也确实拥有作为实演之一部分的实在性和物质性。正如 Mol（2002）所表述的：它们多于一，但少于多。 回到我们的算法，这对于此处所讨论的算法权力视角意味着什么？我们非但没有解释算法权力，我们的关注对象似乎反而正在丢失、被去中心化。我们不再描述一个算法及其权力，而是在谈论多重情境中的多重算法。我们的推荐系统正在其不同的情境化实演及其多重本体论中消解。算法能动性的实践生产是否正把我们引向相对主义？然而，我恰恰不是在论证算法是随意的、对情境没有任何影响，也不是在论证它们是一块坚固的、强力行动的整体。如果我那样做，我就会回到引发我前面所描述之不安的那个出发点。它们是介于两者之间的某种东西，但这种居间性（in-between-ness）很重要。推荐算法之所以难以整合进公共广播机构的组织之中，全部原因就在于它的抵抗，在于它内置的、关于它所应与之互动的社会世界之构型的观念和假设。仅仅通过把算法技术纳入不同的实践，是根本不可能改变这些假设的。无论我们多么努力，只要不把这种算法技术替换为另一种，我们就无法让它例如与基于图的数据一起运作。算法的多重性已经被其学科实演中所建立的联结缩减了。 然而另一方面，多重实现仍有余地。如果不同的实践以不同的方式联结算法，算法的身份就会发生剧烈的变化。让我们暂且假设，档案库的数据被用于该算法。那它就会是一个不同的行动者，产生出别的结果。它仍然会是一个推荐系统——只不过使用的更多是历史数据。如果我们把那些建构元数据的局部实践纳入生成性实践之中，它们就会改变算法的身份。通过建立一个完全不同的行动者网络、一条实践链条，算法的一种特定本体论就被实演出来了。因此，局部实演中的算法多于一，但也远远少于多。 Law（1994）在此基础上又向前推进了一步，引入了不同的秩序化模式（modes of ordering），即一种关联异质行动者的特定（可用话语表达的）合理性。这些秩序化模式是“相当规则的模式，出于某些目的，可以有益地将其归于社会的递归网络。换言之，它们是重复出现的模式，体现于人类与非人类关系的秩序化之中，为其所见证，在其中被生成，并作为其一部分被再生产”（Law 1994, 83）。为了给秩序化模式这一概念提供语境，有必要补充两点说明。第一，它们不是生产社会秩序的决定论式机制——那会把我们带回结构主义。相反，它们是相当规则的——其中包含变异的可能性。第二，它们是在局部被生产的。换言之，不是秩序化模式生产出秩序化，而是秩序化作为不同的秩序化模式可被观察到。因此，我们可以观察它们，而不必赋予它们因果力量。模式是秩序化实践的结果，而不是反过来。这些秩序化模式做什么以及为何这样做，都是社会秩序（化）之局部实演的一部分。然而，秩序化模式这一概念使我们能够辨识出局部的合理性，以及它们与其他规范性观念或其他情境之想象的联系。在推荐算法的开发案例中，我们也遭遇了不同的秩序化模式，它们允许或阻止了建构该算法的行动者网络的扩展。 ### 作为学科实演的算法（The Algorithm as Disciplinary Enactment） 推荐算法被实演为一个技术对象，它是从计算机科学家和开发者的共同体中被动员而来的——因而类似于一种集体的、学科的实演。在工作中，项目的开发者动员了许多不同的黑箱，以便制作和做出（make and do）推荐算法。这当然包括被带入开发过程的算法技术。推荐算法的观念从教科书和有影响力的学术论文中被引入我们的工作、会议和讨论之中。这正是通常被认定为算法的东西：零零碎碎的代码，但也包括数学公式、对计算过程的描述，以及在实现该算法时对潜在问题和挑战的讨论。它们带着这样一些名称：协同过滤推荐、基于 LDA 技术的推荐，或基于内容的推荐。然而，这些只是要素，是将要被打开、被质询、被修修补补（tinkered with）的黑箱。与此同时，许多其他要素、行动者和黑箱被动员起来并与之相连——以使它成为某种能够运行的东西。只有在不同工具、环境和被想象的问题的相互作用之中，作为开发过程中一个行动元的算法才开始成形。通过操纵、动员和关联诸如 iPython 笔记本、编程库和教科书这样的工具，算法才得以被修修补补。通过动员不同的技术，开发团队也在动员针对被想象的、被抽象化的问题的解决方案——这些问题在一个特定的行动者网络中是可解的。因此，开发项目不仅在试图为一个给定的问题找到解决方案，而且把一个行动者网络及其秩序化动员进了建构推荐系统的过程之中。而所有这一切都遵循着一种特定的合理性，一组被视为理所当然的观念：关于如何启动一个开发项目，关于如何把推荐算法做成它所是的那种技术实体。关于如何改变性能、如何使算法适应局部约束的想法，往往是在指涉其他场所、其他情境、其他行动者——以及其他实践——的情况下产生的。回到我前面已经讨论过的一个片段，Alice 把我引入了推荐系统的世界。她一步一步地向我展示这些神秘的东西如何运作，我可以对它们抱有什么期待，以及它们可能在哪些地方力有不逮。 > 嗨！读完这篇文章后，你就会明白什么是基于显式反馈的协同过滤。但是：我们实际上处理的是隐式反馈（用户不会直接给视频评分），所以我们必须使用不同的方法 :simple_smile: 这篇文章解释了如何基于隐式反馈做协同过滤，以及为什么它有所不同。如果你觉得现在有用，可以读一读。不过你现在用聚类做的事情可能更重要——我自己还没来得及试。周五见！（Alice 通过 Slack 私信） 但她这样做时，指涉的是别的东西：斯坦福一门课程的幻灯片，或者一群赢得了 Netflix 大奖（Netflix Prize）的开发者所写的一篇论文。对任何学过一门新学科的人来说，这似乎再明显不过了。我们依赖外部参考、书籍和手册。但它指向了某种不同的东西。通过在制作算法的局部实践中把所有这些要素关联在一起，我们所引入的不仅是文本或书籍。相反，这些实体指涉着社会秩序化的一整个另外的构型。我们动员的不仅是一种技术，而是一整门学科。然而，这样做的同时，我们也把一种特定的推理形式引入了秩序的局部生产之中。我们成为一个更大的行动者网络的一部分，这个网络也实演着 Kuhn（1996）著名地称之为范式（paradigm）、或 Fleck（[1935] 1981）称之为思维风格（thought style）的东西。局部实践成为一个集体的一部分，在这个集体中，一整门学科的合理性在流通。而实演这种秩序化模式的实践，也把算法实演为一个技术对象、一个技术问题。 ### 作为组织实演的算法（The Algorithm as Organizational Enactment） 算法不仅是技术对象，也是组织行动者。从“软件就是算法加上数据”这一观念出发（Wirth 1975），制作算法的过程必须建立新的联结，而这些联结——再一次——超出了开发者办公室、他们每日的 SCRUM 会议以及他们的 iPython 笔记本这一情境。相反，对数据的搜寻通向了不同的组织部门、制度，甚至通向了推荐系统的用户如何被追踪的问题。基于 Ziewitz（2017）对算法之民族方法的阐述，任务不仅在于找到数据来源，而且在于找到与从学科实演中动员而来的算法技术相兼容的数据来源。正如 Ziewitz（2017）所指出的，我们必须以一种使观察能够与算法技术及其看待世界的方式相关联的方式来表述观察。 > 由于我们不得不在一场持续的努力中解析我们的观察，按照那个自我施加的约束的形象来重新界定情境，这次行走与其说是一个识别模式的案例，不如说是一种练习：用算法的语言把观察阐明出来，同时弄清楚它们能否以及在多大程度上有助于手头的工作——而这一判断本身又受制于实时导航的种种偶然性（Ziewitz 2017, 10）。 这随后也成为推荐系统的一个问题。我们在公共广播机构的不同地方寻找能够驱动算法系统的数据。然而，在不同部门中找到的数据也并不只是摆在那里，而是指涉着一整套实践装置，这些实践按照一种局部的合理性、按照一种局部的且相当规则的数据生产实践方式建构了这些数据。算法技术——及其联结链条——需要被转译成某种与组织的数据生产过程相兼容、并能与之相关联的东西。为此，开发团队走访了不同的制度场景，在这些场景中，算法可以成为组织之实演——因而也是算法之实演——的一个积极部分。 这是通过成立一个新的在线编辑小组而实现的。这个小组充当了新设立的元数据生产流程的监督者。各主题编辑团队专门为推荐系统而把元数据录入中央编排系统。为此，该中央编排系统的数据库模式（database scheme）中那些没有任何人使用的字段被用来保存录入的数据。此外，还生产出了若干话语性要素，例如一份固定的类别清单或补充性指南，以引导数据生产的实践。回到在线编辑团队，我在一次访谈中被告知： > 关于元数据，将会有一份风格指南，这样各编辑部就有了可以遵循的东西。然后我们得看看它运作得怎么样（在线编辑访谈）。 与教科书、文章和幻灯片类似，社会秩序（有序性）的局部生产伴随着被委派的行动者，以框定局部情境。指南和类别清单被派送出去，以便引导（而非决定！）局部实践。就我们的推荐系统而言，行动者网络在整个组织中展开，因为算法的实演显示出一种特定的秩序化模式。其结果是，算法技术开始建构它自己的秩序化，占据了尚未被使用的基础设施要素，并建立起新的（实践性）制度——从而在已经确立的组织实演之外，又增添了一种组织实演。这里的实演遵循的是这样一种特定观念：为了作出好的推荐，数据应当如何被塑形和生产。换言之，一种特定的合理性在起作用。作为被想象之算法一部分的数据生产，回指着一整个自成一体的社会技术组织。在这种社会技术构型中，以数据形式出现的说明被生产出来，而这些说明能够被就位的算法民族方法反身性地解释。一旦联结得以建立，算法技术就成为那个行动者网络的一部分，由此形成算法的组织实演。改变秩序，你就改变了算法。 ### 作为政治实演的算法（The Algorithm as Political Enactment） 最后但同样重要的是，算法系统被实演为一个政治问题。我所参与的研究项目要处理的主要问题是过滤气泡（filter bubble）。公共广播机构负有一项特殊的法律义务，要向其观众提供广泛而多样的信息食谱。通过这样做，这些制度应当使公民能够作出知情的决定，尤其是在他们作为选民的角色中。这反映了公共广播机构在民主体制中的功能。如前所述，推荐系统就其设计本身而言，就是广泛信息食谱的对立面。然而，恰恰是这种广泛的信息食谱，成为我所参与的研究项目所动员起来的议题。而它是通过指涉政治、法律制度和学术学科中一场持续进行的讨论来做到这一点的。因此，算法系统成为另一个行动者网络的一部分，这个网络致力于处理推荐系统的技术细节及其民主品质。其结果是，我们尝试表述多样性的数学定义，改变算法脚本以生产噪声，并构建一个反推荐器。在每一个实例中，都实演出了一种特定的逻辑，用以解释算法的行为，并把它与关于其政治品质的规范性观念联系起来。算法系统不仅是一个应当被使用的技术工具，而且成为一个需要被解决的政治议题。这是引导开发项目的第三种合理性。 这些场合中的每一个，都可以被视为一种不同的秩序化模式，在其中，算法被实演、被叙述，并被置于与许多不同行动者的关系之中。而在每一个情境中，算法都是别的东西：一种被整合进一整个共同体之生态系统的技术性技术，一个需要被整合进不同数据生产实践的组织行动者，或者一个需要关注和解决方案的政治议题。然而，在每一个情境中都有许多不同的行动者在场，但本书和开发项目所围绕的核心形象恰恰就是：推荐算法这一形象。所有这些情况下的问题都是：在把算法做成一个功能性的、持久的、具有能动性的——即会做些什么的——行动者的过程中，如何应对算法的具体性与多重性。而且不只是做些什么，而是要按照民主想象所赋予的角色来行动，实演一种算法民主秩序。而这是在不同实演的背景之下进行的，这些实演对于可能的和后续的实践有着截然不同的约束和假设。 ## 相互干涉的秩序化：协调算法（Interfering Orderings: Coordinating Algorithms） 社会秩序不是由行动者生产的，也不是从结构中产生的，而是从转译与联结的实践中产生的，在这些实践中，行动者在行动之中被叙述和建构。然而，正如 Mol（2002）所表明的，身体、物质性和其他行动者的这些不同实演，可以成为许多不同秩序的对象。在实演动脉粥样硬化的案例中，不同的医疗实践以不同的方式实演了同一个身体——生产出不同的本体论。因此，成为许多秩序化的一部分，就产生了协调被实演之行动者的这些不同版本的需要。正如我们在前一章中所看到的，有待开发的算法也成为了不同秩序化的一部分。一方面，算法是学科实演网络的一部分，包括一个物质环境以及话语性的客观化。但算法也是组织实演的一部分，在那里必须为被动员起来的算法技术生产数据。而最后，算法还必须在由技术假设、编辑职业伦理（editorial ethos）和政治话语构成的不同社会秩序化之间斡旋。在每一个这样的场合中，算法技术都被动员、被叙述，并作为那个即是算法的社会技术集体的一个成员而被实践地实现。脱离这些不同的关系来理解算法是不可能的。然而，这些转译的时刻是不稳定的、岌岌可危的。迄今为止所讨论的算法的每一种实演，都关联着另一种秩序化模式。然而，如果我们仔细观察，就会发现一个算法的实演或转译并不只属于某一组特定的、有序的和进行秩序化的互动系统，而是总是存在于这些不同秩序化的边缘。作为最终结果的算法，是所有这些秩序化系统及其特定逻辑和模式的一部分。学科实演阐明了算法技术源自何处、我们如何能把它们理解为社会秩序化的对象，而制度维度和政治维度所描述的则不仅仅是不同的秩序化模式，更重要的是对算法不同实演的（失败的）协调。算法是什么或曾经是什么，是诸多协商、讨论和妥协的结果。最终达成的算法，既不是某一个情境的实践成就，也不是某一种实演，而是对许多不同实演、许多不同的情境性和实践性成就以及许多不同秩序化的协调。 算法不仅是被应用的算法技术，还必须被理解为一个行动者网络，其中包括数据生产的过程、信息基础设施，以及对一个崭新而不同之组织的实演。然而，在这个行动者网络能够在公共广播机构的案例中被稳定下来之前，我们一路上遇到了许多问题：无论是在档案库中寻找数据时，还是在我们尝试通过语音识别软件自己生产数据时。在档案库中，秩序化模式以这样一种方式关联起不同的人类与非人类行动者：它使得把数据转译成某种与开发团队所设想的基于内容的过滤这一算法技术相兼容的东西成为不可能。档案工作者的实践与这样一项议题相联结：生产一个适合编辑团队之实践和需要的视频档案库，从而生产出新的、有趣的视频节目形式。然而，档案库所提供的数据，其最终形成的格式与铭写在算法技术中的行动程序（action program）并不兼容。所生产的数据对于计算而言过于密集。与此同时，数据生产的时间安排也不适合推荐系统被想象的功能。档案库生产元数据所需的时间实在太长，这种时间安排非常适合编辑任务，却不太适合推荐系统的快节奏。档案库不是推荐系统的数据池，而是供编辑们使用的研究资源。因此，我们可以把手头的问题理解为一个关于指涉、转译与社会秩序的问题。所生产的数据所指涉的并不是一个心中装着算法的装置，因为若要如此，视频被打标签的方式就必须改变。相反，这些实践的规范性观念及其功能性的自我描述，旨在对那些正在拼合新节目和新节目形式的编辑们的工作有用。与此同时，算法技术所指涉的是开发者共同体的一组实践和期待、计算资源，以及被假定的用户期待，即为推荐列表找到最新的视频。为了满足后者，档案库本需要改变。然而，档案库通过被整合进服务于上述合理性的组织结构而被稳定化了。算法及其盟友还不够强大，无法在社会秩序化的局部过程中带来这一改变。 这一权力与社会秩序的问题，也可以在我们生产数据的第二种途径中观察到，这一途径甚至超出了广播机构的边界。如前所述，一个想法是部署一款语音识别软件来转译视频的音轨。这些文本数据随后便可用于算法的计算。然而，这一尝试失败了，因为算法技术必须在两种不同的秩序化及其对语言的使用之间进行中介。广播机构最著名的电视节目使用的是当地方言，而语音识别软件根本无法理解这种方言。虽然这一插曲可以被视为一个纯粹的技术问题，但它暗示了某种非常重要的东西。如果对社会秩序化采取一种物质—符号学（material-semiotic）立场，那么这里的每一个行动者——电视节目和语音识别软件——都是特定网络与秩序化的产物。对广播机构来说，这档电视节目很重要，因为它也界定了广播机构的地方身份。因此，编剧、演员和观众都认为它的呈现方式很重要——所以改变语言不是一个选项。与此同时，语音识别软件可以被理解为对训练该软件之实践的指涉。如果我追随这一指涉，我最终就会来到一家北美大公司的办公室和其他场所，在那里，开发者们带着对其应用的一种特定想象，拼合出了这款软件。这显然涉及所谓的标准德语，它（至少）在所有德语社群中都能被听懂。把电视节目和语音识别软件这两个行动者结合起来之所以失败，不是因为这是一个技术问题（这“只是”一个附带现象），而是因为秩序化的过程彼此不兼容——而这个局部的软件项目没有权力去调整其中任何一方。 该研究项目的一个核心要素，是使推荐系统与政治和法律体系对齐——从而把它实演为一个政治议题。由于推荐系统通过个性化和过滤的手段缩减了可获得的信息，它被视为对公共广播机构的民主功能构成了威胁。在这些情境中，我们尝试使这一技术人工物与一种“设计即多样性”（diversity by design）的观念对齐。我们的尝试包括调整算法技术本身，试图改变优化公式，以便在算法的推荐中生产噪声。然而，这一尝试失败了，因为开发者和在线编辑预期，用户会被一个生成随机视频列表的推荐系统弄糊涂，进而认为它出了故障。因此，对算法优化函数的调整失败了，因为整个视频点播系统的秩序化过程是在对用户期待的期待——即二阶期待——之中被动员起来的。通过叙述这些期待，开发者指涉了另一种情境化的生产或社会秩序——并显示出对已知规范性设置的取向。在第二次尝试中，我们试图以不同的方式利用推荐系统计算出来的模型，把对用户和物品的计算描述转译成两个不同的行动者：a）一个偏向经典推荐路径（即流行度）的推荐列表；b）一个所谓的“反推荐器”，它呈现与第一个框中所显示的视频非常不同的视频条目，通过向人们展示那些通常不会被推荐的视频来生产多样性。然而，这种形式的多样性建立在算法模型的隐性知识之上，而这与编辑团队的隐性知识不相兼容。后者有他们自己保障节目多样性的观念和实践，这些观念和实践指涉着他们的经验和训练。然而，由于算法行动者对多样性的生产建立在潜变量和潜在推理之上，它对编辑们来说是无法把握的，因此我们无法使这两种多样性观念对齐。再一次，我在广播机构中发现的这两种隐性知识，各自都是特定的局部化秩序生产形式的结果。由机器学习驱动的推荐系统的算法模型，指涉的是软件开发项目中众多成功对齐的实践及其在组织中的盟友；而编辑们的隐性知识，指涉的则是一整个职业共同体的形成，包括他们的培训项目、团队会议，以及关于如何制作好节目的日常交谈。除了这些问题之外，我们甚至在通过计算手段阐明多样性时也遇到了麻烦。在尝试这样做时，我们发现，一部著名的肥皂剧本身就已经非常多样了——仅仅因为这部剧在每一集中都讲述一个不同的故事。因此，所使用的词语也是多样的。然而，这种对多样性的评估，与我们的——或立法者的——多样性概念并不兼容，后者更多地依赖于一种质性评估。为了修正这一特定的指标并使之与我们的理解对齐，我们本需要调整为视频生产元数据的方式。这与在线编辑团队关于好的元数据的观念发生了冲突——他们坚持认为，对一部剧不同剧集的多样化描述对用户来说很重要。再一次，算法的假设与数据的生产——被理解为对一整套复杂实践的指涉——无法彼此契合。多样性这一价值的诸种实演互不兼容，于是民主推荐系统的实演就成了一个问题。 在所有讨论过的实例中，算法的不同愿景和版本都需要被协调。从计算机科学的世界中动员而来的技术，必须被转译成一个组织行动者和政治行动者，并被转译进这些场景各自所提供的可能性条件之中。然而，这导致了算法身份的转变。John Law（2002）论证说，这些被夹在不同秩序化之间的对象是分形的（fractal），它们同时存在于许多不同的状态之中。基于他关于一架军用飞机之制造的报告，他指出： > 那么，我要说的是，像一架飞机这样的对象——一架“个别的”“具体的”飞机——有着不同的版本。它没有单一的中心。它是多重的。然而，这些不同的版本也彼此干涉，并把自己混洗在一起，构成一架单一的飞机（Law 2002, 2–3）。 因此，为了生产出一个单一的对象，一个可以作为稳定的行动者被委派到其他情境中去的东西，同一个行动者的不同版本就需要彼此协调。就算法而言，这意味着要在算法这一形象中使这些不同的秩序化彼此融贯。为了成为一个推荐系统，并且按照开发者的观念成为一个成功的推荐系统，算法技术必须与生产数据、评价其规范性维度的不同实践相协调。然而，这被证明是困难的，因为数据生产的局部制度性实践的秩序化模式，并不容易与算法技术的内置脚本相关联。档案库或语音识别软件干脆就实演着关于社会技术世界如何被构型的其他观念。与此同时，推荐技术的脚本也必须被调整。构建算法反身性，意味着使算法的不同实演以这样一种方式彼此对齐：它们合起来成为某种不同的东西——某种融贯的东西。John Law（2002）指出： > [……]分形的融贯性是这样一些融贯性：它们无法在单一维度之内被把握，也无法被还原为单一维度。但它们也不是作为两个或三个分离而独立之维度中的融贯性而存在的。按照这种思考方式，一个分形地融贯的主体或客体，是一个在复数性与单一性之间保持平衡的主体或客体。它多于一，但少于多（Law 2002, 3）。 然而，推荐系统这一融贯的对象并不只是让不同的实演彼此平衡。事实上，开发过程就是对算法的另一种、额外的实演的确立和制度化。在这一实演中，其他实演——及其秩序化模式——被纳入或被排除，在过程中被改变，或被保持稳定。因此，为了生产出一个稳定而融贯的推荐系统，算法、组织和政治的不同版本彼此对齐、发生改变，并就使算法变得可把握、可持久的不同方式进行协商。在所讨论的例子中，有两种这样做的方式尤为突出。其一，算法技术与不同的数据生产形式的对齐，改变了算法被实演的方式，因而也构成了一个干预的时刻。其二是转译算法的、由机器学习驱动的推理方式的模式，或者更确切地说：以一种可以被转译进另一种实演之规范系统的形式给出说明。正如我们所看到的，每一次这样的对齐都伴随着重要的决定：哪些关系要保持稳定，例如档案库与编辑之间的关系；哪些关系可以改变，在我们的案例中是编辑与中央编排系统之间的关系。算法能动性——因而也是它的权力——是这样一个过程的结果：把这些不同的实演放进黑箱，即使之稳定化，并通过一种额外的、实践上达成的秩序把它们彼此关联起来，而这种秩序包括了在别处被局部实演的规范性假设、想象等等。 这些被置于关系之中的实演，使我们通常称之为算法的那个行动者保持稳定。因此，它们影响着后续动员这个（总是已经）被稳定化的算法的秩序化所可能采取的转译形式。算法仍然多于一，但肯定少于多。而随着它每一次被整合进更多的秩序化，可能的转译和可能的本体论在数量上都会减少。[^f07-11] 在社会技术地实现的算法这一对象之中，多重的社会秩序化都想要铭写它们在局部被实演的、被想象的社会秩序形式——而与此同时，它们之中只有有限的几种能够共存，其中有些还是相互排斥的。如前所述，我们生产一个对多样性敏感的推荐算法的尝试，干涉了关于好的编辑工作的规范性观念以及数据被生产的方式。解决一个问题的潜在脚本，干脆就与组织中的其他实践不相兼容。在为算法生产元数据的案例中，同样的情况也发生了。组织内部的秩序化根本不适合从软件开发共同体中动员而来的算法技术的要求。推荐系统的技术实演需要找到一种方式，使自己能够被转译进公共广播机构的组织之中。 然而，秩序并不只存在于迄今为止所讨论的不同场所之中。不同实演的对齐本身就是一种社会秩序的生产——并且遵循着它自己的合理性，这种合理性本身就是规范性的和政治性的。而且常常，它也是一门关于可能之事的艺术。于是，软件开发项目成为一个让不同的社会秩序化彼此协商、并在算法系统中实现这些互动之结果的时刻。最终，被安装并被制度化的算法系统，便是一种自成一体的社会秩序实演的结果，在其中，不同的秩序得到了协调。算法本身已经成为一个结构性要素。通过把不同的实演作为黑箱封闭起来并加以协调，它成为了一种社会事实。 ## 算法权力的委派（Delegation of Algorithmic Power） 关于在铭写过程中对不同的——总是已经在场的——秩序化进行协商这一过程，可以就委派这一概念得出一个特定的结论。Latour 用这一概念描述的，是把规范性权力委派给一个行动元（往往是物质的或技术的行动元）的过程。而这正是我们关于一般意义上的、尤其是民主制度中的算法权力与能动性之问题的出发点。然而，观察这个黑箱最初是如何被制作出来的，就会显示出在委派过程中需要加以平衡的种种不同的规范性假设和观念。委派几乎从不发生在一个可以从零开始构建系统的白板（tabula rasa）之地。几乎总是，那里已经有一个总是已经有序的世界，它所包含的不仅是一个规范性维度，而是许多彼此干涉的不同秩序化——而这些秩序化需要在建构一个人工物之行动程序的过程中被协调。因此，行动程序不仅是工程师之假设的结果，而且也诞生于将这些假设铭写进人工物的可能性条件之中——并且在把这些技术实现到具体软件项目中的过程中不断被更新。持久的人工物成为一种妥协的物质化，这种妥协类似并再生产着社会秩序化。融贯性与持久性是在不同实演、本体论和秩序化之间进行中介这一活动的产物。因此，铭写、去铭写与委派的观念变得复杂了。这并不是一个把诸如多样性这样的价值和规范直截了当地设计进人工物的过程。相反，生产一个规范性人工物的过程，是相互嵌套、相互关联的去铭写与再铭写（re-inscription）过程的结果。从软件开发和计算机科学领域被动员而来的算法技术，内置了特定的脚本。它带着关于它将在其中运作的互动过程的、已被稳定化的假设而来。然而，通过把它嵌入不同的组织性和规范性实演之中，这个物质行动者被以不同的方式应用——即经历了各不相同的描述（description）过程——并在此过程中其技术属性被改变，从而经历了一个再铭写的过程。去铭写与再铭写因此成为同一枚硬币的两面。将算法技术与不同形式的数据结合起来，把它置入了一个特定的语境，同时也扩展了这个人工物。与此同时，对优化公式的参数进行修修补补，是对该技术的去铭写——以不同的方式使用它——但同时也铭写了关于其使用语境的不同观念、规范和假设。于是，这对我们关于算法权力的讨论有着深远的意涵。通过社会秩序化的概念来审视算法权力与能动性的观念，可以得出一些结论，它们既不把手头的问题还原为全能的算法，也不把它还原为某种社会结构的形而上学原则。而且，这些结论能够为我们指出那些可以进行干预、使算法与民主对齐并适应民主的时刻和场所。 算法不是某种单一合理性中的一个要素。相反，它是彼此协商的不同合理性和制度化逻辑的显现。由此，算法本身就已经是一场权力博弈或一次生产秩序之尝试的结果。评价算法权力，指涉的是在不断制作和重新制作那个通常被归于“算法”概念之下的行动者的过程中，秩序化以及实演有待被秩序化之物的不同时刻。然而，它并不仅仅是这单一的要素，而是规范性观念之间一场斗争的汇聚点。因此，寻找算法解决方案——及其问题——并不是一个直截了当的过程，而是需要与嵌入算法的多样生态联系起来。于是，问题不再仅仅是我们如何能够评估一个单一算法的权力，例如通过审视其代码库。相反，事情变得更复杂一些。哪些秩序化系统被忽视了，哪些被纳入了？在协商算法之具体形式的过程中，一个秩序化系统是如何干涉并改变另一个的？在手头这个推荐系统的例子中，人们应当追问：为什么档案库不干脆改变其工作方式？当然，他们对自己的目的以及应当解决的问题有着自己的话语性定义，但他们也可以抛弃这一定义，并根据算法被表述出来的需要来改变自己的实践。倘若他们这样做了，编辑们的工作也会发生相当剧烈的变化。因此，我们在档案库所发现的秩序化模式，是一场权力博弈的表达。档案库—编辑集体的行动者网络是否足够强大，能够抵抗推荐系统之行动者网络的扩张？在我们的故事里，它是足够强大的，但情况本也可能不同。因此，这已经反映出重构社会世界及其实践的权力。但这也就有力地表明：既不应把所有权力都归于算法，也不应把所有解释力都从它身上拿走。算法确实做了些什么，它们进行排序、推荐、搜索，有时还在国际象棋上打败我们。然而，它们之所以能这样做，是因为它们能够在不同的秩序化系统中共存，是因为它们能够把自己的不同实演融贯地协调成一个持久的行动者网络。 由于不同的实演需要被协调，这也为软件开发项目的角色投下了新的光亮。如果我们遵循此处所呈现的叙述，那么它们就不再只是技术人员把各种零碎部件——如通信协议、数据库设计和算法技术——拼合在一起的场所。相反，它们的角色转向了一个让这些不同实演被协调、被协商和被稳定化的场所。因此，软件开发项目实演着一种不同的社会技术秩序，在其中，它们向其他制度化的秩序化伸出手去并与之协商，平衡与项目相关的假设和观念，包括法律体系、伦理考量、实际的数据生产、关于广播的组织观念，等等。这也改变了在这些场景中进行干预的观念。干预不仅仅是提供伦理准则或最佳实践，也不仅仅是开发者群体的多样化（尽管这是一个重要的话题！）。相反，干预意味着理解并增多（有时甚至是排除）那些需要在这些项目场景中被协调的相关秩序化模式。另一方面，它也能告诉我们彼此矛盾的社会秩序化的存在，使我们意识到我们必须作出的选择，或者去思考如何通过新的、富有创造性的方法使它们彼此兼容。此外，它还会把我们引向开发项目的边界之外，并可能把我们引向其他令人意外的场所，比如一家北美大公司的办公室。因此，在谈论算法权力和算法秩序时，瞄准单一的算法会错失目标，全能的社会合理性这一观念也是如此。相反，相关的问题是：我们的算法的基础设施（infra-structures）是什么，又是谁在控制它们？ 现在，我们回到了我们的出发点。无论是个体层面，还是结构视角，单凭其中任何一个都无法帮助我们理解、解释我们社会中的算法并与之互动。相反，通过聚焦于算法行动者的生成过程，我们看到这两个层面是如何模糊其边界的。算法之所以是社会事实，仅仅是因为我们以这样一种方式遭遇它们：它们在一个已达成之社会秩序的情境中被实演。然而与此同时，在算法这一概念中被结合起来的这些技术、数据库和通信基础设施确实做了些什么，它们是真实的，并且常常抵抗我们利用或挑战它们的尝试。在描述算法和机器学习潜在的成问题的（甚至是积极的）效果时，我们可以依赖于某种结构所赋予它们的个体权力。然而，一旦我们想要干预我们社会世界之共同栖居者的建构，我们就必须拆解稳定化的过程，好好审视在对我们的社会进行数字秩序化的过程中，哪些秩序化和合理性被纳入、被排除、被改变。这本身就成为一个关于包容与代表的民主问题，它超越了通过计算机代码对价值进行规范性表达。因此，在数字时代讨论民主，也要求我们认识到民主是如何在这些项目中被工程化的，以及既有的秩序如何允许或阻碍对民主价值的算法实演。过去，以创新之名，民主国家心甘情愿地削弱了公共制度的结构，并允许大型科技公司界定这些公共舞台的运作方式（modus operandi），从而导致了我们如今称之为控制社会（control societies）或监控资本主义（surveillance capitalism）的现象。然而，这些发展并不是自然给定的，也不是不可避免的。相反，我们可以问自己这样一个问题：我们要在多大程度上向大型数字公司敞开我们的民主，又是在什么条件下我们愿意这样做？因为归根结底，IT 本可以是另一番样子（IT could be otherwise）。[^f07-12] [^f07-1]: 关于公共广播究竟应当切实地教育公民，还是只应为公民提供自我教育的可能性，一直存在着争论（Sørensen and Hutchinson 2018）。 [^f07-2]: 作为一门学科，社会学肯定还太年轻，无法以世纪来谈论它。尽管 Auguste Comte 早在 1851 年就首次使用了 sociologie（社会学）一词（Comte [1851] 2014），但我们这门学科甚至还没有两百年的历史可供回顾。 [^f07-3]: 这一洞见源于 Garfinkel 对 Schütz 及其社会学现象学的研究。将外部观察范畴应用于社会行动的问题，尤其在他对 Parsons 社会行动理论的讨论中得到了令人印象深刻的处理（Schütz and Parsons 1978）。 [^f07-4]: 在这里我们看到了 Parsons 的影响，他同样拒绝把心理过程当作对社会现象进行分析的视角的出发点。事实上，Parsons 把这称为一个本体论和心理学的问题，而他——作为一名社会结构与社会关系的分析者——对此根本不感兴趣（Schütz and Parsons 1978）。 [^f07-5]: 值得注意的是，这种转向可观察行动的做法与 Parsons 的社会行动观念相距并不太远。他论证说，我们被社会化进一套术语图式之中，并运用它来反思我们自己、理解他人的行动（Schütz and Parsons 1978, 104）。 [^f07-6]: 我在此将它们归总在一起，因为实用主义、ANT 和常人方法学共享这种经验取向（例如 Emirbayer and Maynard 2011）。 [^f07-7]: 这也正是 Greimas（1983）及其符号学对于分析社会秩序变得相关的地方。所给出的关于制度规则、组织规则或规范系统的说明，是对某种东西的被叙述出来的指涉。通过生产关于它们的说明而使它们在情境中（主体间地）变得相关，就意味着把它们整合进一个共享的叙述之中。 [^f07-8]: 这里存在一些术语上的问题，因为 Akrich（1992）以及 Akrich 和 Latour（1992）所界定的概念和术语并不总是一致的。Akrich（1992）谈的是 pre-scriptions（预设脚本），而这一确切术语并未被收入 Akrich 和 Latour（1992）所提出的术语框架之中。在那里，人们看到的是 pre-inscription（预铭写）和 prescription（规定），然而二者在所提出的含义上差别很大。 [^f07-9]: 顺便一提，人们或许可以论证，恰恰是这一洞见例示了为什么社会学依赖于使用概率的统计分析，而不是用决定论式的公式来计算“社会”。 [^f07-10]: 当然，这只适用于某种特定形式和特定想象的社会学。如果没有受过社会科学家的训练，开发者就不太可能用理论术语来讨论待设计之情境的种种条件。 [^f07-11]: 事实上，这与其他社会理论中所见的复杂性化约（reduction of complexity）观念非常相似。 [^f07-12]: 我非常感谢哥本哈根信息技术大学（IT University Copenhagen）的“实践中的技术研究组”（Technology in Practice Group）允许我借用这一绝妙的表述，这一表述是他们在 2017 年的一次工作坊中提出的。 # 结论（Conclusion） 对这家公共广播机构（public broadcaster）而言，制造一个（民主的）算法是一项挑战。它要求协调（coordination）多个场域与多种理性，算法正是在一个早已确立、并且总是已经被秩序化了的世界中，于这些场域与理性之中得以实演（enactment）的。算法最终成为了什么，所反映的不仅是几千行代码的技术细节或所应用的计算；它同样反映了种种不同的社会秩序化（ordering），正是这些秩序化在形形色色既已确立并制度化的基础设施与实践中，使这些计算成为可能。与其认为算法在做某事（这一点固然不错），当我们想要开始理解、并有可能进而规制算法的权力时，更有成效的做法或许是更仔细地审视“做算法”（doing algorithms）究竟意味着什么。聚焦于所涉各种行动元（actant）之间的“居间性”（in-between-ness），也就是追问是什么将它们联结起来，以及算法及其主体的身份如何发生变化，能够为我们提供以不同方式做算法的手段。于是，对这一推荐算法之生成的描述，也能为我们留下若干关于数字社会秩序化过程的重要启示与洞见。首先，软件开发项目——其中也包括机器学习与人工智能（AI）应用的开发——不能仅仅被理解为一项技术事业。相反，这些开发项目是不同的社会、规范、法律与组织层面的要求和结构汇聚于一处的场域。因此，一个开发团队（dev-team）不仅组织着其自身学科的算法版本，还必须将不同的要求、想象与现实相互协调，才能使算法系统得以实现。由此，算法并不只是寥寥数行代码，而是一个行动者（actor）：它之所以能够存在，仅仅是因为它成功地将不同的行动者整合进自身的存在之中，其程度之深，甚至延伸至整个组织或法律机制。这当然也是一个社会日益依赖数字技术的结果，而这种依赖的程度在几十年前是无法想象的。问题的界定在发生变化，从纯属计算机科学领域的议题，转入经济、医学、公共媒体乃至战争等领域。但这也使我们有必要改变对待软件开发项目的态度。这些协调与算法反身性（algorithmic reflexivity）的场域必须有许多不同的人参与其中，他们能够把 n 维向量空间的理性转译为具体可感的法律或政治主张。从这一洞见中至少可以引申出三项要求：a）将计算理性转译为定性说明（qualitative accounts）的新形式，需要新的社会秩序化结构；b）价值设计（value by design）路径需要持久性（durability）；c）我们不要只关注算法，也要关注造就算法的平台与环境。上述每一点都是一项宽泛且可能大胆的要求，或许甚至是出于学术文体的需要而提出的，但我深信，如果我们想要理解机器学习与民主之间的复杂关系，其中每一项都十分重要，值得进一步的研究与投入。 ## 转译理性（Translating Rationalities） 第一，我们迫切需要新的形式，将计算理性转译为在政治或法律辩论中可以与之相关联的东西。正如关于多样性（diversity）的讨论所表明的，以算法逻辑来表达某些理念与规范的尝试失败了，部分原因在于，有关多样性的话语始终是在一种关于我们所指为何的隐含理解之上运作的，而这种理解因此属于我们交谈中视为理所当然的储备。即便是在法律表述（见于德国联邦宪法法院的裁决及相关法律）与编辑们对这一术语的隐含理解之间所进行的转译，也表明多样性的表达是通过范例与实践习得的，而非通过数学表述。倘若某事违背了所设想的多样性理想，便有一些程序可以使之回到可接受的状态。或者借用常人方法学（ethnomethodology）的概念来说，有能力的参与者拥有将情境带回被视为正常之状态的方式。就算法系统而言，这类使情境常态化的程序仍然匮乏。尤其是，因为能够反身性地消解算法系统所产生之说明（accounts）的方法尚付阙如。吊诡的是，答案可能是更多而非更少的数据科学，更多而非更少的定量分析。但这种数据科学应当诞生于不同的秩序化系统，其专家拥有来自不同领域的知识。颇具讽刺意味的是，数据科学专家们自己已开始寻求外部专业知识（Ribes 2019; Ribes et al. 2019）。 若以多样性与推荐系统的问题为出发点，数据科学方法就必须与更具定性与诠释性的探究模式相结合，把编辑们的隐性知识转译为算法推理的形式。例如，通过推荐系统必须遵循的规则把不同的主题簇（cluster）联结起来，比如：如果向 user1 展示了许多来自簇 1（“国内政治”）的视频，那就向她展示来自簇 54（“国际文化”）的视频。然而，这就需要有方法来识别出存在这样的簇，继而制定出算法系统能够理解的规则——而且这需要来自至少两个不同领域的专业知识。 于是，治理算法系统就变成了协调不同的转译与秩序化时刻的问题，而不仅仅是实现直截了当的规范性假设与理念的过程。归根结底，我们可以扪心自问：如果我们想让开发者在狭义算法的脚本（script）与本体论中实现诸多不同的规范性说明，是否对他们要求过高了——或许我们也应当通过更广泛地改变算法系统来寻求解决方案。此外，机器学习的性质使得在开发过程中纳入不同形式的专业知识似乎并不足够——尽管这很重要。相反，也许需要一种更持久的解决方案。这就引出了我的第二个结论。 ## 将价值设计制度化（Institutionalizing Value By Design） 价值敏感设计（value sensitive design）长期以来一直是这一讨论中的一个重要分支。Helen Nissenbaum（2001）相对较早地论证了计算机系统与数字应用确实体现着价值（另见 Friedman and Nissenbaum 1996）。由此得出这样的洞见：数字系统的价值可以通过协同设计（co-design）与价值敏感设计的过程加以调整。行文至此，这一点应不会令人意外。而且，已有许多有趣且有价值的项目与尝试，致力于构建更负责任、更合乎伦理的系统——其中也包括本书所依据的那个项目本身。例如，Zhu et al.（2018）提出了在算法设计过程早期就纳入不同利益相关者（stakeholder）及其专业知识的建议。Méndez Fernández and Passoth（2019）甚至将软件开发概念化为一门“交叉学科”（interdiscipline），它必然要纳入不同的理论、学科与社会视角。其他学者则提议通过数据可视化，使团队构成以及不同社会群体的贡献变得可见（D’Ignazio and Klein 2020），以便让团队构成中的问题显现出来。Diakopolous（2019）同样认为，采用价值设计路径对于实现算法问责（algorithmic accountability）至关重要。已经有一个非常活跃的社群在寻求于数字技术中实现价值敏感设计。然而，Diakopolous（2019）也认为，评估是算法问责的一个基本要素（另见 Jones and Jones 2019）——它超出了算法系统的开发阶段。而且——我想在此补充——由于机器学习与算法系统的网络化性质，这一点就更是如此。 机器学习在很大程度上依赖于基于观察数据来计算和应用模型的持续过程。然而，正如我们所见，数据本身就需要大量投入诠释与合理化的工作。我所称的算法反身性，就是以一种包含并使人能够理解数据生产过程的方式，将数据与算法对齐的过程。这些过程由此从不脱离一个更广泛的、在实践中达成的秩序——因而其本身就是历史性地偶然的。因此，即使在模型只训练一次、随后不再改动便加以应用的场合，相关社会秩序（化）［social order(ings)］配置的变迁，也可能改变算法系统的整个身份。算法反身性对于所指涉的情境而言就不再适切——可以说，算法不再是一个有能力的成员了。对于那些持续学习的应用而言，这就更成问题了，推荐系统恰恰如此。模型被定期重新计算，因而会对用户的实践作出反应。[^f08-1] 因此，在这两种情形中，规范性评估也都必须持续进行。每一次计算都必须对照规范框架加以评估，仿佛又是一次新的初次评估——而倘若算法系统出现偏离，就要将其带回我们认为可以接受的状态。然而，这就要求我们彻底重新思考面向机器学习的价值设计路径，并思考制度化与组织化的解决方案。因此，我在上一节提到的软件开发项目的治理，必须在那些被界定为对我们的民主而言敏感的领域中成为一种常设状态。就这家公共广播机构的推荐系统而言，这样的解决方案可以是设立一个独立部门，尝试持续监测推荐的多样性。 因此，算法规范性（algorithmic normativity）并不是通过在算法开发过程中纳入伦理学或社会科学专家来实现的，因为这些联盟只是暂时的，终将自然终结。相反，我们必须以持久的结构来对抗持久的算法，从而改变其身份。要创造民主的算法，我们就必须建设并扩展我们的民主制度（institution）。如此一来，民主的算法便成为民主的计算过程。 ## 笨蛋，问题在于平台经济！（It’s the Platform Economy, Stupid!） 一本关于算法的书以主张开展更多平台研究（platform studies）作结，或许显得有些奇怪。然而，我并不认为这是一个“非此即彼”的问题。我在全书中讨论的是算法的网络化性质，以及我们应当把算法理解为从不同秩序化系统中涌现出来的东西——这一理解也将其技术上的抵抗考虑在内。然而，在我所讨论的推荐系统案例中，一再清楚地显示出，算法的实现受到了既已存在的秩序化的阻碍——或者至少被大幅改道。算法最终成为的样子，是一种可能性的艺术（the art of the possible），因为其他秩序化系统就是更持久、更有力。尽管这一点在公共广播组织的案例中十分明显，但这一洞见可以适用于一切涉及算法或机器学习的场合。举一个相当著名的例子，我们可以问问自己：Cambridge Analytica 事件——数以百万计的用户档案被从 Facebook 上抓取，用以针对美国公民以影响其投票行为——在一个不同的环境中是否还有可能发生？所描述的算法的应用是高度成问题的。然而，同样成问题的，是那个首先为其提供了实现手段的环境。平台很重要，这并非什么新的洞见（例如参见 Gillespie 2018; Zuboff 2019）。然而，这家公共广播机构的案例表明，平台政治与算法系统的可能性条件是如何相互缠结的。因此，规制或干预算法的生产固然重要，但同样重要的是干预我们日常生活与政治生活的核心平台。如果在理解算法权力（algorithmic power）的同时不理解平台的社会技术秩序，我们将走到一个对二者都无从把握的境地。不过，这可以朝不同的方向发展。将协调不同的实演作为一种组织形式，也将开启把不同平台整合进一个共同结构的可能性：在这一结构中，审计（auditing）、以民主方式设立的基础设施，以及将规范性说明转译为技术手段的途径，由一个在政治上与民主上具有正当性的制度来提供。通过这样一种公共算法基础设施，为敏感领域中的算法权力提供可能性条件的环境，将会向干预以及伦理、道德与法律的推理开放。 ## 现代的算法（Modern Algorithms） 如前所述，如果我们想要理解并干预算法系统共同建构我们社会的方式，它们便带来了种种不同的挑战。然而，它们所扰动的不仅是我们的规范体系，还有我们对现代性（modernity）的整体理解。Lyotard（1984）有一个著名的宣称：由于宏大叙事（grand narratives）正在消逝，我们正进入一种后现代主义（postmodernism）的状态。按照这一论证，我们的时代不再有一个推动它的共同建构，无论那是进步、对自然的支配，还是启蒙。针对这样的论证，Latour（1993b）同样非常著名地提出了“我们从未现代过”这一说法，因此，除了“我们曾拥有一个共同叙事”这一叙事之外，没有什么可以失去。机器学习似乎是这些争论的逻辑延续。关于人工智能与机器学习的讨论总体上所表明的，以及本书的各个小插曲（vignette）具体所表明的，是我们几乎无法再维持对自然的支配这一理念，或一种共同而普遍的理性的叙事。算法系统在其所产生的一切议题与问题之中，就其计算逻辑而言都是理性的。但这是一种我们无从把握的逻辑，以至于我们坐在电脑屏幕前，看着神经网络或潜在因子向量空间的可视化，扪心自问：这究竟意味着什么？多数时候它意味着：它起作用了，它解决了一个问题。机器学习技术不是依据它们提出的论证或我们借以推导出的普遍法则来评估的，而是依据这样一个事实：在给定数据集与问题上——比如用于手写数字图像识别的 MNIST 数据库——它们比其他模型的表现高出一个百分点。这进而在认识论与社会理论中同样引发了诸多问题。其一是算法客观性（algorithmic objectivity）的问题。正如 G. Rieder & Simon（2016）所论证的，算法被视为客观而中立的实体，它将对数字的信任（Porter 1995）转译到算法领域之中。然而，正如 Daston and Galison（2010）所阐明的，客观性是一项集体成就，需要沟通、协调与规训（discipline）。鉴于我们在理解机器学习的推理方面所面临的问题，甚至在严格受控的环境之外都无法对它们进行相互比较，这又会如何影响当代社会中的客观性观念？什么算作客观的，又为何如此？而我们又有哪些手段，或许无论如何仍能建构出客观性？ 第二个问题，或许也是大得多的问题，触及核心的社会学理论，尤其是与社会分化（social differentiation）理论相关的部分。既然洞察到现代性的自我描述正受到这些新技术出现的挑战，我们也可以得出结论：社会学推理同样如此，因为按照 Eisenstadt and Curelaru（1976）的说法，社会学推理本身就是现代性的产物。我在全书中所讨论的，可以被解读为一个关于不同社会子系统（subsystem）及其因各自不同的系统内部代码（code）而产生之问题的故事。这些系统中的每一个——姑且暂时这样称呼它们——都履行着某种功能，无论是在组织内部、在政治系统中，还是在科学系统中。然而与此同时，这些不同的系统又经由特定的行动者配置相互作用，使特定形式的行动元——亦即客体与主体——成为可能。那么，我们在此观察到的是何种形式的分化？不同的子系统又是如何被整合（integration）的？由于分化这一概念本身也需要稍加区分，这些问题就变得更加复杂。在经典路径中，例如 Durkheim（[1893] 2014）那里，分化的主要形式是复杂社会中的劳动分工。通过共同体内单个行动元的持续专门化，生产力提高，更复杂的社会结构形式成为可能。然而，这也需要新的整合形式，因为现代社会的这些单个要素变得相互依赖。Durkheim 强调了组织与国家在促进现代社会整合方面的作用。Norbert Elias 则从不同的理论构想出发，即个体行动元之间关系的不同配置——他称之为“型构”（figuration）——以及这种配置如何在一个历史过程中导致权力的垄断。与 Durkheim 相反，Elias（[1939] 2000）认为分化是这种垄断的结果，因为垄断如今能够以自我指涉的方式开始界定不同的生产标准，并使它们彼此关联。然而，整合的机制在二者那里原则上是相同的。如果我们采取本书所讨论的那种以实践为导向的、物质符号学（material semiotic）的立场，就可以提出这样的问题：在数字化社会中涌现出了哪些物质性与基础设施性的整合形式——以及在可观察到的多重本体论与多重秩序化的条件下，整合是否甚至被过分强调了。类似的观察也可以针对其他分化概念作出，这些概念被归为系统论（systems theory）路径，首推 Parsons 与 Luhmann。两位理论家都提出了一种社会系统理论，尽管方式不同。对 Parsons（1971）而言，一个社会必须履行某些功能，才能维持稳定的均衡并确保自身的存续。这最终导向了 Parsons 著名的 AGIL 图式。这一理论构想的妙处（clou）在于，每一个子系统都必须为自身维持同样的功能——从而导致功能的无限递归。这使得人们可以把每个现代社会中的行动系统归入一个有助于维持社会结构的功能子系统。与 Durkheim 或 Elias 的路径不同，整合并不是一个更高层级的秩序化系统，而是与其他功能并列的一项功能。Luhmann（1996）作为 Parsons 晚年的学生，后来批评了 Parsons 的路径，并基于关于自我生成（autopoietic）且运作上封闭之系统的控制论思想，提出了他自己的社会分化理论。Luhmann 意义上的分化不再取决于必须加以维持的结构，而取决于各种沟通系统的分化，这些沟通系统是一个统摄性的、自我观察的社会系统的产物。[^f08-2] 涌现出哪些系统，是一个演化过程的结果，无法预先确定。然而，每一个系统都以其自身的沟通代码与运作来工作，例如经济系统中的“支付/不支付”，或政治系统中的“有权力/无权力”。不过，这两种系统分化路径都引发了关于算法与机器学习在其中扮演何种角色的问题。正如我在全书中所阐明的，机器学习处于这些不同的子系统之间，联结着不同的理性与不同形式的沟通代码。借此，它使参照框架——即组织或更大的共同体，这对 Parsons 而言是一个至关重要的要素——多重化，同时又在不同社会技术子系统的运作结构之间架起桥梁。 这些对分化理论的简短聚焦——当然——无法公允地呈现那些复杂与细致得多的理论。而且还有许多理论是我在此无法触及的。然而，我试图表明的是，这里有值得追问和探索的东西：算法与机器学习对我们关于现代社会的理论化提出了问题。而这些问题已经开始受到关注，主要是在德语学界的语境中：在那里，“社会”这一概念从实用主义（pragmatist）视角受到质疑（Renn 2006），或者如 Gesa Lindemann（2019）那样，提出一种更多考虑技术发展的分化理论。与此处所提问题最为一致的路径，或许是“碎片式分化”（fragmental differentiation）的概念（Passoth and Rammert, 2019）。这也与 Latour（2013）的工作形成良好的共鸣：他描述了不同的存在模式（modes of existence），其方式可以被解读为一种关于分化的社会理论。他在那里识别出诸如政治、科学或法律之类彼此不同的模式——这在 STS 路径与社会分化理论之间架起了一座颇有前景的桥梁。因此，在构建不仅是社会的、而且是社会技术的分化之新理论方面，已有一些有趣的分支，它们可以成为追问机器学习在现代社会中之角色的一个有意思的出发点。对于这些问题，我在此一个也无法回答，而尝试给出一个答案，很可能——至少——需要单独写一本书。但这些问题以及其他许多问题都值得追问，因为机器学习与人工智能对我们的当代社会以及我们的社会理论构成了严峻挑战。 最后，作为本书一个但愿积极的结尾，我想说，所有这些问题、论证与阐述，都源于对这一主题的真切着迷。本书的目的不是警告人类提防算法，也不是把我们从天网（Skynet）手中拯救出来。我喜欢编程，喜欢埋头于数学公式，喜欢潜入成堆的数据，也喜欢拿 /dev/random 开些极客玩笑。归根结底，我想理解是什么驱动着这些我们称之为算法的实体，以及它们如何成为一个我们称之为民主的更大系统的一部分。然而，套用 Kranzberg（1986）的话说：算法既无好坏之分，也并非中立。因此，我们应当找到与之共处的方式，这种方式要是我们认为积极的，并且与我们的当代民主相容。 [^f08-1]: 严格地说，它会对处于用户与平台之间的实践作出反应，因为分析单位是实践，而非个人。 [^f08-2]: 这一反身性转向甚至导向了“社会的社会”（the society of society）这一表述（Luhmann 1997），因为“社会”只作为自我观察的结果而存在。Nassehi（2019）后来将数字化表述为一种（数字的）自我观察过程。 # 致谢（Acknowledgements） 本书以我的博士论文《推荐的规则：一个推荐系统的制造能告诉我们关于社会秩序与机器学习之间艰难关系的什么》（“Rule(s) of Recommendation. What the making of a recommender system can tell us about the difficult relation between social order and machine learning”）为基础，该论文于 2021 年夏季在慕尼黑工业大学（Technical University of Munich）通过答辩。正如一些读者或许知道的，这样一本书始终是一项充满挑战而又脆弱的事业。与我在本书中所讨论的算法颇为相似，最终的书稿是一整个集体的成就，而不只是我孤立、超然之思考的结果。相反，它隐含地指涉着如此之多的人、地方与情境。尽管每一个写过博士论文的人都知道，制作这样一本书的过程并不总是令人愉快的，但我不愿错过其中的任何一分钟。下面，我想让在这项事业中给予我特别帮助的一些人得以被看见。 首先，我要感谢 Jan-Hendrik Passoth 教授。与他共事过去是——现在也依然是——一件了不起的事。我将永远记得那许许多多的场合：我顺路去他办公室请他签个字，结果却发现自己站在那里至少讨论了一个小时的媒介理论、社会理论，或是最新几集的《星际迷航：发现号》（Star Trek: Discovery）。在他指导下、在他团队中的那段时间里，我学到了如此多的东西，而且他真正以一种超乎我此前想象的方式，为我打开了物质符号学（material-semiotics）这一极客空间。 我还要向 Sabine Maasen 教授致以最深切的谢意。她始终是我的一位杰出导师，鼓励我多思考、往更大处思考。不过，我尤其感激她对 MCTS（现为 STS 系［STS Department］）永不止息的投入，以及她得以培育起来的那个蓬勃而富有思想活力的环境（当然也离不开那里所有出色的同事！）。没有这个出色的地方和她的指引，本书以及我的许多思考都不可能实现。 我也要感谢 Iris Eisenberger 教授推动我冲向（并越过）终点线。我们都知道，结束写作过程是令人恐惧的。在那一刻你必须说：就这样了。然而，这样的项目永远不会完成。总有些地方可以解释得更好，需要更多细节，可以作更多的语境化，尤其是因为你会随着写作过程而成长。到最后，你知道的比开始时更多。你的思考已经改变，也许变得更加细致。而你希望自己的作品能反映这一点。但这是不可能的。在某个时刻，你必须表现得仿佛它已经完成。Eisenberger 教授总是提醒我这一点，并且她的门始终为我敞开，让我谈论这些恐惧与挑战。而到最后，她总会对我说：把它写完就好，会很好的。 Marcus Burkhardt 博士在此也需要特别一提。他不仅在我的论证陷入僵局时总是为我敞开大门，而且总是对我的文字持批判态度——以所能想象的最好的方式——推动我更加精确。我尤其感激他引领我进入媒介理论的世界，并帮助我探索这一引人入胜的学术领域。 还要感谢 Andrea Geipel 博士给予我的情感支持，以及她为我探路于慕尼黑工业大学（TUM）那未知而不透明的官僚迷宫之中。到最后，她极大地帮助我应对了提交论文时情感上与组织上的种种困难，并且在撰写博士论文必然伴随的那些更为艰难的时期，她是一位很好的朋友。 Peter Kahlert 同样值得感谢，感谢我们一边喝着那杯必不可少的啤酒，一边就实用主义（pragmatism）与 Luhmann 的系统论（systems theory）进行的那些投入而又引人入胜的讨论。说到 George Herbert Mead 的著作，这个星球上比他更有学识的人并不多。 这份名单已经表明，本书是在许多不同的地方产生的。就其整体而言，本书写于我在慕尼黑工业大学、格拉茨大学（University of Graz）和克拉根福大学（University of Klagenfurt）的办公室里。我感激所有这些机构为我提供了将大部分时间投入这一项目的机会。因此，我感谢所有为我提供栖身之所与思考养料的人、团体与机构。这其中也包括“实践中的技术”研究组（Technology in Practice Group，哥本哈根 IT 大学［ITU Copenhagen］），我有幸于 2020 年 1 月前往访问。特别感谢 Rachel Douglas-Jones 和 Baki Cakici。我还必须感谢兰卡斯特大学（Lancaster University）数据科学研究所（Data Science Institute），让我有机会与计算机科学领域的同事讨论我的想法。特别感谢 Victoria Neumann。 最后，我要感谢我在这些机构中所有过去与现在的同事，尤其是慕尼黑工业大学 STS 系（前 MCTS）的同事们，以及前“创新法”工作组（Innovation Law）的成员们，他们如今分布在维也纳、格拉茨，甚至新西兰。思考总是在一个群体之中更好，也更有趣。 # 参考文献（References） > 参考文献条目保留原文。 Aibar, Eduardo, and Wiebe E. Bijker. 1997. “Constructing a City: The Cerda Plan for the Extension of Barcelona.” *Science, Technology & Human Values* 22 (1): 3–30. https://doi.org/10.1177/016224399702200101. Akrich, Madeleine. 1992. “The De-Scription of Technical Objects.” In *Shaping Technology / Building Society: Studies in Sociotechnical Change*, edited by John Law and Wiebe Bijker, 205–24. Massachusetts: MIT Press. Akrich, Madeleine, & Bruno Latour. 1992. “A Summary of a Convenient Vocabulary for the Semiotics of Human and Nonhuman Assemblies.” In *Shaping Technology/Building Society*, edited by Wiebe E. Bijker and John Law. 259–64. Massachusetts: MIT Press. Allgaier, Joachim, Andrea Geipel, and Jesús Muñoz Morcillo. 2019. “Climate Protection Policy in Germany: YouTubers and Scientists United against the Government?” Naturevolve. November 14, 2019. https://www.naturevolve.com/post/2019/11/12/climate-protection-policy-in-germany-youtubers-and-scientists-united-against-the-governme. Amann, Klaus, and Stefan Hirschauer. 1997. “Die Befremdung Der Eigenen Kultur. Ein Programm.” *Die Befremdung Der Eigenen Kultur. Zur Ethnographischen Herausforderung Soziologischer Empirie*. Suhrkamp-Taschenbuch Wissenschaft. 1318. Frankfurt, Main: Suhrkamp. Amatriain, Xavier, and Justin Basilico. 2011. “Recommender Systems in Industry: A Netflix Case Study.” In *Recommender Systems Handbook*, edited by Francesco Ricci, Lior Rokach, Bracha Shapira, and Paul B. Kantor, 385–419. Boston, MA: Springer US. https://doi.org/10.1007/978-0-387-85820-3_8. ———. 2016. “Past, Present, and Future of Recommender Systems: An Industry Perspective.” In *Proceedings of the 10th ACM Conference on Recommender Systems*, 211–14. RecSys ’16. New York, NY, USA: Association for Computing Machinery. https://doi.org/10.1145/2959100.2959144. Ames, Morgan G. 2018. “Deconstructing the Algorithmic Sublime.” *Big Data & Society* 5 (1): 2053951718779194. https://doi.org/10.1177/2053951718779194. Amoore, Louise. 2009. “Algorithmic War: Everyday Geographies of the War on Terror.” *Antipode* 41 (1): 49–69. https://doi.org/10.1111/j.1467-8330.2008.00655.x. ———. 2011. “Data Derivatives. On the Emergence of a Security Risk Calculus for Our Times.” *Theory, Culture & Society* 28 (6): 24–43. https://doi.org/10.1177/0263276411417430. ———. 2013. *The Politics of Possibility: Risk and Security Beyond Probability*. Durham: Duke University Press. Ananny, Mike. 2016. “Toward an Ethics of Algorithms: Convening, Observation, Probability, and Timeliness.” *Science, Technology, & Human Values* 41 (1): 93–117. https://doi.org/10.1177/0162243915606523. Ananny, Mike, and Kate Crawford. 2018. “Seeing without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability.” *New Media & Society* 20 (3): 973–89. https://doi.org/10.1177/1461444816676645. Anderson, Benedict. 2006*. Imagined Communities: Reflections on the Origin and Spread of Nationalism*. Revised. London ; New York: Verso. Aneesh, Aneesh. 2009. “Global Labor: Algocratic Modes of Organization.” *Sociological Theory* 27 (4): 347–70. https://doi.org/10.1111/j.1467-9558.2009.01352.x. Angwin, Julia, Jeff Larson, Surya Mattu, and Lauren Kirchner. 2016. “Machine Bias: There’s Software Used Across the Country to Predict Future Criminals. And It’s Biased Against Blacks.” ProPublica. May 23, 2016. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing. Angwin, Julia, Madeleine Varner, and Ariana Tobin. 2017. “Facebook Enabled Advertisers to Reach ‘Jew Haters.’” ProPublica. 2017. https://www.propublica.org/article/facebook-enabled-advertisers-to-reach-jew-haters. Aradau, Claudia, and Tobias Blanke. 2017. “Politics of Prediction: Security and the Time/Space of Governmentality in the Age of Big Data.” *European Journal of Social Theory* 20 (3): 373–91. https://doi.org/10.1177/1368431016667623. Archer, Margaret S. 1982. “Morphogenesis versus Structuration: On Combining Structure and Action.” *The British Journal of Sociology* 33 (4): 455–83. https://doi.org/10.2307/589357. Arendt, Hannah. 2017. *Artifacts of Thinking: Reading Hannah Arendt’s Denktagebuch*. Edited by Ian Storey. New York, NY: Fordham University Press. Austin, John L. 1975. *How to Do Things with Words: Second Edition*. Edited by James O. Urmson and Marina Sbisa. Revised. Cambridge, Mass: Harvard University Press. Bakshy, Eytan, Solomon Messing, and Lada A. Adamic. 2015. “Exposure to Ideologically Diverse News and Opinion on Facebook.” *Science* 348 (6239): 1130–32. https://doi.org/10.1126/science.aaa1160. Barber, Benjamin R. 1988. *The Conquest of Politics: Liberal Philosophy in Democratic Times*. Princeton, N.J: Princeton University Press. Barlow, John Perry. 2016. “A Declaration of the Independence of Cyberspace.” Electronic Frontier Foundation. January 20, 2016. https://www.eff.org/de/cyberspace-independence. Barocas, Solon, and Andrew D. Selbst. 2016. “Big Data’s Disparate Impact.” *California Law Review* 104: 671. Barry, Andrew. 2001. *Political Machines: Governing a Technological Society*. New York: Athlone Press. Bauman, Zygmunt. 2000. *Globalization: The Human Consequences*. Revised. New York: Columbia University Press. Beam, Michael A., and Gerald M. Kosicki. 2014. “Personalized News Portals: Filtering Systems and Increased News Exposure.” *Journalism & Mass Communication Quarterly* 91 (1): 59–77. https://doi.org/10.1177/1077699013514411. Bechmann, Anja, and Geoffrey C Bowker. 2019. “Unsupervised by Any Other Name: Hidden Layers of Knowledge Production in Artificial Intelligence on Social Media.” *Big Data & Society* 6 (1): 2053951718819569. https://doi.org/10.1177/2053951718819569. Beck, Ulrich. 1992. *Risk Society: Towards a New Modernity*. London: SAGE Publications. Becker, Howard S. 1997. *Outsiders: Studies in Sociology of Deviance*. New York: Free Press. Beer, David. 2009. “Power through the Algorithm? Participatory Web Cultures and the Technological Unconscious.” *New Media & Society* 11 (6): 985–1002. https://doi.org/10.1177/1461444809336551. ———. 2015. “Productive Measures: Culture and Measurement in the Context of Everyday Neoliberalism.” *Big Data & Society* 2 (1): 2053951715578951. https://doi.org/10.1177/2053951715578951. ———. 2017. “The Social Power of Algorithms.” *Information, Communication & Society* 20 (1): 1–13. https://doi.org/10.1080/1369118X.2016.1216147. Benjamin, Ruha. 2019. *Race After Technology: Abolitionist Tools for the New Jim Code*. Medford, MA: Polity. Bennett, James. 2018. “Public Service Algorithms.” In *A Future for Public Service Television*, edited by Des Freedman and Vana Goblot, 91–101. London: Goldsmiths Press. Berg, Sebastian, & Hofmann, Jeanette. 2021. “Digital democracy.“ *Internet Policy Review* 10(4). https://policyreview.info/articles/analysis/digital-democracy Berger, Peter L., and Thomas Luckmann. 1967. *The Social Construction of Reality: A Treatise in the Sociology of Knowledge.* New York: Anchor. Berry, David. 2011. “The Computational Turn: Thinking about the Digital Humanities.” *Culture Machine* 12. Beverungen, Armin, Timon Beyes, and Lisa Conrad. 2019. “The Organizational Powers of (Digital) Media:” *Organization* 26 (5): 621–35. https://doi.org/10.1177/1350508419867206. Bimber, Bruce. 2003. *Information and American Democracy: Technology in the Evolution of Political Power.* Cambridge: Cambridge University Press. Bishop, Sophie. 2019. “Managing Visibility on YouTube through Algorithmic Gossip.” *New Media & Society* 21 (11–12): 2589–2606. https://doi.org/10.1177/1461444819854731. Blumer, Herbert. 1954. “What is Wrong with Social Theory?” *American Sociological Review* 19 (1): 3–10. https://doi.org/10.2307/2088165 ———. 1986. *Symbolic Interactionism: Perspective and Method*. Berkeley, Los Angeles, London: University of California Press. Bodó, Balázs, Natali Helberger, Sarah Eskens, and Judith Möller. 2019. “Interested in Diversity.” *Digital Journalism* 7 (2): 206–29. https://doi.org/10.1080/21670811.2018.1521292. Bogard, William. 2006. “Welcome to the Society of Control: The Simulation of Surveillance Revisited.” In *The New Politics of Surveillance and Visibility*, edited by Kevin D. Haggerty and Richard V. Ericson, 55–78. Toronto, Buffalo, London: University of Toronto Press. Bourdieu, Pierre. 1984. Distinction: A Social Critique of the Judgement of Taste. Cambridge, Massachusetts: Harvard University Press. Bowker, Geoffrey C. 2006. *Memory Practices in the Sciences*. Cambridge, Massachusetts: The Mit Press Ltd. ———. 2014. “Big Data, Big Questions| The Theory/Data Thing.” *International Journal of Communication* 8 (2043): 1795–99. Bowker, Geoffrey C, and Susan Leigh Star. 2000. *Sorting Things out: Classification and Its Consequences*. Cambridge, Massachusetts: MIT Press. boyd, danah. 2010. “Social Network Sites as Networked Publics: Affordances, Dynamics, and Implications.” In *Networked Self: Identity, Community, and Culture on Social Network Sites*, 39–58. New York, Oxon: Taylor & Francis. boyd, danah, and Kate Crawford. 2012. “Critical Questions for Big Data.” *Information, Communication & Society* 15 (5): 662–79. https://doi.org/10.1080/1369118X.2012.678878. Bozdag, Engin. 2013. “Bias in Algorithmic Filtering and Personalization.” *Ethics and Information Technology* 15 (3): 209–27. https://doi.org/10.1007/s10676-013-9321-6. Breeman, J.M., V.E. Breeman, and Natali Helberger. 2011. “On the Regulator’s Plate: Exposure Diversity in a Changing Media Environment: Workshop Report and Highlights of an Expert Discussion.” *Journal of Information Policy* 1: 370–77. https://doi.org/10.5325/jinfopoli.1.2011.0370. Bucher, Taina. 2012. “Want to Be on the Top? Algorithmic Power and the Threat of Invisibility on Facebook.” *New Media & Society* 14 (7): 1164–80. https://doi.org/10.1177/1461444812440159. ———. 2016. “Neither Black Nor Box: Ways of Knowing Algorithms.” In *Innovative Methods in Media and Communication Research*, edited by Sebastian Kubitschko and Anne Kaun, 81–98. Cham: Springer International Publishing. https://doi.org/10.1007/978-3-319-40700-5_5. Burke, Adam. 2019. “Occluded Algorithms.” *Big Data & Society* 6 (2): 2053951719858743. https://doi.org/10.1177/2053951719858743. Burrell, Jenna. 2016. “How the Machine ‘Thinks’: Understanding Opacity in Machine Learning Algorithms.” *Big Data & Society* 3 (1): 2053951715622512. https://doi.org/10.1177/2053951715622512. Burri, Mira. 2015. “Contemplating a ’Public Service Navigator’: In Search of New (and Better) Functioning Public Service Media.” *International Journal of Communication* 9: 1341–59. ———. 2016. “Nudging as a Tool of Media Policy.” In *Nudging - Possibilities, Limitations and Applications in European Law and Economics*, edited by Klaus Mathis and Avishalom Tor, 315–41. Cham: Springer International Publishing. https://doi.org/10.1007/978-3-319-29562-6_16. Butler, Judith. 1997. *Excitable Speech: A Politics of the Performative.* New York: Routledge. Callon, Michel. 1986. “The Sociology of an Actor-Network: The Case of the Electric Vehicle.” In *Mapping the Dynamics of Science and Technology: Sociology of Science in the Real World*, edited by Michel Callon, John Law, and Arie Rip, 19–34. London: Palgrave Macmillan UK. https://doi.org/10.1007/978-1-349-07408-2_2. ———. 1987. “Society in the Making: The Study of Technology as a Tool for Sociological Analysis.” In *The Social Construction of Technological Systems: New Directions in the Sociology and History of Technology*, edited by Wiebe E. Bijker, Thomas P. Hughes, and Trevor J. Pinch, 83–103. Cambridge, MA; London, England: MIT Press. ———. 2004. “Europe Wrestling with Technology.” *Economy and Society* 33 (1): 121–34. https://doi.org/10.1080/0308514042000176766. Callon, Michel, and Bruno Latour. 1981. “Unscrewing the Big Leviathan: How Actors Macro-Structure Reality and How Sociologists Help Them to Do So.” In *Advances in Social Theory and Methodology: Toward an Integration of Microand Macro-Sociologies*, edited by Karin Knorr-Cetina and Aaron V. Cicourel, 277–303. Boston: Routledge & Kegan Paul. https://kops.uni-konstanz.de/handle/123456789/11424. Callon, Michel, and Fabian Muniesa. 2005. “Peripheral Vision: Economic Markets as Calculative Collective Devices.” *Organization Studies* 26 (8): 1229–50. https://doi.org/10.1177/0170840605056393. Campbell-Verduyn, Malcolm, Marcel Goguen, and Tony Porter. 2017. “Big Data and Algorithmic Governance: The Case of Financial Practices.” *New Political Economy* 22 (2): 219–36. https://doi.org/10.1080/13563467.2016.1216533. Cantador, Iván, Alejandro Bellogín, and David Vallet. 2010. “Content-Based Recommendation in Social Tagging Systems.” In *Proceedings of the Fourth ACM Conference on Recommender Systems*, 237–40. RecSys ’10. Barcelona, Spain: Association for Computing Machinery. https://doi.org/10.1145/1864708.1864756. Caswell, David. 2019. “Structured Journalism and the Semantic Units of News.” *Digital Journalism* 7 (8): 1134–56. https://doi.org/10.1080/21670811.2019.1651665. Cheney-Lippold, John. 2011. “A New Algorithmic Identity Soft Biopolitics and the Modulation of Control.” *Theory, Culture & Society* 28 (6): 164–81. https://doi.org/10.1177/0263276411424420. ———. 2016. “Jus Algoritmi: How the National Security Agency Remade Citizenship.” *International Journal of Communication* 10 (March): 1721–42. ———. 2017. *We Are Data: Algorithms and The Making of Our Digital Selves.* New York: NYU Press. Chun, Wendy Hui Kyong. 2008. “On ‘Sourcery,’ or Code as Fetish.” *Configurations* 16 (3): 299–324. https://doi.org/10.1353/con.0.0064. Clark, David. 1992. “A Cloudy Crystal Ball: Visions of the Future.” Plenary presentation at 24th meeting of the Internet Engineering Task Force, Cambridge, Mass., 13-17 July 1992. https://groups.csail.mit.edu/ana/People/DDC/future_ietf_92.pdf(Accessed:28.8.2023) Clifford, James. 1986. “Introduction: Partial Truths.” In *Writing Culture: The Poetics and Politics of Ethnography : A School of American Research Advanced Seminar*, edited by James Clifford and George E. Marcus, 1–26. Berkeley, Los Angeles, London: University of California Press. Coletta, Claudio, and Rob Kitchin. 2017. “Algorhythmic Governance: Regulating the ‘Heartbeat’ of a City Using the Internet of Things.” *Big Data & Society* 4 (2): 2053951717742418. https://doi.org/10.1177/2053951717742418. Comte, Auguste. (1851) 2014. *Systeme de Politique Positive; Ou, Traite de Sociologie, Instituant La Religion de L’Humanite Volume 01* - Primary Source Edition. Paris: Nabu Press. Cooper, Roger, and Tang Tang. 2009. “Predicting Audience Exposure to Television in Today’s Media Environment: An Empirical Integration of Active-Audience and Structural Theories.” *Journal of Broadcasting & Electronic Media* 53 (3): 400–418. https://doi.org/10.1080/08838150903102204. Cooper, Rosalind. 2020. “Pastoral Power and Algorithmic Governmentality.” *Theory, Culture & Society* 37 (1): 29–52. https://doi.org/10.1177/0263276419860576. Cormen, Thomas H., Charles E. Leiserson, Ronald L. Rivest, and Clifford Stein. 2013. *Introduction to Algorithms*. 3rd edition. Cambridge, Mass: The MIT Press. Cotter, Kelley. 2019. “Playing the Visibility Game: How Digital Influencers and Algorithms Negotiate Influence on Instagram.” *New Media & Society* 21 (4): 895–913. https://doi.org/10.1177/1461444818815684. Couldry, Nick, and Ulises A. Mejias. 2019. “Data Colonialism: Rethinking Big Data’s Relation to the Contemporary Subject.” *Television & New Media* 20 (4): 336–49. https://doi.org/10.1177/1527476418796632. Council of Europe. 2007. “Recommendation CM/ Rec (2007) 3 of the Committee of Ministers to Member States on the Remit of Public Service Media in the Information Society.” Council of Europe. Courtois, Cédric, Laura Slechten, and Lennert Coenen. 2018. “Challenging Google Search Filter Bubbles in Social and Political Information: Disconforming Evidence from a Digital Methods Case Study.” *Telematics and Informatics* 35 (7): 2006–15. https://doi.org/10.1016/j.tele.2018.07.004. Cox, Geoff, and Alex McLean. 2012. *Speaking Code: Coding as Aesthetic and Political Expression*. Cambridge, Massachusetts: The MIT Press. Crawford, Kate. 2016. “Can an Algorithm Be Agonistic? Ten Scenes from Life in Calculated Publics.” *Science, Technology, & Human Values* 41 (1): 77–92. https://doi.org/10.1177/0162243915589635. Crouch, Colin. 2004. *Post-Democracy*. Malden, MA: Polity. Curchod, Corentin, Gerardo Patriotta, Laurie Cohen, and Nicolas Neysen. 2020. “Working for an Algorithm: Power Asymmetries and Agency in Online Work Settings.” *Administrative Science Quarterly* 65 (3): 644–76. https://doi.org/10.1177/0001839219867024. Custers, Bart, Toon Calders, Bart Schermer, and Tal Zarsky. 2013. *Discrimination and Privacy in the Information Society Data Mining and Profiling in Large Databases*. Berlin; Heidelberg: Springer. Danaher, John. 2016. “The Threat of Algocracy: Reality, Resistance and Accommodation.” *Philosophy & Technology* 29 (3): 245–68. https://doi.org/10.1007/s13347-015-0211-1. Danna, Anthony, and Oscar H. Gandy. 2002. “All That Glitters Is Not Gold: Digging Beneath the Surface of Data Mining.” *Journal of Business Ethics* 40 (4): 373–86. https://doi.org/10.1023/A:1020845814009. Daston, Lorraine. 2010. “The Rule of Rules, or How Reason Became Rationality.” Wissenschaftskolleg zu Berlin, November 12. https://vimeo.com/18497646. Daston, Lorraine J., and Peter Galison. 2010. *Objectivity*. New York; Cambridge, Mass.: Zone Books. Dawe, Alan. 1970. “The Two Sociologies.” *The British Journal of Sociology* 21 (2): 207–18. https://doi.org/10.2307/588409. ———. 1978. “Theories of Social Action.” In *A History of Sociological Analysis*, edited by T. B. Bottomore and Robert A. Nisbet, 362–417. New York: Basic Books. Deleuze, Gilles. 1992. “Postscript on the Societies of Control.” *October* 59: 3–7. Desai, Deven R., and Joshua A. Kroll. 2017. “Trust but Verify: A Guide to Algorithms and the Law.” *Harvard Journal of Law & Technology* 31: 1–64. Dewey, John. (1927) 2006. *The Public & Its Problems*. Athens: Combined Academic Publ. Diakopoulos, Nicholas. 2019. “Towards a Design Orientation on Algorithms and Automation in News Production.” *Digital Journalism* 7 (8): 1180–84. https://doi.org/10.1080/21670811.2019.1682938. ———. 2020. “Computational News Discovery: Towards Design Considerations for Editorial Orientation Algorithms in Journalism.” *Digital Journalism* 8 (7): 945–67. https://doi.org/10.1080/21670811.2020.1736946. Diakopoulos, Nicholas, and Michael Koliska. 2017. “Algorithmic Transparency in the News Media.” *Digital Journalism* 5 (7): 809–28. https://doi.org/10.1080/21670811.2016.1208053. D’Ignazio, Catherine, and Lauren F. Klein. 2020. *Data Feminism*. MIT Press. Dörr, Dieter, Bernd Holznagel, and Arnold Picot. 2016. *Legitimation Und Auftrag Des Öffentlich-Rechtlichen Fernsehens in Zeiten Der Cloud*. Studien Zum Deutschen Und Europäischen Medienrech 62. Frankfurt a.M: PL Academic Research. https://www.tlm.de/fileadmin/user_upload/Infothek/Veranstaltungen/data.pdf. Dourish, Paul. 2016. “Algorithms and Their Others: Algorithmic Culture in Context.” *Big Data & Society* 3 (2): 2053951716665128. https://doi.org/10.1177/2053951716665128. ———. 2017. *The Stuff of Bits: An Essay on the Materialities of Information*. Cambridge, Massachusetts: The MIT Press. Draude, Claude, Goda Klumbyte, Phillip Lücking, and Pat Treusch. 2019. “Situated Algorithms: A Sociotechnical Systemic Approach to Bias.” *Online Information Review* 44 (2): 325–42. https://doi.org/10.1108/OIR-10-2018-0332. Drew, Paul, and John Heritage. 1992. *Talk at Work: Interaction in Institutional Settings*. Cambridge: Cambridge University Press. Durkheim, Emile. (1895) 1982. *Rules of Sociological Method*. New York: Free Press. ———. (1893) 2014. *The Division of Labor in Society*. Translated by W. D. Halls. Simon and Schuster. Eberle, Thomas. 2008. “Phänomenologie und Ethnomethodologie.” In *Phänomenologie und Soziologie: Theoretische Positionen, aktuelle Problemfelder und empirische Umsetzungen*, edited by Jürgen Raab, Michaela Pfadenhauer, Peter Stegmaier, Jochen Dreher, and Bernt Schnettler, 151–61. Wiesbaden: Springer-Verlag. Edwards, Lilian., and Michael. Veale. 2018. “Enslaving the Algorithm: From a ‘Right to an Explanation’ to a ‘Right to Better Decisions’?” *IEEE Security Privacy* 16 (3): 46–54. https://doi.org/10.1109/MSP.2018.2701152. Eisenstadt, Shmuel N., and Miriam Curelaru. 1976. *The Form of Sociology: Paradigms and Crises*. New York: John Wiley & Sons Inc. Elias, Norbert. 1978. *What Is Sociology?* London: Columbia University Press. ———. 1991. *The Society of Individuals*. Oxford: Basil Blackwell. ———. (1939) 2000. *The Civilizing Process: Sociogenetic and Psychogenetic Investigations*. Translated by Edmund Jephcott. Revised edition. Oxford ; Malden, Mass: Blackwell Publishing. Emirbayer, Mustafa, and Douglas W. Maynard. 2011. “Pragmatism and Ethnomethodology.” *Qualitative Sociology* 34 (1): 221–61. https://doi.org/10.1007/s11133-010-9183-8. Englert, Gianna. 2016. “Liberty and Industry: John Locke, John Stuart Mill, and the Economic Foundations of Political Membership.” *Polity* 48 (4): 551–79. https://doi.org/10.1057/s41279-016-0002-8. Ensmenger, Nathan. 2012. “Is Chess the Drosophila of Artificial Intelligence? A Social History of an Algorithm.” *Social Studies of Science* 42 (1): 5–30. https://doi.org/10.1177/0306312711424596. Eppler, Martin J., and Jeanne Mengis. 2004. “The Concept of Information Overload: A Review of Literature from Organization Science, Accounting, Marketing, MIS, and Related Disciplines.” *The Information Society* 20 (5): 325–44. https://doi.org/10.1080/01972240490507974. Erwin, Sean. 2015. “Living by Algorithm: Smart Surveillance and the Society of Control.” *Humanities and Technology Review* 34: 28–69. Eubanks, Virginia. 2018. Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. New York: St. Martin’s Press. Fisher, Eran, and Yoav Mehozay. 2019. “How Algorithms See Their Audience: Media Epistemes and the Changing Conception of the Individual.” *Media, Culture & Society* 41 (8): 1176–91. https://doi.org/10.1177/0163443719831598. Fleck, Ludwig. (1935) 1981. *Entstehung Und Entwicklung Einer Wissenschaftlichen Tatsache. Einführung in Die Lehre Vom Denkstil Und Denkkollektiv*. Frankfurt am Main: Suhrkamp. Forsythe, Diana E. 1993. “Engineering Knowledge: The Construction of Knowledge in Artificial Intelligence.” *Social Studies of Science* 23 (3): 445–77. https://doi.org/10.1177/0306312793023003002. Foucault, Michel. 1971. *L’ordre du discours: Leçon inaugurale au Collège de France prononcée le 2 décembre 1970*. Paris: Gallimard. ———. 1979. *The Will to Knowledge, The History of Sexuality: Volume 1.* Translated by Robert Hurley. Penguin UK. ———. 1991. “Governmentality.” In *The Foucault Effect: Studies in Governmentality*, 87–104. Chicago: University of Chicago Press. ———. (1975) 1995. *Discipline & Punish: The Birth of the Prison*. Translated by Alan Sheridan. 2nd edition. New York: Vintage Books. ———. (1976) 2003. *Society Must Be Defended. Lectures at the Collège de France, 1975-76.* Translated by David Macey. New York: Picador. ———. (1979) 2008. *The Birth of Biopolitics: Lectures at the Collège de France, 1978-1979: Lectures at the College De France, 1978-1979*. Edited by Arnold I. Davidson. Translated by Graham Burchell. 2008 edition. New York, NY: Palgrave Macmillan. ———. (1978) 2009. *Security, Territory, Population: Lectures at the Collège de France 1977--1978*. Edited by Michel Senellart. Translated by Graham Burchell. 1st ed. New York, NY: PICADOR. ———. 2016. *On the Government of the Living: Lectures at the Collège de France, 1979-1980*. Edited by Arnold I. Davidson. Translated by Graham Burchell. New York: Picador. Friedman, Batya, and Helen Nissenbaum. 1996. “Bias in Computer Systems.” *ACM Transactions on Information Systems* 14 (3): 330–47. https://doi.org/10.1145/230538.230561. Fuchs, Christian. 2012a. “Capitalism or Information Society? The Fundamental Question of the Present Structure of Society.” *European Journal of Social Theory* 16 (4): 413–34. https://doi.org/10.1177/1368431012461432. ———. 2012b. *Foundations of Critical Media and Information Studies.* London; New York: Routledge. ———. 2019. Rereading Marx in the Age of Digital Capitalism. London: Pluto Press. ———. 2020. *Communication and Capitalism: A Critical Theory*. London: University of Westminster Press. Galloway, Alexander R. 2004. *Protocol: How Control Exists after Decentralization*. Leonardo. Cambridge, Mass: MIT Press. ———. 2006. “Language Wants To Be Overlooked: On Software and Ideology.” *Journal of Visual Culture* 5 (3): 315–31. https://doi.org/10.1177/1470412906070519. Gandy, Oscar, and Lemi Baruh. 2006. “Racial Profiling: They Said It Was Against the Law!” *University of Ottawa Law & Technology Journal* 3 (1): 279–327. Garfinkel, Harold. 1984. *Studies in Ethnomethodology*. Cambridge, UK: Polity Press. ———. 2002. *Ethnomethodology’s Program: Working Out Durkheim’s Aphorism*. Edited by Anne Warfield Rawls. Lanham, Boulder, New York, Toronto, Oxford: Rowman & Littlefield. ———. 2006. Seeing Sociologically: The Routine Grounds of Social Action. Boulder, Colo: Paradigm Publishers. Garfinkel, Harold, and D. Lawrence Wieder. 1992. “Two Incommensurable, Asymmetrically Alternate Technologies of Social Analysis.” In *Text in Context. Contributions to Ethnomethodology*, edited by Graham Watson and Robert M. Seiler, 175–206. Newbury Park, London, New Delhi: SAGE Publications. Geertz, Clifford. 1973. *The Interpretation Of Cultures*. New York: Basic Books. Geiger, R Stuart. 2017. “Beyond Opening up the Black Box: Investigating the Role of Algorithmic Systems in Wikipedian Organizational Culture.” *Big Data & Society* 4 (2): 2053951717730735. https://doi.org/10.1177/2053951717730735. Gerlitz, Carolin, and Celia Lury. 2014. “Social Media and Self-Evaluating Assemblages: On Numbers, Orderings and Values.” *Distinktion: Journal of Social Theory* 15 (2): 174–88. https://doi.org/10.1080/1600910X.2014.920267. Giddens, A. 1984. *The Constitution of Society: Outline of the Theory of Structuration*. Outline of the Theory of Structuration. Cambridge: Polity Press.. Gilbert, Andrew Simon. 2018. “Algorithmic Culture and the Colonization of Life-Worlds.” *Thesis Eleven* 146 (1): 87–96. https://doi.org/10.1177/0725513618776699. Gillespie, Tarleton. 2014. “The Relevance of Algorithms.” In *Media Technologies. Essays on Communication, Materiality, and Society*, edited by Tarleton Gillespie, Pablo J. Boczkowski, and Kirsten A. Foot, 167–94. Cambridge, London: MIT Press. ———. 2017. “Algorithmically Recognizable: Santorum’s Google Problem, and Google’s Santorum Problem.” *Information, Communication & Society* 20 (1): 63–80. https://doi.org/10.1080/1369118X.2016.1199721. ———. 2018. *Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media*. Yale University Press. Gilpin, Leilani H., David Bau, Ben Z. Yuan, Ayesha Bajwa, Michael Specter, and Lalana Kagal. 2018. “Explaining Explanations: An Overview of Interpretability of Machine Learning.” In *2018 IEEE 5th International Conference on Data Science and Advanced Analytics (DSAA)*, 80–89. https://doi.org/10.1109/DSAA.2018.00018. Girtler, Roland. 2003. *Randkulturen: Theorie der Unanständigkeit*. 3. Edition. Wien: Böhlau Wien. ———. 2004. *Der Strich: Soziologie eines Milieus*. Vienna, Berlin: LIT. Gitelman, Lisa, ed. 2013. *“Raw Data” Is an Oxymoron*. Cambridge, Massachusetts: The MIT Press. Goodwin, Charles. 2000. “Action and Embodiment within Situated Human Interaction.” *Journal of Pragmatics* 32 (10): 1489–1522. https://doi.org/10.1016/S0378-2166(99)00096-X. Graham, Stephen. 2005. “Software-Sorted Geographies.” *Progress in Human Geography* 29 (5): 562–80. https://doi.org/10.1191/0309132505ph568oa. Graham, Stephen, and Simon Marvin. 2001. *Splintering Urbanism: Networked Infrastructures, Technological Mobilities and the Urban Condition: Networked Infrastructures, Technological Mobilites and the Urban Condition.* London , New York: Routledge Chapman & Hall. Grassmuck, Volker. 2014a. “Kollisionen Und Konvergenz.” *Politik Und Kultur. Dossier: Der Öffentliche Rundfunk*, 20–21. ———. 2014b. “Von Daseinsfürsorge Zu Public Value: Für Einen Neuen Gesellschaftsvertrag Über Unsere Mediale Umwelt (From Daseinsfuersorge to Public Value: For a New Social Contract on Our Media Environment).” In *Überwiegend Neuland. Zwischenbilanzen Der Wissenschaft Zur Gestaltung Der Informationsgesellschaft*, edited by Dieter Klumpp, Klaus Lenk, and Günter Koch, 77–108. Berlin: edition sigma. Greimas, Algirdas Julien. 1983. *Structural Semantics: An Attempt at a Method*. University of Nebraska Press. Habermas, Jürgen. 1989. *Theory of Communicative Action, Volume 2: Lifeworld and Systems, a Critique of Functionalist Reason.* Cambridge: Polity. ———. 1991. “The Public Sphere.” In *Rethinking Popular Culture. Contemporary Perspectives in Cultural Studies.* edited by Chandra Mukerji and Michael Schudson, 398–404. Berkeley: University of California Press. ———. 1997. Between Facts and Norms: Contributions to a Discourse Theory of Law and Democracy. Blackwell Publishers. Hacking, Ian. 1990. *The Taming of Chance*. Cambridge, New York: Cambridge University Press. Hagen, Wolfgang. 2013. “Die Verfassung, Der Rundfunk Und Das Netz. 14 Lemmatische Skizzen.” In *Rundfunkpolitik Und Netzpolitik. Strukturwandel Der Medienpolitk in Deutschland.*, edited by Lutz Hachmeister and Dieter Anschlag, 266–82. Köln: Halem. Haggerty, Kevin D., and Richard V. Ericson. 2000. “The Surveillant Assemblage.” *The British Journal of Sociology* 51 (4): 605–22. https://doi.org/10.1080/00071310020015280. Halavais, Alexander. 2017. *Search Engine Society*. 2nd ed. Cambridge, UK ; Medford, MA: Polity. Hallinan, Blake, and Ted Striphas. 2016. “Recommended for You: The Netflix Prize and the Production of Algorithmic Culture.” *New Media & Society* 18 (1): 117–37. https://doi.org/10.1177/1461444814538646. Hammersley, Martyn, and Paul Atkinson. 2019. *Ethnography: Principles in Practice*. 4. Edition. New York: Routledge. Haraway, Donna. 1988. “Situated Knowledges: The Science Question in Feminism and the Privilege of Partial Perspective.” *Feminist Studies* 14 (3): 575–99. https://doi.org/10.2307/3178066. Hargittai, Eszter. 2000. “Open Portals or Closed Gates? Channeling Content on the World Wide Web.” *Poetics* 27 (4): 233–53. https://doi.org/10.1016/S0304-422X(00)00006-1. Harkens, Adam. 2018. “The Ghost in the Legal Machine: Algorithmic Governmentality, Economy, and the Practice of Law.” *Journal of Information, Communication and Ethics in Society* 16 (1): 16–31. https://doi.org/10.1108/JICES-09-2016-0038. Hayles, Nancy Katherine. 1999. *How We Became Posthuman: Virtual Bodies in Cybernetics, Literature, and Informatics.* 74th ed. Chicago, Ill: University of Chicago Press. ———. 2005. *My Mother Was a Computer: Digital Subjects and Literary Texts*. Chicago: University of Chicago Press. Helberger, Natali. 2011. “Diversity by Design.” *Journal of Information Policy* 1: 441–69. https://doi.org/10.5325/jinfopoli.1.2011.0441. ———. 2015. “Public Service Media| Merely Facilitating or Actively Stimulating Diverse Media Choices? Public Service Media at the Crossroad.” *International Journal of Communication* 9: 1324–40. ———. 2018. “Challenging Diversity—Social Media Platforms and a New Conception of Media Diversity.” In *Digital Dominance: The Power of Google, Amazon, Facebook, and Apple*, edited by Martin Moore and Damian Tambini, 153–75. New York: Oxford University Press. ———. 2019. “On the Democratic Role of News Recommenders.” *Digital Journalism* 7 (8): 993–1012. https://doi.org/10.1080/21670811.2019.1623700. Helberger, Natali, Kari Karppinen, and Lucia D’Acunto. 2018. “Exposure Diversity as a Design Principle for Recommender Systems.” *Information, Communication & Society* 21 (2): 191–207. https://doi.org/10.1080/1369118X.2016.1271900. Helbing, Dirk. 2015. *The Automation of Society Is Next: How to Survive the Digital Revolution*. North Charleston, SC: CreateSpace Independent Publishing Platform. Helbing, Dirk, Bruno S. Frey, Gerd Gigerenzer, Ernst Hafen, Michael Hagner, Yvonne Hofstetter, Jeroen van den Hoven, Roberto V. Zicari, and Andrej Zwitter. 2017. “Will Democracy Survive Big Data and Artificial Intelligence?” Scientific American. February 25, 2017. https://www.scientificamerican.com/article/will-democracy-survive-big-data-and-artificial-intelligence/. Hoffmann, Anna Lauren. 2019. “Where Fairness Fails: Data, Algorithms, and the Limits of Antidiscrimination Discourse.” *Information, Communication & Society* 22 (7): 900–915. https://doi.org/10.1080/1369118X.2019.1573912. Honer, Anne, and Ronald Hitzler. 2015. “Life-World-Analytical Ethnography: A Phenomenology-Based Research Approach.” *Journal of Contemporary Ethnography* 44 (5): 544–62. https://doi.org/10.1177/0891241615588589. Hu, Yifan, Yehuda Koren, and Chris Volinsky. 2008. “Collaborative Filtering for Implicit Feedback Datasets.” In *2008 Eighth IEEE International Conference on Data Mining*, 263–72. https://doi.org/10.1109/ICDM.2008.22. Huckfeldt, Robert, Paul E. Johnson, and John Sprague. 2002. “Political Environments, Political Dynamics, and the Survival of Disagreement.” *Journal of Politics* 64 (1): 1–21. https://doi.org/10.1111/1468-2508.00115. Humphreys, Laud. 1976. *Tearoom Trade: Impersonal Sex in Public Places*. Chicago, Ill: Routledge. Hunt, Robert, and Fenwick McKelvey. 2019. “Algorithmic Regulation in Media and Cultural Policy: A Framework to Evaluate Barriers to Accountability.” *Journal of Information Policy* 9: 307–35. https://doi.org/10.5325/jinfopoli.9.2019.0307. Introna, Lucas D. 2016. “Algorithms, Governance, and Governmentality: On Governing Academic Writing.” *Science, Technology, & Human Values* 41 (1): 17–49. https://doi.org/10.1177/0162243915587360. Introna, Lucas D., and Helen Nissenbaum. 2000. “Shaping the Web: Why the Politics of Search Engines Matters.” *The Information Society* 16 (3): 169–85. https://doi.org/10.1080/01972240050133634. Itō, Mizuko. 2008. “Introduction.” In *Networked Publics*, edited by Kazys Varnelis, 1–14. Cambridge, MA: MIT Press. Jamieson, Kathleen Hall, and Joseph N. Cappella. 2008. *Echo Chamber: Rush Limbaugh and the Conservative Media Establishment*. Oxford University Press. Janssen, Marijn, and George Kuk. 2016. “The Challenges and Limits of Big Data Algorithms in Technocratic Governance.” *Government Information Quarterly*, Open and Smart Governments: Strategies, Tools, and Experiences, 33 (3): 371–77. https://doi.org/10.1016/j.giq.2016.08.011. Jaton, Florian. 2017. “We Get the Algorithms of Our Ground Truths: Designing Referential Databases in Digital Image Processing.” *Social Studies of Science* 47 (6): 811–40. https://doi.org/10.1177/0306312717730428. Jauert, Per, and Gregory F. Lowe. 2005. “Public Service Broadcasting for Social and Cultural Citizenship. Renewing the Enlightenment Mission.” In *Cultural Dilemmas in Public Service Broadcasting*, edited by G. F. Lowe and P. Jauert, 13–33. Gothenburg: Nordicom. Joas, Hans. 1997. *The Creativity of Action*. Translated by Paul Keast and Jeremy Gaines. Chicago: Univ of Chicago Press. Johnson, J. Scott, and Leslie Paul Thiele. 1991. “Reading Nietzsche and Foucault: A Hermeneutics of Suspicion?” *American Political Science Review* 85 (2): 581–92. https://doi.org/10.2307/1963177. Johnson, Jim. 1988. “Mixing Humans and Nonhumans Together: The Sociology of a Door-Closer.” *Social Problems* 35 (3): 298–310. https://doi.org/10.2307/800624. Jones, Rhianne, and Bronwyn Jones. 2019. “Atomising the News: The (In)Flexibility of Structured Journalism.” *Digital Journalism* 7 (8): 1157–79. https://doi.org/10.1080/21670811.2019.1609372. Joris, Glen, Frederik De Grove, Kristin Van Damme, and Lieven De Marez. 2020. “News Diversity Reconsidered: A Systematic Literature Review Unraveling the Diversity in Conceptualizations.” *Journalism Studies* 21 (13): 1893–1912. https://doi.org/10.1080/1461670X.2020.1797527. Just, Natascha, and Michael Latzer. 2017. “Governance by Algorithms: Reality Construction by Algorithmic Selection on the Internet.” *Media, Culture & Society* 39 (2): 238–58. https://doi.org/10.1177/0163443716643157. Kallis, Aristotle A. 2005. *Nazi Propaganda and the Second World War.* New York: Springer. Kant, Immanuel. (1781) 2008. *The Critique of Pure Reason*. Translated by Marcus Weigelt. London: Penguin Books Karppinen, Kari. 2013. *Rethinking Media Pluralism*. New York: Fordham University Press. Kim, Young Mie. 2016. “Algorithmic Opportunity: Digital Advertising and Inequality in Political Involvement.” *The Forum* 14 (4): 471–84. https://doi.org/10.1515/for-2016-0034. Kim, Young Mie, Jordan Hsu, David Neiman, Colin Kou, Levi Bankston, Soo Yun Kim, Richard Heinrich, Robyn Baragwanath, and Garvesh Raskutti. 2018. “The Stealth Media? Groups and Targets behind Divisive Issue Campaigns on Facebook.” *Political Communication* 35 (4): 515–41. https://doi.org/10.1080/10584609.2018.1476425. Kitchin, Rob. 2014. “The Real-Time City? Big Data and Smart Urbanism.” *GeoJournal* 79 (1): 1–14. https://doi.org/10.1007/s10708-013-9516-8. Kittler, Friedrich A. 1990. *Discourse Networks 1800/1900*. Stanford, California: Stanford University Press. ———. 1995. “There Is No Software.” *CTheory* a35: 147–55. ———. 1999. *Gramophone, Film, Typewriter*. Translated by Geoffrey Winthrop-Young and Michael Wutz. Stanford, Calif: Stanford University Press. Kleinberg, Jon, Sendhil Mullainathan, and Manish Raghavan. 2016. “Inherent Trade-Offs in the Fair Determination of Risk Scores.” *ArXiv:1609.05807 [Cs, Stat]*, September. https://arxiv.org/abs/1609.05807. Knoblauch, Hubert. 2005. “Focused Ethnography.” *Forum Qualitative Sozialforschung / Forum: Qualitative Social Research* 6 (3). https://doi.org/10.17169/fqs-6.3.20. Knoblauch, Hubert, and Theresa Vollmer. 2019. “Ethnographie.” In *Handbuch Methoden der empirischen Sozialforschung*, edited by Nina Baur and Jörg Blasius, 599–617. Wiesbaden: Springer Fachmedien. https://doi.org/10.1007/978-3-658-21308-4_40. Knorr-Cetina, Karin, Hannes Krämer, and René Salomon. 2019. “Die Ethnomethodologie umzirkeln: Karin Knorr-Cetina im Gespräch mit Hannes Krämer & René Salomon.” *Forum Qualitative Sozialforschung / Forum: Qualitative Social Research* 20 (2): 30. https://doi.org/10.17169/fqs-20.2.3287. Koliska, Michael, and Nicholas Diakopoulos. 2018. “Disclose, Decode, Demystify. An Empirical Guide to Algorithmic Transparency.” In *The Routledge Handbook of Developments in Digital Journalism Studies*, edited by Scott Eldridge II and Bob Franklin. Routledge. Koren, Yehuda, Robert Bell, and Chris Volinsky. 2009. “Matrix Factorization Techniques for Recommender Systems.” *Computer* 42 (8): 30–37. https://doi.org/10.1109/MC.2009.263. Kranzberg, Melvin. 1986. “Technology and History:” Kranzberg’s Laws”.” *Technology and Culture* 27 (3): 544–60. Kreiss, Daniel, and Shannon McGregor. 2018. “Technology Firms Shape Political Communication: The Work of Microsoft, Facebook, Twitter, and Google With Campaigns During the 2016 U.S. Presidential Cycle.” *Political Communication* 35 (2): 155–77. https://doi.org/10.1080/10584609.2017.1364814. Kuhn, Thomas S. 1996. *Structure of Scientific Revolutions*. 3rd ed. Chicago, IL: University of Chicago Press. Laat, Paul B. de. 2019. “The Disciplinary Power of Predictive Algorithms: A Foucauldian Perspective.” *Ethics and Information Technology* 21 (July): 319–29. https://doi.org/10.1007/s10676-019-09509-y. Lash, Scott. 2007. “Power after Hegemony: Cultural Studies in Mutation?” *Theory, Culture & Society* 24 (3): 55–78. https://doi.org/10.1177/0263276407075956. Latour, Bruno. 1990. “Technology Is Society Made Durable.” *The Sociological Review* 38 (S1): 103–31. https://doi.org/10.1111/j.1467-954X.1990.tb03350.x. ———. 1992. “Where Are the Missing Masses? The Sociology of a Few Mundane Artifacts.” In *Shaping Technology/Building Society*, edited by W. E. Bijker and John Law, 151–80. Cambridge, Mass.: MIT Press. ———. 1993a. *The Pasteurization of France*. Cambridge, Massachusetts, London: Harvard University Press. ———. 1993b. *We Have Never Been Modern*. Cambridge, MA: Prentice Hall / Harvester Wheatsheaf. ———. 1994. “On Technical Mediation.” *Common Knowledge* 3 (2): 29–64. ———. 1996. “On Interobjectivity.” *Mind, Culture, and Activity* 3 (4): 228–45. https://doi.org/10.1207/s15327884mca0304_2. ———. 1999a. *Pandora’s Hope: Essays on the Reality of Science Studies.* Cambridge, MA: Harvard University Press. ———. 1999b. “On Recalling ANT.” In *Actor Network Theory and After*, edited by John Law and John Hassard, 15–26. Oxford England ; Malden, MA: Wiley-Blackwell. ———. 2004. “Why Has Critique Run out of Steam? From Matters of Fact to Matters of Concern.” *Critical Inquiry* 30 (2): 225–48. https://doi.org/10.1086/421123. ———. 2005. *Reassembling the Social: An Introduction to Actor-Network-Theory.* Oxford; New York: Oxford University Press. ———. 2009. *The Making of Law: An Ethnography of the Conseil d’Etat*. Cambridge, UK ; Malden, MA: Polity. ———. 2013. *An Inquiry into Modes of Existence: An Anthropology of the Moderns*. Translated by Catherine Porter. Cambridge, Massachusetts: Harvard University Press. Latour, Bruno, Pablo Jensen, Tommaso Venturini, Sébastian Grauwin, and Dominique Boullier. 2012. “‘The Whole Is Always Smaller than Its Parts’ – a Digital Test of Gabriel Tardes’ Monads.” *The British Journal of Sociology* 63 (4): 590–615. https://doi.org/10.1111/j.1468-4446.2012.01428.x. Latour, Bruno, and Steve Woolgar. 1986. *Laboratory Life: The Construction of Scientific Facts*. 2nd ed. Princeton, N.J.: Princeton University Press. Law, John. 1992. “Notes on the Theory of the Actor-Network: Ordering, Strategy, and Heterogeneity.” *Systems Practice* 5 (4): 379–93. ———. 1994. *Organizing Modernity: Social Ordering and Social Theory.* Cambridge, MA: Wiley-Blackwell. ———. 2002. *Aircraft Stories: Decentering the Object in Technoscience*. Durham, NC: Duke University Press. ———. 2004. *After Method: Mess in Social Science Research*. London ; New York: Routledge Chapman & Hall. Lee, Min Kyung, Daniel Kusbit, Evan Metsky, and Laura Dabbish. 2015. “Working with Machines: The Impact of Algorithmic and Data-Driven Management on Human Workers.” In *Proceedings of the 33rd Annual ACM Conference on Human Factors in Computing Systems*, 1603–12. CHI ’15. New York, NY, USA: Association for Computing Machinery. https://doi.org/10.1145/2702123.2702548. Leese, Matthias. 2014. “The New Profiling: Algorithms, Black Boxes, and the Failure of Anti-Discriminatory Safeguards in the European Union.” *Security Dialogue* 45 (5): 494–511. https://doi.org/10.1177/0967010614544204. Leicht-Deobald, Ulrich, Thorsten Busch, Christoph Schank, Antoinette Weibel, Simon Schafheitle, Isabelle Wildhaber, and Gabriel Kasper. 2019. “The Challenges of Algorithm-Based HR Decision-Making for Personal Integrity.” *Journal of Business Ethics* 160 (2): 377–92. https://doi.org/10.1007/s10551-019-04204-w. Lenglet, Marc. 2019. “Algorithmic Finance, Its Regulation, and Deleuzean Jurisprudence: A Few Remarks on a Necessary Paradigm Shift.” *Topoi*, May. https://doi.org/10.1007/s11245-019-09653-6. Lessig, Lawrence. 1999. *Code: And Other Laws Of Cyberspace*. New York: Basic Books. ———. 2006. *Code: Version 2.0*. New York: Basic Books. Lindemann, Gesa. 2019. *Strukturnotwendige Kritik*. Weilerswist: Velbrück Wissenschaft. https://doi.org/10.5771/9783845298887. Liu, Nathan N., Evan W. Xiang, Min Zhao, and Qiang Yang. 2010. “Unifying Explicit and Implicit Feedback for Collaborative Filtering.” In *Proceedings of the 19th ACM International Conference on Information and Knowledge Management*, 1445–48. CIKM ’10. New York, NY, USA: Association for Computing Machinery. https://doi.org/10.1145/1871437.1871643. Livingston, Eric. 1987. *Making Sense of Ethnomethodology*. London, New York: Routledge. Loukissas, Yanni Alexander. 2017. “Taking Big Data Apart: Local Readings of Composite Media Collections.” *Information, Communication & Society* 20 (5): 651–64. https://doi.org/10.1080/1369118X.2016.1211722. Luhmann, Niklas. 1996. *Social Systems*. Translated by John Bednarz Jr and Dirk Baecker. Stanford, Calif: Stanford University Press. ———. 1997. *Die Gesellschaft der Gesellschaft*. Frankfurt am Main: Suhrkamp. Lury, Celia, and Sophie Day. 2019. “Algorithmic Personalization as a Mode of Individuation.” *Theory, Culture & Society* 36 (2): 17–37. https://doi.org/10.1177/0263276418818888. Lynch, Michael. 2000. “Against Reflexivity as an Academic Virtue and Source of Privileged Knowledge:” *Theory, Culture & Society* 17 (3): 26–54. https://doi.org/10.1177/02632760022051202. Lyon, David. 2003. “Surveillance as Social Sorting: Computer Codes and Mobile Bodies.” In *Surveillance as Social Sorting: Privacy, Risk, and Digital Discrimination*, 13–30. London; New York: Routledge. Lyotard, Jean-Francois. 1984. *The Postmodern Condition: A Report on Knowledge*. Manchester University Press. Mackenzie, Adrian. 2005. “The Performativity of Code: Software and Cultures of Circulation.” *Theory, Culture & Society* 22 (1): 71–92. https://doi.org/10.1177/0263276405048436. ———. 2006. *Cutting Code: Software and Sociality*. Peter Lang. ———. 2013. “Programming Subjects in the Regime of Anticipation: Software Studies and Subjectivity.” *Subjectivity* 6 (4): 391–405. https://doi.org/10.1057/sub.2013.12. ———. 2015. “The Production of Prediction: What Does Machine Learning Want?” *European Journal of Cultural Studies* 18 (4–5): 429–45. https://doi.org/10.1177/1367549415577384. ———. 2017. *Machine Learners: Archaeology of a Data Practice.* Cambridge, MA: The MIT Press. Mackenzie, Adrian, and Theo Vurdubakis. 2011. “Codes and Codings in Crisis: Signification, Performativity and Excess.” *Theory, Culture & Society* 28 (6): 3–23. https://doi.org/10.1177/0263276411424761. MacKenzie, Donald. 2006. *An Engine, Not a Camera: How Financial Models Shape Markets.* Cambridge, Mass: MIT Press. ———. 2019. “How Algorithms Interact: Goffman’s ‘Interaction Order’ in Automated Trading.” *Theory, Culture & Society* 36 (2): 39–59. https://doi.org/10.1177/0263276419829541. Magalhães, João Carlos. 2018. “Do Algorithms Shape Character? Considering Algorithmic Ethical Subjectivation.” *Social Media + Society* 4 (2): 2056305118768301. https://doi.org/10.1177/2056305118768301. Mager, Astrid. 2012. “ALGORITHMIC IDEOLOGY. How Capitalist Society Shapes Search Engines.” *Information, Communication & Society* 15 (5): 769–87. https://doi.org/10.1080/1369118X.2012.676056. ———. 2014. “Defining Algorithmic Ideology: Using Ideology Critique to Scrutinize Corporate Search Engines.” *TripleC: Communication, Capitalism & Critique. Open Access Journal for a Global Sustainable Information Society* 12 (1): 28–39. Malik, Sarita. 2018. “Diversity: Reflection and Review.” In *A Future for Public Service Television*, edited by Des Freedman and Vana Goblot, 91–101. London: Goldsmiths Press. Manovich, Lev. 2001. *The Language of New Media*. Cambridge, Mass: MIT Press. ———. 2013a. “There Is Only Software.” In Doing Cultural Studies: The Story of the Sony Walkman edited by Paul du Gay, Stuart Hall, Linda Janes, Anders Koed Madsen, Hugh Mackay, and Keith Negus, 136–38. LA, London, New Delhi, Singapore, Washington DC: Sage. ———. 2013b. *Software Takes Command*. New York ; London: Bloomsbury Academic. Marres, Noortje. 2007. “The Issues Deserve More Credit: Pragmatist Contributions to the Study of Public Involvement in Controversy.” *Social Studies of Science* 37 (5): 759–80. https://doi.org/10.1177/0306312706077367. ———. 2012. *Material Participation: Technology, the Environment and Everyday Publics.* London: Palgrave Macmillan. ———. 2017. *Digital Sociology: The Reinvention of Social Research.* Malden, MA: John Wiley & Sons. Martin, Kirsten. 2019. “Ethical Implications and Accountability of Algorithms.” *Journal of Business Ethics* 160 (4): 835–50. https://doi.org/10.1007/s10551-018-3921-3. Marvin, Carolyn. 1990. *When Old Technologies Were New: Thinking About Electric Communication in the Late Nineteenth Century.* Oxford ; New York: Oxford University Press. Marx, Karl. (1867) 1990. *Capital: A Critique of Political Economy. Volume 1*. Translated by Ben Fowkes. London ; New York, N.Y: Penguin Classics. ———. (1844) 2010. “Comments on James Mill, Éléments d’economie Politique.” In *Collected Works. Vol. 3, Marx and Engels: 1843-44*, edited by Karl Marx and Friedrich Engels, 211–28. Moscow, London: Lawrence & Wishart. Mayer-Schönberger, Viktor, and Thomas Ramge. 2018. *Reinventing Capitalism in the Age of Big Data*. New York: Basic Books. Maynard, Douglas W., and Steven E. Clayman. 1991. “The Diversity of Ethnomethodology.” *Annual Review of Sociology* 17 (1): 385–418. https://doi.org/10.1146/annurev.so.17.080191.002125. Mead, George Herbert. (1934) 1967. *Mind, Self, and Society: From The Standpoint Of A Social Behaviorist*. Chicago, Ill.; London: University of Chicago Press. Méndez Fernández, Daniel, and Jan-Hendrik Passoth. 2019. “Empirical Software Engineering: From Discipline to Interdiscipline.” *Journal of Systems and Software* 148 (February): 170–79. https://doi.org/10.1016/j.jss.2018.11.019. Meraz, Sharon. 2009. “The Many Faced ‘You’ of Social Media.” In *Journalism and Citizenship: New Agendas in Communication*, edited by Zizi Papacharissi, 121–47. New York ; London: Routledge. Meteren, Robin Van, and Maarten Van Someren. 2000. “Using Content-Based Filtering for Recommendation.” In *Proceedings of ECML 2000 Workshop: Maching Learning in Information Age*, 47–56. Milan, Stefania, and Emiliano Treré. 2019. “Big Data from the South(s): Beyond Data Universalism.” *Television & New Media* 20 (4): 319–35. https://doi.org/10.1177/1527476419837739. Mill, John Stuart. (1861) 2020. Considerations on Representative Government John Stuart Mill: Classic Edition. Independently published. Miller, Peter. 2008. “Calculating Economic Life.” *Journal of Cultural Economy* 1 (1): 51–64. https://doi.org/10.1080/17530350801913643. Mittelstadt, Brent, Chris Russell, and Sandra Wachter. 2019. “Explaining Explanations in AI.” In *Proceedings of the Conference on Fairness, Accountability, and Transparency*, 279–88. FAT* ’19. New York, NY, USA: ACM. https://doi.org/10.1145/3287560.3287574. Mol, Annemarie. 2002. *The Body Multiple: Ontology in Medical Practice*. Durham, London: Duke University Press. Möller, Judith, Damian Trilling, Natali Helberger, and Bram van Es. 2018. “Do Not Blame It on the Algorithm: An Empirical Assessment of Multiple Recommender Systems and Their Impact on Content Diversity.” *Information, Communication & Society* 21 (7): 959–77. https://doi.org/10.1080/1369118X.2018.1444076. Montfort, Nick, Batsy Baudoin, John Bell, Ian Bogost, Jeremy Douglass, Mark C. Marino, Michael Mateas, Casey Reas, Mark Sample, and Noah Vawter. 2012. *10 Print Chr$(205.5+rnd(1)); Goto 10*. Cambridge, MA; London, England: MIT Press. Morozov, Evgeny. 2014. *To Save Everything, Click Here: Technology, Solutionism, and the Urge to Fix Problems That Don’t Exist.* London: Penguin. Morris, Jeremy Wade. 2015. “Curation by Code: Infomediaries and the Data Mining of Taste.” *European Journal of Cultural Studies* 18 (4–5): 446–63. https://doi.org/10.1177/1367549415577387. Mossberger, Karen, Caroline J. Tolbert, and Ramona S. McNeal. 2007. *Digital Citizenship: The Internet, Society, and Participation*. MIT Press. Mouffe, Chantal. 2000. “Which Ethics for Democracy?” In *The Turn to Ethics*, edited by Marjorie Garber, Beatrice Hanssen, and Rebecca L. Walkowitz, 85–94. London; New York: Routledge. ———. 2005. *On the Political*. London ; New York: Routledge. Müller, Peter, and Nikolaus Pöchhacker. 2019. “Algorithmic Risk Assessment als Medium des Rechts.” *Österreichische Zeitschrift für Soziologie* 44 (1): 157–79. https://doi.org/10.1007/s11614-019-00352-5. Mutz, Diana C. 2006. *Hearing the Other Side: Deliberative versus Participatory Democracy*. Cambridge: Cambridge University Press. https://doi.org/10.1017/CBO9780511617201. Mützel, Sophie. 2015. “Facing Big Data: Making sociology relevant.” *Big Data & Society* 2 (2): 2053951715599179. https://doi.org/10.1177/2053951715599179 Mützel, Sophie, Philippe Saner, and Markus Unternährer. 2018. “Schöne Daten! Konstruktion Und Verarbeitung von Digitalen Daten.” In *Datengesellschaft: Einsichten in Die Datafizierung Des Sozialen*, edited by Daniel Houben and Bianca Prietl, 17:111–32. Bielefeld: transcript Verlag. Napoli, Philip M. 1999. “Deconstructing the Diversity Principle.” *Journal of Communication* 49 (4): 7–34. Napoli, Philip M. 2011. “Exposure Diversity Reconsidered.” *Journal of Information Policy* 1: 246–59. https://doi.org/10.5325/jinfopoli.1.2011.0246. Nassehi, Armin. 2019. *Muster: Theorie der digitalen Gesellschaft*. 3rd ed. München: C.H.Beck. Neuberger, Christoph, and Frank Lobigs. 2010. *Die Bedeutung des Internets im Rahmen der Vielfaltssicherung: Gutachten im Auftrag der Kommission zur Ermittlung der Konzentration im Medienbereich (KEK).* Vol. 43. Schriftenreihe der Landesmedienanstalten. Berlin: Vistas. Neyland, Daniel. 2015. “On Organizing Algorithms.” *Theory, Culture & Society* 32 (1): 119–32. https://doi.org/10.1177/0263276414530477. ———. 2016. “Bearing Account-Able Witness to the Ethical Algorithmic System.” *Science, Technology, & Human Values* 41 (1): 50–76. https://doi.org/10.1177/0162243915598056. Neyland, Daniel, and Norma Möllers. 2017. “Algorithmic IF … THEN Rules and the Conditions and Consequences of Power.” *Information, Communication & Society* 20 (1): 45–62. https://doi.org/10.1080/1369118X.2016.1156141. Nissen, Christian S. 2006. “No Public Service without Both Public and Service - Content Provision between the Scylla of Populism and the Charybdis of Elitism.” In *Making a Difference: Public Service Broadcasting in the European Media Landscape*, edited by Christian S. Nissen, 65–82. Eastleigh, UK : Bloomington, IN: John Libbey Publishing. Nissenbaum, H. 2001. “How Computer Systems Embody Values.” *Computer* 34 (3): 120–119. https://doi.org/10.1109/2.910905. Noble, Safiya Umoja. 2018. *Algorithms of Oppression: How Search Engines Reinforce Racism*. New York: New York University Press. Nygren, Katarina Giritli, and Katarina L. Gidlund. 2015. “The Pastoral Power of Technology. Rethinking Alienation in Digital Culture.” In *Marx in the Age of Digital Capitalism*, edited by Christian Fuchs and Vincent Mosco, 396–412. Leiden ; Boston: BRILL. O’Callaghan, Derek, Derek Greene, Maura Conway, Joe Carthy, and Pádraig Cunningham. 2015. “Down the (White) Rabbit Hole: The Extreme Right and Online Recommender Systems.” *Social Science Computer Review* 33 (4): 459–78. https://doi.org/10.1177/0894439314555329. O’Donnell, Mike. 2010. *Structure and Agency*. Four-Volume Set ed. Los Angeles: SAGE Publications Ltd. O’Neil, Cathy. 2016. *Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy.* New York: Crown. Papacharissi, Zizi. 2010. *A Private Sphere: Democracy in a Digital Age (Digital Media and Society).* Cambridge: Polity Press. Parikka, Jussi. 2012. *What Is Media Archaeology?* Cambridge, UK ; Malden, MA: Polity. Parry, Geraint. 1989. “Democracy and Amateurism—the Informed Citizen.” *Government and Opposition* 24 (4): 489–502. Parsons, Talcott. 1954. *Essays in Sociological Theory.* Glencoe, Ill.: Free Press. ———. 1971. *The System of Modern Societies*. Englewood Cliffs, NJ: Prentice-Hall. Pasquale, Frank. 2015. *The Black Box Society: The Secret Algorithms That Control Money and Information.* Cambridge: Harvard University Press. Pasquinelli, Matteo. 2009. “Google’s PageRank: Diagram of the Cognitive Capitalism and the Rentier of the Common Intellect.” In *Deep Search: The Politics of Search beyond Google*, edited by Konrad Becker and Felix Stalder, 152–62. Innsbruck, Piscataway, N.J.: Studien Verlag, Austria. Paßmann, Johannes, and Asher Boersma. 2017. “Unknowing Algorithms. On Transparency of Un-Openable Black Boxes.” In *The Datafied Society. Studying Culture through Data*, edited by Karin van Es and Mirko Tobias Schäfer, 139–46. Amsterdam: Amsterdam University Press. https://doi.org/10.5117/9789462981362. Passoth, Jan-Hendrik. 2019. “From Hardware to Software to Runtime: The Politics of (at Least) Three Digital Materialities.” In *Discussing New Materialism: Methodological Implications for the Study of Materialities*, edited by Ulrike Tikvah Kissmann and Joost van Loon, 173–89. Wiesbaden: Springer Fachmedien Wiesbaden. https://doi.org/10.1007/978-3-658-22300-7_9. ———. 2021. Soziologie der Umstände: Entwurf einer symmetrischen Praxistheorie. Bielefeld: transcript. Passoth, Jan-Hendrik, and Werner Rammert. 2019. “Fragmentale Differenzierung Als Gesellschaftsdiagnose.” In *Berliner Schlüssel. Arbeiten Mit Werner Rammert*, edited by Cornelius Schubert and Ingo Schulz-Schaeffer. Wiesbaden: Springer. Passoth, Jan-Hendrik, and Nicholas J. Rowland. 2010. “Actor-Network State: Integrating Actor-Network Theory and State Theory.” *International Sociology* 25 (6): 818–41. https://doi.org/10.1177/0268580909351325. Pazzani, Michael J., and Daniel Billsus. 2007. “Content-Based Recommendation Systems.” In *The Adaptive Web: Methods and Strategies of Web Personalization*, edited by Peter Brusilovsky, Alfred Kobsa, and Wolfgang Nejdl, 325–41. Lecture Notes in Computer Science. Berlin, Heidelberg: Springer. https://doi.org/10.1007/978-3-540-72079-9_10. Peirce, Charles S. (1902) 1976. *The New Elements of Mathematics, Vol. 4: Mathematical Philosophy*. Edited by Carolyn Eisele. The Hague: Mouton Publishers / Humanities Press. ———. (1900) 2010. “Logic as Semotic: The Theory of Signs.” In *The Philosophy of Peirce: Selected Writings*, edited by Justus Buchler, 98–119. London: Routledge. Pfadenhauer, Michaela. 2005. “Ethnography of Scenes. Towards a Sociological Life-World Analysis of (Post-Traditional) Community-Building.” *Forum Qualitative Sozialforschung / Forum: Qualitative Social Research* 6 (3). https://doi.org/10.17169/fqs-6.3.23. Pingaud, B. 1966. “Jean-Paul Sartre Répond.” *L’Aarc* 30: 87–96. Pöchhacker, Nikolaus. 2016. “Predictive Policing. Datenbasierte Verbrechensbekämpfung Und Eine Neue Geographie Des Risikos.” *GeoAgenda* 2016 (4): 13–15. Pöchhacker, Nikolaus, Marcus Burkhardt, Andrea Geipel, and Jan-Hendrik Passoth. 2017. “Interventionen in die Produktion algorithmischer Öffentlichkeiten: Recommender Systeme als Herausforderung für öffentlich-rechtliche Sendeanstalten.” *kommunikation @ gesellschaft* 18: 25. Poechhacker, Nikolaus, and Severin Kacianka. 2021. “Algorithmic Accountability in Context. Socio-Technical Perspectives on Structural Causal Models.” *Frontiers in Big Data* 3. Poechhacker, Nikolaus, and Eva-Maria Nyckel. 2020. “Logistics of Probability. Anticipatory Shipping and the Production of Markets.” In *Explorations of Digital Cultures.*, edited by Marcus Burkhardt, K. Grashöfer, M. Shnayien, and B. Westerman. Lüneburg: Meson Press. Porter, Theodore M. 1995. *Trust in Numbers*. Princeton, N.J: Princeton University Press. Prey, Robert. 2018. “Nothing Personal: Algorithmic Individuation on Music Streaming Platforms.” *Media, Culture & Society* 40 (7): 1086–1100. https://doi.org/10.1177/0163443717745147. Puschmann, Cornelius. 2019. “Beyond the Bubble: Assessing the Diversity of Political Search Results.” *Digital Journalism* 7 (6): 824–43. https://doi.org/10.1080/21670811.2018.1539626. Quattrociocchi, Walter, Antonio Scala, and Cass R. Sunstein. 2016. “Echo Chambers on Facebook.” *Harvard Law School Discussion Paper* 877: 1–15. Raffetseder, Eva-Maria, Simon Schaupp, and Philipp Staab. 2017. “Kybernetik und Kontrolle: Algorithmische Arbeitssteuerung und betriebliche Herrschaft.” *PROKLA. Zeitschrift für kritische Sozialwissenschaft* 47 (187): 229–48. https://doi.org/10.32387/prokla.v47i187.143. Ranciere, Jacques. 2005. *Disagreement*. Translated by Julie Rose. Minneapolis: Univ Of Minnesota Press. Rawls, Anne Warfield. 2009. “An Essay on Two Conceptions of Social Order: Constitutive Orders of Action, Objects and Identities vs Aggregated Orders of Individual Action.” *Journal of Classical Sociology* 9 (4): 500–520. https://doi.org/10.1177/1468795X09344376. Rawls, John. 2005. *Political Liberalism*. New York: Columbia University Press. Reith, John Charles Walsham. 1924. *Broadcast over Britain*. London: Hodder and Stoughton. Renn, Joachim. 2006. Übersetzungsverhältnisse. Perspektiven einer pragmatistischen Gesellschaftstheorie. Weilerswist: Velbrück Wissenschaft. Reviglio, Urbano. 2019. “Serendipity as an Emerging Design Principle of the Infosphere: Challenges and Opportunities.” *Ethics and Information Technology* 21 (2): 151–66. https://doi.org/10.1007/s10676-018-9496-y. Ribes, David. 2019. “STS, Meet Data Science, Once Again.” *Science, Technology, & Human Values* 44 (3): 514–39. https://doi.org/10.1177/0162243918798899. Ribes, David, Andrew S Hoffman, Steven C Slota, and Geoffrey C Bowker. 2019. “The Logic of Domains.” *Social Studies of Science* 49 (3): 281–309. https://doi.org/10.1177/0306312719849709. Ricaurte, Paola. 2019. “Data Epistemologies, The Coloniality of Power, and Resistance.” *Television & New Media* 20 (4): 350–65. https://doi.org/10.1177/1527476419831640. Ricci, Francesco, Lior Rokach, Bracha Shapira, and Paul B. Kantor, eds. 2011. *Recommender Systems Handbook*. Springer US. https://doi.org/10.1007/978-0-387-85820-3. Rieder, Bernhard. 2017. “Scrutinizing an Algorithmic Technique: The Bayes Classifier as Interested Reading of Reality.” *Information, Communication & Society* 20 (1): 100–117. https://doi.org/10.1080/1369118X.2016.1181195. Rieder, Gernot, and Judith Simon. 2016. “Datatrust: Or, the Political Quest for Numerical Evidence and the Epistemologies of Big Data.” *Big Data & Society* 3 (1): 1–6. https://doi.org/10.1177/2053951716649398. Roberts, Stephen L. 2019. “Big Data, Algorithmic Governmentality and the Regulation of Pandemic Risk.” *European Journal of Risk Regulation* 10 (1): 94–115. https://doi.org/10.1017/err.2019.6. Rogers, Richard. 2009. “Post-Demographic Machines.” In *Walled Garden*, edited by A. Dekker and A. Wolfsberger, 29–39. Amsterdam: Virtueel Platform. Rogers, Richard, Konrad Becker, and Felix Stalder. 2009. “The Googlization Question, and the Inculpable Engine.” In *Deep Search: The Politics of Search Engines beyond Google*, 173–84. Edision, NJ: Transaction Publishers. Rose, Nikolas. 2012. *Powers of Freedom: Reframing Political Thought*. Cambridge: Cambridge University Press. Rosenblat, Alex. 2018. *Uberland: How Algorithms Are Rewriting the Rules of Work*. Oakland, California: University of California Press. Rossiter, Ned. 2016. Software, Infrastructure, Labor: A Media Theory of Logistical Nightmares. New York: Routledge. Rouvroy, Antoinette. 2011. “Technology, Virtuality and Utopia: Governmentality in an Age of Autonomic Computing.” In *Law, Human Agency and Autonomic Computing. The Philosophy of Law Meets the Philosophy of Technology*, 119–40. Abingdon, Oxon; New York: Routledge. ———. 2013. “The End(s) of Critique: Data-Behaviourism vs. Due-Process.” In *Privacy, Due Process and the Computational Turn: The Philosophy of Law Meets the Philosophy of Technology*, edited by Mireille Hildebrandt and Katja De Vries, 1st ed., 143–68. Abingdon, Oxon, England; New York: Taylor & Francis Ltd. Sacks, Harvey. 1984. “Notes on Methodology.” In *Structures of Social Action: Studies in Conversation Analysis*, edited by John Heritage and Paul Atkinson, 21–27. Cambridge, UK: Cambridge University Press. Sadowski, Jathan, and Frank Pasquale. 2015. “The Spectrum of Control: A Social Theory of the Smart City.” *First Monday* 20 (7). https://firstmonday.org/ojs/index.php/fm/article/view/5903. Sandvig, Christian, Kevin Hamilton, Karrie Karahalios, and Cedric Langbort. 2016. “Automation, Algorithms, and Politics | When the Algorithm Itself Is a Racist: Diagnosing Ethical Harm in the Basic Components of Software.” *International Journal of Communication* 10 (October): 4972–90. Saussure, Ferdinand de, and Roy Harris. (1916) 1998. *Course in General Linguistics*. LaSalle, Ill: Open Court. Schmidt, Manfred G. 2010. *Demokratietheorien. Eine Einführung*. 5th ed. Wiesbaden: VS Verlag Für Sozialwissenschaften. Schumpeter, Joseph A. (1942) 2008. *Capitalism, Socialism, and Democracy: Third Edition*. New York: Harper Perennial Modern Classics. Schutz, A. 1976. *Collected Papers II: Studies in Social Theory*. The Hague: Martinus Nijhoff. Schütz, Alfred. (1932) 1993. *Der sinnhafte Aufbau der sozialen Welt. Eine Einleitung in die verstehende Soziologie.* 6th ed. Frankfurt am Main: Suhrkamp Verlag. Schütz, Alfred, and Talcott Parsons. 1978. *Theory of Social Action: Correspondence of Alfred Schutz and Talcott Parsons*. Edited by Richard Grathoff. Bloomington: Indiana University Press. Schwartz, Morris S., and Charlotte Green Schwartz. 1955. “Problems in Participant Observation.” *American Journal of Sociology* 60 (4): 343–53. Schwarz, Ori. 2019. “Facebook Rules: Structures of Governance in Digital Capitalism and the Control of Generalized Social Capital.” *Theory, Culture & Society* 36 (4): 117–41. https://doi.org/10.1177/0263276419826249. Scott, J.C. 1998. *Seeing Like a State: How Certain Schemes to Improve the Human Condition Have Failed*. Series / Institution for Social and Policy Studies at Yale University. Yale University Press. Seaver, Nick. 2012. “Algorithmic Recommendations and Synaptic Functions - EScholarship.” *Limn* 1 (2). https://escholarship.org/uc/item/7g48p7pb. ———. 2017. “Algorithms as Culture: Some Tactics for the Ethnography of Algorithmic Systems.” *Big Data & Society* 4 (2): 2053951717738104. https://doi.org/10.1177/2053951717738104. ———. 2019. “Captivating Algorithms: Recommender Systems as Traps.” *Journal of Material Culture* 24 (4): 421–36. https://doi.org/10.1177/1359183518820366. Segura, María Soledad, and Silvio Waisbord. 2019. “Between Data Capitalism and Data Citizenship.” *Television & New Media* 20 (4): 412–19. https://doi.org/10.1177/1527476419834519. Shani, Guy, and Asela Gunawardana. 2011. “Evaluating Recommendation Systems.” In *Recommender Systems Handbook*, edited by Francesco Ricci, Lior Rokach, Bracha Shapira, and Paul B. Kantor, 257–97. Boston, MA: Springer US. https://doi.org/10.1007/978-0-387-85820-3_8. Sheehey, Bonnie. 2019. “Algorithmic Paranoia: The Temporal Governmentality of Predictive Policing.” *Ethics and Information Technology* 21 (1): 49–58. https://doi.org/10.1007/s10676-018-9489-x. Shor, P.W. 1994. “Algorithms for Quantum Computation: Discrete Logarithms and Factoring.” In *Proceedings 35th Annual Symposium on Foundations of Computer Science*, 124–34. https://doi.org/10.1109/SFCS.1994.365700. Simmel, Georg. (1900) 2004. *The Philosophy of Money*. Revised Edition. London ; New York: Routledge. ———. (1908) 2009. *Sociology: Inquiries into the Construction of Social Forms*. Translated by Anthony J. Blasi, Anton K. Jacobs, and Mathew Kanjirathinkal. Leiden, Boston: Brill. Smith, Brent., and Greg Linden. 2017. “Two Decades of Recommender Systems at Amazon.Com.” *IEEE Internet Computing* 21 (3): 12–18. https://doi.org/10.1109/MIC.2017.72. Sørensen, Jannick Kirk. 2019. “Public Service Media, Diversity and Algorithmic Recommendation. Tensions between Editorial Principles and Algorithms in European PSM Organizations.” In *CEUR Workshop Proceedings*, 2554:6–11. Copenhagen. http://ceur-ws.org/Vol-2554/paper_01.pdf. Sørensen, Jannick Kirk, and Jonathon Hutchinson. 2018. “Algorithms and Public Service Media.” In RIPE@ 2016 Conference Proceedings . Antwerpen: Nordicom. Sørensen, Jannick Kirk, and Jan-Hinrik Schmidt. 2016. “An Algorithmic Diversity Diet? Questioning Assumptions behind a Diversity Recommendation System for PSM.” In RIPE@2016 Conference Proceedings. Antwerpen: Nordicom. Spiekermann, S., and F. Pallas. 2006. “Technology Paternalism – Wider Implications of Ubiquitous Computing.” *Poiesis & Praxis* 4 (1): 6–18. https://doi.org/10.1007/s10202-005-0010-3. Srnicek, Nick. 2016. *Platform Capitalism*. 1st ed. Cambridge, UK ; Malden, MA: Polity. Staab, Philipp. 2019. Digitaler Kapitalismus: Markt Und Herrschaft in Der Ökonomie Der Unknappheit. Berlin: Suhrkamp. Star, Susan Leigh, and James R. Griesemer. 1989. “Institutional Ecology, `Translations’ and Boundary Objects: Amateurs and Professionals in Berkeley’s Museum of Vertebrate Zoology, 1907-39.” *Social Studies of Science* 19 (3): 387–420. https://doi.org/10.1177/030631289019003001. Stark, Luke. 2018. “Algorithmic Psychometrics and the Scalable Subject.” *Social Studies of Science* 48 (2): 204–31. https://doi.org/10.1177/0306312718772094. Steen, Marc. 2015. “Upon Opening the Black Box and Finding It Full: Exploring the Ethics in Design Practices.” *Science, Technology, & Human Values* 40 (3): 389–420. https://doi.org/10.1177/0162243914547645. Suchman, Lucille Alice. 2007. *Human and Machine Reconfigurations: Plans and Situated Actions*. 2nd ed. Cambridge: Cambridge University Press. Sunstein, Cass R. 2009. *Republic.Com 2.0*. Princeton, N.J: Princeton University Press. Sztompka, Piotr. 2014. *Agency and Structure: Reorienting Social Theory*.. Routledge. Taylor, Charles. 2004. *Modern Social Imaginaries*. Durham, London: Duke University Press. Ten, Chin Liew 1998. “Democracy, Socialism, and the Working Classes.” In *The Cambridge Companion to Mill*, edited by John Skorupski, 372–95. Cambridge Companions to Philosophy. Cambridge: Cambridge University Press. Terranova, Tiziana. 2004. *Network Culture: Politics for the Information Age.* London, Ann Arbor, MI: Pluto Press. Thomas, William Isaac, and Dorothy Swaine Thomas. 1928. *The Child in America: Behavior Problems and Programs*. New York: Alfred A. Knopf. Thorson, Kjerstin, Kelley Cotter, Mel Medeiros, and Chankyung Pak. 2021. “Algorithmic Inference, Political Interest, and Exposure to News and Politics on Facebook.” *Information, Communication & Society* 24 (2): 183–200. https://doi.org/10.1080/1369118X.2019.1642934. Thrift, Nigel, and Shaun French. 2002. “The Automatic Production of Space.” *Transactions of the Institute of British Geographers* 27 (3): 309–35. https://doi.org/10.1111/1475-5661.00057. Torrance, John. 1995. *Karl Marx’s Theory of Ideas*. Cambridge University Press. Totaro, Paolo, and Domenico Ninno. 2014. “The Concept of Algorithm as an Interpretative Key of Modern Rationality.” *Theory, Culture & Society* 31 (4): 29–49. https://doi.org/10.1177/0263276413510051. Tufekci, Zeynep. 2014. “Engineering the Public: Big Data, Surveillance and Computational Politics.” *First Monday* 19 (7). https://doi.org/10.5210/fm.v19i7.4901. Unkel, Julian. 2019. *Informationsselektion Mit Suchmaschinen*. Baden-Baden: Nomos Verlagsgesellschaft mbH & Co. KG. https://doi.org/10.5771/9783748901037. Upchurch, Martin, and Phoebe V. Moore. 2018. “Deep Automation and the World of Work.” In *Humans and Machines at Work: Monitoring, Surveillance and Automation in Contemporary Capitalism*, edited by Phoebe V. Moore, Martin Upchurch, and Xanthe Whittaker, 45–71. New York, NY: Palgrave Macmillan. Van den Bulck, Hilde, and Hallvard Moe. 2018. “Public Service Media, Universality and Personalisation through Algorithms: Mapping Strategies and Exploring Dilemmas.” *Media, Culture & Society* 40 (6): 875–92. https://doi.org/10.1177/0163443717734407. Vargas, Eduardo Viana, Bruno Latour, Bruno Karsenti, Frédérique Aït-Touati, and Louise Salmon. 2008. “The Debate between Tarde and Durkheim:” *Environment and Planning D: Society and Space*, January. https://doi.org/10.1068/d2606td. Varnelis, Kazys, ed. 2008. *Networked Publics*. Cambridge, MA: MIT Press. Veale, Michael, and Reuben Binns. 2017. “Fairer Machine Learning in the Real World: Mitigating Discrimination without Collecting Sensitive Data.” *Big Data & Society* 4 (2): 2053951717743530. https://doi.org/10.1177/2053951717743530. Vioulac, Jean. 2009. *L’époque de La Technique. Marx, Heidegger et l’accomplissement de La Métaphysique.* Paris: Presses Universitaires de France. Wachter, Sandra, Brent Mittelstadt, and Chris Russell. 2017. “Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR.” *Harvard Journal of Law & Technology (Harvard JOLT)* 31: 841–88. Wacquant, Loïc. 2004. *Body & Soul: Notebooks of an Apprentice Boxer*. Oxford, New York: Oxford University Press. Warren, Mark. 1992. “Democratic Theory and Self-Transformation.” *American Political Science Review* 86 (1): 8–23. https://doi.org/10.2307/1964012. Weber, Max. (1922) 1978. *Economy and Society: An Outline of Interpretive Sociology*. Edited by Guenther Roth and Wittich Claus. Berkeley, Los Angeles, London: University of California Press. Wieder, D. Lawrence. 1974. *Language and Social Reality: The Case of Telling the Convict Code.* The Hague, Paris: Mouton. Willson, Michele. 2014. “The Politics of Social Filtering.” *Convergence* 20 (2): 218–32. https://doi.org/10.1177/1354856513479761. ———. 2017. “Algorithms (and the) Everyday.” *Information, Communication & Society* 20 (1): 137–50. https://doi.org/10.1080/1369118X.2016.1200645. Winner, Langdon. 1980. “Do Artifacts Have Politics?” *Daedalus* 19 (1): 121–36. Wirth, Niklaus. 1975. *Algorithms + Data Structures = Programs*. New Delhi: Prentice Hall India. Wong, Pak-Hang. 2020. “Democratizing Algorithmic Fairness.” *Philosophy & Technology* 33 (2): 225–44. https://doi.org/10.1007/s13347-019-00355-w. Yadav, Naina, Rajesh Kumar Mundotiya, Amil Kumar Singh, and Sukomal Pal. 2020. “Diversity in Recommendation System: A Cluster Based Approach.” In *Hybrid Intelligent Systems: 19th International Conference on Hybrid Intelligent Systems (HIS 2019) Held in Bhopal, India, December 10-12, 2019*, edited by Ajith Abraham, Shishir K. Shandilya, Laura Garcia-Hernandez, and Maria Leonilde Varela, 113–22. Cham: Springer Nature. Yeung, Karen. 2017. “‘Hypernudge’: Big Data as a Mode of Regulation by Design.” *Information, Communication & Society* 20 (1): 118–36. https://doi.org/10.1080/1369118X.2016.1186713. ———. 2018. “Algorithmic Regulation: A Critical Interrogation.” *Regulation & Governance* 12 (4): 505–23. https://doi.org/10.1111/rego.12158. Zarsky, Tal. 2016. “The Trouble with Algorithmic Decisions: An Analytic Road Map to Examine Efficiency and Fairness in Automated and Opaque Decision Making.” *Science, Technology, & Human Values* 41 (1): 118–32. https://doi.org/10.1177/0162243915605575. Zhu, Haiyi, Bowen Yu, Aaron Halfaker, and Loren Terveen. 2018. “Value-Sensitive Algorithm Design: Method, Case Study, and Lessons.” *Proc. ACM Hum.-Comput. Interact.* 2 (CSCW): 194:1194:23. https://doi.org/10.1145/3274463. Ziewitz, Malte. 2016. “Governing Algorithms: Myth, Mess, and Methods.” *Science, Technology & Human Values* 41 (1): 3–16. https://doi.org/10.1177/0162243915608948. ———. 2017. “A Not Quite Random Walk: Experimenting with the Ethnomethods of the Algorithm.” *Big Data & Society* 4 (2): 2053951717738105. https://doi.org/10.1177/2053951717738105. Zuboff, Shoshana. 2019. *The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power.* New York: PublicAffairs. Democratic Algorithms: Ethnography of a Public Recommender System # 版权与译本说明 **民主的算法：一个公共推荐系统的民族志** *Democratic Algorithms: Ethnography of a Public Recommender System* **中文非官方译本** ## 原书信息 - 原书名：*Democratic Algorithms: Ethnography of a Public Recommender System* - 作者：Nikolaus Poechhacker - 出版社：meson press（德国吕讷堡） - 出版年份：2024 - 篇幅：214 页 - 设计概念：Torsten Köchlin、Silke Krieg；封面图片：alexander_ant@Unsplash；文字编辑：Marc Weingart、Hugh Schmidt - 原书许可说明：书中许多图片的版权与再利用许可不同于上述许可，具体信息见各图说明。 - 本书基于作者 2021 年提交慕尼黑工业大学的博士论文《推荐的规则：推荐系统的制作能告诉我们社会秩序与机器学习之间怎样的艰难关系》（“Rule(s) of Recommendation: What the making of a recommender system can tell us about the difficult relation between social order and machine learning”）。作者感谢克拉根福大学的资助。 - ISBN（印刷版）：978-3-95796-224-9 - ISBN（PDF）：978-3-95796-225-6 - DOI：10.14619/2249 - 来源网址：https://meson.press/books/democratic-algorithms/ - 原书许可：知识共享 署名-相同方式共享 4.0 国际许可协议（CC BY-SA 4.0），https://creativecommons.org/licenses/by-sa/4.0/ ## 译本声明 本译本为原书的非官方中文翻译，未经作者或出版社审阅或认可。译文如有错漏，责任在译者，与原作者及出版社无关。引用时请以原书为准。 本译本系根据 CC BY-SA 4.0 许可对原作品进行的改编（翻译）。译文已对原文内容进行翻译，除语言转换及译注外未作实质修改；译者所加注释均标明“译注”。 ## 译本许可 依照原书许可的“相同方式共享”条款，本译本同样以 **知识共享 署名-相同方式共享 4.0 国际许可协议（CC BY-SA 4.0）** 发布：https://creativecommons.org/licenses/by-sa/4.0/deed.zh-hans 您可以自由分享与改编本译本，但须署名原作者 Nikolaus Poechhacker、原出版社 meson press 及本译本，标明所作修改，并以相同许可发布衍生作品。 ## 翻译体例 - 专有名词与关键术语在首次出现时附原文，如“推荐系统（recommender system）”。 - 注释随章保留；参考文献条目保留原文。 - 书中插图未在译本中复制（其版权许可与正文不同），仅翻译图注，并注明图像所在的原书 PDF 页码。 - 原书页眉与页码已删除；原书脚注转为各章末尾的 Markdown 脚注，编号不变。 ## 作者简介 Nikolaus Poechhacker 是克拉根福大学数字时代研究中心（Digital Age Research Center, D!ARC）博士后高级研究员，并任维也纳大学法律创新与数字化系研究员。他在慕尼黑工业大学获社会学博士学位。他的研究关注民主制度、法律、社会秩序与各领域算法系统之间的关系，融合了媒介理论、科学技术研究（STS）、计算机科学和社会学的视角。 ## 封底简介 算法能否是民主的？我们又该如何不仅将算法理解为技术现象，也将其理解为社会与政治现象？《民主的算法》从理论和经验两方面提供视角，探讨我们如何为民主社会设想和设计算法，以及我们所说的“民主的算法”究竟意味着什么。本书基于民族志田野工作，展示了一家公共广播机构如何构建推荐系统，并由此提出的问题不仅涉及组织与技术实施，也涉及这样一种算法系统与民主宪法之间可能的兼容性。