第二章：作为强大行动者的算法之争（Debating Algorithms as Powerful Actors）

书。人们从来没有真正停止过爱书。五十一世纪。到那时，你们已经有了全息影像、直接下载到大脑的内容、虚构迷雾。可你们需要那种气味。书的气味，Donna。深呼吸！——博士（The Doctor），《神秘博士：图书馆的寂静》（Doctor Who: Silence in the Library）

算法与机器学习不仅已成为更广泛的社会讨论中一个持续被援引的参照点，而且也成为社会科学和人文学科中被广泛讨论的现象。近几年来，关于算法权力的文献急剧增长，甚至形成了一个名为批判算法研究（critical algorithm studies）的独立领域，而这一领域本身又是软件研究（software studies）或批判代码研究（critical code studies）的后继者。这些研究在处理算法现象时运用了范围广泛的各种理论与概念，它们有时彼此兼容或可以比较，有时则独树一帜、不可通约（e.g., Willson 2014）。借用基础设施研究（infrastructure studies）中的一个概念（Star and Griesemer 1989）来说，算法这一形象由此似乎充当着一种边界物（boundary object），使极为不同的理论视角与学科视角得以彼此对话。与此同时，这也可能造成混乱，因为对算法权力的不同构想被当作似乎是同一种现象来讨论，常常让我们不得不追问：当我们谈及算法权力时，我们究竟在谈论什么（Ziewitz 2016）。¶

因此，下文将从算法的权力与社会秩序的角度讨论丰富多样的文献，以概述不同的研究进路及其背后的相应理论。这样的综述当然永远不可能完整，它所呈现的秩序在一定程度上也是偶然的。因此，下一节的目的并不是对文献作出完整、包罗万象的概览，而是勾勒出在算法、机器学习与社会秩序问题上占主导地位的理论进路和叙事。这一做法也反映了不同进路在算法讨论中被使用的强度。尽管马克思主义批判和控制论进路是讨论中的重要声音，但可以公允地说，福柯的理论化已成为学术讨论所采用的一个主要视角。与此同时，在理论层面上提出批判时需要谨慎，因为大多数研究把不同的观念和理论用作敏化概念（sensitizing concepts）（Blumer 1954），并由此提出了有效的论点。所呈现的各种理论视角总是着眼于某个特定问题，而不同进路对这一问题的表述与解决也各不相同。因此，考察这些进路未必应当从一个外部立场出发提出批判。相反，本章的目的在于欣赏所呈现的各种视角，并从它们各自理论范式的角度探讨其生产性与述行性（performativity）。即便提出批判，也是出于必要的谦逊心态：它希望探讨这些理论维度及其对于我自己的观察（将在后续各章中更详细地讨论）的生产性，以及这些理论能够凸显什么、又使哪些方面变得不可见。¶

下文中，我将首先讨论学术讨论中在算法问题上已被识别出的各种议题，例如不透明性（opacity）。这些部分并不那么侧重于对算法现象进行理论化，而是旨在就我们社会持续的算法化所带来的重要问题打开一个批判性视角。随后，我将探讨三种不同的视角：一种关于算法权力的福柯式进路、作为资本主义体制中行动者的算法，以及一种关于算法的控制论进路。其中关于福柯的一节篇幅最长，因为讨论中许多学者都借助福柯思想丰富的概念库来问题化算法。最后，基于对这些进路的讨论，我将指出社会秩序化（social ordering）视角可能为这场争论提供的一些贡献。因此，我提出一种不同的视角，它在两者之间进行调和：一端是个体层面上作为强大行动者的算法，另一端则是把算法视为一种副现象（epiphenomenon）的结构性效应。¶

算法所涉及与算法自身的问题（Issues With and Of Algorithms）

回顾在算法权力与能动性方面所提出的问题和难题，可以发现讨论并不总是遵循一个界限分明的理论视角，而是试图凸显算法系统的特定议题和问题。其中主要的探究路线是：看似客观的知识的生产、黑箱与透明性问题，以及算法偏差（algorithmic bias）问题。下文将讨论这些不同的议题。在这一讨论中，算法究竟被视为稳固的行动者还是结构性效应这一问题，即便有所触及，也只是隐含地触及，这引发了一些批评（e.g., Hoffmann 2019）。¶

知识生产与客观性（Knowledge Production and Objectivity）

人工智能，无论是早期的专家系统（expert systems）还是更为当代的机器学习形式，始终面临着知识获取（knowledge acquisition）的问题，即关于世界的知识如何被收集、表征并应用于手头人工智能系统的任务。尤其是专家系统，面临着如何为其显式的、基于规则的知识表征提取知识的问题（Forsythe 1993）。因此，人工智能的早期版本试图将人类专家的知识形式化，并将其转换为计算机能够理解的形式。当今的机器学习系统同样面临这一问题——如今它常被表述为对领域知识（domain knowledge）的需求（Ribes et al. 2019）。专家系统建立在一种显式的理论进路之上，而这种进路又以哲学观念或基础人类学观念为支撑。Berry（2011）将其与通过机器学习和大数据生产的知识相对照，后者是一种计算性的知识。在 Berry（2011）看来，这使其他理性化形式被抛诸身后。Boyd 和 Crawford（2012）进一步指出，随着（所谓的）大数据应用与机器学习结合出现，知识的定义从基于规则的系统或专家陈述，转向了以数据驱动的方式来表述相关性与模式。然而，理论与假设并没有被抛弃，改变的是理性化的形式。什么形式的数据被输入算法，观察与编码之间的转译如何进行，这些构成了数据驱动社会中新的理论化（Bowker 2006）。这些数据解释上的偶然性常常以客观性神话为伪装，从而将所采用的解释模式实演为一种强大的理性。这种建立在对数字之信任基础上的被实演的客观性，为社会制度与社会事业创造了正当性（G. Rieder and Simon 2016），而且这一现象并非只见于算法应用之中（e.g., Porter 1995）。Beer（2017）认为，算法这一概念本身因此是一种更普遍话语中的重要元素，这种话语传达着对数字的信任，并且“具有一种说服性的分量”（Beer 2017, 8）。算法的权力既建立在其生产关于社会之知识的潜力之上，也建立在一种更普遍的话语之上，这种话语接受并建构了作为强大、客观和中立实体的算法。在这一功能中，算法计算能够把不确定的观察转化为可信且可据以行动的知识（Amoore 2009）。¶

黑箱化与透明性（Black Boxing and Transparency）

在知识生产与控制这一光谱的另一端，是对一般意义上的软件、特别是对算法的批判。在这一讨论中，软件已成为“渗透当代社会一切领域的一个层面。因此，如果我们想理解当代的控制技术[……]，那么在考虑这一软件层面之前，我们的分析就不可能完整”（Manovich 2013b, 15）。在这一视角下，算法和软件充当着一种方法，通过强制执行某种协议（protocol）（Galloway 2004），或强制执行以计算机代码表述的某种隐含法律（Lessig 2006），来限制和控制可能的（互动）行动形式。代码由此被概念化为远不止几行代码，而是代表着我们当代社会“在文化、道德、伦理和法律行为准则方面的条款”（A. Mackenzie and Vurdubakis 2011, 4）。在这一视角下，社会的形态以及将社会维系在一起的黏合剂都在代码片段中被界定，代码由此成为我们社会的一种核心媒介^[1]。一些学者甚至描绘了一幅反乌托邦图景：中心化的制度和企业创造出一种自上而下的技术统治（technocracy），削弱了当代社会的自组织潜力（Helbing 2015）——这使这些学者得出结论：算法系统最终可能威胁到既有的民主制度（Helbing et al. 2017）。根据这一主导性讨论，算法决策系统有两个重要且决定性的要素：透明性的缺失与自动化（Zarsky 2016）。¶

它们指的是这样一个事实：算法往往构成一个不透明的行动者，它依据公众——或者至少是其行动所及之主体——所不知道的规则或理性来行动。因此，作为强大行动者的算法被撤离出公共话语的批判性审视，一个黑箱社会（black box society）（Pasquale 2015）由此确立。这在算法治理中造成了问题。Leese（2014）表明，被黑箱化的算法知识生产对反歧视保障措施构成了根本性挑战。一些学者因此呼吁为算法建立检查程序和代码审查（Koliska and Diakopoulos 2018; O’Neil 2016）。然而，关于黑箱算法的讨论建立在不同立场之上，而且对于何为黑箱往往有着分歧的构想。Burrel（2016）讨论了算法黑箱的三种不同形式：我们要么 a）无法理解机器学习的理性，例如“阅读”一个神经网络；要么 b）缺乏理解计算机代码的技术专长；要么 c）仅仅是基于知识产权（Intellectual Property Rights, IPRs）或国家机密而未被准许接触相关代码。无论如何，正如一些学者所担忧的，算法的黑箱化为追究这些系统的责任带来了严重问题（e.g., Tufekci 2014）。¶

然而，透明性这一概念在批判算法研究的学者中也受到了质疑（Ananny and Crawford 2018）。在将算法问题化为黑箱时，算法权力与能动性的所有问题都被定位于算法及其（特定）代码的内部。因此，Bucher（2016）敦促我们对算法采取一种更宽广的视角，运用民族志学者的敏感性来重构算法的权力与效应。对 Bucher（2016）而言，算法“既不黑，也不是箱”。相反，算法这一形象只不过是日常互动中又一个并不完全透明的要素。她借助控制论和 ANT 的洞见指出，我们应当转而把关于这些系统的可获取信息，作为日常互动的一部分来加以说明。援引 Latour（2005），她认为“物必须进入叙述，才能被纳入考量”（“objects have to enter into accounts in order to be accounted for”）（Bucher 2016, 87）。这一视角已被其他学者所采纳，他们主张对算法作情境化的理解（Geiger 2017），甚至主张把算法理解为文化（Seaver 2017），即重构社会集体赋予算法概念的种种意义。因此，算法的透明性不仅关乎通过代码审查打开黑箱，也包括对某些设计决策的沟通（Diakopoulos and Koliska 2017）以及事后评估的模式（Desai and Kroll 2017）。随后，这场争论在关于算法可解释性（algorithmic explainability）（Mittelstadt, Russell, and Wachter 2019）和算法可诠释性（algorithmic interpretability）（Gilpin et al. 2018）的讨论中获得了新的动力。然而，即便是后面这些范畴也受到批判性的讨论，因为真正的可解释性可能难以实现，并反过来造成一种“透明性谬误”（transparency fallacy）（Edwards and Veale 2018, 50）。因此，学者们开始主张一种反事实（counter-factual）的解释模式（Poechhacker and Kacianka 2021; Wachter, Mittelstadt, and Russel 2017）。这些讨论也体现在 Paßmann 和 Boersma（2017）所提出的形式透明性（formal transparency）与实践透明性（practical transparency）之区分中。前者反映的是我们（在形式上）对算法运作所知道的东西，而实践透明性描述的则是：在并不确切了解算法内部运作的情况下，为理解算法所需的资源的收集与组装。¶

歧视与偏差（Discrimination and Bias）

关于作为社会秩序之能动者的算法，另一个常被讨论的问题是在分类与不平等的框架下展开争论的。算法形式的社会分选（social sorting）（Lyon 2003），例如动态定价或保险服务的准入，会使社会中出现新的不平等，或使既有的不平等得以维持和固化。Graham（2005）相对较早地指出，算法和软件正在成为一种新的新自由主义服务经济中的核心行动者，这种经济创造出管理资源获取的基础设施。社会分选，即依据相关属性对主体进行排列，变成了软件分选（software sorting）。通过将算法和软件置于核心位置，例如谷歌的搜索引擎（Noble 2018），种族主义与歧视等社会问题便通过有选择地给予信息获取权，或通过在搜索结果中强化刻板印象而被稳定下来。其结果是一个以数字化且看似客观的手段被隔离开来的社会（Danna and Gandy 2002）。超然而客观的算法这一观念进而也提供了手段，使各种歧视形式得以稳定下来，并免于（法律上的）干预，因为这种歧视是系统性的，而非有意产生的^[2]（Barocas and Selbst 2016）。当然，人们也可以把这一论点反过来，说这是系统性歧视的一个令人不安的迹象。Eubanks（2018）令人印象深刻地描述了自动化决策如何通过把贫困人口作为目标，使经济不平等物化并加深。O’Neil（2016）从对许多类似案例研究的描述中得出结论：算法与机器学习是数学杀伤性武器（weapons of math destruction），因为它们助长社会不平等（例如保险）、种族偏见（例如警务软件），或成为监控与控制工人的工具——此外还有许多其他例子。由此产生的诉求是：企业和开发者应当为其所开发算法的负面影响承担责任（Martin 2019），同时也引发了对反歧视机器学习程序的探索（e.g., Custers et al. 2013）。这使作为行动者和物质媒介的算法重新回到讨论之中。算法——就其狭义定义而言——应当受到审视，以便定位和治理潜在的偏差（Sandvig et al. 2016）。并不是作为一个超然要素的算法在以种族主义的方式行事或以其他方式带有偏见，它是一种可以被相应塑造的工具。算法及其社会属性与后果，应当与开发者所调动的社会知识形式联系起来看待。Bechmann 和 Bowker（2019）借助分类理论指出，即便是无监督形式的机器学习，也并不脱离这些社会知识储备。在他们的研究中，Bechmann 和 Bowker（2019）说明了无监督形式的机器学习如何依赖于许多决策，例如数据清洗或对算法所使用的统计模型进行事后评估——并因而可能再生产社会偏见。¶

有一些批评认为，这一视角偏重作为行动者的算法，而忽视了系统性视角（e.g., Hoffmann 2019）。因此，算法的公平性与问责应当考虑组织和制度语境（Veale and Binns 2017）。这进而使关于数字基础设施与分类之算法权力的视角复杂化，因为它提出了这样的问题：算法中应当实现何种形式的公平性，机器学习算法又体现了哪些规范性观念。因此，算法公平性问题并不是一个技术问题，也不是一个能由开发者解决的问题，而是需要一场政治讨论（Wong 2020）。尤其是因为，何为公平这一问题有时会导向多种数学表述，它们各自本身都是成立的，但按照定义彼此不可通约（e.g., Kleinberg, Mullainathan, and Raghavan 2016）。因此，把这些决策的负担单独压在开发者身上，就造成了一个问题（由谁来决定），并造成一种单一问责与单一责任的幻觉。相反，一些学者认为，我们应当研究为开发敏感系统界定正当程序（due processes）的可能方式（Draude et al. 2019; Zarsky 2016）。如果——正如 Bozdag（2013）所论证的——这些效应不仅是设计过程的结果，而且可能在实施阶段之后的互动中涌现出来，那么这一视角就更加令人信服了。¶

福柯式视角（A Foucauldian Perspective）

在研究算法与算法权力的进路中，最为突出、并且作为“一个几乎出于本能的切入点”（Rouvroy 2011, 121）的，是由 Michel Foucault 的思想及其关于知识与权力之谱系学的理论所推动的进路。Foucault 的著作在社会学和批判理论（如批判安全研究［Critical Security Studies］）中影响极大：这些研究考察一般意义上技术的权力，阐明不同的存在方式如何受到国家权威的规制和监视，也阐明权力作为一种难以捉摸的力量如何无缝地融入社会的肌理之中。¶

Foucault 的著作体现了关于权力、国家与个体之思考的不同阶段与时刻。下文中，从福柯式视角出发对算法权力所作的研究，将围绕 Foucault 著作中的一些突出概念来归组，例如生命政治（biopolitics）、治理术（governmentality）、规训（discipline）或主体化（subjectivation）。然而，每一个熟悉 Foucault 著作的人都会意识到，这样的区分似乎是人为的，因为 Foucault 的理论概念往往是相互依存的，并在其著作的不同时期中流动变化。正如 Foucault 在其关于治理术史的讲座中所指出的，这些权力机制中没有哪一种取代了另一种，它们也不应被孤立地看待，因为它们彼此互补（Foucault 1979, [1978] 2009）。因此，下文的分类反映的是不同研究如何应用、选择和使用福柯理论建构中的概念。¶

话语与主体化（Discourse and Subjectivation）

Michel Foucault 出身于法国结构主义学派，他较早的著作强调社会或核心制度性行动者对个体自由的限制之权力。在此，治理并不是这些制度的一种功能，而是贯穿不同社会的反复出现的模式通过这些制度展开其权力。这一点在 Michel Foucault（1971）的就职演讲中得到了最为突出的讨论：他在其中剖析了话语秩序，即那些有规律地反复出现并为世界赋予秩序的陈述与分类模式。话语并非由某个个体所生产，而是基于社会结构而自我再生产。在这种关于社会及其秩序化方式的构想中，与他的其他著作相比，Foucault 著作中的结构主义遗产最为明显。¶

正是 Foucault 著作的这一部分，被 Beer（2017）从算法权力的角度加以讨论。在他那篇如今广为人知的关于算法之社会权力的文章中，Beer 认为算法权力也应当从真理生产的角度来看待。Foucault 认为，权力的机制与关系（即权力的微观物理学）如果脱离了话语及其生产真理的能力，便无法被理解；Beer（2017）借助这一观点，描述了算法生产真理的两个基本要素。第一，算法通过其计算和以风险评分与分类为形式的输出来生产真理，而这些输出获得了客观真理的性质。回到 Foucault 的《话语的秩序》（Order of Discourse），算法能动者对陈述进行选择、限制和生产，纳入或排除言说者、事实与视角（Foucault 1971）。因此，一种为社会所接受并传播的真理^[3]的生产，与权力及其结构的形成和再生产紧密交织在一起（Foucault 2016）。然而，算法生产真理的第二个维度较少关注算法的物质性干预与计算，而是追问算法这一概念如何被调动和使用——也就是说，不是追问算法如何通过选择机制积极地塑造话语，而是追问算法本身如何是话语（或话语的一部分）。于是问题在于：算法这一概念如何在不同的社会场域中流转，如何连接实践与言辞，如何纳入和排除其他意义，并如何为社会关系赋予秩序。Beer（2017）认为，在这个意义上，算法可以同工程师和计算机科学家所知道的那种物质与技术形式的算法分离开来。算法这一概念——作为话语——变成了别的东西，并且常常传达出精确、中立和客观的观念（G. Rieder and Simon 2016）。除了对数字之信任这一传统叙事（Porter 1995）之外，算法这一概念还成功地催生了若干学术研究领域，而这些领域未必共享对“算法”一词的共同定义或理解（Ziewitz 2016）。因此，算法这一概念 a）作为话语为社会关系和社会现象赋予秩序，并且 b）通过将算法的物质性与计算性干预框定为客观真理，使这些干预获得正当性。¶

话语不仅生产关于外部世界的真理，而且还创造出它们所针对的主体本身（Foucault 1971）。因此，在某一具体情境中你是一个什么样的人，包括性别、职业身份等类别划分，是由占主导地位的话语所决定的（Foucault 1979）。算法主体化过程，即基于所收集的数据和推断出的类别而赋予个体某种身份，是新的数字治理模式中的一个重要元素。根据 Cheney-Lippold（2017）的观点，这些主体化过程把个体纳入由算法所界定的子人口（sub-populations）之中。然而，这种界定并不遵循关于个体特质的预先设定的观念，如宗教群体或国籍，而是从所收集的数据中动态地推导出来的。然而在 Cheney-Lippold（2017）看来，这种动态的、数据驱动的主体化并不代表我们真实的自我。因此，它遵循着福柯式的观念，即主体化过程，也就是（暂时性）主体性的指派，代表着一种暴力行为。我们真正是谁，即我们具身的身份（Cheney-Lippold 2017），被化约为算法的分类集合与感知。这可以涵盖从日常互动（例如向我展示什么广告）到改变人生的事件（例如被归类为［潜在的］恐怖分子）的各种情形。Cheney-Lippold（2016）援引 NSA 的安全项目指出，安全算法所进行的主体化会授予或剥夺个体的权利。这种控制与主体化的混合威胁到现代性的根基，即自我确证（self-assertion）的可能性。¶

与其他作者不同，Rosalind Cooper（2020）把算法形式的控制与牧领权力（pastoral power）联系起来，后者通过告解（confession）机制运作。这种算法形式的控制不只是伤害个体的真实自我，而且窥视其内在存在。Stark（2018）通过分析针对 Facebook 用户的情绪传染（emotional contagion）研究以及剑桥分析（Cambridge Analytica）丑闻指出，Facebook 及类似社交媒体网站的目标是“追踪、测量并操纵其用户的情绪”（Stark 2018, 206）。因此，算法权力的目标并不是在量化过程中侵犯我们的自我，而是塑造和形塑它。以所产生的数据痕迹为形式的告解，使心理测量画像的生成成为可能，从而使牧人能够照看我们。这种基于算法和数据来形成与塑造自我（并随之塑造整个社群与公众）的新方式，以一种新的“算法认识型”（algorithmic episteme）为基础（Fisher and Mehozay 2019）。Bucher（2012）也把规训性全景敞视（disciplinary panopticon）这一概念的逻辑颠倒过来，认为当代数字社会的威胁不再是对权威可见，而是在社交媒体世界中变得不可见（see also Gillespie 2017）。¶

这一论证延伸了“代码即法律”（code is law）的范式（Lessig 2006），将算法的物质性干预与知识生产同国家的执行机构直接联系起来——从而将其置于一个更宽广的语境之中。而正如 Prey（2018）所论证的，在谈论主体化时，我们恰恰不应忽视这一语境。Prey 没有预设一个真实自我或本真的个体性，而是提出了 Simondon 的个体化（individuation）观念，在这一观念中，个体始终是情境化互动的产物。Lury 和 Day（2019）进一步认为，算法个体化“折射于多重的局部秩序之中，这些秩序使特定形式的比较与竞争成为可能”（Lury and Day 2019, 31）。其他学者所宣称的那种自我，变成了一种对沟通与互动的语境化归属^[4]。因此，所谓侵犯真实自我，总是已经提出了这样的问题：这个真实自我是如何被感知和确定的——以及用户赋予算法的类别与归属以何种伦理和规范意义（Magalhães 2018）。离开语境，离开算法与人类互动中的意义协商，就无法讨论主体化。¶

从生命政治到治理术（From Biopolitics to Governmentality）

Amoore（2009）借用福柯关于治理术与生命政治的权力构想，并将其应用于算法。她采纳了这样一种观念：政治权力是一种无声的战争，旨在“重新铭写那种力量关系，并将其重新铭写于制度、经济不平等、语言乃至个体的身体之中”（Foucault [1976] 2003, 16）。据此，她认为我们把算法体验为一种政治权力与国家安全的手段。通过挖掘人、地点与事件之间的关联（associations），一种社会互动模型得以建立，它使得基于对常态（normality）的统计建构来识别越轨行为成为可能。这有别于规训体制的观念。在规训社会中，规范（norm）——按其定义——是一种既定之物，用于区分正常与不正常。凡能符合规范之定义者，便被视为合乎规范的（norm-al）。于是，规训是一种改造个体的方式，使他们符合所表述的规范所代表的观念——通过规训身体、行为等等。规训权力指向时间中的某一时刻，以“达到常态的那个稳定点”（Aradau and Blanke 2017, 377）。与此相反，统计手段并不预设一个预先给定的规范，而是代表着一种借助统计手段从给定人口中推导规范的自我反身形式。常态先于规范，后者是从一种被计算和被观察的常态中推导出来的：“规范是不同常态之间的一种相互作用。正常的东西在先，规范从中推导而来，或者说，规范是在对诸常态的这种研究的基础上被确定下来并发挥其操作性作用的”（Foucault [1978] 2009, 63）。Foucault 指出，这更类似于一种常态化（normalization）的过程，而非常态。统计方法并不是正面地设定一个规范并使现实适应它，而是从被观察到的现实中建构规范。Gerlitz 和 Lury（2014）虽未提及 Foucault，却描述了基于个体在数字人口中动态变化的位置而对其进行计算性（再）评价的过程。这也划分出了数字领域中对控制的不同构想（Cheney-Lippold 2011）。Lessig（2006）“代码即法律”的观念类似于通过物质边界进行的显式规范设定——Deleuze（1992）在控制社会中描述了这一点——而机器学习与统计进路则动态地计算出一个常态模型。¶

这些统计方法因此不仅计算概率，而且应用关联模型，或对某些信号作出反应，从而走向一种可被算法识别的“可能性政治”（politics of possibility）体制（Amoore 2013）。在这种理解中，“算法的”一词也有别于计算相关性或通过机器学习生成模型的常见理解。相反，Amoore 的关联观念所呈现的算法安全（algorithmic security）以两种方式运作：第一种是前述的离群值检测（outlier detection）。不属于被计算出的常态的单一事件被标记为可疑的和越轨的。实际的越轨行为与被观察到的行动之间也许并不存在任何证据或相关性，但仅仅偏离一般的社会趋势这一点就足以给主体贴上标签。第二种形式则更多地由理论驱动，因为既定的信号被用来决定是否将个体归类为潜在的越轨者。关联规则（association rules）标记出潜在的威胁，并使被观察的个体成为进一步调查的对象。¶

在学术讨论中，出现了“算法治理术”（algorithmic governmentality）这一术语，它描述的是“政府机构和制度施加于用户的算法之使用，我们借此试图把当前的结构、实践与过程从‘治理他人’组装为‘治理自我’”（Janssen and Kuk 2016, 375）。在这条讨论脉络中，算法被描述为一种新的治理形式的关键要素，这种治理形式管理着自由主义主体对治理体制的认同（Foucault [1979] 2008）。最为突出的表述来自 Annette Rouvroy（2011），她认为当代社会的算法化标志着向后现代治理形式的转变，在这种治理形式中，因果性与透明性被不可审视的、计算性的社会管理形式所取代。由此，它与前文一节已描述过的生命政治（以 Amoore 的著述最为著名）以及主体化过程联系起来，从而确立了新的知识/规训配置形式。通过这些主体化形式以及对个体的规训，人口不再那么以生产率和科学理性的形式被管理。相反，算法形式的治理术引入了一种化约人性之偶然性的形式，使预测——一种常被观察到的算法应用——成为可能。Introna（2016）以类似的方式论证说，算法治理不能脱离算法自身所产生的述行效应来看待——换言之，算法连同干预一起生产出干预的主体。效应的这种述行性与可预测性的生产彼此直接相关（Sheehey 2019）。因此，对于预测性警务（predictive policing）之类的应用而言，未来与过去都成为重要的治理场所。过去通过建模和数据收集而被实演，随后被投射到未来——但两者都通过算法而受到治理。颇为有趣的是，同一现象也被认为是一种生产空间的方法（Thrift and French 2002）。在一篇较晚的文章中，Rouvroy（2013）创造了“数据行为主义”（data behaviorism）这一术语，用以描述这种从因果性向可管理性的转变，强调从为管理人口而有意制作的政府统计，转向无所不在的数据收集过程（see also Roberts 2019）。然而，根据 Rouvroy（2013）的观点，在生产可预测人口的过程中，这些治理技术侵犯了我们是谁，从而侵犯了我们的个体性。这种侵犯是以下两点的结果：a）忽视我们自身的某些方面；b）设置使被预测的行为——从而使预测本身——更有可能发生的机制。也就是说，通过有选择地规训和指派主体性，被预测的系统以一种反身的方式被再生产出来^[5]。¶

这种分类工作与一种外化的控制形式相联系，后者被理解为远距治理（governing at a distance）（Rose 2012）。在这里，算法权力是在这样一种体制中不断变动的动态分类之间的连接：在其中，算法充当着“引导机制，开启和关闭用户可能遭遇的特定可能性条件”（Cheney-Lippold 2011, 175）。因此，对人口的管理如今是通过动态分配的主体性与风险来治理的，这些主体性与风险在一个动态过程中引导算法的物质性干预，或通过限制潜在行动来生产社会秩序。因此，算法计算不再植根于一个通过全景敞视机制（Foucault [1975] 1995）来控制和治理个体的规训社会，而是“通过纳入与排除的事件，将个体身体分选进不同的流之中”（Erwin 2015）。权力不再以“观看的艺术”（the art of watching）（Beer 2015, 3）以及随之而来的被内化的被注视感来运作。这一批判针对的是 Foucault 著作中常被援用的全景敞视概念——它描述的是监控的规训权力——并理顺了将生命政治和治理术与 Deleuze（1992）的控制社会联系起来的路径。¶

从生命政治到控制社会（From Biopolitics to Control Society）

Cheney-Lippold（2011）从生命政治的视角出发，拓展了 Foucault 的生命政治与生命权力（bio-power）概念，并在其与控制社会（Deleuze 1992）的概念之间架起了一座桥梁。在福柯的理论建构中，生命权力作为一个独立的概念出现，用以描述从指向个体身体和主体的规训体制，向整体人口之建构的历史性转变。然而，根据 Cheney-Lippold（2011）的观点，算法能动者为当代社会引入了一种新的治理模式，作者称之为软生命政治（soft biopolitics）。Foucault 的思考建立在对统计测量中（相对）静态的类别——如男性、女性等——的观察之上，而算法则以另一种方式运作。分类不再基于固定的能指—所指关系，而是创造出被调制的（modulated）、因而高度动态的分类。一个人是否被归类为男性——Chenney-Lippold 在全文中一直使用这个例子——不仅取决于此人的身体特征，而且是从其他特征以及与其他个体相关的被观察行为中推导出来的。然而，由于它是动态生成的，它也可能在任何特定时刻发生改变——或在不同情境中有所不同。¶

算法分类与其说是传统生命政治的工具，不如说更类似于 Deleuze（1992）所描述的调制（modulation）过程。算法主体化过程所生产的不是（不可分的）个体（individuals），而是可分体（dividuals）。身份已成为一种高度流动的统计表征，它并不在不同场景中表征一种稳定的身份，而是在一个“自动化的整合与解体”（Terranova 2004, 34）过程中，依据算法所履行的某种特定的、情境化的功能而行动。在 Galloway 看来，这种对可分体的算法生产“没有理由知道某个特定用户的名字[……]。围绕某一特定用户的描述性信息的聚集，就足以解释该用户的身份”（Galloway 2004, 69）。因此，治理机构使自身以整体人口的方式进行自我描述的生命政治冲动，打碎了先前那种固化的、可管理的人口，使之分裂为许多在构成上非常动态的不同子人口——Rogers（2009）把这一发展称为后人口统计学（post-demographics）。¶

把软生命政治这一术语应用于沟通的算法中介，就把治理的焦点从其传统归属的国家移开，而将治理的权力定位于 Facebook 或 Google 之类的平台。通过捕获海量用户数据，并依照规范来设计平台和算法，算法管理着我们的日常互动以及由此而来的、我们可获得的社会资本（Schwarz 2019）。在这一视角下，生命政治治理的目的不再是增强国家及其（生产）手段，而是为互联网平台创造剩余价值。这一论点也在其他理论格局中被提出过，Morozov（2014）以及 Mayer-Schönberger 和 Ramge（2018）也或多或少隐含地提出过。¶

综上所述，所讨论的关于算法权力的这些进路，将 Deleuze（1992）的控制社会与一种新的、非国家的、流动的生命政治形式联系起来。国家臣民的身体不再是干预的目标，对“自上而下”的强大凝视的内化也不再是首选的治理方法。如果认真对待软生命政治那种动态而流动的微观管理进路，这似乎也不再是一种可行的运作方式（modus operandi），因为个体并不知道她应当遵守的规范，这些规范是从不再预先界定的人口中动态推导出来的。相反，不同的、不断新涌现的人口被计算出来，被动态地处置，并被纳入或排除出可能的（互动）行动路径。因此，算法治理在一个控制光谱中界定我们在当下情境中能做什么、不能做什么，而这一光谱主要由不可见的行动者所界定，它们界定的与其说是我们能做什么，不如说是我们不能^[6]做什么（Sadowski and Pasquale 2015）。控制社会的概念随后被监控研究（surveillance studies）所采纳，在那里，分选的方面得到了强调，并被主动地用来对抗全景敞视这一主导隐喻（e.g., Bogard 2006; Haggerty and Ericson 2000; Lyon 2003）。这一转向最近受到了批评（de Laat 2019），批评者认为，预测性建模仍然通过对社会规范的适应来强制行为发生改变，因为我们直接感受到违反规范的后果^[7]。然而，Amoore（2011）更早时就论证过，由算法风险计算——通过关联——所生产的数据衍生物（data derivatives），是由将繁多的输入化约为一个分数或标签的决定所界定的，而依据关联规则来看，这种决定并不透明（see also Leese 2014）。然而，如果它们不透明，规训效应便无法浮现。此外，预测是一种管理事件后果的生命政治工具，而不是阻止事件发生的工具（Aradau and Blanke 2017, 377）——后者才是规训逻辑所暗示的。这一区别很重要，因为衍生的规范——从所参照的人口中计算出来——只有在观察到事件之后才能存在。常态与非常态无法被预先界定——这不同于规训个体的模式。因此，何为规范、何为不正常，是通过找出一个流动的、被计算出的规范的离群值来界定的（Roberts 2019）。依照一个既定规范来确定方向已不再可能。尤其是，正如 Cheney-Lippold（2011）所指出的，如果规范不仅随时间而变化，而且在不同语境中也各不相同的话。然而，正如 Amoore（2011）也强调的，这并不意味着规训权力消失了。例如，在 eBay 的案例中，存在着既类似于全景敞视的特征、又类似于软生命政治的权力形式（Curchod et al. 2020）。然而，算法控制社会的出现不仅在理解上，而且在规制这些被计算出的规范上都造成了问题（e.g., Lenglet 2019）。¶

福柯派学者在这里为我们提供的视角确实很有意思，因为尤其是控制社会的观念，似乎解释了我们称之为算法权力的这一现象的许多方面。在控制社会中，管理人口这一生命政治方面成倍增加，于是哪种理性驱动着治理性干预这一问题便立即浮现。然而，这并不总是 Foucault（[1979] 2008）所描述的那种生命政治律令。此外，中心化制度支持政府治理一般人口的观念也土崩瓦解了。中心化的权力制度如今被增殖，并被作为知识生产装置的算法所取代，突破了国家制度的边界（Harkens 2018; Müller and Pöchhacker 2019）。权力的这种去中心化提出了这样的问题：如何定位算法的权力，以及算法权力的这些多重实演如何彼此交织。将探究对象去中心化，或许能为探索这些棘手的互动和关系提供一条途径。正如 Introna（2016）所论证的：从社会物质网络（socio-material networks）和情境行动（situated action）的角度来理解算法的能动性，或许能为我们描述算法社会的治理理性提供更多基础。然而，这不仅包括 Introna 所描述的算法的述行效应，还包括算法如何成为一个权力与能动性网络之行动者的问题。Introna 引用了 Miller（2008）的一句话：“正是通过技术，政府的方案才变得可操作”（Miller 2008, 57）。循着这一思路，便引出两个重要问题：政府方案是什么？又有哪些治理理性汇聚于算法这一行动者之中？¶

控制论与算法统治（Cybernetics and Algocracy）

有一种视角只有部分学者讨论过，却对这场讨论产生了巨大影响，并且再次更多地聚焦于算法本身，它在“算法统治”（Algocracy）或“算法治理”（Algorithmic Governance）的名义下被讨论。与技术决策会影响社会构成这一洞见相一致，算法统治论题（algocracy thesis）（Aneesh 2009, 349）认为，算法与软件充当着一种治理形式。通过代码，（全球性）组织与社会的结构和特权被编码进系统之中。Aneesh（2009）甚至进一步认为，代码是一种新的一般化媒介，可与货币相比，因而是当代社会的一个构成性要素，而当代社会的特征正是算法的统治（Aneesh 2009, 350）。社会过程的算法化由此区别于官僚制的治理形式（Weber [1922] 1978），因为它不需要正当性与社会化（Aneesh 2009）。代码与算法构成了当代社会的新法律，但它们既不具有法律约束力，也不是由立法机构制定的，而是通过实例化新的行为规制形式而发挥作用。这一现象使 Lessig 将代码等同于法律（Lessig 1999, 2006），它也常以缩写 ADM——自动化决策（automated decision-making）——来指称。算法最终为你选择进一步行动的选项，并因此通过规制可能的互动形式来行使权力。如此论证时，算法统治论题与（前文讨论过的）控制社会概念非常相似，尽管它并未明确提及后者。这种算法形式的统治的观念也被称为技术家长主义（Technology Paternalism）（Spiekermann and Pallas 2006），它有接管控制、使人类干预变得不太可能的危险。因此，这种治理形式能够规制空间的生产（Kitchin 2014）、互动的节奏，即对时间结构的治理（Coletta and Kitchin 2017），以及企业内部的治理（Raffetseder, Schaupp, and Staab 2017）。¶

因此，在 Yeung（2017）看来，算法形式的规制构成了一种助推（nudging）的规制体制，即影响个体的决策。应当指出，助推这一概念已经引入了某种细微差别，它并没有把个体贬低为控制指令的无意识接收者。然而，随着 Google 或 Facebook 之类大型互联网平台的出现，这成了一个更大的问题，因为它不是通过强力而是通过建议来进行规制，并且不仅针对单个个体，而是针对整个人口。Seaver（2019）甚至提出了“算法即陷阱”的隐喻。基于他对一个推荐系统开发过程的观察，他展示了开发者如何设计算法系统，试图把用户留在他们的网站上——不是通过使用某种规制性的强力，而是通过在系统设计中运用行为学与心理学原理。这一细微差别把相对强制性的控制社会观念与一种更微妙的治理形式区分开来，后者最终并不更低效——但可能招致更少的抵抗。因此，把算法的权力视为助推装置的视角，也呼应了将社会秩序与权力视为一种反身性事业的构想，在这种构想中，秩序化体制也依赖于被治理主体的合作（Giddens 1984）。因此，助推在 Max Weber（[1922] 1978）所提出的权力与治理之区分之间划出了一条有意思的界线。其结果是，Yeung（2017）把这些技术的正当性问题重新带回了讨论之中。¶

控制社会概念与算法统治论题之间的第二个区别在于，后者如何回溯到控制论的规制形式，或回溯到源自控制论观念的社会理论（Aneesh 2009）。与关于一种新的生命政治体制的论述（Amoore 2011; Cheney-Lippold 2011）相似，控制论进路使治理的观念复杂化了。控制论进路并不是从所收集的输入中推导出规范，而是推导出为达到一个反映先前所界定之常态的系统状态而必需的行动。因此，被动态计算的不是规范性设定，而是规制性干预（Yeung 2018）。这就要求系统始终不断地收集数据，以便调整其对社会系统的干预^[8]。¶

且不论算法统治的治理形式本身是否正当，Danaher（2016）警告我们，在公共领域中日益依赖算法能动者，可能会削弱民主制度的正当性。因此，对 Danaher（2016）而言，算法统治的威胁表现为“这样一种情形：基于算法的系统构造并限制了人类参与和理解公共决策的机会”（Danaher 2016, 246）。因此，公共的、民主的过程可能会被算法决策系统所削弱。因此，这里的问题与其说是控制方面，不如说是审议民主（deliberative democracies）的建构原则及其话语形式。¶

关于算法治理或算法统治的诸进路颇具启发性，因为它们在对被治理者——即个体与人口——的概念化上提供了细微差别，并与控制论（Yeung 2018）或社会学的系统理论（Aneesh 2009）建立起一些有意思的联系。因此，这些进路走在一条细线上：既认真对待作为控制媒介的算法，又不只聚焦于这一行动者。相反，算法在一个特定的治理体制之中被去中心化。然而，把算法概念化为控制论系统，造成了一些需要处理的概念性与经验性问题。其一，把算法视为（控制论意义上的）黑箱这一观念，提出了这样的问题：这个黑箱最初是如何出现的，黑箱的不同性质又是如何被协商的。或者换言之，黑箱如何被保持稳定的方式，必须从一种系统性的视角来加以解释。尤其是在 Yeung（2018）那个极富启发性的分类法中，可以清楚地看到，算法并不是一个独立的技术行动者，而是一个仿佛是黑箱一般行事的社会技术集体。而在算法统治论并非以控制论进路进行论证之处（e.g., Lessig 1999, 2006; Spiekermann and Pallas 2006），它与更宽广的社会秩序集合之间的关系便变得模糊不清。然而，算法统治论题仍具启发性，因为它为控制社会的概念增添了细微差别，并指向了以系统性方式思考算法的途径。¶

数字资本主义中的算法（Algorithms in Digital Capitalism）

对数字化社会与数字转型的资本主义批判，大多以社交媒体或平台资本主义（platform capitalism）为例展开讨论——聚焦于新的劳动模式、对工人的监控，以及生产者与消费者之间日益模糊的区分。相比之下，算法的角色在这些理论视角和进路中只占次要位置。然而，算法及其伴随现象也已从资本主义生产方式（Fuchs 2020）或市场（Beer 2015）的角度得到讨论。这些讨论的范围很广：从市场利益是塑造算法的驱动力量这一论点（Mager 2012），到作为施行经济学之市场装置（market devices）的算法（Callon and Muniesa 2005; D. MacKenzie 2006），再到通过预测与数字基础设施对市场权力的强化（Beverungen, Beyes, and Conrad 2019; Poechhacker and Nyckel 2020）。这些观察促使 Zuboff（2019）等学者形成了“监控资本主义”（surveillance capitalism）的概念。尽管存在着对资本主义的不同构想，例如 Weber 将资本主义视为理性化的观念，但关于数字资本主义的主导视角植根于对这一现象的马克思主义理解（e.g., Fuchs 2019; Srnicek 2016）。¶

在这些讨论中被采纳的核心要素，是剩余价值理论、剥削以及劳动力之异化等母题。资本主义与算法系统由此延伸了经典马克思主义对生产方式的批判。在 Vioulac（2009）看来，信息技术的日益使用是工业资本主义中人的异化的延续。对马克思而言，异化是这样一个过程：工人通过机械地遵循资产阶级的目标和指令而与其真实自我相分离。因此，异化（“Entfremdung”）是双重的：与自身相异化，即工人这一主体与个体相分离；与产品相异化，因为产品不再代表一个人本会独自生产和完成的东西。因此，一个自由的工人会在产品中、也会在生产产品的实际实践中实现自身。对自由的工人而言，“我们的产品会是同样多的镜子，从中我们看到我们本质的反映”（Marx 1844 cited in Torrance 1995, 55）。在生产过程中，资本家——即拥有生产资料的个人——规定了必须生产什么，也规定了劳动过程必须如何进行，由此，真实的、本质的自我遭到侵犯。Nygren 和 Gidlund（2015）采纳这一视角，并进一步论证说，数字领域中的异化过程不仅影响（工业）商品的生产，而且以一种更根本的方式影响着我们，因为我们的数字自我变成了商品。我们在网上是什么，反映了在线产业的愿景与想象（Nygren and Gidlund 2015）^[9]。在无所不在的自我营销的数字领域中，我们不仅与我们的产品相异化，而且我们的数字自我变成了我们与之相异化的产品。由于我们必须以多种方式把自己经营成对他人有吸引力的东西，例如在 Instagram 上，我们便依照数字平台上正在兴起的市场逻辑来调整我们的自我呈现。这呼应了前文讨论过的、在算法分选的社群中出现的新的可见性逻辑（Bishop 2019; Bucher 2012）——即便这些作者并未采取马克思主义视角。¶

Rosenblat（2018）探讨了工人异化与控制的另一个方面，她描述了 Uber 与其司机之间复杂的、以算法为中介的关系。通过提供一个由不同算法驱动的沟通平台，Uber 在其自我描述中为独立创业者（即司机）提供了一个平台，同时却又通过所提供的服务控制着他们及其实践。司机再次成为平台的产品，而在平台上产生的数据点则不断被用于进一步的实验和价值榨取（see also Lee et al. 2015）。经典马克思主义的价值榨取观念是着眼于工业社会而发展出来的，但已有一些学者将其转译到当代社会的数字状况之中（e.g., Staab 2019）。马克思（Marx [1867] 1990）的剩余价值论题由此建立在一个关于工业生产商品之价值形成过程的简单而有力的洞见之上。马克思指出，一件产品所代表的增加值不可能来自所使用的资源，因为它们的价值只是一个既定之物。因此，为过程或所生产的产品增加价值的，是投入其中的劳动——任何给定产品的价值，都实现为所用材料的价值与所追加劳动的简单相加。然而，劳动不是由资本家而是由工人完成的，工人因其劳动力而获得报酬。这就造成了一个问题：资本家一方面需要生产利润，另一方面却没有为产品的价值增加任何东西。解决办法——用马克思的术语来说——是压低工人的报酬，从而付给他们少于其所增加之价值的报酬。这一差额便是资本家阶级的利润——价值是通过剥削劳动力而生产出来的。然而，在算法条件下，运用这一原则来分析资本主义社会的做法略有调整。Pasquinelli（2009）在分析 Google 的 PageRank 算法时认为，Google 创造剩余价值并不（仅仅）是通过剥削其劳动力，而是通过利用每一个网站所有者的劳动。由于 PageRank 算法分析网站的链接结构，并通过其广告业务将分析结果变现，PageRank 算法便利用了网站所有者作为一个集体所完成的免费劳动。然而，像 Google 这样的公司不仅依赖网站所有者所设置的网页链接，还依赖一套在互联网上追踪用户的庞大装置——从人类关系与实践中生产剩余价值（Couldry and Mejias 2019）。Zuboff（2019）甚至认为，我们生活在监控资本主义的时代，在这个时代，利润产生于“行为剩余（behavioral surplus），[它]被输入先进的制造过程[……]，并被制造成预测产品，以预判你现在、不久以及以后将会做什么”（Zuboff 2019, 8, emphasis in the original）。Staab（2019）把这些论点结合起来，认为监控与预测技术，再加上平台从其用户身上创造剩余价值这一洞见，造就了一种新的、独特的控制体制。在马克思的思想中，控制采用的是一种自上而下的霸权式秩序形式。但实际上，正如 Staab 借助 Giddens 所论证的，它需要霸权者与秩序化体制之主体之间的合作，因为控制的反身性调整会造成一种时间滞后。在观察到越轨行为与通过强制手段加以纠正之间，主体——或用马克思主义的术语来说，工人——享有能够以不同方式行动的自由。通过监控模式与算法自动化，这一时间滞后正在被弥合——建构出一种迅速且不断调整的控制体制。Upchurch 和 Moore（2018）在考察人工智能的历史与劳动的自动化时强调，马克思在其著作中已经预见到了这一发展：¶

马克思特别提到了机械化支配生产过程的潜力。机器表现为一种无所不能的力量，它既使个体工人的投入碎片化，又通过劳动分工造成一种对技术的从属关系（Upchurch and Moore 2018, 54）。

这种对关系数据的榨取与商品化过程，由此可以被置于殖民化（colonization）过程的语境之中：它通过数字平台以及对自我的殖民，引入了一种剥削体制。Gilbert（2018）借助 Habermas 认为，算法殖民了我们的生活世界（lifeworld），因为它们改变、影响并操控着我们观看、体验和诠释世界的方式，而这正是我们认知与行动的资源。Gilbert 由此援引了 Habermas 的观念：世界总是已经由意义与语义所构成，是一个我们在其中被社会化、并通过沟通性（互动）行动而被再生产的沟通系统。通过算法系统，这些生活世界可能被其他逻辑——如市场理性或国家理性——（过度地）塑造，导致一个更不自由、更缺乏意义、更不民主的社会（Gilbert, 2018）。尤其是在互联网信息选择领域，并因而在共同建构共享的社会现实方面，已有研究指出私营企业行使算法形式治理的支配地位（Just and Latzer 2017）。通过追踪与算法分类，个体的人被彼此提供出来以供剥削，削弱了随时间推移认识和发展我们自身的潜力。这一过程由此可以被理解为一种新形式的殖民化趋势，在其中，北方与南方、西方与其余世界之间的经典分野正在被超越（Segura and Waisbord 2019）。相反，殖民化如今是在基础设施与认识论层面上，通过 Facebook 或 Amazon 之类的跨国公司以及国家—企业联盟而得到推进的——实现了一种“跨国信息资本主义”（transnational informational capitalism）（Fuchs 2012b, 128）。当代资本主义中的这些新构型也反映了这样一种诊断：国家作为以往资本主义中的核心参与者——这一观念见于马克思的著作——变得不那么有影响力了（e.g., Bauman 2000）。数据生产与分析代表着殖民化所赖以为基础的一种新的知识形式（Ricaurte 2019），因而需要以新的思考方式来应对数据剥削这一新现象（Segura and Waisbord 2019）。于是，从南方出发对大数据进行理论化的倡议作为对这一发展的反向回应而出现了（e.g., Milan and Treré 2019）。¶

这两种论证都基于这样一个假设：算法运作于一个利用它们来榨取价值或推进殖民化过程的环境之中。两种视角本身都有价值，但同样地，算法的权力与其说得到了解释，不如说被假定为一个既定之物。这在某种程度上遵循了马克思对技术的理解：技术是使新的剥削形式和剩余价值生产成为可能的手段，是提高生产率（并因而提高剥削程度）、强化阶级分野的手段。Christian Fuchs（2012a）认为：¶

跨国信息资本主义是塑造资本主义发展的连续性与断裂性之辩证法的结果。剩余价值、交换价值、资本、商品与竞争是资本主义的基本方面，而这些形式究竟如何被生产、被对象化、被积累和被流通，则是偶然的和历史的。它们在不同的资本主义发展模式中有着不同的表现。在信息化的发展模式中，剩余价值生产与资本积累越来越多地表现于象征性的、“非物质的”、信息化的商品，以及认知性的、沟通性的和合作性的劳动之中。数字媒介在跨国尺度上中介着资本、权力与界定能力的积累（Fuchs 2012a, 419）。

算法由此是历史唯物主义中的一个技术决定论要素，在历史唯物主义中，一个人自身的存在方式决定其意识（用一句朗朗上口的德语来表达就是：“Das Sein bestimmt das Bewusstsein”，即“存在决定意识”）。然而，把算法化约为（后）工业生产的诸环节，可能会错失一些重要之点，即算法这一社会技术系统可能并不只遵循一种经济理性。例如，Facebook 不仅试图从所收集的数据中生产价值，还设置了从欺诈行为或问题账户的角度来评估内容和用户的体制。尽管 Facebook 的首要目标可能仍是获取利润，但其他规范性的意识形态与想象也在算法系统中混杂在一起并被协商。价值榨取论证把算法仅仅视为资本主义生产方式的延伸，这就引出了一个问题：算法为这一等式增添了什么，以及如何从算法权力与能动性的角度来理解这一互动系统。殖民化论题则认为，一个领域以霸权的方式（强行）进入另一个领域。殖民化的分界线是北方/南方、企业/私人，或国家/公民。然而，殖民化过程的多重性使人难以确切指出算法实际行使的权力，但同时也暗示了这一现象的复杂性。在这两种情形中，算法的权力——或者更确切地说，通过算法的权力——都是一个既定之物。¶

这也引起了一些评论，例如来自 Astrid Mager（2014, 30）的评论：“然而，所有这些研究都无法解释搜索引擎最初为何会成为强大的行动者，以及它们——还有算法意识形态——如何在当代社会中被稳定下来。”在某种意义上，马克思主义构想的黑格尔遗产在这些批判中变得清晰可见。算法的秩序化模式被隐含地视为（生产）资料之积累与分配的历史唯物主义过程。与此相反，Mager（2014）认为，算法是一种霸权意识形态的一部分，这种意识形态并不只是由资产阶级这一资本家阶级所界定，而是由形形色色的行动者（再）生产出来的。正如她在一篇较早的论文中所论证的，算法的社会权力由此是不同视角、需求与议题的一种涌现属性（Mager 2012）。有意思的是，一些学者开始让马克思的剩余价值理论与福柯式的权力概念展开对话（Nygren and Gidlund 2015）^[10]。一些有意思的学术研究正在涌现，未来或许值得追踪。¶

什么的权力？（The Power of What?）

所讨论的关于算法的理论多种多样，从不同视角切入这一现象——每一种本身都有价值。然而，所有被运用的理论都有一个共同基础：算法本身是一个权力借以施行的行动者，或者是一个自身行使权力的行动者。尽管大多数福柯式视角强调算法的计算性权力，但算法与算法逻辑成为一个装置（dispositive）中的核心要素，在其中，权力之所以有效并不是因为算法，而是通过算法。在（后）马克思主义视角中也可以发现类似的建构，在那里，算法的物质配置只不过是阶级斗争这一社会动力的表现。当算法成为一种后霸权（post-hegemonic）权力结构的焦点（Lash 2007），或当算法统治的治理形式被确立时，其他进路也采取了可比的视角。当我们把算法概念化为黑箱或内在带有偏差的能动者时，情况也是如此。然而，在所有这些分析中，作为行动者的算法都占据着核心角色，而它的客体性（object-ivity），即算法作为一个稳定的客体，并未受到质疑。这导致了一个富有生产性、但也有些令人困惑的悖论。算法本身被讨论和呈现为一个强大的行动者。然而与此同时，它又只不过是一个权力装置的表现——这就引出了一个问题：算法是如何成为这个强大行动者的，以及它所嵌入的是否只有一种理性在起作用。我在这里并无意贬低这些不同的进路，因为它们每一种都为算法权力与社会秩序这一现象提供了有意思的、富有生产性的、有价值的视角。相反，我想把这种（看似）悖论的情形——其他人会将其描述为辩证的——作为一个起点，来探索另一种视角。从对某一特定算法开发过程的经验观察出发，我感兴趣的是这个行动元如何成为一个强大的行动者，以及它如何被整合进一个更宽广的互动与规范性系统之中。其他学者也有过同样的论证，主张我们应当把算法理解为网络化的信息系统（Ananny 2016），采取一种设计视角（Crawford 2016），或者把算法视为有组织的、并具组织作用的实践之结果（Neyland 2015）。¶

从这些问题出发，算法看来既不是一个本身强大的行动者，也不只是一个已然强大的系统的无定形工具——而是社会秩序之构成中的一个重要要素，有其自身的议题、挑战与顽固性（obduracies）。循着 Adrian Mackenzie（2013）的观察，对算法、数据结构与协议的分析因此可以成为对那些非常一般化的描述与结论的一种富有生产性的反向论点——但又不忽视与这些要素相纠缠的更宽广的系统性过程。相反，将一个算法实例化为社会秩序的行动者，标志着某种新事物的生产，它改变着互动秩序与权力关系（Campbell-Verduyn, Goguen, and Porter 2017）。算法是社会秩序的要素，它们作为一种规范性委托（normative delegation）的形式被应用于（社会）情境之中（Willson 2017），在其中，它们成为实践性地、情境性地达成社会秩序与算法权力的一个要素。¶

算法与社会是共同演化、彼此依存的，因为前者日益成为后者不可或缺的制度（Just and Latzer 2017）。通过强调算法是如何被生产出来的，并更仔细地审视算法原理本身，我们可以把它们读作“预测实践的签名”（the signature of predicting practice）（A. Mackenzie 2013, 393），从而重构算法之社会秩序化的理性与物质性。这样做时，算法并不被视为对一个给定社会行使权力的稳定而强大的行动者，而是被理解为一种实践成就（practical achievement），视角由此转向从内部研究社会（技术）秩序（Garfinkel 1984, viii; A. W. Rawls 2009）。这提出了两个不同的问题：第一，将一个算法实例化为一种成功的权力委托工具的社会结构是如何组织的；第二，这样一个受托者（delegate）的属性是如何在不同利益群体与行动者之间被协商的。后一个问题也为探究作为行动者的算法为这一等式增添了什么开启了讨论，而又不把治理权力完全归属于它。回答这些问题或许能够带来新的途径，不仅用以理解数字民主中社会秩序与制度秩序是如何组织的、民主的愿景与价值如何受其影响，而且用以理解哪些治理形式是可能的。因此，我将在后续各章中探索这样一种把算法视为社会技术成就的视角。¶

注释