导论：美德经济

Thao Phan、Jake Goldenfein、Declan Kuch和Monique Mann

“AI伦理”做了什么？它为谁服务？它的目的是什么？如果我们问那些关心技术与社会、政治和环境正义问题的人，那些与受到自动化决策影响的社群一道开展实地调查的人，或在监管机构内部工作的人，预期得到的答案可能是：“什么也没做。”曾界定“科技反弹”的迅猛批评浪潮，如今正被一股更大的浪潮吞没，Elettra Bietti称之为“伦理抨击”。^[1] 如果说科技反弹的核心，是揭露世界上一些最大的科技公司的不良行为，那么接下来的这股浪潮所针对的，则是“伦理”作为一种新产业议程的兴起，聚焦于成立AI伦理委员会、雇用AI伦理团队、资助AI伦理研究等行动。批评者有理由把这些行动理解为：试图将伦理工具化，^[2] 把它降格为另一种产业资本，^[3] 或通过收编与俘获研究者，来控制公共叙事。^[4]¶

许多批判性论述试图为相关领域带来透明与问责，而这些领域本身恰恰关注AI系统的透明与问责问题。AI伦理会议——最显著的是美国计算机协会每年举办的公平、问责与透明会议（FAccT）——开始设置完整的专题单元，将研究目光转向组织自身及其价值、治理过程和赞助政策，这标志着这些社群发生了重大的反思性转向。^[5] 这些讨论面向的听众，很多本来就在AI伦理这一宽泛范畴之下工作。尽管如今越来越多的学者和行动者试图否认、乃至挑战“AI”和“伦理”这两个词，但对于学术界之外的人——那些并非整天泡在Twitter上、阅读Medium、Wired或《麻省理工科技评论》文章的人——而言，“AI伦理”大致就是公众眼中我们的工作。如果我们把伦理理解为“一种内化的、怀抱愿景的探究方式，旨在创造更好的世界”和“更公正的社会”，^[6] 那么许多人不会反对这个称谓。反对意见源自伦理已经变成了什么。简言之，就是它被用来做什么、它服务于谁，以及它实际实现、而非应当实现的目的。¶

面对“AI伦理做了什么”这一问题，实际答案很少真的是“什么也没做”。日益增长的批判性文献表明，AI伦理中的“伦理”比预想的更可塑、更柔韧，也更易于被策略性地运用。据说，伦理既可以被用来洗白，^[7] 也可以遭到抨击。^[8] 它可以成为橡皮图章，^[9] 或一个空洞姿态。^[10] 它可以是遮羞布，^[11] 是诱人偏离方向的岔路，^[12] 或者，正如Lily Hu在尖锐分析中所写的，它可以是一场表演性的戏剧：“硅谷用长长的金钱丝线操纵着科技伦理这具木偶；‘伦理’是一场表演，他们对此心知肚明。”^[13] 简单说，大型科技企业所部署的伦理，比无所作为更糟。它充满分裂与争议，而且往往使令人担忧的“一切照旧”成为可能。在最坏的情况下，AI伦理不仅无用，而且“危险：它囤积了本该用于更有效工作的专业知识与资金”。^[14] 因此，Karen Hao等知名科技记者^[15]曾严厉批评AI伦理社群：¶

空谈终究只是空谈——这远远不够。尽管许多组织对这些问题说尽了漂亮话，它们的AI伦理准则仍然含糊不清、难以实施。很少有公司能够展示，它们在评估和批准AI产品与服务的方式上作出了切实改变。我们正在掉进伦理洗白的陷阱，真正的行动被表面的承诺所取代。

本书从这里出发。最初征稿时，我们邀请学者和行动者回应日益盛行的AI伦理抨击，特别关注支撑AI伦理的财务结构，以及这些结构对从事这项工作的人的影响。我们——本书的编者——提出了这样的问题：是谁在资助有关AI技术伦理的研究？这些资助安排可能怎样巩固或加剧权力层级？由产业赞助的伦理议程，又如何影响关于AI系统的知识生产？¶

我们在征稿启事中指出，随着倡议者、产业内部人士和公民社会行动者对“不良AI”提出关切，如今已出现一波由社会科学引领的AI伦理研究。我们加入了日益壮大的讨论，也表达了一种担忧：随着这个研究与实践领域不断发展，它本身也面临一场伦理危机；这场危机使该领域研究者复杂的位置性凸显出来。最初迫使企业以更合乎伦理的方式行事的社会与政治压力，后来转化为对研究文化的各种渗透，形式包括会议赞助、正式研究伙伴关系、产学联合聘任等等。^[16]¶

当然，这股产业资金的涌入，是一系列更广泛问题的症状：高等教育政治化；针对所谓“左翼知识分子倾向”的敌意文化被培植起来；以及新自由主义的连续两击——世界各地公共机构经费遭到撤回，同时获取外部产业资金的激励不断增强。例如，在澳大利亚，一个失灵的资助体系意味着：1）少数现有的政府资助来源所提供的资金少于十年前，而且主要只有已经富裕的机构能够获得；2）项目资助的结构主要在于激励那些被认为“可商业化”或对产业有价值的研究；3）即便研究者通过了竞争极其激烈的遴选过程，^[17] 项目能否成功仍可能受到政治干预。^[18] 公立高等教育的公共资金逐渐撤回，意味着大学必须转向其他收入形式来求生。仍以澳大利亚为例：大学如今把教育当作次要事业，真正的业务是在管理投资组合之外从事其他牟利活动，并聘请前企业高管，像管理大型公司那样管理大学。结果是，大学只在教学与研究能够转化为影响国际排名的指标、进而兑现为国际学生学费的限度内，才重视它们。与此同时，财务纪律的压力层层下传，迫使大学尽可能多地榨取劳动者，甚至系统性地克扣员工工资。^[19]¶

这些因素把AI伦理置于尴尬境地：在财务上依赖于它们试图追究责任的组织。Hu指出：“一个令人不安的事实是，无论外部顾问委员会和大学多么宣称自己是‘第三方’，科技伦理机构实际上都寄生于霸权性科技产业持续不断的道德失误与失望之上。”^[20] 在Hu看来，这些关系相互强化：企业利用AI伦理掩饰要求改变的政治诉求，而科技倡议团体则利用产业合作所带来的影响力与资源。^[21] 科学技术研究学者Lee Vinsel把这种现象称为“批评式炒作”（criti-hype）——一种围绕新兴技术、既“助长炒作又以炒作为食”的自利性批评。^[22]¶

实际上，本书本身也始于一笔面向澳大利亚青年研究者的小额科研资助（9,000澳元）。这笔“工作坊项目资助”来自澳大利亚社会科学院，该组织主要依靠澳大利亚联邦政府拨款和院士会费支持。^[23] 我们自己也处于职业生涯的早期或中期，机构对获取经费的期待，恰好与一个认识相遇：有关AI、尤其AI伦理维度的话题，非常容易获得资助。我们始终真诚地致力于探究资助、劳动与AI伦理这一主题，但对于资源和机构支持的实际需求，也从未远离。¶

作为人文与社会科学研究者，我们是幸运的：我们想回答的问题，不需要昂贵的硬件、算力、大型数据集访问权限或服务器空间；这些需求往往迫使STEM院系的许多同事作出无奈选择。我们的需求更基础：时间。既包括我们自己的时间，也包括在这个项目的整个生命周期里与我们交流的各位对话者的时间。大多数情况下，经费不仅能够保障资源，也可以积累影响力与权威，为获得资助的人赋予正当性和荣誉。有了经费，我们可以支付餐饮、文字编辑、行政和研究助理的费用，举办工作坊并推进出版物。但经费最宝贵的形式，是赋予我们必要的声望，使我们能够请他人为项目捐出时间，也允许自己从机构那里夺回自己的时间。¶

我们在这里较详细地说明这一点，是因为恰恰是这些平凡、实际的协商与机构要求，决定了AI伦理工作者的劳动条件。普遍的不稳定、不安全，以及被正常化的疲惫与过劳文化，使这类反思性和批判性对话很少能够发生，除非它们也能被调动起来，服务于战略目标与个人绩效指标。人文与社会科学等领域尤其能够感受到这些压力：它们承受院系经费削减，而且数十年来一直在对抗保守派主导的文化战争。^[24] 在这种背景下，许多人转向AI伦理等有利可图的话题，或转向产业资助，以求生存，也就不足为奇。¶

正是在大学内部这些令人沮丧的条件下，大型科技企业成功地做到了Fred Moten与Stefano Harney那句名言所说的：“把反叛者变成国家的代理人。”^[25] “AI伦理学家”如今成为一个正当的职位名称，恰好说明了Moten与Harney的论点。曾经的批评者现在靠教授有关AI的社会、政治与伦理维度的专业课程和学位项目领取薪水，培养新一代专业技术官僚，据称他们能比上一代更好地开展AI工作。正如Ben Tarnoff敏锐地指出的，科技反弹的一个意外效果，是“为一个新的专家阶层举行了一场大规模资格认证活动；‘AI伦理’、‘负责任创新’及类似事业吸引了大量资金与关注”。^[26] 这些专业化与资格认证形式，只是在为那些曾经的批评对象——企业行动者——的利益服务。套用Moten与Harney的话：AI伦理对于大型科技企业的企业议程而言，“不只是盟友”，而是“使这一议程完成的尝试”。^[27]¶

下面几节将更明确地讨论本书的主题与概念。我们首先简要回顾AI伦理的兴起，然后讨论我们所看到的当代现象：伦理被物化为商品形式。接着，我们逐章介绍，说明各章如何展示那些界定了我们所谓“美德经济”的庞大而多样的流通网络，最后简要讨论AI伦理此后的发展路径。¶

AI伦理的兴起

“科技反弹”（tech-lash）一词在2013年进入主流语汇，当时《经济学人》的Adrian Wooldridge提出，公众情绪正在转向反对硅谷科技精英。^[28] 产业对物质不平等的加剧、Google Glass等失败且明显不时髦的消费产品、反复发生的隐私失守、不合理的税收优惠，以及问题重重的政治立场，动摇了公众对“大型科技企业”的看法。^[29] 例如，Google“组织全世界的信息”的努力，^[30] 被重新理解为蕴藏着造成深刻社会伤害的能力。分析者意识到，那些曾被视为“开放互联网”等解放性话语旗手的公司，如今已经把对在线服务和数据流的控制，转化为令人担忧的牟利与支配形式。硅谷的解放承诺远没有促成与既有社会经济状况的革命性决裂，而是被揭露为产业资本主义的又一种表现。在学术界，批判性学者早已描述过硅谷反文化的自我呈现与其对资本的不懈追逐之间的矛盾。^[31] 但AI伦理作为一个研究领域，在科技反弹的同时、也作为其一部分获得正当性，激励了更多来自社会学科和技术学科的知名学者，对科技产业的服务与结构作出新的批判性分析。¶

大型科技企业的一项主要产品——机器学习（ML）——处在这场重新评估的最前沿。人们越来越认识到，它经常产生带有偏见的结果，深刻影响边缘化人群的生活。2013年，主流新闻开始报道：机器学习技术因为接受的是历史数据——而这些数据在历史上就存在偏见——的训练，如何再生产性别化和种族化的歧视。^[32] 人们也越来越意识到，算法评分系统在就业、社会服务与警务等领域犯下的错误、误识别和有问题的人群画像。^[33]¶

由于具有明确的伤害能力，又牵涉巨大的商业利益，机器学习成为AI伦理这一领域围绕其定位的一组技术。例如，Cynthia Dwork等人早期关于机器学习分类公平性的技术工作——其中包括FATML会议的早期组织者Moritz Hardt——^[34] 借鉴H. Peyton Young、John Roemer和John Rawls政治理论中的平等与公平概念，探索了进行“公平”分类的方法。一旦这些技术问题的政治和社会意义被揭示出来，公平与偏见便迅速成为人文与社会科学的研究对象。¶

2013年3月，哈佛大学数据隐私实验室的创始人兼主任Latanya Sweeney发表了一篇有关在线广告投放中种族歧视的影响深远的论文，将批判的目光引向商业平台如何通过其广告投放系统再生产种族歧视模式。^[35] 不久后，时任微软研究院首席研究员的Kate Crawford在《哈佛商业评论》发表了《大数据中的隐蔽偏见》。^[36] Crawford将修正（大）数据科学界定为研究技术与社会关系的下一个前沿，建议技术人员与社会科学研究者对接，并建议计算科学认真面对定性方法。在《大西洋月刊》上，Nicholas Diakopoulas把偏见问题与机器学习的不透明问题联系起来。^[37] 此外，Safiya Noble通过揭示搜索引擎中种族与性别偏见的研究，将许多涉及数据驱动系统、商业利益与种族偏见的问题汇合在一起。^[38] 2014年8月，Solon Barocas与Andrew Selbst公开了他们的文章《大数据的差别影响》，^[39] 细致说明大数据技术如何产生在法律上具有意义的歧视性待遇。〔译注：原文此处将Diakopoulos拼作Diakopoulas，保留原文。〕¶

2014年前后，公民社会也开始关注与大数据和AI有关的社会正义问题。例如，民权与人权领导会议于2014年2月发布了《大数据时代的民权原则》，^[40] 提出应通过问责与公平来应对嵌入其中的歧视。Upturn等组织使这一议程更加具体，^[41] 将数据驱动决策的潜在伤害与更广泛的社会正义问题联系起来。不久之后，奥巴马白宫（总统行政办公室）发布了2014年大数据报告，将大数据中的偏见与歧视识别为可能造成重大物质与非物质伤害的风险。¶

有关算法偏见与机器学习公平性的关切，也与算法问责方面的相关学术兴趣联系起来。纽约大学在2013年5月举办了“治理算法”会议，提出如何把“算法问题转化为富有成效的研究对象”。^[42] Data & Society也于2014年3月提出了围绕算法问责的研究议程。^[43] 2015年2月，纽约大学在2013年活动的基础上举办了“算法与问责”会议，明确将主题界定为算法权力在透明、公平和平等待遇方面带来的挑战，并邀请主要来自人文与社会科学领域的演讲者。一个更明确面向技术的论坛，也在2014年的FATML工作坊中形成；它希望探索“如何以计算上严谨的方法描述并处理这些问题”，^[44] 并在一个复杂、跨学科的问题界定之中，为大体属于技术性的解决方案提供交流场所。该工作坊持续举办至2018年；同年又增设了规模更大、更具跨学科性的FAT*会议，汇合社会科学与技术领域。该会议于2019年成为ACM旗下会议，并在2020年更名为FAccT。如今，已经有众多专门的AI伦理工作坊、专业组织和会议，有些独立举办，有些是更广泛技术活动的一部分，研究算法偏见、技术客观性的虚假性，以及以问责、透明和公平为形式的解决方案。¶

虽然AI伦理是作为对产业失误的回应而兴起的，但从这一领域的早期开始，大型科技企业就长期在支持它方面扮演核心角色，并持续通过大量资金与支持参与学术环境。毫无疑问，产业对AI伦理研究的支持，促成了大量高质量的独立学术成果。但与此同时，这也提出了围绕研究者位置性以及界定研究“价值”的机构动态的复杂问题。¶

考虑到AI伦理分析的核心对象本就是商业应用与工具，产业与学术界围绕这些特定问题汇聚起来，并不令人意外。然而，恰恰是利益与价值观明显不同的利益相关者网络的发展，使这里被称为“美德经济”的新型流通成为可能。^[45] Lily Hu谈到AI伦理领域的旗舰会议时指出：“总体而言，FAccT研究者并不是在对着虚空呐喊；恰恰相反，许多人实际上会在会后由企业赞助的鸡尾酒会上见面，讨论跨机构、跨利益的合作。”^[46] 确实，FAccT这样的活动本质上充当了学术界与产业界之间的接口，提供一个平台，让这些群体及其相互竞争的利益得以整合。它们创造社会与职业网络，既可能促成伙伴关系与合作，也可能成为直接进入产业就业的通道。这些旗舰活动的规模，也意味着它们依靠大型科技企业的经费来补贴举办活动的后勤成本。这在专业学会与它们试图问责的组织之间，形成了特定的义务；这些义务确保大门始终向产业利益的流入敞开。¶

这些社会与智识交流，为研究、研究者及声誉被物化为商品形式奠定了基础，使它们能够在产业机构与学术机构之间、并穿行于其中流通。这些流通采取多种形式，为所有参与者吸纳、生产和交换明确的财务价值以及声誉价值。例如，学术伦理成果可能成为获取产业资助、产业支持的学术平台或产业职位的杠杆。与此同时，大学赞许这些发展，利用外部资金、声望以及与产业互动相关的“影响力”的流入。而大型科技企业则始终受益于自身伦理资质与伦理事业得到强化和正当化。¶

这类流通包含一个矛盾：高价值的伦理商品，唯有通过有限的“伦理效应”才能获得并维持价值。换言之，为了能够在学术界与产业之间自由流通，其伦理内容——就其对世界、或至少对它所指向的企业的影响而言——必须被抹除，或至少受到限制。著名AI伦理研究者Timnit Gebru遭其前雇主Google恶劣对待的事件表明，^[47] 当伦理商品从根本上挑战商业模式时，用来交换它的职位与地位就会消失，甚至还会发生更糟的事。产业所获得的伦理商品，其使用价值或许表现在别处：不在于引导产业与技术实践的实质性变革，而在于构筑声誉大厦，使之能够：1）保护商业活动免受可能影响利润的结构性批评；2）鼓励AI伦理领域朝对产业友好的方向发展。伦理可能采取的多种形式、其流通渠道、它所做或未做的工作，以及它的要求如何与研究者经验相交，正是本书各篇文章探索的主题。¶

本书各篇文章

本书是对伦理被物化为商品形式这一现象的集体回应。它探索产业参与伦理AI研究如何创造了新的美德经济：一个庞大的行动者网络，分布于产业、公民社会和大学，以服务与产品的形式生产和流通伦理。作者们既带来了批判性视角，也带来了在这种经济中生活所面对的挑战、困境与机遇的亲身经验。他们的经历多样，来自法律、人类学、犯罪学、媒介与传播研究、科学技术研究、政治经济学等一系列学科背景。有些作者是资深学者，是在该领域积累了数十年经验的教授；另一些则刚刚开始职业生涯，在AI伦理资助狂潮最盛时进入产业。不过，他们共同关心技术、权力与社会正义问题；尽管很少有人——如果有的话——会称自己为“AI伦理学家”，他们仍无不与该领域发展过程中出现的争议和辩论紧密纠缠。¶

在以下各章中，这些作者对商品化与抵抗的战术和策略发声并作见证。每一章都探讨这些动态如何在不同场所与地带展开。把这些故事放在一起，我们就开始看到行动者、机构和利益之间共同的轨迹与流动。一个令人悲哀的讽刺是：伦理越是作为商品流通，它所能做的伦理工作就越少。然而，正如前文讨论的、以及各章将要展示的，即使采取商品形式，AI伦理仍然总能被投入工作，去做某件事、为某些人的利益服务。¶

本书分为三个部分：主体、场所与行动。第一部分的作者从自身主体性与主观经验出发，叙述这些复杂资助安排将劳动者置于其中的矛盾与困境。¶

在《一分钱买你的思想？资本、共谋与AI伦理》中，Corinne Cath和Os Keyes把产业对博士奖学金与合作项目的赞助，描述为一种精明的投资。他们通过在美国与英国攻读博士学位的经历呈现片段，提供生动的细节，展示当自己的工资与自己的敌人捆绑在一起时，一线工作者如何应对、协商随之产生的紧张与不适。“批评并不能避免共谋，”他们写道；正如这些例子所展示的，在许多情况下，批评本身成了一种收编方式。他们以呼吁女性主义拒绝作结：通过承认任何参与——无论多么批判——都不可能处于权力之外，这一立场有助于把研究者放在权力关系之中加以理解。¶

在《攫取主义伦理》中，Sarah Pink把伦理描述为“诱饵，借以从公众或用户那里提取对技术的信任”。她认为，技术解决主义的设计方法使生产者与普通人的日常生活脱节，进而培育出一种工具主义伦理观。人类伦理价值只有在可被用来制造“伦理机器”、而这些机器又可被展示以产生信任的限度内，才有其用途。她呼吁回归日常伦理；日常伦理本质上难以捉摸且不稳定，因此不那么容易被俘获、成为投资对象——至少无法以产业行动者所设想的方式做到。¶

在本部分最后一篇文章中，Rodrigo Ochigame描述了伦理如何被界定为一种“友善的批评”，可以充当“建立商业关系的杠杆”。和Cath、Keyes一样，他叙述了自己作为研究生研究者，在麻省理工学院媒体实验室AI伦理小组工作的时光。他坦率评论了笼罩该实验室及其前主任Joichi Ito的伦理丑闻，毫不回避地评估媒体实验室在维系硅谷议程方面的作用。Ochigame的文章最初发表于调查新闻网站The Intercept，是公开反对那些多数人只能从窃窃私语中听说的肮脏运作机制的出色范例。我们很荣幸获得他的许可，在此重刊。¶

本书第二部分“场所”转向具体情境中的案例研究，理解大型科技企业如何在AI应用的特定领域运用“伦理”实践。¶

在《生态灭绝并不合乎伦理：政治生态学与资本主义AI伦理》中，Sy Taffel、Laura Bedford和Monique Mann把AI伦理描述为一种企业手段：借此界定伦理实践，使其避开人为造成的地球性伤害。他们在资源开采地、数据中心和电子垃圾处理场之间穿梭，详细讨论AI与机器学习的社会和生态影响。这一章对“绿色AI”的幻想如何维持不公正、不合伦理、而且明确造成生态灭绝的企业实践，提出了严厉批评。¶

在Angela Daly看来，推动AI伦理的企业议程，使它变得抽象、脱离现实且去政治化。和Sarah Pink一样，她也呼吁在分析上回到日常生活的场所，理解一线人群复杂的生活现实，并凸显抽象伦理原则的不足。Daly以人脸识别为具体例子，离开高谈阔论的伦理原则世界，转而关注一个通过抗议、异议与组织行动而付诸实践的伦理协商世界。¶

在讨论全球标准与标准制定的章节中，Tsvetelina Hristova和Liam Magee说明，伦理如何被用作将风险社会化的载体，从而使其扩大规模并转化为一种价值。他们的研究拓展了通常与美德经济相联系的场所和实践，转向ISO（国际标准化组织）框架与分委员会这些高度官僚化的领域。他们在此考察中等强国如何把标准制定当作经济和政治策略，而其效果就是把伦理转化为字面意义上可出口的商品。¶

最后，Michael Richardson以一章关于研究伦理悖论的典型场所——国防与军事AI——的文章结束本部分。他描述了对伦理的关注如何使与国防部门合作的研究者免于面对致命暴力所带来的不安问题，同时又为使用自主武器加强打击效果与伤害提供正当理由。他写道：“国防研究者和企业不仅能够成为有美德者，还能使战争也具有美德。”他强调，国家资助减少如何迫使大学通过企业与军事伙伴关系，拓宽收入来源。他提醒我们：“大学毕竟首先是帝国与殖民的机构，甚至比它们作为学习、知识生产和异议场所的身份更甚。”¶

第三部分也是最后一部分“行动”，以对知名学者和行动者的两场访谈结束本书，反思那些直接反抗产业资金与影响力政治的行动时刻。通过讨论，我们得以一窥其他可能性、行动主义可能实现什么，以及学者需要怎样的反思性，才能理解塑造其工作生活与主体性的复杂力量和要求。在Meredith Whittaker、Jathan Sadowski和Thao Phan参与的《公开的秘密》，以及Lilly Irani、Alex Hanna、J. Khadijah Abdurahman和Jake Goldenfein参与的《退出者》中，这些在美德经济不同位置上拥有丰富经验的学者，描述机构劫持我们作为研究者的自我意识的不同方式，以及我们用来（重新）想象和／或（重新）定义大学的努力，或许更应投入到像任何其他工业企业一样，以大学劳动者的身份组织我们自己。¶

这些学者凭借跨部门的丰富多样经历，描述了资助在社群、同事情谊以及支持人们挣得工资这一背景下的复杂性，也描述了这些东西如何被利用为内化纪律的工具。他们对产业影响学术界的内部机制、以及联盟如何围绕资助优先事项形成，有着切身理解；他们说明这些机构如何鼓励某些类型的批判性工作，同时破坏可能削弱产业利益或资助关系的激进努力。他们提出的替代方案，是把工作场所组织化作为工具，使学者摆脱那些服务于掌控我们者利益的声望要求，并由此使学者在美德经济中所从事的工作去商品化。¶

结语：从AI伦理到美德经济

本书属于AI伦理／AI与社会责任领域日益增长的一组文献，这些文献试图提出“关于知识创造条件的自我反思性批评”。^[48] 这种批评方式建立在一个悠久传统之上：研究者把自己的实践、社群与机构作为批判分析和反思的对象。批判种族研究、原住民研究、黑人女性主义理论以及其他女性主义学术分支，都提供了这种方式的典范。^[49] 虽然这类工作的基调往往是批判性的，但其意图是促成积极变化，并要求组织与研究社群对其宣称的标准和价值负责。近年来，许多学者把注意力转向产业与学术界之间不断扩大的接口，以及它对伦理主题的影响——伦理既是一个研究领域（如生命伦理、AI伦理），也是管理知识创造的一套指导原则（如多样性、公平与包容计划）。^[50]¶

本书力图凸显研究者在这一领域中位置性的复杂性，揭示我们所有人在选择研究课题、方法和合作伙伴时面对的困境。许多作者直接在产业、产业的研究部门，或接受产业资金及其他支持的大学院系与研究机构中工作过。^[51] 多篇文章从个人经验出发，深入揭示大型科技企业的制度与组织安排，并为塑造这些情境中研究实践的劳动条件作见证。我们无意因为同事在资本主义下被迫作出的选择而点名指责他们。我们关心的是，产业如何既建立又利用这一研究环境中的激励结构。我们希望，这能促进大学劳动者进一步反思和分析自己在该领域的工作条件。¶

在学术情境中，研究与研究者的评估机制，是知识创造的核心。^[52] 这历来是一个充满争议的领域，而且大型科技企业在其中的地位日益重要。^[53] 在策划与制作本书时，我们采取了集体编辑模式，将其他章节分配给各章的（主要）作者审阅。我们这样做，是为了实施一种建设性的“同行评审”方法，抑制学科把关，并容纳这部文集中贯穿的具有挑战性的议题和主题。我们的目标，是鼓励审阅者对自己的反馈负责，同时紧密、建设性地共同工作，提高文字与论证的质量。我们也希望参与某些机制，使学术共同体能够加强对自身工作条件的控制。¶

对我们这些编者而言，这是一项建立团结的实践，与匿名同行评审过程相去甚远：商业出版商通过后者榨取学术劳动，而大学的激励结构通常并不认可这种劳动，劳动者也普遍感到它不受重视且令人不快。同样的愿望——（重新）想象与（重新）定义大学工作经验——也影响了我们对出版社的选择：网络文化研究所（Institute of Network Cultures，INC）。该出版社在跨学科知识生产与参与方面有着历史与声誉，通过开放获取出版与倡议，回应与数字网络有关的紧迫问题。¶

但在一个由以下各章所描述的动态界定的研究生态中，这些当然只是边缘性的行动。如何找到前路、穿行于美德经济之中，是一项艰巨挑战。本书这些文章，是为科技俘获、收编与妥协的动态命名这一过程的一部分。我们希望学者、倡议者、行动者和政策制定者，能够吸收这些对知识创造与传播条件的反思性批评，也认识到知识工作者面对的妥协与权衡——有利益诉求的机构掌握着对他们的权力。考虑到塑造学术声望网络的同僚亲近关系政治，这必然令人不适。然而，只有命名这些动态，才能处理它们，才能提出那些使我们得以想象并要求另类未来的问题。¶

资助披露

本项工作获得澳大利亚研究理事会“自动化决策与社会卓越研究中心”支持［资助编号CE200100005］。我们尤其感谢该中心的墨尔本法学院节点，为本书完成提供财务支持。Declan Kuch感谢西悉尼大学校长研究员计划对印刷给予的支持。本书建立在2021年7月8–9日于迪肯大学举办的“美德经济：AI与数字文化中‘伦理’的流通”工作坊基础之上；该工作坊由澳大利亚社会科学院2021年工作坊项目资助。¶

参考文献

• Abdurahman, J. Khadijah. ‘On the Moral Collapse of AI Ethics’ Medium blog,8 December 2020, https://upfromthecracks.medium.com/on-the-moral-collapse-of-ai-ethics-791cbc7df872. 〔题名中译：论AI伦理的道德崩塌。〕

• Abdurahman, J. Khadijah. ‘Fired for Speaking Out Against Anti-Blackness and Ethnic Cleansing: Open Letter to Cornell Tech’, Medium blog, 3 June, 2021, https://upfromthecracks.medium.com/fired-for-speaking-out-against-anti-blackness-and-ethnic-cleansing-open-letter-to-cornell-tech-3b3f669cf69f. 〔题名中译：因公开反对反黑人主义与族群清洗而被解雇：致康奈尔科技学院的公开信。〕

• ———. ‘On the Moral Collapse of AI Ethics’, Medium blog, 7 December, 2020, https://upfromthecracks.medium.com/on-the-moral-collapse-of-ai-ethics-791cbc7df872. 〔题名中译：论AI伦理的道德崩塌。〕

• Ahmed, Sara. On Being Included: Racism and Diversity in Institutional Life. Durham: Duke University Press, 2012. 〔题名中译：论被纳入：制度生活中的种族主义与多样性。〕

• ———. ‘The Language of Diversity’, Ethnic and Racial Studies 30 (2, 2007): 235–56. 〔题名中译：多样性的语言。〕

• Australian Research Council. ‘Selection Report: Discovery Early Career Research Award 2022 | Australian Research Council.’ Australian Government | Australian Research Council, 2022. https://www.arc.gov.au/funding-research/funding-outcome/selection-outcome-reports/selection-report-discovery-early-career-research-award-2022. 〔题名中译：遴选报告：2022年发现项目青年研究者奖｜澳大利亚研究理事会。〕

• Barnes, Joel. ‘Defunding Arts Degrees Is the Latest Battle in a 40-Year Culture War’, The Conversation, 3 July 2020, http://theconversation.com/defunding-arts-degrees-is-the-latest-battle-in-a-40-year-culture-war-141689. 〔题名中译：撤销文科学位资助是一场持续40年文化战争的最新战役。〕

• Barocas, Solon, and Andrew D. Selbst. “Big Data’s Disparate Impact.” California Law Review 104 (3, 2016): 671–732. 〔题名中译：大数据的差别影响。〕

• Benjamin, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. 1 edition. Medford, MA: Polity, 2019, https://ebookcentral-proquest-com.ezproxy-b.deakin.edu.au/lib/deakin/detail.action?docID=5820427. 〔题名中译：技术之后的种族：废除新吉姆代码的工具。〕

• Bietti, Elettra. ‘From Ethics Washing to Ethics Bashing: A View on Tech Ethics from Within Moral Philosophy’, SSRN Electronic Journal, 2021. 〔题名中译：从伦理洗白到伦理抨击：从道德哲学内部看科技伦理。〕

• Birhane, Abeba, Ruane, Elayne, Laurent, Thomas, Brown, Matthew S., Flowers, Johnathan, Ventresque, Anthony, and Dancy, Christopher L. ‘The Forgotten Margins of AI Ethics’ in 2022 ACM Conference on Fairness, Accountability, and Transparency, 948–58. FAccT ’22. New York, NY, USA: Association for Computing Machinery, 2022. 〔题名中译：AI伦理被遗忘的边缘；2022年ACM公平、问责与透明会议。〕

• Bourdieu, Pierre. Science of Science and Reflexivity, trans. Richard Nice, Chicago: University of Chicago Press, 2004. 〔题名中译：科学之科学与反思性。〕

• Burn-Murdoch, John. ‘The Problem with Algorithms: Magnifying Misbehaviour’, Guardian, 14 August 2013, https://www.theguardian.com/news/datablog/2013/aug/14/problem-with-algorithms-magnifying-misbehaviour. 〔题名中译：算法的问题：放大不当行为。〕

• Crawford, Kate. ‘The Hidden Biases in Big Data’, Harvard Business Review, 1 April 2013, https://hbr.org/2013/04/the-hidden-biases-in-big-data. 〔题名中译：大数据中的隐蔽偏见。〕

• Diakopoulos, Nicholas. ‘Rage Against the Algorithms’, The Atlantic, 3 October 2013, https://www.theatlantic.com/technology/archive/2013/10/rage-against-the-algorithms/280255/. 〔题名中译：对算法的愤怒。〕

• Dormehl, Luke. ‘Algorithms Are Great and All, But They Can Also Ruin Lives.’ 访问日期：2022年10月14日。 https://www.wired.com/2014/11/algorithms-great-can-also-ruin-lives/. 〔题名中译：算法固然出色，但也可能毁掉人生。〕

• Dwork, Cynthia, Moritz Hardt, Toniann Pitassi, Omer Reingold, and Richard Zemel. ‘Fairness through Awareness.’ In Proceedings of the 3rd Innovations in Theoretical Computer Science Conference on - ITCS ’12, 214–26. Cambridge, Massachusetts: ACM Press, 2012. 〔题名中译：通过觉察实现公平。〕

• Elliott, Carl. White Coat, Black Hat: Adventures on the Dark Side of Medicine, Boston: Beacon Press, 2010. 〔题名中译：白大褂，黑帽子：医学阴暗面的历险。〕

• ———. ‘Why Clinical Ethicists Are Not Activists’, Hastings Center Report 51 (4, 2021): 36–7. 〔题名中译：为什么临床伦理学家不是行动者。〕

• Gansky, Ben, and Sean McDonald. ‘CounterFAccTual: How FAccT Undermines Its Organizing Principles’ in 2022 ACM Conference on Fairness, Accountability, and Transparency, 1982–92. Seoul Republic of Korea: ACM, 2022. 〔题名中译：CounterFAccTual：FAccT如何破坏自身组织原则；2022年ACM公平、问责与透明会议。〕

• Gebru, Timnit. ‘For Truly Ethical AI, Its Research Must Be Independent from Big Tech’, Guardian, 6 December 2021, https://www.theguardian.com/commentisfree/2021/dec/06/google-silicon-valley-ai-timnit-gebru. 〔题名中译：要有真正合乎伦理的AI，其研究必须独立于大型科技企业。〕

• Goldenfein, Jake, and Daniel Griffin. ‘Google Scholar – Platforming the Scholarly Economy’, Internet Policy Review 11, no. 3, 29 September 2022, https://policyreview.info/articles/analysis/google-scholar-platforming-scholarly-economy. 〔题名中译：Google Scholar：学术经济的平台化。〕

• Hao, Karen. ‘A Leading AI Ethics Researcher Says She’s Been Fired from Google’, MIT Technology Review, 3 December 2020, https://www.technologyreview.com/2020/12/03/1013065/google-ai-ethics-lead-timnit-gebru-fired/. 〔题名中译：一位顶尖AI伦理研究者称自己遭Google解雇。〕

• ———. ‘In 2020, Let’s Stop AI Ethics-Washing and Actually Do Something’, MIT Technology Review, 27 December 2019, https://www.technologyreview.com/2019/12/27/57/ai-ethics-washing-time-to-act/. 〔题名中译：2020年，让我们停止AI伦理洗白，真正做点事情。〕

• Hare, Julie. ‘Wage Theft Is “Systemic”: 21 Universities under Investigation’, Australian Financial Review, 20 October 2021, https://www.afr.com/work-and-careers/education/wage-theft-is-systemic-21-universities-under-investigation-20211020-p591kw. 〔题名中译：克扣工资是“系统性的”：21所大学接受调查。〕

• Hoffmann, Anna Lauren. ‘Terms of Inclusion: Data, Discourse, Violence’, New Media & Society, 16 September 2020, 146144482095872. 〔题名中译：纳入的条件：数据、话语与暴力。〕

• hooks, bell. Talking Back: Thinking Feminist, Thinking Black, London: Routledge, 2014. 〔题名中译：回嘴：以女性主义思考，以黑人立场思考。〕

• Hu, Lily. ‘Tech Ethics: Speaking Ethics to Power, or Power Speaking Ethics?’ Journal of Social Computing 2, (3, 2021): 238–48. 〔题名中译：科技伦理：向权力讲伦理，还是权力在讲伦理？〕

• Johnson, Bobbie, and Gideon Lichfield. ‘Hey Google, Sorry You Lost Your Ethics Council, So We Made One for You’, MIT Technology Review (blog), 8 April 2019, https://medium.com/mit-technology-review/hey-google-sorry-you-lost-your-ethics-council-so-we-made-one-for-you-28ee6c33576a. 〔题名中译：嘿，Google，很遗憾你失去了伦理委员会，所以我们给你组建了一个。〕

• Manjoo, F. ‘Silicon Valley Has an Arrogance Problem—WSJ’, Wall Street Journal, 3 November 2013, https://www.wsj.com/articles/SB10001424052702303661404579175712015473766. 〔题名中译：硅谷存在傲慢问题——《华尔街日报》。〕

• McCarthy, Gregory Michael, and Jayasuriya, Kanishka. ‘A Review into How University Research Works in Australia Has Just Begun—It Must Confront These 3 Issues’, The Conversation, 20 September 2022, http://theconversation.com/a-review-into-how-university-research-works-in-australia-has-just-begun-it-must-confront-these-3-issues-190551. 〔题名中译：澳大利亚大学科研运作审查刚刚开始——它必须面对这3个问题。〕

• Moreton-Robinson, Aileen. Talkin’ Up to the White Woman: Aboriginal Women and Feminism, Brisbane: University of Queensland Press, 2000. 〔题名中译：向白人女性直言：原住民女性与女性主义。〕

• Morozov, Evgeny. To Save Everything, Click Here, New York: PublicAffairs, 2014. 〔题名中译：要拯救一切，请点击这里。〕

• Moten, Fred, and Stefano Harney. ‘The University and the Undercommons’, Social Text 22 (2, 2004): 101–15. 〔题名中译：大学与底层公地。〕

• Munn, Luke. ‘The Uselessness of AI Ethics’, AI and Ethics, 23 August 2022. 〔题名中译：AI伦理的无用性。〕

• Noble, Safiya. Algorithms of Oppression: How Search Engines Reinforce Racism, New York: NYU Press, 2018. 〔题名中译：压迫的算法：搜索引擎如何强化种族主义。〕

• ———. ‘Google Search: Hyper-Visibility as a Means of Rendering Black Women and Girls Invisible—InVisible Culture’, Invisible Culture, no. 19 (October 2013),https://ivc.lib.rochester.edu/google-search-hyper-visibility-as-a-means-of-rendering-black-women-and-girls-invisible/. 〔题名中译：Google搜索：过度可见性如何使黑人女性与女孩隐形——《不可见文化》。〕

• ———. ‘Missed Connections: What Search Engines Say About Women.’ Bitch magazine, Spring 2012, https://www.bitchmedia.org/issue/54. 〔题名中译：错失的联系：搜索引擎如何谈论女性。〕

• Ochigame, Rodrigo. ‘The Invention of ‘Ethical AI’: How Big Tech Manipulates Academia to Avoid Regulation’, The Intercept (blog), 20 December 2019, https://theintercept.com/2019/12/20/mit-ethical-ai-artificial-intelligence/. 〔题名中译：“伦理AI”的发明：大型科技企业如何操纵学术界以逃避监管。〕

• Phan, Thao, Jake Goldenfein, Monique Mann, and Declan Kuch. ‘Economies of Virtue: The Circulation of “Ethics” in Big Tech’, Science as Culture, 4 November 2021, 1–15. 〔题名中译：美德经济：大型科技企业中“伦理”的流通。〕

• Powles, Julia, and Helen Nissenbaum. ‘The Seductive Diversion of ‘Solving’ Bias in Artificial Intelligence’, OneZero (blog), 7 December 2018,https://onezero.medium.com/the-seductive-diversion-of-solving-bias-in-artificial-intelligence-890df5e5ef53. 〔题名中译：“解决”人工智能偏见所造成的诱人转移。〕

• Rosenblat, Alex, and Tamara Kneese. ‘Algorithmic Accountability’, 无日期, 6. 〔题名中译：算法问责。〕

• Sweeney, Latanya. ‘Discrimination in Online Ad Delivery: Google Ads, Black Names and White Names, Racial Discrimination, and Click Advertising’, Queue 11 (3, 2013): 10–29. 〔题名中译：在线广告投放中的歧视：Google广告、黑人姓名与白人姓名、种族歧视以及点击广告。〕

• Tarnoff, Ben. ‘Postcript to J. Khadijah Abdurahman’s “A Body of Work That Cannot Be Ignored”’, Logic magazine, 25 December 2021, https://logicmag.io/beacons/a-body-of-work-that-cannot-be-ignored/. 〔题名中译：J. Khadijah Abdurahman〈不可忽视的一系列工作〉的后记。〕

• Turner, Fred. From Counterculture to Cyberculture: Stewart Brand, the Whole Earth Network, and the Rise of Digital Utopianism （插图版） Chicago: University of Chicago Press, 2008. 〔题名中译：从反文化到赛博文化：Stewart Brand、全球网络与数字乌托邦主义的兴起。〕

• Upturn. ‘Civil Rights, Big Data and Our Algorithmic Future: A September 2014 Report on Social Justice and Technology’, 2014, https://bigdata.fairness.io/wp-content/uploads/2015/04/2015-04-20-Civil-Rights-Big-Data-and-Our-Algorithmic-Future-v1.2.pdf. 〔题名中译：民权、大数据与我们的算法未来：2014年9月关于社会正义与技术的报告。〕

• Vinsel, Lee. ‘You’re Doing It Wrong: Notes on Criticism and Technology Hype’, Medium blog, 1 February 2021, https://sts-news.medium.com/youre-doing-it-wrong-notes-on-criticism-and-technology-hype-18b08b4307e5. 〔题名中译：你做错了：关于批评与技术炒作的笔记。〕

• Wagner, Ben. ‘Ethics As An Escape From Regulation. From “Ethics-Washing” to Ethics-Shopping?’ in Ethics As An Escape From Regulation. From ‘Ethics-Washing’ To Ethics-Shopping?, 84–9. Amsterdam: Amsterdam University Press, 2018. 〔题名中译：伦理作为逃避监管的手段：从“伦理洗白”到伦理选购？；伦理作为逃避监管的手段：从“伦理洗白”到伦理选购？〕

• Whittaker, Meredith. ‘The Steep Cost of Capture’, Interactions 28 (6, 2021): 50–5. 〔题名中译：俘获的高昂代价。〕

• Wooldridge, Adrian. ‘The Coming Tech-Lash’, The Economist, 18 November 2013, https://www.economist.com/news/2013/11/18/the-coming-tech-lash. 〔题名中译：即将到来的科技反弹。〕

• Young, Meg, Michael Katell, and P.M. Krafft. ‘Confronting Power and Corporate Capture at the FAccT Conference’ in 2022 ACM Conference on Fairness, Accountability, and Transparency, 1375–86. Seoul Republic of Korea: ACM, 2022. 〔题名中译：在FAccT会议上直面权力与企业俘获；2022年ACM公平、问责与透明会议。〕

注释