一分钱买你的思想？资本、共谋与AI伦理

第一部分：主体

Corinne Cath和Os Keyes

导言

随着人们对算法技术伤害的关注增加，以及旨在处理这些伤害的改良主义努力展开，一批主张更激进干预的研究与研究者也构成了批判性的侧翼——而且理由充分。人们对“伦理洗白”“伦理选购”和“伦理剧场”的忧虑，^[1] 一再得到实例印证：一些公司试图淡化那些审视根植于AI商业模式和企业权力巩固过程之内在伤害的研究。^[2] 这些令人担忧的动态，发生在科技行业游说力量不断增长的背景下，^[3] 同时也伴随着新自由主义化的加深：政府与独立来源对学术研究的资助减少，并被产业资金取代。这种直接希望得到有利于商业之结果的企业资助，其日益重要的作用在AI伦理学术研究中尤为明显。^[4]¶

这种令人担忧的动态，提出了一系列关于研究AI技术伦理究竟意味着什么的问题。它使我们追问，谁“拥有”AI伦理，^[5] 并由此追问：谁有责任维持学术研究中的伦理标准？同样，私营产业在科研资助中的作用，也引出了企业如何以微妙而有害的方式向学术工作施压的问题，即便这些资金在形式上被称为“不附带任何条件”。最后同样重要的是，学术资助格局的变化也带来了新的挑战：产业影响如何作用于下一代学者——例如本文作者——的研究议程与职业轨迹。¶

我们提出的核心问题是，一个人在哪里、又如何划线——这一问题既是描述性的，也是规范性的。本章借鉴自我民族志方法，^[6] 并以故事形式呈现我们的经历，考察这两个方面；两位作者各自以不同方式卷入产业资助这一现实，并对自己的经验作出反思。我们考察自己的工作如何受到产业资助塑造，如何针对自己的思想在何时、以何种方式被“一分钱买走”协商个人底线，以及这些协商与界线如何随时间演变。通过个体反思与相互对话，我们问自己，也问彼此：¶

在研究依赖产业资助的学术环境中开展AI工作，其民族志现实能够带来哪些教训？¶

回答这个众多研究者都要面对的问题，将有助于我们提出新的见解，说明企业权力如何在AI伦理学术研究的情境中发挥作用。¶

我们认为，尽管人们可以、也经常会在“常规”与“批判性”的数据伦理视角及行动者之间划定边界，但现实往往更复杂。参与并不意味着毫无疑虑，Su、Lazar和Irani已经对此作了精到记录。^[7] 同样，批评也不能避免共谋。^[8] 在每一种视角与立场背后，都是人：他们在资源有限、企业俘获的研究环境中，摸索自己与自身价值观的关系，以及与这些价值观的疏离。^[9]¶

即使没有这样的环境，只要必须与持有不同利益和观点的他人及组织共同工作、建立关系，某种程度的妥协也就不可避免。正如Nick Seaver所言，伦理的一个重要场所，正是“人们如何在看似相互竞争的价值之间协商”。^[10] 本章阐明这种协商在实践中可能是什么样子，以及对于那些试图在学术环境和产业资助的AI研究中，理解如何开展伦理工作、又如何与伦理发生关系的人来说，可以从中学到什么。¶

在整个反思过程中，两个主题不断浮现。其一，是企业间接塑造研究的权力：它们并不设定研究内容，而是划出可接受批评的边界。其二，是产业资助使哪些关系成为可能，又使哪些关系无法建立。我们两人都是博士研究者，开始研究的时间相隔三年、地点相距4,488英里，却在共同经验中发现这两个不同主题，以及女性主义拒绝的作用。^[11] 这说明企业权力的影响何其广泛、对研究有何含义，也指向下一代通过产业资金开展AI伦理研究的学者所拥有的可能性。¶

本章安排如下。首先，我们聚焦于AI伦理中的资本、共谋与衔接工作，将自身工作和经历置于近期关于如何在学术界处理价值问题的文献之中。由此，我们展示自己作为初级学者从事AI伦理研究的个体经验，与文献所记录的研究遭到俘获、以及通过研究进行抵抗的更广泛动态之间的联系。我们表明，许多处于AI与伦理交汇点上的学者，其工作受到当代学术界资助现实的塑造；而试图简单逃离这些现实的努力，本身也纠缠于权力问题之中。其次，我们依据自身研究经历，介绍两个简短的自我民族志故事，采用的是Sotiropoulou和Cranston所使用的意义。^[12]¶

Corinne考察产业资助对于AI伦理研究的微妙权力动态，以及对下一代学者的影响。Os则关注资助如何塑造研究者建立的关系网络，以及由此仍然无法触及的关系。随后，我们让各自经验相互对话，进一步讨论AI伦理如何关联权力问题——这是本书的核心主题。最后我们认为，鉴于学术界与产业利益及网络的深度纠缠，它越来越难以成为对AI进行批判性思考的堡垒。如果学术界曾经真能发挥这种作用，^[13] 那么上述结论便要求我们彻底重新思考AI伦理研究的资助方式，并在学术界内外建立新的反制权力与关怀网络。¶

定位我们：围绕AI伦理的持续辩论

描述和／或划定AI伦理边界的努力，往往依赖“浪潮”这一观念，即先后出现、各不相同的学术与思想路线。^[14] 这种做法虽然常见，但我们担心它会使那些“不合时宜”的学术工作变得不可见、不可理解：它们也许太激进、出现太早，也许太常规、来得太迟。^[15] 我们更愿意按照批评形式区分AI伦理研究：一类是内部批判，试图“从［学术］自身内部”改变学术；另一类是内在批判，虽参与被分析的实践，却依靠“超越情境的主张”。^[16]¶

内部批判在现有治理形式的规范内运作。在AI伦理中，它体现为自愿或非自愿伦理守则的提案，^[17] 体现为将“算法公平”概念付诸实践并引导AI研究者朝此努力的提案，也体现为尝试制定具有约束力的法规——这些法规隐含地进一步推进了许多政治人物、学者和商业领袖所信奉的AI不可避免论。^[18] 这种批评往往受到企业资助者青睐，因此在AI伦理讨论中占据了大量空间。¶

与此相反，内在批判借鉴更广泛的规范性理解，希望带来的不仅是改良效果，而且是变革效果。在AI领域，这常被称为“批判性数据研究”：它不仅质疑算法系统的结果，也质疑系统设计所依赖的前提、使系统成为可能的政治经济条件，以及AI同时依赖并促成的话语文化。^[19] 例如，Green和Vijoen概述了算法思维及其技术形式主义的局限，指出AI造成的许多伤害发生在这些边界之外，需要从社会层面、而非技术层面加以处理。^[20] 同样，在近期为欧洲数字权利组织EDRi撰写的一份报告中，^[21] 作者认为，必须处理AI权力失衡的根源。Powles和Nissenbaum也指出，通过专注于从内部改进技术而服从于AI，不仅限制了关于技术作用的批判性对话，也限制了伦理、法律与媒体在遏制AI伤害方面的作用。^[22] Powles、Nissenbaum、Balayn和Gürses等批判性学者认为，聚焦于“对系统进行技术性去偏见”，虽然流行，却不充分，而且把AI的社会技术影响过度简化成了技术设计的函数。他们强烈指出，这些内部批判和改进之所以诱人，反映的是其简单易行，而非它们适合处理AI不可避免地引出的权力与治理问题。〔译注：原文此处将Viljoen误拼为Vijoen。〕¶

可以理解的是，这些关注AI社会技术性质的研究者，也把目光转向了“AI伦理本身”。他们认为，常规AI伦理受到AI产业领导者的经济、社会和政治利益束缚，并且与这些利益存在根本联系。由于这种内在批判聚焦于解构支撑AI系统炒作的权力关系，它较不可能获得产业资助。¶

然而，人们日益需要这种凸显AI伦理“做了什么”的内在批判。这种批判可以成为AI伦理领域的元分析，并反对那种狭隘的批评：后者回避了对支撑自身的政治经济现实作结构性改变。例如，研究者担心，“公平”或伦理守则的提案可能构成“伦理洗白”，^[23] 为有害的组织与过程披上一层合乎伦理的幻象。同样，人们也十分担忧：常规AI伦理观念以及从事实践的人，正在促成不公正未来的过程中共谋。科技公司与遭其伤害的社群之间，在政治经济权力上的巨大不平等，导致该领域即便还没有受到“监管俘获”，也已处在这种风险之中。^[24]¶

在这道往往充满紧张的分界线两侧，存在的不只是原则与实践，还有人。与古典社会学的看法相反，这些人并非对自己参与并推进的广泛过程毫无认识的“文化傻瓜”。相反，他们是具有能动性的存在，常常意识到这种来回拉扯，并且——正如Su等人与Cath分别展示的——^[25] 会对它作出回应。于是，问题转变为：这些回应可能是什么样子；人们已经在如何处理这些张力，以及如何以“更好”的方式处理。¶

我们两位作者对此再清楚不过，因为我们都是AI伦理领域的青年学者。Corinne Cath最近在英国完成了博士学位，Os Keyes目前是在美国攻读博士学位的候选人。攻读博士之前，Corinne曾在政治领域及多个非营利组织工作；Os则曾在营利和非营利组织担任数据科学家。我们的研究主题分别是公民社会如何参与技术治理辩论，以及支配结构，它们反映了各自的个人背景、兴趣与身份。我们承认自身作为酷儿、跨性别、白人和欧洲学者的位置性，也认识到这些背景与我们的研究、与我们寻求创造AI伦理知识的方式之间，有着无法割裂的联系。本文始终借鉴自我民族志的认识论与方法，说明有关AI伦理的知识无法与从事研究的人分开，也无法与其专业知识得到何种认识论或物质支持分开。以下自我民族志故事，是将我们的经历与对话综合写成的叙述，大体呈现我们遇到的问题类型。^[26] 这些汇集的经验，展现产业对AI伦理研究的影响如何广泛渗透于我们博士研究所处的不同背景与时期。¶

Corinne的故事：“不附带条件”的产业研究资助何以不可能

2016年，我在欧洲一所以古老著称的大学开始攻读博士。在博士学习期间，我修读并参与讲授了校内不同教授的课程，他们也让我加入正在进行的研究项目。能够参与他们的研究，既令人兴奋，也让我感到受到认可。由于我的大学靠近伦敦科技圈，加上我研究计算文化的人类学背景，我参与的一些工作，自然包括为知名大型社交媒体公司开展研究。这些工作往往围绕特别棘手的主题，例如大规模使用AI进行内容审核的伦理。有时，这些研究会经过同行评审并面向公众；另一些时候，则供公司内部使用。有时，与我合作的资深研究者会获得这些科技公司的经费开展研究。¶

我个人有兴趣参与这种由产业推动的工作；它让我得以窥见机器内部，了解大型科技公司内部决策由哪些优先事项和政治因素驱动。研究的聚焦性质，以及与我合作的资深研究者和公司之间的信任关系，意味着分享的信息更详细，我们交谈的对象也较少保留。这些经历对我这样研究计算社群与文化的人类学者而言，提供了重要见解。我当时认为，即使无法明确写下自己所见所闻，做这类工作也会加深我对科技行业的整体理解，从而磨砺批评。我如今仍这样认为，但回头看，我也看到这类研究在提高研究者分析伤害能力的同时，如何扩充了这些公司反驳批评者的工具箱。¶

在我参与的产业项目中，明显缺席的是对科技行业某些最为人熟知的侵蚀性和有害影响的直接探讨：它以监控为基础的数据收集与商业模式。考虑到学术界已经对这种商业模式作出批评，^[27] 而且它又是许多后续伦理关切的根源，这种缺席令人惊讶。当我提出涉及这些商业模式的建议时，资深研究者往往成为阻止此类批评进入研究的第一道防线。我得到的回应总是类似这样：“我们不能告诉这家公司要改变商业模式，虽然我们都知道它是问题的一部分，因为他们不会放弃自己的摇钱树。”¶

我曾多次询问，我们与公司之间的研究资助条款中，是否有什么规定使我们不能突出这些结构性问题。我得到许多回答，归根结底都是下面这段话的变体：“没有，我们想说什么就能说什么。这笔资金不附带任何条件。但我们不会告诉他们改变商业模式。”¶

“不附带任何条件”这个说法，意指资助大概不会对研究内容提出要求。只有在对这句话作最狭隘解释时，这种说法才成立。学者与产业资助者签署的协议，或许没有明文限制批评的性质，也没有限制将批评指向支撑产业成功的结构性力量。然而，围绕研究范围的默契——包括开展研究时不转向内在批判的惯例——确实构成了真实限制。在研究开始之前的许多环节，产业资助者所作的决定，意味着他们更可能邀请愿意改善产业现状、而非“颠覆”它的学者。¶

对于那些希望通过与公司合作，提出内部批判而非内在批判的人，学术界当然有其位置。我并不批评这一选择。然而，问题在于通过资助施加的无声权力，因为公司并不会平等地向学者分配经费。相反，我从参与这类工作的经历中认识到，不同公司会寻找研究议程与自身企业激励一致的学者。换言之，它们选择那些留在内部批判边界以内的研究。当然，这条规律也有例外，我并不是说，所有接受产业资助的学者都被阻止作出尖锐的结构性批评。尽管如此，我亲眼见过科技公司如何采取策略性放大和抬高地位的手段。Whittaker将这种动态描述为：“产业抬高自己最弱的批评者。”^[28]¶

产业能够、也确实通过建立并强化研究者网络来塑造研究：这些研究者提出温和、稳定、可预测的批评，不会过度聚焦于颠覆现状。产业对于研究议程的大部分权力，就存在于它与某些学者建立的关系之中。这种动态对初级学者有直接影响。产业资助塑造研究，并非直接命令产生某些结果，而是放大那些产业愿意回答的问题。它由此塑造何种批评算合理的边界，以及产业应当、或不必为哪些伤害负责。同时，资助这种内部批评，让公司看起来认真参与了学术研究，却也使它们能够把那些被视为过于激进、过于批判或过于大胆的学者排挤到一旁。¶

近期有多个超出我直接经历之外的例子，显示了这种动态，并支持我的分析。例如，Google一方面资助一个大学智库，后者积极批评对大型科技企业实施反垄断监管；^[29] 另一方面，它又解雇内部与外部的学术批评者。^[30] 我们每个人都需要判断，自己对这种现实能接受到什么程度，并让接受产业资助的决定扎根于一套有力、明确的政治立场之中，以便仔细衡量共谋或拒绝的影响——不仅对我们自己，而且对它鼓励我们建立何种关系、与谁建立、为了谁建立关系的影响。Os将在下一节继续讨论这一关系建立问题，以及它如何体现于产业资助塑造研究议程的能力之中。¶

Os的故事：“我们所有的关系”，或拓展人脉如何扭曲关系网络

2019年初，我获得了微软Ada Lovelace奖学金。这项奖学金很有声望：约100名决赛候选人中——只是大约，因为我当时忙着克制紧张得想吐的感觉，顾不上数——最后有五人获奖，候选人来自几乎所有STEM领域。但即使不谈声望，这也意义重大。它提供三年的学费和工资，因此，也提供三年专注研究的时间。¶

与Corinne的经历不同，这项奖学金不伴随赞助方持续介入。它的期待只是：我做自己感兴趣的研究，并保持在读身份。但缺乏干预并不意味着，它唯一的后果就是让我得以研究。还有两个后果值得强调：奖学金对微软的影响，以及它对我在研究中的个人与职业关系的影响。¶

它对微软的影响很快就显现出来。我的专业研究领域之一是人脸识别（FRT），我坚信这项技术应该被用木桩刺穿心脏，再丢在十字路口。到了这个时候，厌恶人脸识别已经成了学术家族的传统：我的一位导师的导师十年前就为此担忧；^[31] 另一位则在二十年前就担忧过。^[32] 因此，当我来到华盛顿州议会，以专家证人身份说明监管人脸识别的必要性，却发现反对我们的是……微软时，这是一场令人不快的意外——尽管在我最犬儒的时刻，它也并非出乎意料。他们的论点有多个方面，但其中一个关键部分是：监管并不必要，因为可以相信他们自己会处理人脸识别的各种偏见。具体而言，人脸识别需要的是来自多个边缘化社群、具有多样性和专业知识的利益相关者参与。换言之：像我这样的人。¶

当然，没有哪家公司是铁板一块。我完全愿意相信，资助这项奖学金的微软研究院中，有相当一部分人反对人脸识别，尽管整家公司在倡导并销售它。而且，那位律师显然并不是特指我；对方根本不知道我是谁。但事实是，微软之所以能够花钱养一个想把其某项产品付之一炬的人，原因在于它觉得这样做对自己有用。这样，它就能假装解决方案在“内部”，就能收编批评。它让奖学金获得者处在Fred Moten猛烈抨击批判学术界时所指出的同一角色之中：被赋予完善技术科学的任务，并非替代常规做事方式，而是“使其完成的尝试”。^[33] 这并不是说，获得资助的批判性工作不可能有效；而是说，批评只是它的一种效果。¶

即便这项奖学金没有以微小方式改变微软的公关策略，它也确实改变了我。实现这种改变的方式之一，是奖学金中一条常见的附加条款：除了津贴与学费，获奖者还可优先获得微软研究院的实习机会。表面上看，这是双赢：微软能够试图说服博士生，毕业后全职加入公司是多么令人愉快；而这些学生也终于能吃点方便面以外的东西。¶

但是，做这项工作、身处那个地方、与那些人相伴，也带来另一个后果。参加实习，意味着与人建立关系，意味着接触某些非常聪明、友善的研究者的成本大幅降低。我通过这些机会，结识了一些自己最喜欢的人，包括Corinne。但由于我们在世的时间有限、能力也受限制，我们只能与有限的人建立关系。因此，这些机会在创造与某些人亲近的可能性时，也限制了与另一些人建立关系的可能性。奖学金让我接触到新的合作者，并扩大了在专业研究圈中互动的时间。但是，它也夺走并削弱了我与那些最初使我获得这项奖学金的人之间的联系，削弱了我与赋予研究动力的人和社群之间的联系。¶

讨论

通常，讨论部分把分析收拢起来，探究其底层主题，再将这些主题压缩为固定的教训、视角或实践启示。尝试撰写这一部分时，我们很难明确指向任何单一方向，原因很简单：这里没有简单答案。Jones指出，“选择……在于进行‘参与性的’还是‘共谋性的’研究”，^[34] 但很难找到一个没有共谋的位置——如果这样的位置真的存在的话。¶

因此，我们没有照常写一个讨论部分，而是从Bellanova等人的对话方式中汲取灵感，^[35] 也从自己写作过程的对话方式中汲取灵感。与Sotiropoulou和Cranston一样，^[36] 我们认为，这种对话方式及其背后的友谊，正在建立学术界中的激进关怀伦理实践。我们需要这种实践，来批判性地反思、并在必要时抵抗产业资助对独立研究的影响。我们决定呈现一组不固定的视角：它们暧昧、不确定，有时相互紧张，就像我们所讨论的动态一样。¶

通过这些视角，我们对“在研究依赖产业资助的学术环境中开展AI工作，其民族志现实能够带来哪些教训？”这一问题，形成了两个回答。第一个主题，是由于产业资助的引导力量而被建立、以及从未被追求的网络与关系的重要性。第二个主题，是产业资助温和却有害的权力，以及它在个体和系统两个层面对批判性研究的侵蚀作用。¶

一、回答：直接说不

面对共谋困境，最本能的反应，是要求一个“不”：要求彻底拒绝共谋的纯洁性，要求研究者拒绝站在那个位置。这种观点的优势在于道德上的清晰，但它很快就变得复杂，正如Shotwell等研究者以及明确讨论女性主义拒绝概念的学者所阐明的。^[37]¶

但是，究竟谁在字面意义上负担得起这样做？在我们所担忧的大型营利企业之外，AI伦理研究越来越不稳定，而人们获得那些确实存在的资源的机会又并不相等。我们还从一些并不令人惊讶的零散经历中看到，说“是”的后果也因人而异。Corinne例子中的资深学者，能够承受与这类资助者合作带来的声誉成本；他们积累的权力，使人们更容易原谅其共谋，也使他们比初级学者更不容易承受后果。¶

其次，否则我们又能站在哪里？大学也有自身的道德暧昧，Phan等人早已指出这一点。^[38] 转向社区团体和网络是理想选择，但这些团体往往缺少支持研究者的经费，而且还有许多更为迫切、关键的事情需要花钱。在这里，非产业资助者与政府资助者可以发挥关键作用，确保有许多由组织和个人构成、从事批判性工作的据点。近期一个很好的例子，是Timnit Gebru博士创立的分布式人工智能研究所（DAIR），由多个非营利基金会资助。我们需要更多这样的反制权力场所，也需要以一种承认将“非营利”直接等同于“有益于社群”所带来风险的方式，来构建这些场所。^[39]¶

二、回答：拿了钱就跑

Fred Moten说：“与大学之间唯一合乎伦理的关系，就是犯罪关系。”^[40] 他的意思是，面对一个要求冷酷无情的工作伦理、以不公正前提运作，却只回馈少量资源的机构，研究者应当尽可能多地拿取。如果这句话适用于大学，那么它对科技行业的许多公司就更加适用。参与的张力在于，这些组织确实拥有我们想要的资源；拿了钱就跑，便解决了——或至少改变了——这种张力。¶

这种做法的问题在于，它是一种战术，而不是战略。你也许能拿到一两次产业资助就跑，但产业资助者最终会察觉。而且，在支持研究方面，即使激烈竞争的产业对手，也会互通消息。对于那些留意到同样五位教授不断被邀请加入当下时兴的伦理委员会、理事会或监督机制的人来说，这不该令人惊讶。拿钱就跑的名声最终会先于你本人传播，堵住可能的关系——无论是犯罪式的，还是其他关系。此外，拿着你的一分钱就跑，最终会导致一种情形：你被排除出可以得到资助的学者群体，实际上等于在说“不”；而由于声誉具有集体性质，你也可能被视为替自己的学生一并表态。¶

三、转换问题：女性主义拒绝

这两个答案之所以如此令人不满意，部分原因是根本不存在一种超越一切情境、令人满意的答案。但另一个原因在于，它们提出了错误的问题。两者问的都是：“我，一个单独的人，独自能做什么？”以这种方式处理问题，就忽略了女性主义和／或美德实践的两个关键面向：它们往往是关系性的，涉及人的集合；而且，部分正因此，它们是实践。答案取决于具体情境，追求答案的过程会改变情境，转而要求我们重新评估正在进行的行动。¶

因此，我们最终落脚的地方，既不是把接受参与的代价作为独立答案，也不是把拒绝参与作为独立答案，而是Bonnie Honig所称的女性主义拒绝。^[41] 实行女性主义拒绝，不是“说不”之后就完事。相反，它从承认我们从未处在权力关系之外开始。正因此，对于那些更深地嵌在这些权力结构中的人，我们负有关怀责任，要将拒绝视为一种战术：有目的地拒绝，可能是暂时地拒绝，着眼于未来；或者，为了某种战术目的，根据具体情境继续保持纠缠，并与他人的选择相联系。¶

在研究者共谋于AI伦理的情形中，这会是什么样子？一种假设性的表现形式，是合作开展一项产业资助研究，同时明确理解公司愿意推动的改变有哪些边界，并把分析这些边界本身作为研究不可分割的组成部分。另一种，是在受到产业邀请时参与对话，亲自了解它们如何界定问题和解决方案，再利用这些知识，磨砺集体处理伤害的尝试。还有一种，是将直接受影响的社群纳入研究设计，推动科技公司所聆听声音的边界。或者，以教育者身份参与，利用合作勾勒现状之外的替代方案，争取通过内部研究促成改变。¶

研究设计有许多部分——从理论、数据、方法，到研究结果的可获取性——都应成为我们划定研究边界、接受产业资助时协商过程的一部分。因此，女性主义拒绝既不天然排斥拒绝资助，也不天然排斥接受资助；它只是要求把两者都视为战术，在意识到他人的选择、并与这些选择发生关系的情况下采取行动。此外，与Audra Simpson关于原住民拒绝的平行思路相联系，^[42] 我们认为，这不仅要求我们作出选择，也要求持续审视这些选择。要以关系性的方式，^[43] 观察我们的暂时答案在实践中有时间展开之后，带来了什么好处与伤害。这种反思需要在与同伴、学生和导师的可信关系之中、并通过这些关系发生，也就是通过“批判性学术友谊”发生。^[44] 我们不应只是回答这个问题，而应重新回答它：从集体的视角界定集体需要什么，而不是“我独自能做什么”。¶

结语：我们的经历对研究现状及其未来说明了什么？

我们描绘的图景很复杂，包容着多重面向。然而，从我们作为青年学者研究AI技术伦理的经历中，仍可得出明确教训。作为定性研究者，我们说明了女性主义拒绝、友谊，以及从个体转向集体的重新定位，如何至少部分回答了有效抵抗的问题。我们还希望强调，对学术知识如何被创造进行反思，也是关键。问题的一部分，在于我们描述的许多动态都发生在暗处。对于产业关系，很难做到公开透明，这反过来又使我们难以确切理解它们如何影响研究。我们希望，通过展示产业影响渗透学术界的细微方式，能够进一步发展既有的描述：既描述产业的影响，也描述企业如何否认自己在钝化科技批评中的共谋。¶

我们的基层经验把企业俘获可能如何影响学术界独立思想具体化，从而加强了既有对其危险的批评。它也对批判性学术研究的未来提出了明确忧虑：很少有年轻学者能逃脱或避免加在其机构之上的结构性压力，即必须依产业的规则与机制行事。这种研究“新常态”具有深刻而广泛的后果，也提出了抵抗可以、又应当是什么样子的问题。¶

关于有效抵抗，我们有一些想法。我们呼吁其他青年学者寻找志同道合的社群与友谊，以支持持续的批判性反思和对话，讨论个体决定对学术共同体的影响。同样，我们也请终身教职教师进一步示范并参与这种反思，因为他们既最接近实际运作，也最不容易因为坦诚公开而受到伤害。我们希望强调他人已经提出的呼吁：需要把科技劳动者和学者组织成能够抵抗企业压力的集体。^[45]¶

对于真正有志于变革、而不仅是改良的资助者，我们会说：看看现有网络之外。看看那些不符合典型学术机构、正式慈善组织和公司模式的项目与组织。看看那些不承诺大规模回报的项目。看看社区团体；看看小空间中的大改变。接受这样一个事实：你们的介入本身也可能受到必要的审视。此外，本文也向有意追究科技责任的政府发出行动呼吁，请它们认真考虑资助批判性学术研究。要找到好的研究，就需要关注哪些学者和问题目前被排除在产业资助范围之外，并找出那些从技术的社会影响与集体福祉出发提出研究问题的学者，而不是那些只关注如何让AI产业更合乎伦理这一狭窄问题、捡了芝麻丢了西瓜的学者。¶

资助披露

Corinne对本研究的贡献未获资助；Os获得微软Ada Lovelace奖学金资助。¶

参考文献

• Agre, Phil. ‘Your Face is not a Bar Code: Arguments Against Automatic Face Recognition in Public Places’, Whole Earth 106.2001 (2001): 74–77. 〔题名中译：你的脸不是条形码：反对在公共场所自动识别人脸的论证。〕

• Algorithm Watch. ‘AlgorithmWatch Forced to Shut down Instagram Monitoring Project after Threats from Facebook’, AlgorithmWatch blog, 13 August 2021, https://algorithmwatch.org/en/instagram-research-shut-down-by-facebook/. 〔题名中译：AlgorithmWatch受到Facebook威胁后被迫关闭Instagram监测项目。〕

• Balayn, Agathe, and Gürses, Seda. ‘If AI Is the Problem, Is Debiasing the Solution?’, Brussels Belgium: EDRi, 2021, https://edri.org/our-work/if-ai-is-the-problem-is-debiasing-the-solution/. 〔题名中译：如果AI是问题，去偏见是解决方案吗？〕

• Bank, Max, Duffy, Felix, Leyendecker, Verena, and Silva, Margarida. 'The Lobby Network: Big Tech’s Web of Influence In the EU', Corporate Europe Observatory and LobbyControl e.V, 2021, https://corporateeurope.org/en/2021/08/lobby-network-big-techs-web-influence-eu. 〔题名中译：游说网络：大型科技企业在欧盟的影响力之网。〕

• Bellanova, Rocco, Kristina Irion, Katja Lindskov Jacobsen, Francesco Ragazzi, Rune Saugmann, and Lucy Suchman. ‘Toward a Critique of Algorithmic Violence.’ International Political Sociology (2021.)15 (1): 121–50. https://doi.org/10.1093/ips/olab003. 〔题名中译：走向对算法暴力的批判。〕

• Birhane, Abeba. ‘Algorithmic Injustice: A Relational Ethics Approach.’ Patterns 2.2 (2021). 〔题名中译：算法不公正：一种关系伦理路径。〕

• Cath, Corinne. ‘Governing Artificial Intelligence: Ethical, Legal and Technical Opportunities and Challenges’, Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences 376 (2018). 〔题名中译：治理人工智能：伦理、法律与技术的机遇和挑战。〕

• Cath, Corinne, and Jansen, Fieke. ‘Dutch Comfort: The Limits of AI Governance Through Municipal Registers’, arXiv e-prints (2021): arXiv–2109. 〔题名中译：荷兰式安慰：通过市政登记册治理AI的局限。〕

• Conquergood, Dwight. ‘Between Rigor and Relevance: Rethinking Applied Communication’, Applied communication in the 21st century (1995): 79–96. 〔题名中译：在严谨与相关性之间：重新思考应用传播；21世纪的应用传播。〕

• Dencik, Lina. ‘The Datafied Welfare State: A Perspective from the UK’, in Hepp, Andreas, Jarke, Juliane, and Kramp, Leif (eds), The Ambivalences of Data Power: New Perspectives in Critical Data Studies, UK: Palgrave Macmillan, 2022):145–66. 〔题名中译：数据化福利国家：来自英国的视角；数据权力的矛盾性：批判性数据研究的新视角。〕

• Ellis, Carolyn, Adams, Tony E., and Bochner, Arthur P. ‘Autoethnography: An Overview’, Forum Qualitative Sozialforschung / Forum: Qualitative Social Research 12.1 (2010). 〔题名中译：自我民族志概述。〕

• Green, Ben, and Viljoen, Salomé. ‘Algorithmic Realism: Expanding the Boundaries of Algorithmic Thought’ in Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, Barcelona, Spain: ACM, 2020: 19–31. 〔题名中译：算法现实主义：拓展算法思维的边界；2020年公平、问责与透明会议论文集。〕

• Hemmings, Clare. Why Stories Matter, Durham: Duke University Press, 2011. 〔题名中译：故事为何重要。〕

• Honig, Bonnie. A Feminist Theory of Refusal, Cambridge: Harvard University Press, 2021. 〔题名中译：女性主义拒绝理论。〕

• Incite! Women of Color Against Violence (eds). The Revolution Will Not Be Funded: Beyond the Non-profit Industrial Complex, Boston: South End Press, 2007. 〔题名中译：革命不会得到资助：超越非营利产业复合体。〕

• Jaeggi, Rahel. Critique of Forms of Life, Cambridge: Harvard University Press, 2018. 〔题名中译：生活形式批判。〕

• Jobin, Anna, Ienca, Marcello, and Vayena, Effy. ‘The Global Landscape of AI Ethics Guidelines’, Nature Machine Intelligence 1.9 (2019): 389–99. 〔题名中译：AI伦理指南的全球图景。〕

• Jones, Richard G. ‘Putting Privilege Into Practice Through “Intersectional Reflexivity”: Ruminations, Interventions, and Possibilities’, in Reflections: Narratives of Professional Helping, 2010. 〔题名中译：通过“交叉性反思”将特权付诸实践：思考、干预与可能性；反思：专业助人工作的叙事。〕

• Lapowsky, Issie. ‘How Tech Giants Court and Crush the People Who Study Them’, Protocol—The People, Power and Politics of Tech blog, 19 March 2021. https://www.protocol.com/nyu-facebook-researchers-scraping. 〔题名中译：科技巨头如何拉拢并打压研究它们的人。〕

• Metcalf, Jacob, and Moss, Emanuel. ‘Owning Ethics: Corporate Logics, Silicon Valley, and the Institutionalization of Ethics’, Social Research: An International Quarterly 86.2 (2019): 449–76. 〔题名中译：占有伦理：企业逻辑、硅谷与伦理的制度化。〕

• Metz, Cade and Wakabayashi, Daisuke. ‘Google Researcher Says She Was Fired Over Paper Highlighting Bias in A.I.’, The New York Times, 3 December 2020. 〔题名中译：Google研究者称因论文揭示AI偏见而被解雇。〕

• Moten, Fred, and Harney, Stefan. ‘The University and the Undercommons: Seven Theses’, Social Text 22.2 (2004): 101–15. 〔题名中译：大学与底层公地：七条论纲。〕

• O’Neil, Cathy. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, New York: Crown, 2016. 〔题名中译：数学毁灭性武器：大数据如何加剧不平等并威胁民主。〕

• Pasquale, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information, Cambridge: Harvard University Press, 2016. 〔题名中译：黑箱社会：控制金钱与信息的秘密算法。〕

• ———. ‘Machines Judging Humans: The Promise and Perils of Formalizing Evaluative Criteria.’, in Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 2020. 〔题名中译：机器评判人类：评估标准形式化的希望与危险；AAAI／ACM人工智能、伦理与社会会议论文集。〕

• Phan, Thao, et al. ‘Economies of Virtue: The Circulation of ‘Ethics’ in Big Tech’, Science as Culture 31.1 (2021): 1–15. 〔题名中译：美德经济：大型科技企业中“伦理”的流通。〕

• Popiel, Pawel. ‘The Tech Lobby: Tracing the Contours of New Media Elite Lobbying Power’, Communication Culture & Critique 11.4 (2018): 566–85. 〔题名中译：科技游说集团：追踪新媒体精英游说权力的轮廓。〕

• Reed-Danahay, Deborah. Auto/Ethnography: Rewriting the Self and the Social, Oxford; New York: Routledge, 1997. 〔题名中译：自我／民族志：重写自我与社会。〕

• Rincón, Cami, Keyes, Os, and Cath, Corinne. ‘Speaking from Experience: Trans/Non-Binary Requirements for Voice-Activated AI’, in Proceedings of the ACM on Human-Computer Interaction 5.CSCW1 (2021): 132:1–132:27. 〔题名中译：从经验出发：跨性别与非二元性别者对语音激活AI的要求。〕

• Seaver, Nick. ‘CARE AND SCALE: Decorrelative Ethics in Algorithmic Recommendation’, Cultural Anthropology. 36.3 (2021): 509–37. 〔题名中译：关怀与规模：算法推荐中的去相关伦理。〕

• Shotwell, Alexis. Against Purity: Living Ethically in Compromised Times, Minneapolis: University of Minnesota Press, 2016. 〔题名中译：反对纯洁：在妥协时代合乎伦理地生活。〕

• Simpson, Audra. ‘The Ruse of Consent and the Anatomy of “Refusal”: Cases from Indigenous North America and Australia’, Postcolonial Studies, 20.1 (2017): 18–33. 〔题名中译：同意的诡计与“拒绝”的剖析：北美和澳大利亚原住民案例。〕

• Sloane, Mona. ‘Inequality Is the Name of the Game: Thoughts on the Emerging Field of Technology, Ethics and Social Justice’, Weizenbaum Conference, Berlin, Germany, 16–17 May 2019. 〔题名中译：不平等才是游戏规则：对技术、伦理与社会正义新兴领域的思考。〕

• Sotiropoulou, Panagiota, and Cranston, Sophie. ‘Critical Friendship: An Alternative, ‘Care-full’ Way to Play the Academic Game’, Gender, Place & Culture (2022): 1–22. 〔题名中译：批判性友谊：一种充满关怀的学术游戏替代玩法。〕

• Star, Susan Leigh. ‘This is Not a Boundary Object: Reflections on the Origin of a Concept’, Science, Technology, & Human Values, 35.5 (2010): 601–17. 〔题名中译：这不是边界对象：对一个概念起源的反思。〕

• Su, Norman Makoto, Lazar, Amanda, and Irani, Lilly. ‘Critical Affects: Tech Work Emotions Amidst the Techlash’ in Proceedings of the ACM on Human-Computer Interaction 5.CSCW1 (2021): 1–27. 〔题名中译：批判性情感：科技反弹中的科技工作情绪。〕

• Tarnoff, Ben. The Making of the Tech Worker Movement. New York: Logic magazine, 2019, https://logicmag.io/the-making-of-the-tech-worker-movement/. 〔题名中译：科技劳动者运动的形成。〕

• Taylor, Linnet. ‘Public Actors Without Public Values: Legitimacy, Domination and the Regulation of the Technology Sector’, Philosophy & Technology, (2021):1–26. 〔题名中译：没有公共价值的公共行动者：正当性、支配与科技行业监管。〕

• Wagner, Ben. ‘Ethics As An Escape From Regulation. From “Ethics-Washing” To Ethics-Shopping?’ in Being Profiled, Amsterdam University Press, 2018, 84–9. 〔题名中译：伦理作为逃避监管的手段：从“伦理洗白”到伦理选购？；被画像。〕

• Wakabayashi, Daisuke. ‘Big Tech Funds a Think Tank Pushing for Fewer Rules. For Big Tech’, The New York Times, 24 July 2020. 〔题名中译：大型科技企业资助智库，推动减少对大型科技企业的监管。〕

• Whittaker, Meredith. ‘The Steep Cost of Capture’, Interactions, 28.6 (2021): 50–5. 〔题名中译：俘获的高昂代价。〕

注释