军事美德与AI研究中“伦理”的限度

Michael Richardson

战争凭借美德立足：战士的美德、正义事业的美德，以及为维系国家或宗教而在逆境面前做必须做之事的美德。战争的美德至少在西方可以追溯至古代，但其现代表述带有鲜明特征。有德性的战争如今是技术化战争，是凭借后勤、科学与计算的技术革命所赋予的精确性、信息、理性与比例性来实施的战争。在当前转向自主武器系统（AWS）、并更广泛地将人工智能（AI）纳入战争的过程中，美德发挥着说服公众和机构接受日益复杂、日益编码化、日益难以理解的新兴技术之必要性的作用。美德并非只是从自主武器系统和军事AI中流出，而是通过将法律和伦理纳入系统本身而被注入其中。至少，故事是这么说的。正如虚拟性的美德曾帮助遮蔽美国在9/11之后无休止战争中的暴力，拥抱和宣扬自主系统的美德，也有可能遮蔽既有伤害与不公的再生产和加剧，以及新的暴力与压迫形式的形成。¶

大型科技企业涉足美国军方合同时往往引发争议——想想Google因参与国防部（DoD）的Project Maven计划，把TensorFlow算法用于无人机图像处理而引起的愤怒——但军方与私营及民间机构之间的相互依赖，同样有害地存在于世界各地蓬勃发展的生态之中，其中包括初创企业、研究成果转化中心、国防资助计划、政府倡议、资金拮据的大学和渴求经费的学者。在这些美德经济中，“伦理”不仅通过掩饰军事暴力来促成互利合作，也成为潜在的商品，能够被编码进正在开发的技术本身。^[1]国防研究者和公司不仅能够成为有德性的主体，还能使战争也变得有德性。本章考察澳大利亚新兴军事技术产业及其与学术界的关系，论证军事美德经济的运作方式，与科技产业和大学AI研究之间更广泛联系中的美德经济，既有相似之处，也有差异。¶

在AI与大数据的开发和专业知识方面，军方远落后于私营部门。五角大楼算法战跨职能小组（AWCFT）的负责人在该小组于2017年成立时承认，这一现实正在加速由产业引领的合作过程，这些过程模仿硅谷敏捷开发模型的某些方面。^[2]鉴于军事技术往往被用于生死攸关的场景，这种“快速行动、打破常规”的方法可能造成严重后果。但军方不仅是大型科技企业的重要客户，也日益成为学术研究重要的资金来源。在军事AI语境中，“伦理”具有一种经济功能，它为产业、学术界与军事机构之间的互动设定框架、提供便利并持续供给动力。军事技术，尤其武器系统，常被置于独特的伦理话语框架之中；这些话语来自武装冲突法、国际人道法、特定且预先界定的交战规则，以及更为模糊的战士精神的混合。包括澳大利亚国防军（ADF）在内的军方，倾向于将伦理视为工具性的东西，主要涉及士兵个人在战场内外的行为，而不是与正义或社会义务等更大问题相互缠绕。伦理通常被同时表述为应秉持的价值和有待解决的问题。当这一方法遭遇军事AI时，“伦理”作为减少伤害框架的局限便显现出来：伦理早已从属于军事暴力，因为它始终关心的是如何使这种暴力得以实施。¶

军事美德

国际关系学者James Der Derian认为，计算在战争中的中心地位在冷战期间开始上升，并在冷战结束后急剧增强，这标志着一种由美国引领的新型武装冲突模式的出现。Der Derian写道：“有德性的战争的核心，是从远距离威胁施加暴力，并在必要时将暴力付诸实现的技术能力和伦理要求——不造成伤亡，或将伤亡降至最低。”^[3]当然，有德性的战争并未消除杀戮，也没有消除对平民的杀戮，美国和以色列使用无人机与自主系统的事实便清楚证明了这一点。有德性的战争也不止于暴力本身：在Der Derian的构想中，战争也是虚拟的，因为它越来越依赖信息与抽象。尽管他在为一种新型战争命名时，试图兼顾“美德”（virtue）与“虚拟”（virtual）两个含义，这种做法有些含混，但他的分析仍指出了两者之间的密切关系：一方面，是依赖模拟、建模、计算、自动化与自主性的新兴战争形式；另一方面，是通过话语重构战争、使其核心地位合法化的做法。正如Der Derian所指出的，有德性的战争由一组边界模糊的机构、行动者与制度生产出来，又反过来维系它们；他将其称为军事—工业—媒体—娱乐网络，简称MIME-NET。^[4]大学及其研究人员就盘旋在这个网络近旁。¶

无论在美国还是其他地方，军方与学术界之间的紧密联系都远非新事物。冷战期间，国防部（DoD）、中央情报局（CIA）和国防高级研究计划局（DARPA），开始直接资助美国及世界各地众多学科的研究，从核物理、心理学、医学到人类学。DARPA还资助了战略计算计划，该计划在1983年至1993年间向先进计算与人工智能投入了超过10亿美元。不过，军事资助对于计算和控制论本身的出现也至关重要；后者为当代机器学习技术奠定了概念与数学基础。这些技术经常被包装并宣传为“人工智能”^[5]，即使它们在很大程度上依赖人类劳动。^[6]无论应用于军事还是民用环境，当代机器学习技术所依赖的计算能力，常常远远超出大学实验室的承受范围，即使各机构汇集资源也不例外。这促成了Meredith Whittaker所说的大型科技企业对AI研究的“俘获”：研究者依赖于Amazon、Google和Microsoft运营的平台的使用权，因此倾向于开展符合某些AI范式的研究，将既有基础设施不断再现为有益且必要的。^[7]这种依赖关系运作于一系列反复出现的争议的阴影之下，这些争议涉及大型科技企业——尤其Facebook、Google和Amazon——的社会、文化与政治影响。¶

这些争议反过来加剧了对“美德经济”的需求。在这种经济中，“美德与伦理是主要的生产和流通对象；大型科技企业内部的群体通过设立伦理委员会、工作组等方式生产和传播它们，而大学、研究机构、咨询公司和其他相关产业等外部群体也参与其中。”^[8]正如本书编者最近在一篇关于这一主题的论辩文章中所指出的，这种经济产生于西方大学公共资助、尤其是研究资助危机日益加深的背景下，而这加强了AI研究对大型科技企业资金等依赖关系。在商业环境中审视这些关系至关重要，但军队、国家安全与情报部门的纠缠，不能被从这个方程中剔除，也不能被当作无关紧要的个案研究。尽管批判性学术研究不断探讨将AI纳入战争和国家安全的问题，大学及资助机制在这一过程中的制度角色仍需要得到更多关注。^[9]¶

Alison Howell令人信服地指出，大学并非最近才被“军事化”，而是始终由尚武政治所生产，并服务于尚武目的的机构。^[10]如前所述，更广义的互联网及AI本身，无论直接还是间接，都曾经并仍然在很大程度上依赖军事资助与目标。在当今美国，军事AI开发的重要推动者和国际AI军备竞赛的鼓吹者之一，是Google前首席执行官Eric Schmidt，他如今担任国防技术创新委员会负责人。对Schmidt及其同道而言，军事AI应用从一开始就具有美德，恰恰是因为它们保护国家免受威胁，并强化其在全球舞台上的地位。这一切可以被理解为试图使AI本身安全化：这一领域发生的大量工作，因而进入常规政治之外的领域，并在安全的例外空间中运作。^[11]因此，我们的任务是考察军方如何参与AI研究中的美德经济，因为它们理解伦理并使之商品化的方式，往往不同于民用行动者。¶

本章通过考察澳大利亚而非美国的情境，处理军方如何参与美德经济的问题。这一考察具有启发性，因为澳大利亚正处于有意识地加速本国军事产业发展的战略努力的初期，目的既是提供本土技术，也是打造一个新的出口部门。就军事开支而言，澳大利亚属于中等规模的参与者，2021—22年投入446.19亿澳元，占GDP的2.09%，占全球国防总开支的1.4%（相比之下，美国占39%，中国占13%）。但根据Morrison政府作出的承诺，这些数字将增长，其中包括在新的三边AUKUS安排下，为核动力潜艇投入至少700亿澳元。^[12]就出口而言，澳大利亚国防产业几乎还算不上参与者，2019—20年的出口额仅为55亿澳元。不过，这一数字已从2017—18年的15亿澳元增长而来，是一系列政府倡议、定向投资战略、学术研究资助计划和知识转移中心的直接结果。它们共同仿效深受新自由主义基础设施建设者喜爱的公私合作模式，旨在集中培育军事技术初创企业。为说明军事伦理如何在美德经济中发挥作用，本文认为，围绕“伦理”的三种关键动态正在塑造澳大利亚新兴军事技术产业及其与学术界的关系。首先，我以Cyborg Dynamics Engineering及其Athena AI平台为案例，考察伦理如何在军事技术初创企业中作为军事商品发挥作用。随后，我考察新的国防合作研究中心（DCRC）倡议的作用，聚焦位于昆士兰州布里斯班的“可信赖自主系统”DCRC，从而转向伦理在澳大利亚日益壮大的国防产业中所发挥的话语功能。第三，我有意提出一个具有挑衅性的命题：“伦理”促进了与大学的合作，而研究资助是其中的核心因素，并通过研究中心、网络、研讨会和工作坊具体化。在这一背景下，伦理成为国防—学术—工业复合体的关键词。最后，我主张，关于伦理和美德的军事观念，是美德经济中一个独特而又关键的组成部分，需要进一步研究和持续的批判性关注。¶

作为代码与商品的军事伦理

军事环境中充斥着伦理、法律和准则，从武装冲突法（LOAC）、行为准则，到战士精神等更为模糊却具有道德约束力的概念。国家自身也受到国际法的约束——至少在理论上如此，尽管实践中不总是如此。国际法既决定战争在何种情形下可以被认为是正义的，也保护冲突中平民的权利。当士兵奔赴战争时，“他们受到一系列伦理原则的约束，这些原则禁止某些行动，并严禁另一些行动。”^[13]有德性的行为未必写在这些原则之中，而可能是在特定军种或部队内部通过文化形成并维系的。我们可以将美德理解为与道德——良好品格——联系更紧密，而伦理则涉及行为，以及在特定情形下可允许行为的限度。军事伦理和美德都并非一成不变，而是随着时间发生了实质性演变，往往与新战争形式的兴起相伴，例如二十世纪空中力量的扩散。军事语境中的伦理与规范行为的准则和法律相混同，因此通常被作狭义理解；相比之下，士兵对于战士精神却可能感受到更复杂、更强烈的联系。¶

随着用于发现、选择、锁定和杀伤的技术出现，将伦理编码进计算系统的可能性，已被证明对军事领导者颇具吸引力。Christian Enemark观察到，无人机战争的兴起改变了国家对战争的伦理计算：士兵无需暴露于风险之中，平民伤亡据称也有所减少，这些都承诺通过技术进步产生更合乎伦理的战争。^[14]自主武器系统承诺，进一步从方程中剔除容易犯错且有缺陷的人类决策，将法律、伦理和行为准则转化为计算决策树；无论自主系统是否“智能”，都可审慎、灵活且可靠地应用这些决策树。在这里，伦理问题常取决于人类操作员与杀伤决策的关系——人在回路内、人在回路上监督，或人在回路外——或者更根本地取决于一种道德坚持：战争中的杀戮始终应由人类决定。^[15]如果自主武器系统的当前发展，以及2021年《特定常规武器公约》（CCW）未能对其使用实施监管可以作为迹象，那么将自动化杀戮视为道德上应受谴责的立场正面临严重困境。战争自主性的不断提高，无论就自主武器系统的实际运作而言，还是就支撑这些系统的算法过程与思维而言，都具有重大的哲学和实践意涵；它们有可能使法律遏制军事暴力的可能性本身不复存在，因为这种暴力先于并超越人类思考和决策的能力。^[16]¶

不过，虽然世界各地的学者、行动者与公众仍然忧虑“杀手机器人”的危险，机器是否会决定采取致命行动这个问题，在实践中大体上已成定局。在这里，军事伦理的独特性质，实际上促进了自主性不断增强的技术的出现。即使军事伦理被置于详尽的社会、制度、历史和哲学语境中（例如参见澳大利亚国防军2021年的《军事伦理》条令），它仍需要为了战场而被操作化，使士兵能够迅速作出生死决断。伦理一旦被理解为准则，便成为可编码之物——能够被翻译成计算形式，教授给智能系统，并应用于特定情境。正如Elke Schwartz所说，这种“伦理模块的逻辑，依赖于一种将伦理视为可以编纂、可以确定，并能产生清楚、安全、理想情况下确定无疑之结果的观念”。^[17]被编码的伦理成为商品，处于初创企业推销话术的核心，也对那些负责监督算法与自主技术开发和采购的军官具有极大吸引力。^[18]¶

澳大利亚初创企业Cyborg Dynamics Engineering提供了一个很有说明力的案例。它的旗舰产品是Athena AI，一个用于武器瞄准和战场分析的平台。公司网站称：“Athena AI是市场上为数不多的基于视觉的AI系统之一，它把AI计算机视觉、由AI支持的决策辅助，以及在用户界面中显示AI信息结合在一起。”Athena AI本身虽然不是自主武器系统，但其设计目的是增强人的目标瞄准能力，关键还在于提供物体识别，以及伦理和法律评估工具。在公开演示和公司网站上，Cyborg Dynamics将这些伦理能力宣传为重要的差异化优势。Cyborg Dynamics创办人与任职或关联于“可信赖自主系统”国防合作研究中心的合作者，在一篇简短的反思性学术文章中，把该技术的目标描述为：“通过减少‘战争迷雾’、改善对国际人道法的遵守，增强人类在战场上作出伦理与法律决策的能力。”^[19]那篇文章展示了Athena AI开发过程中采取的迭代式、能够回应问题的伦理方法，而下面这段较长的公司网站引文，则揭示了伦理如何在营销修辞中成为附加价值：¶

Athena AI是为数不多的可信赖AI产品之一。我们曾与International Weapons Review、军事法律官员和军事伦理学者合作，帮助为AI视觉与决策辅助认证界定适当的数据保障和测试方法。我们的内置决策辅助工具，在适用情况下纳入了法律与交战规则方面的考量。

把武装冲突法、交战规则及其他此类准则与具体作战情形联系起来，以此实现伦理编码，被放在该系统优势列表的首位，使Athena AI被定位为相对于现状的一种改进。精品法律咨询公司International Weapons Review（IWR）的参与，也清楚呈现了美德经济中一些熟悉的组成部分。正如本书编者所描述的、卷入美德经济的技术批判机构，IWR这样的组织本身并不是“问题”——就IWR而言，该公司由有经验且具有扎实学术声誉的军事律师运营——但它们仍然是军事伦理经济多样且不断演化的版图的一部分。^[20]Cyborg Dynamics的修辞没有说出的是，平台各种检测和分类功能——据公司网站称，它们由多阶段神经网络实现——被该系统声称能够提供的法律架构隐含地合法化并放大了。从政治角度看，“伦理”在此通过将对军事技术的关切转移至计算与法律相遇的技术官僚领域，降低了政治介入的强度。但在产业中，伦理发挥着提高系统商品价值的作用：系统本身具有美德，因为其中已经编码了伦理，因而它承诺使部署该系统的军队更加严格地遵守伦理准则。¶

伦理与研究成果转化的基础设施

Cyborg Dynamics这样的公司，是澳大利亚国防产业中不断壮大的中小企业（SME）生态的一部分。在前总理Malcolm Turnbull的保守派领导下，国防产业增长被视为至关重要的国家优先事项，既为了减少对外国进口的依赖，也为了创造就业。然而，澳大利亚国防军的采购规模不足以维持一个可持续的本土国防产业。正如澳大利亚国防部的《国防出口战略》所述：“需要新市场和多元化机会，才能帮助充分释放澳大利亚国防产业增长、创新及支持国防未来需求的潜力。”^[21]通过《2020年国防战略更新》，时任总理Scott Morrison承诺在随后十年投入2700亿澳元用于国防，旨在增强并更新澳大利亚军事能力，同时为产业与劳动者提供重大机会，并设计各种技能培训计划，支持海军造船及其他国防优先事项。¶

在这一推动之中，AI与其他高科技系统发挥重要作用，使澳大利亚国防产业被定位为具有创新性、面向未来，并已准备好为盟友的优先事项作出贡献。此方面的旗舰项目是波音“空中力量协作系统”（ATS）；这家美国国防巨头在其网站上将其称为“智能的无人化力量倍增器”。该项目与多家澳大利亚中小企业合作开发，昵称“忠诚僚机”，旨在研制一种高速攻击型无人机，能够为执行危险任务的人类飞行员提供支持，使飞行员与高强度冲突区域保持安全距离，或在空中缠斗时提供额外火力。因此，ATS必须在导航、制导和瞄准方面以相当高的自主性运作，而这又要求大量专业知识，并引出关于使用武力的重大伦理问题。¶

正是在此类情形中，“可信赖自主系统”国防合作研究中心（TAS）等研究成果转化机构发挥关键作用：它们既促进澳大利亚企业的参与，又在国防自主系统的设计与推广中凸显伦理。合作研究中心（CRC）是澳大利亚政府自1990年起实施的一项倡议，旨在将学术研究与“产业引领”的项目连接起来；资助通常以数千万澳元计，在数年间发放给至少包含一个产业伙伴和一个大学伙伴的合作体。一些CRC与国家安全有所交叉，例如“从数据到决策”（D2D）CRC和网络安全CRC，但它们更偏向民用关切；即使被纳入安全议程，也更可能涉及执法和信号情报等与国防相邻的活动。国防合作研究中心是较新的一类子项目，由“下一代技术基金”资助。根据工业、创新与科学部的一份情况说明，该基金在2016—17年至2025—26年间获得7.3亿澳元拨款，用于投资“与国防优先事项一致、面向未来且能够改变游戏规则的能力”。作为首个国防合作研究中心，TAS从澳大利亚政府和昆士兰州政府获得了大量资源与资金；昆士兰州也是唯一制定无人机产业战略的州。虽然波音ATS项目获得的媒体关注遥遥领先，但TAS的日常主要业务是与中小企业开展较小规模的项目，其中许多企业位于昆士兰州。不过，该CRC也在开展自己的倡议，为国防自主系统开发保障与伦理框架。¶

其中的核心组成部分，是与昆士兰大学“战争与法律的未来”研究小组共同开展的“可信赖自主系统的伦理与法律”项目。正如TAS网站所述，其“伦理提升计划邀请多样化的利益相关者参与，为国防领域合乎伦理、可部署的AI提供以证据为基础且务实的风险管理”。与围绕大型科技企业的美德经济一样，该项目的目的并非质疑或批判国防产业的根本基础，而是“为部署在人机协作（HUM-T）中的电磁频谱、机器人、自主系统与人工智能的使用，制定伦理、法律、安全与问责框架”。项目由TAS首席科学家Kate Devitt博士领导；她受过伦理学训练，在数据与伦理方面拥有扎实的批判性学术研究经历。当然可以主张，应当积极理解此类倡议：它们在确保从一开始就把伦理纳入国防产业项目与产品方面，开展了至关重要的工作。按照这一解释，缺少这样的框架不会使倡议停止，只会意味着项目照常推进，而伦理在其构想中的位置更不重要。这些主张有其道理，而且TAS也利用其与澳大利亚国防军的密切关系，共同撰写了《国防领域伦理AI的一种方法》；这是国防科学与技术局（DSTG）的一份技术报告。DSTG是一个为新技术倡议提供资助、促进其发展并制作原型的军事机构。¶

在TAS的语境中，我们需要理解“伦理”至少以两种方式运作。第一种便是上文所述：TAS发挥基础设施作用，确保伦理考量成为澳大利亚所开发军事技术的基础。第二种则将这些伦理倡议视为在话语上使国防产业在学术界和更广泛公众中获得正当性的机制。在此意义上，“可信赖自主系统”国防合作研究中心可以被理解为某种伦理汇接中心，将法律、哲学及其他人文学科的研究与军事机构、从业者和产业连接起来，尤其关注初创企业。这样做使“伦理”能够被“内置”于AI和自主系统中，并在这些技术开发的同时或近旁，探讨军事情境下有关其伦理的棘手问题。TAS支持的学术出版物清单之广，足以证明TAS及其关联研究者认真对待伦理的理论和实践问题。^[22]TAS获得资助的目的也并非对军事行动或军事开支本身展开大规模批判，而是发展符合国防价值观与伦理的本土国防产业。正如创新环境中常见的情形，社会科学家和伦理学者的在场构成了一种照护工作；在这里，它变成对国家美德及其国防事业的照护。^[23]因此，TAS可以被理解为澳大利亚军事美德经济中的一个关键齿轮。这不是要一概否定最近一些倡议，例如部署AI识别西部Yalanji族人的文化资产、协助保存约克角语言，或制定自主船舶实践准则，而是要认识到，所有这些努力都与美德的生产和商品化相互交织。¶

研究资助中的美德、学术界与“伦理”

过去二十年间，澳大利亚学术界的研究资助承受了越来越大的压力，2013年上台的保守派政府执政期间尤其如此。2014年，澳大利亚研究理事会（ARC）的竞争性研究资助为8.86亿澳元；八年后的2022年，这一数字为8.15亿澳元。作为有幸获得ARC资助的研究者，我能够证实，获得这类项目经费包含多少运气因素——在人文学科中尤其如此。政府越来越强调影响力、产业参与，尤其是研究商业化，使资金更加偏向应用研究而远离基础研究。2022年，Morrison政府宣布设立名为“澳大利亚经济加速器”的22亿澳元基金，其中16亿澳元指定用于可以“商业化”、并与“国家制造业优先事项”相一致的研究；这些优先事项包括“国防与太空”。在这一背景下，“伦理”成为描述人文与社会科学（HASS）研究角色的一个关键词，尤其在军事领域，因为它使研究者能够在原本集中于技术开发的研究空间中主张自身价值。国防与国家安全被表述为具有美德的事业，伦理也因此提供了一种共同语言，使人文社科可以与计算机科学、工程学、心理学，以及其他在历史上更紧密地与国防研究相连的学科交流。例如，人文学科关于传播的研究，可以帮助以正确方式进行信息战，或协助开发“合乎伦理”的自主战场系统。¶

要衡量军事资助对澳大利亚学术研究的全部影响，即使只作总体判断，也极为困难。在最基本的层面，就有如何对所谓“两用”研究进行分类的问题，例如美国国防部资助医学研究的情况。此外还有其他挑战。如何界定和划分国防、国家安全与情报资助？当没有明确预算可查时，能否识别由总理办公室、内阁乃至州总理资助的倡议？绝密倡议怎么办？预算金额与实际支出之间的差异又如何处理？虽然澳大利亚政府支出确实具有一定程度的透明度和问责要求，但由于国家安全部门的规模、保密性、复杂性与整体不透明，国防资助可能更难追踪。尽管如此，在澳大利亚，大部分较为公开、且相当可观的国防资助，来自国防科学与技术局（DSTG）；这一国防部内部机构旨在协调研究优先事项，并为学术界和产业提供接口。“运筹研究网络”（ORNet）等合作倡议直接针对国防行动（指挥与控制、部队设计、作战规划等），而科学伙伴关系（DSP）计划则为与国防部门合作提供一个共同框架，国内每一所公立大学都列为其成员。在州层面，国防创新网络（新南威尔士州和澳大利亚首都领地）或国防科学研究所（维多利亚州）等组织，与DSTG紧密合作，围绕优先问题将大学研究者和中小企业连接起来。因此，学术界通过不断演化的制度基础设施与国防部门接触；这种基础设施用科学的语言包装国防优先事项，并提供论坛，使国防人员能够直接与多个领域的研究者交流。［译注：原书本段后一次将DSTG误作DTSG，此处统一为DSTG。］¶

美德与伦理很容易成为话语与情感层面的推动因素，使学术研究日益军事化。举例而言，颇具影响力的澳大利亚战略政策研究所（ASPI）公开倡导学术界与国防部门建立更加紧密的联系，并强烈强调国家安全的美德。虽然ASPI被设立为无党派智库，但其议程坚定地与不断扩张的国家安全体制保持一致；在澳大利亚境外，则通过与美国、英国、加拿大和新西兰的“五眼”情报伙伴关系，与盟国保持一致。ASPI首席执行官Peter Jennings和前首席国防科学家Robert Clark在一系列博客、评论文章与报告中，呼吁建立“对五眼友好”的大学部门，并设立澳大利亚自己的DARPA。五角大楼著名的国防高级研究计划局DARPA，曾负责从早期互联网，到9/11之后把“地狱火”导弹改装到“捕食者”无人机上等各种创新。^[24]¶

大学往往急于承接新的国防倡议。我所在的机构在堪培拉运营澳大利亚国防军学院，并设有新南威尔士大学国防研究所；该研究所的网页充斥着粗粝的战争技术图像，实际信息却很少，甚至完全没有说明哪些人参与其中。不过，更多时候，国防倡议受到大力宣传，信息也很丰富。例如，我们的“可信赖自主性”研究小组和网络安全研究所，都是校内广泛宣传且十分活跃的实体；新南威尔士大学也在2018年凭借5000万澳元政府资助成立的网络安全CRC中占有重要席位。参与此类倡议的部分学者是我认识并尊重的同事；因此，我的意思再次不是指责个人。毕竟，即使我的研究没有国防资助，我所在大学也从澳大利亚国防军获得可观收入，并且像几乎所有澳大利亚大学一样，教学和研究都依赖国家资助。重要的是，这种实际运行的基础设施，对于应对当代国防挑战所提出的跨学科问题至关重要。在澳大利亚情境中，DSTG（国防科学、技术与研究局）的STaR shots计划最明确地表达了这些问题，包括“敏捷指挥与控制”“颠覆性武器效应”和“信息战”等主题。最后这一项，是研究自动化和AI的人文与社会科学学者尤其受到欢迎的领域之一，我收到的来自本院的参与申报邀请便证明了这一点。尽管我是一名批判军事技术及更一般军事化现象的人文学者，我仍常发现自己处在奇怪的场合：与获得国防资助的研究者，甚至国防人员一道参加工作坊、研讨会和讨论小组。对我而言，这些是观察系统内部、理解其动机与逻辑的宝贵机会。例如，我与“可信赖自主系统”CRC的接触让我获益良多，尤其因为它们让我深入看到，在军方周边及内部开展的细致、乃至具有批判性的工作。¶

然而，风险在于，在此类情境中，“伦理”变成人文与社会科学研究者能够为经费申请贡献的一项东西，而美德则作用于研究的框定方式：把此类研究说成可以拯救生命、保障繁荣安全未来的国家必需之事。在这些美德经济中，“伦理”含义游移不定，使它可以同时指计算机科学家开发的可编码规则，以及法律学者、哲学家和传播学研究者等所创造的过程、程序与论坛。因此，那些原本可能对从事“国防工作”感到不安的研究者，可以让“伦理”把自己与武力行动及致命暴力隔离开来，而后两者正是包括澳大利亚在内的世界各地军队的核心行动精神。这反过来服务于产业和国防部门的利益，因为它制造了美德的缓冲层，遮蔽眼前的残酷。“伦理”因而可以被理解为一种漂浮能指，一个具有可塑性的指称，它附着于许多情境，并且很容易被动员来服务军事目的。¶

结论

学术界、国防部门与产业之间的这种联系，本不应令人意外：大学一直都是军事性机构，服从军事目的，并浸透尚武政治。毕竟，相比作为学习、知识生产与异议的场所，大学首先更是帝国与殖民的机构。然而，这种军事性所采取的形式，会随时代、技术以及意识形态和经济观念而变化。本章论证，在军方、大学和产业围绕AI与自主技术汇聚的过程中，可以辨认出一种独特的经济形式：“伦理”根据情境作为商品或流通媒介发挥作用，“美德”则大量借用军方与国家主义的价值观。在此对一个以新军事技术为中心、正在演化的澳大利亚产业所作的勾勒中，“伦理”润滑了合作的齿轮，掩饰了国防的暴力目的，却又在实践中始终可以被化约为一组狭窄且可编码的规定；这些规定取自预先界定的有关武装冲突、武器和人权的法律与公约。当然，浅薄的“伦理”并不新鲜，但它在澳大利亚情境中所发挥的关键作用值得重视。描绘并分析AI研究、产业与应用的这一汇流，是一项关键任务，因为它所遵循的逻辑和资助经济，不同于科技产业支持AI与大数据学术研究时的通常模式。这一军事化的“伦理”构型有可能转移并蔓延至其他情境，尤其当资金匮乏的大学把目光投向澳大利亚公共生活中仅存的少数资金充裕机构之一时。¶

借用那个著名的问题：怎么办？鉴于硅谷与美国国防部之间技术转化的历史，大型科技企业日益嵌入美国军事体制并不令人意外，但这一过程并非一帆风顺。2018年的Google员工集体离岗抗议，部分由公司参与Project Maven引发，显示出一条潜在裂缝。高技能科技工作者比多数人更具流动性，其技能需求旺盛，因此相较多数行业的个人，他们拥有更强的议价能力。但尽管集体离岗抗议受到高度关注，Google也十分公开地在Project Maven问题上退让，科技与军国主义的根本关系并未发生实质变化。当昆士兰科技大学（QUT）宣布启动TAS倡议时，学生发起了#booksnotbombs（要书本不要炸弹）运动（图1），聚焦军事巨头BAE与Thales被纳入CRC资助模式的问题。虽然运动没有成功，但它与Google离岗抗议都表明，面对军方资金在学术界和科技界日益增强的影响，两界有必要作出集体回应。对在这一领域工作的批判性学者而言，一个关键步骤是追踪资金——不是去获取军事资助，而是描绘资金如何流经大学及其周边的学术体系。开展这种调查式工作，无疑需要集体劳动，以及建立新的知识网络。当然，实施这一项目不会逆转、甚至不会减缓这一特定美德经济的运作。但它可以揭示问题的规模，从本文呈现的一般性论断和具体实例的混合，走向更扎实的批判，说明美德如何在军方、学术界与AI研究的交汇处运作。¶

¶

图内文字中文化：解除武装；面向真实世界的战争罪行；解除QUT武装；#要书本不要炸弹。原有被划去的导弹及Facebook标识保留。此图为原照片的AI中文化重绘，非历史现场的原始照片。¶

致谢

除为本文提供敏锐指导的编者与审稿人外，我还深深感谢Kate Devitt博士，她对早期版本提出了详尽、直率且建设性的反馈。Kate愿意回应一篇批评TAS的文章，证明了她自身严谨的伦理立场与宽厚的思想胸怀，但不应被视为她认可本文的论点。所有剩余错误均由我本人负责。¶

资助披露

本研究由澳大利亚政府倡议ARC DECRA DE190100486资助，也得到新南威尔士大学支持；该校是国防科学计划的成员，也是澳大利亚国防军学院的所属机构。¶

参考文献

• Amoore, Louise. ‘Algorithmic War: Everyday Geographies of the War on Terror’, Antipode 41.1 (2009): 49–69. 中文题名：《算法战争：反恐战争的日常地理》。

• Amoore, Louise. Cloud Ethics: Algorithms and the Attributes of Ourselves and Others. Durham: Duke University Press, 2020. 中文题名：《云伦理：算法与自我及他者的属性》。

• Australian Defence Force. ADF Philosophical Doctrine—Military Ethics. Australian Defence Force, 2021, https://theforge.defence.gov.au/adf-philosophical-doctrine-military-ethics. 中文题名：《澳大利亚国防军哲学条令——军事伦理。澳大利亚国防军》。

• Australian Department of Defence, Defence Export Strategy, Commonwealth of Australia, 2018. 中文题名：《国防出口战略》。

• Beard, Matthew. ‘Beyond Tallinn: The Code of the Cyberwarrior?’ in Allhoff F, Henschke A, and Strawser BJ (eds) Binary Bullets: The Ethics of Cyberwarfare, New York: Oxford University Press, 2016, pp. 139–56. 中文题名：《超越塔林：网络战士的准则？》；《二进制子弹：网络战争的伦理》。

• Bellanova Rocco, Jacobsen, Katja Lindskov, and Monsees, Linda. ‘Taking the trouble: science, technology and security studies’, Critical Studies on Security 8.2 (2020): 87–100. 中文题名：《自找麻烦：科学、技术与安全研究》。

• Boeing. ‘Airpower Teaming System’, https://www.boeing.com/defense/airpower-teaming-system/index.page. 中文题名：《空中力量协作系统》。

• Buzan, Barry, Wæver, Ole and de Wilde Jaap. Security: A New Framework for Analysis. Boulder: Lynne Reiner Publishers, 1998. 中文题名：《安全：一种新的分析框架》。

• Clark, Robert and Jennings, Peter. ‘An Australian DARPA to Turbocharge Universities’ National Security Research: Securely Managed Defence-funded Research Partnerships in Five-Eyes Universities’, ASPI, 2021. 中文题名：《以澳大利亚版DARPA加速大学国家安全研究：五眼国家大学中受到安全管理的国防资助研究伙伴关系》。

• Department of Defence. ‘Memorandum for the Establishment of an Algorithmic Warfare Cross-Functional Team (Project Maven)’, 2017, https://www.govexec.com/media/gbc/docs/pdfs_edit/establishment_of_the_awcft_project_maven.pdf. 中文题名：《关于成立算法战跨职能小组（Project Maven）的备忘录》。

• Department of Industry. ‘Growth opportunities. Department of Industry, Science, Energy and Resources’, 2021, https://www.industry.gov.au/data-and-publications/defence-national-manufacturing-priority-road-map/growth-opportunities. 中文题名：《增长机会。工业、科学、能源与资源部》。

• Der Derian, James. Virtuous War: Mapping the Military-Industrial-Media-Entertainment Network, 第2版, New York: Routledge, 2009. 中文题名：《有德性的战争：绘制军事—工业—媒体—娱乐网络》。

• Devitt, S. Kate. ‘Normative Epistemology for Lethal Autonomous Weapons Systems’ in Galliott, Jai, MacIntosh, Duncan and Ohlin, Jens David (eds) Lethal Autonomous Weapons: Re-Examining the Law and Ethics of Robotic Warfare, Oxford: Oxford University Press, 2021, pp. 237–58. 中文题名：《致命自主武器系统的规范认识论》；《致命自主武器：重新审视机器人战争的法律与伦理》。

• Devitt, S. Kate, Scholz, Jason, Schless, Timo and Lewis, Larry （预印本）. ‘Developing a Trusted Human-AI Network for Humanitarian Benefit’, Journal of Digital War “我的战争”（My War）专刊, 2022. 中文题名：《为人道主义利益开发可信赖的人类—AI网络》。

• Enemark, Christian. Armed Drones and the Ethics of War: Military Virtue in a Post-Heroic Age, New York: Routledge, 2014. 中文题名：《武装无人机与战争伦理：后英雄时代的军事美德》。

• Galliott, Jai, MacIntosh, Duncan and Ohlin, Jens David (eds). Lethal Autonomous Weapons: Re-Examining the Law and Ethics of Robotic Warfare, Oxford, New York: Oxford University Press, 2021. 中文题名：《致命自主武器：重新审视机器人战争的法律与伦理》。

• Halpern, Orit. Beautiful Data: A History of Vision and Reason since 1945, Durham: Duke University Press, 2015. 中文题名：《美丽的数据：1945年以来的视觉与理性史》。

• Howell, Alison. ‘Forget “Militarization”: Race, Disability and the “Martial Politics” of the Police and of the University’, International Feminist Journal of Politics 20.2 (2018): 117–36. 中文题名：《忘掉“军事化”：种族、残障及警察与大学的“尚武政治”》。

• Liljefors, Max, Gregor Noll, and Daniel Steuer (eds). War and Algorithm, London; New York: Rowman & Littlefield International, 2019. 中文题名：《战争与算法》。

• Massingham, Eve. ‘Automation of the Spectrum, Automation and the Spectrum: Legal Challenges When Optimising Spectrum Use for Military Operations’, Law, Technology and Humans 3.2 (2021): 91–106. 中文题名：《频谱的自动化、自动化与频谱：优化军事行动频谱使用时的法律挑战》。

• Ministers for the Department of Industry, Science, Energy and Resources. ‘Action Plan to supercharge research commercialisation’, 2022, https://www.minister.industry.gov.au/ministers/taylor/media-releases/action-plan-supercharge-research-commercialisation. 中文题名：《加速研究商业化行动计划》。

• Packer, Jeremy and Joshua Reeves. Killer Apps: War, Media, Machine, Durham: Duke University Press, 2020. 中文题名：《杀手级应用：战争、媒体、机器》。

• Phan, Thao, Jake Goldenfein, Monique Mann, and Declan Kuch. ‘Economies of Virtue: The Circulation of ‘Ethics’ in Big Tech’, Science as Culture 31.1 (2021): 1–15. 中文题名：《美德经济：“伦理”在大型科技企业中的流通》。

• Roberson, Tara, Stephen Bornstein, Rain Liivoja, Simon Ng, Jason Scholz, and Kate Devitt. ‘A Method for Ethical AI in Defence: A Case Study on Developing Trustworthy Autonomous Systems’, Journal of Responsible Technology 11 (2022). 中文题名：《国防领域伦理AI的一种方法：可信赖自主系统开发案例研究》。

• Sadowski, Jathan. ‘Potemkin AI.’ Real Life, 6 August 2018, https://reallifemag.com/potemkin-ai/. 中文题名：《波将金式AI》。

• Schwarz, Elke. Death Machines: The Ethics of Violent Technologies, Manchester: Manchester University Press, 2018. 中文题名：《死亡机器：暴力技术的伦理》。

• ———. ‘Silicon Valley Goes to War: Artificial Intelligence, Weapons Systems, and Moral Agency’, Philosophy Today 65.3, (2021): 549–69. 中文题名：《硅谷参战：人工智能、武器系统与道德能动性》。

• Sharkey, Noel. ‘Automating Warfare: Lessons Learned from the Drones.’ Journal of Law, Information and Science 21.2 (2011): 140–54. 中文题名：《战争自动化：从无人机获得的教训》。

• Shepherd, Tory. ‘Australia’s Aukus Nuclear Submarines Could Cost as Much as $171bn, Report Finds’ Guardian, 13 December 2021, 世界新闻版, https://www.theguardian.com/world/2021/dec/14/australias-aukus-nuclear-submarines-estimated-to-cost-at-least-70bn. 中文题名：《报告发现，澳大利亚AUKUS核潜艇成本可能高达1710亿澳元》。

• Suchman, Lucy. ‘Algorithmic Warfare and the Reinvention of Accuracy’, Critical Studies on Security 8.2 (2020): 1–13. 中文题名：《算法战争与精确性的重新发明》。

• Suchman, Lucy, Karolina Follis, and Jutta Weber. ‘Tracking and Targeting: Sociotechnologies of (In)Security’, Science, Technology, & Human Values 42.6 (2017): 983–1002. 中文题名：《追踪与瞄准：（不）安全的社会技术》。

• Viseu, Ana. ‘Caring for Nanotechnology? Being an Integrated Social Scientist’, Social Studies of Science 45.5 (2015): 642–64. 中文题名：《照护纳米技术？成为融入项目的社会科学家》。

• Whittaker, Meredith. ‘The Steep Cost of Capture’, Interactions 28.6 (2021): 50–5. 中文题名：《俘获的高昂代价》。

注释