第三章：处于极限的神经网络

露西·萨奇曼（Lucy Suchman）¶

神经网络之间的种种关联——依类比迁移的方向不同，它们或被读作技术化的生理学，或被读作生理化的技术——标示出一段跨越生命科学与系统科学学科边界往来交通的更长历史（见本书达利瓦尔［Dhaliwal］一章）。然而，认识到这些关联并不是探究的终点，而是起点。本章便从这一起点出发，重新审视大脑与计算机之间的同一/差异是如何被制造出来的；其目的不在于从形而上学或哲学上解决这一问题，而在于考察类比思维如何形塑神经科学与计算神经网络这两项事业，以及它在何处断裂。我追踪神经网络修辞织物中的两条线索：一是神经科学工作中技术类比与生理建模的相互缠绕；二是当大脑与计算机的对应关系在计算机科学的技术工作中断裂时，从模型向灵感（inspiration）的退却。我将考察大脑/计算机类比在神经科学和计算神经网络领域中使什么成为可能，以及当我们把这个故事的主角们在触及该类比极限时所采取的举动置于前景时，我们或许能学到什么。更具体地说，我要考察：对于女性主义神经科学家吉莉安·爱因斯坦（Gillian Einstein）——她沿着自己的研究问题从大脑走向具有性别/社会性别的身体及其世界——而言，大脑/计算机类比的断裂方式，如何不同于神经网络研究者杰弗里·辛顿（Geoffrey Hinton）所遭遇的断裂；后者即便承认这一类比的局限，仍致力于维系它。¶

简言之，我的论点是：支撑计算神经网络事业（以及计算神经科学对它的接纳）的那种持久承诺，是对认知主义（cognitivism）的承诺。在此语境中，认知主义意指这样一种智能理论：它建立在大脑/心智中形成的心理表征与一个被视为外在于它的世界之间的对应关系之上。大脑/心智被定位于颅骨的边界之内（Star 1992），它以输入的形式接收其周遭世界（为了处理的目的，这些输入或以符号方式、或以统计方式被呈现），并通过输出作出回应。近来人类学、科学技术研究、女性主义理论及相关领域中批判认知主义并阐述其替代方案的文献，如今已相当丰富。^[1] 相关论证的核心在于：认知与具身的、处于关系之中的人的生活经验不可分割——这些人彼此相关，也与在文化和历史中构成的社会世界和物质世界相关。在这些理论化工作及相关经验研究中，社会/物质世界的可理解性与意义是在实践中以各种方式被再生产和转化的，而不是被给予个体大脑/心智的。实践的政治——即社会秩序如何被施行、又带来何种差异化后果——是根本性的。¶

认知主义框架系统性地把一切不相契合之物降格为科学边界之外的副现象。^[2] 换言之，这种承诺不只是纲领性的，它正是使推理与计算之间的类比得以延续的东西。在认知主义之风中航行，导致了在两种路径之间来回抢风转向：一种是基于逻辑或规则的符号路径，被视为“抽象推理”；另一种是基于统计的路径，被形象化为“深度学习”。统计路径曾被设定为对符号路径局限的补救，如今它也开始显露自身的局限。随着对这些局限的认识日益增长，在认知主义的封闭世界之内唯一可行的路线，是以一种想象中的新型符号/统计混合体的形式，部分地回归符号。^[3] 这种表述模糊的综合许诺了一种解决方案，使从业者得以留在认知主义框架的边界之内。与这些发展处于论争性对话之中的，是一系列批判性介入，它们坚持关注有机智能与人工智能各自不同的物质史和文化史——在这里，智能不被理解为以大脑为中心的认知功能，而被理解为在集体性的世界营造（world-making）的持续关系之中、并通过这些关系而被激活的实践，无论其好坏。¶

阐明类比

神经元这一形象在科学技术研究（STS）中已得到广泛追溯，研究者们追踪了它作为前缀附着于从神经经济学（Schüll and Zaloom 2011）到神经文化（Vidal and Ortega 2011）等一系列领域的过程。布罗斯南（Brosnan）与迈克尔（Michael）（2014, 681）指出，美国国会将20世纪90年代定为“大脑的十年”，作为国际上科学技术资助者更广泛的“大脑转向”的一部分，导致资源被导入神经科学研究。他们对英国一个神经科学实验室中他们所说的“神经”之施行（enactment）的研究，建立在期望社会学（sociology of expectations）的文献（Brown and Michael 2003）之上，这类文献关注承诺性修辞在技术科学事业制度化过程中的述行效果。更具体地说，他们分析了尽管实验室工作与其临床应用之间存在系统性边界、“转化”（translation）的承诺却依然存在，以及“神经”在这些边界之内和跨越这些边界的施行所具有的多重性。他们提出，在此语境中，神经元与其说是作为一个实体在空间上凝聚成形，不如说是在时间上被黏附于一个想象中的未来——那个未来将把它在实验室中的物质化转化为临床上有效的干预。^[4]¶

STS中的另一条分析路线考察神经科学的生物还原论（Dumit 2004; Martin 2004）。维达尔（Vidal）（2009）追溯了“大脑主体”（cerebral subject）的谱系：它把大脑设定为人格的本质器官，把身体视为其容器。他认为，这种大脑中心主义自17世纪以来便是现代人类形象化的核心，其基础是个人主义以及一种可与身体和世界相分离的自我意识。维达尔指出：“‘我们就是我们的大脑’这一观念，并非神经科学进展的推论，而是神经科学研究的前提。”（2009, 7）^[5] 关于心智究竟可还原为大脑还是涌现而来的争论由来已久，无论它们在当代（计算）神经科学中的表现形式多么新颖。此外，尽管实验室工作的对象是生物学的有机物质，实验室工作同样涉及抽象化实践，因为“大脑那黏软的质料变成了图形比较、序列分析、数值测量和统计汇总的对象”（Lynch 1988, 273）。量化及其伴随的“变性”（denaturing）为神经元从生物实验室迁移到计算神经科学的研究“实验室”铺平了道路，而后者也带有它自己从研究到应用的转化承诺。^[6]¶

在人工智能的情形中，神经类比的局限，远不如这一类比作为技术事业之“直觉泵”（intuition pump，丹尼特［Dennett］［2013］首先如此命名）的力量来得重要。加里·马库斯（Gary Marcus）是计算神经网络事业的一位同情性批评者，他坚持认为，目标不应是让机器字面意义上复制人类大脑（无论在机器中字面复制有机物质可能意味着什么）。他指出，毕竟人类大脑“极易出错，远非完美”（2018, 21），言下之意，这些问题在计算机器的设计中或许可以避免。然而马库斯也承认，在许多领域人类仍保有优势。有一段话体现了一种生物技术想象——它既将人工之物自然化，又把有机之物设定为一向已是技术性的——马库斯在其中提出：“一个好的起点或许是首先尝试理解人类心智中的先天机制，把它当作关于机制的假设来源，这些机制可能对开发人工智能有价值。”（2018, 21）在这个计算占据支配地位的时代，大脑的“先天机制”被视为“一大批可复用的计算基元——类似于微处理器中基本指令集的基础处理单元——它们或许以并行方式连接在一起，如同那种被称为现场可编程门阵列的可重构集成电路”（Marcus, Marblestone, and Dean 2014），这几乎不足为奇。这些修辞举动看似拒绝了自然对文化的二元论，实则是将技术之物自然化，而非阐明有机之物与机器之物之间的差异或关系。把布线图想象为网络（network），利用了这个词的词源：它指“一种以网眼打结或编织而成的开放织物，用来活捉鱼、鸟或野兽”；而在19世纪，这个词又扩展为指称“任何复杂的、相互咬合的系统”。^[7] 一旦被重新物质化为运河、铁路及其他交通基础设施，网络这一形象便处于有利位置，可被转译进20世纪中叶的通信与信息技术之中，与之相伴的是计算（calculation）被确立为一种普遍过程，以及随之而来的对构成性实体与关系之特殊性的抹除。^[8] 于是，神经元便可以被形象化为一个决定突触连接之运作的逻辑门（见 Halpern 2022, 335）。¶

带着这段前史，我将考察技术与生理学之间的类比如何中介计算神经网络和实验室神经科学这两项事业；两位当代从业者就各自技术/科学实践的逻辑与轨迹所提供的叙述，正是其例证。如前所述，我关注的是：他们各自如何构想自己的实验领域，以及当他们遭遇该领域的方法论极限时，他们的事业走向何方。¶

计算机科学家杰弗里·辛顿工作中的神经网络

杰弗里·辛顿被广泛认为是人工智能中致力于计算神经网络——更具体地说是所谓卷积神经网络或深度学习——这一子领域的奠基者和领军研究者（见本书勒帕热-里歇［Lepage-Richer］一章）。辛顿是多伦多大学荣休杰出教授，曾获多项重要奖项，并曾任谷歌副总裁和研究员，他的目标“是发现一种学习程序，它能高效地在大型高维数据集中找到复杂结构，并表明这正是大脑学会看的方式”。^[9] 辛顿拥有实验心理学和人工智能学位，处在两种以实验室为基础的人类认知研究路径的交汇点上。¶

在与时任《连线》（Wired）主编尼克·汤普森（Nick Thompson）（2019）的一次对话中，辛顿对神经网络作了如下解释：¶

辛顿：你有一些相对简单的处理单元，它们非常松散地是神经元的模型。它们有传入的连接，每个连接上有一个权重，而这个权重可以通过学习来改变。神经元所做的，就是把连接上的活动乘以权重，全部加起来，然后决定是否发送一个输出。如果得到的和足够大，它就发送一个输出。如果和是负的，它就什么也不发送。差不多就是这样。你要做的全部事情，就是把无数个这样的东西连接起来，配上无数的平方那么多的权重，然后弄清楚怎样改变权重，它就什么都能做。问题只在于你怎样改变权重。

这是对汤普森请他解释神经网络是什么的回答，它体现了生物技术转译中那种滑动的修辞。这个问题被默认为是关于计算神经网络的，而回答一开始便提到“非常松散地是神经元的模型”的“处理单元”。此处把计算实体当作有机实体之模型的姿态是有所保留的，暗示二者的关系更多是一种类比，而非一个强主张。单元之间的连接具有“权重”——这是计算行话中一个熟悉的术语，指一组数学化的数值——辛顿解释说，这些数值通过“学习”而改变。在这里，一个与有机生命相关联的过程被用作技术术语，指根据预先规定的结果、依据较好与较差的结果对数值进行计算性调整。“神经元”在下一句话中再度出现，成为一个基于计算（针对如今被呈现为“活动”的过程）在二元选项之间作出“决定”的行动者。辛顿解释说，力量来自此类处理单元的数量与操纵数值的技术二者的结合。那必然是人类之手的戏法，则显现在“你”这一形象之中——正是这个“你”弄清如何调整那些权重。这是一个从系统到程序员的图形与背景的瞬间转换，它既在二者之间造成差异，又揭示出它们的相互依赖。^[10]¶

汤普森接着问道：“你是什么时候开始认识到，这是对大脑工作方式的一种近似表征的？”辛顿回答：¶

辛顿：哦，它一直就是这样设计的。它被设计成像大脑工作的方式那样。

汤普森：那么在你职业生涯的某个时刻，你开始理解大脑是怎样工作的。也许是在你12岁的时候，也许是25岁的时候。你是什么时候决定要仿照大脑来建造计算机的？

辛顿：差不多是马上就决定了。那就是它的全部意义所在。整个想法就是要有一个学习装置，它像大脑那样学习——像人们认为大脑学习的那样——通过改变连接强度来学习。

汤普森的问题暗示，计算神经网络至少为大脑的运作提供了一个近似模型；而辛顿的回答则把这一关系颠倒过来，把大脑定位为计算神经网络的模型。正是这种颠倒使得从模型到灵感的转换成为可能——例如，当汤普森在访谈后段就一项显然偏离了大脑中任何可见过程的计算技术追问时，辛顿便推托道：¶

辛顿：我不是在做计算神经科学。我不是在试图为大脑如何工作建立模型。我是在看着大脑说：“这东西管用，如果我们想造出别的管用的东西，我们应该多少从它那里寻找灵感。”所以这是受神经启发的，而不是一个神经模型。整个模型，我们使用的神经元，它们受到启发的事实是：神经元有很多连接，而且它们会改变连接强度。

这种对大脑与计算机之差异的重申，与辛顿在同一次对话中早先的说法相矛盾：“我们就是神经网络。凡是我们能做的，它们都能做。”正是“神经元”一词的多义性——它交替地指称计算神经网络的处理单元和作为实验室神经科学研究对象的生理实体——使得辛顿关于大脑–计算机关系的陈述能够在类比与同一、灵感与模型之间无缝切换。^[11]¶

随着对话转向意识、学习，最后转向辛顿关于做梦的“四种理论”，事情变得越来越缺乏根据。关于神经网络对教育的意涵，辛顿发表意见说：¶

我们现在知道……你只需输入随机参数，就能学会一切。如果我们真正理解了正在发生什么，我们就应该能够让诸如教育之类的事情运作得更好。我认为我们会做到的。如果你终于能理解你的大脑中正在发生什么以及它如何学习，却不能调整环境使你学得更好，那将是非常奇怪的……一旦［计算］助手能够真正理解对话，助手就可以与孩子们对话并教育他们。

学习这一形象在符号人工智能和神经网络话语中无处不在，可以追溯到最初的达特茅斯夏季研究项目提案（McCarthy et al. 1955, 1），该提案“以如下猜想为基础展开：学习的每一个方面或智能的任何其他特征，原则上都可以被如此精确地描述，以至于能够制造一台机器来模拟它”。在这里，学习被构想为一个位于大脑内部的过程，它由一个环境来供给服务，而这个环境必须先被表征或建模才能被登录。由此推出，应当有可能对环境进行再工程，以优化它与大脑处理需求之间的对齐。从技术上定义，神经网络语境中的学习指的是对产生“正确”输出所需之计算过程的优化，而所谓“正确”，是由被认为在目标领域具有相关知识的人所作出的判定的函数。但在其作为一个更具漂浮性的能指的功能上，学习成了所谓通用人工智能的圣杯，或者用马库斯（2018）的话说，成了“以类人的灵活性解决陌生问题”的能力。¶

马库斯（2018）在他对所谓深度学习——“一种利用多层神经网络、基于样本数据对模式进行分类的统计技术”——之进展的批判性评述中，指出了该领域所面临的他称之为“10项挑战”。其中首要的是对大量数据的依赖，而这种依赖在他看来是神经网络无法把握抽象关系所致。作为例子，马库斯指出，他的人类读者在被告知“schmister”这一概念——定义为年龄大于十岁但小于二十一岁的姐妹——之后，可以轻而易举地判断自己是否有一个schmister。他写道：“在学习什么是schmister时——在这个例子中是通过明确的定义——你所依赖的不是成百上千乃至数百万个训练样例，而是一种表征类代数变量之间抽象关系的能力。”（2018, 6）即便承认我们理解“schmister”这一概念的能力并非基于成千上万或数百万个训练样例，我们也不妨追问：它究竟在何种意义上是一种表征抽象关系的能力？无论如何，本文作者这位读者一听到这个词，立刻想到的就是我自己那几位非常鲜活、具身的姐妹。而且，除了十和二十一这两个数字之外，这在什么意义上是类代数变量之间的关系呢——除非“姐妹”和“schmister”这两个词被当作相关联的文本字符串，而非相关联的人？在这一语境中，“抽象”的观念已经预设了知识等于把实例正确地分类到类别中，而忽视了其他的模式与指涉，尤其是对生活中亲属关系的指涉。¶

马库斯指出，深度学习中的“深”并不指深刻，而是指计算过程中间层或隐藏层的数量（引入这些层是为了提高效率）。神经网络实际上的浅薄，是其广为人知的脆弱性（brittleness）的一个因素，这导致人们在某种程度上承认，它们事实上并不进行任何类似人类意义上的学习。马库斯（2018, 8）指出，那个被训练来玩电子游戏《打砖块》（Breakout）的神经网络——它著名地“意识到在墙上挖一条隧道是赢得游戏最有效的技术”——并不只是没有遵守规则。他指出，更确切地说，这个系统对挖掘、隧道、墙壁、游戏或规则毫无感知，它所感知的只是以某种方式被数学化的像素；给定一个预先确定的目标，它便部署统计技术，在任何给定回合中优化产生该输出的可能性。此外，神经网络无法处理马库斯所说的“先验知识”（常被称作“常识”），认知主义者把这个问题追溯到“抽象概念”的缺乏。^[12] 更宽泛地说，神经网络对实体及其关系没有质性的理解，这是人工智能一个悬而未决的问题，如今它促使马库斯提出需要“混合模型”，以及至少部分地回归表征性或符号性过程（Marcus 2018, 20）。然而，抽象可以由符号来表征这一前提，只是把问题重新框定为一个指称问题，同时仍在回避莱夫（Lave）（2011, 115）所说的“实践中的知识能力”（knowledgeability in practice）问题，包括学习与日常生活关切的不可分离。¶

与本文关切最相关的是，马库斯指出了他所描述的“机器学习中一种强调在本质上自足的问题上展开竞争的文化”（2018, 12）。这种对封闭世界的依赖，回避了源自计算感知域（sensorium）之局限的那些反复出现且悬而未决的问题。神经网络的运作需要一个由机器可读输入构成的数据集，这些输入可以接受分析，以找出与一组预定输出相吻合的统计相关性。数据集规模和处理速度的量的进步，丝毫无助于解决相关性与因果性之间那个臭名昭著的差异，也无助于处理因果性在我们对不确定的关系与效果进行推理时所占的位置。在以计算神经网络的脆弱性或狭窄性为框架的讨论中，主流话语隐含地援引了一种学习的迁移模型，而这种模型已遭到莱夫（1988, 2011）等学者的彻底批判。马库斯把这描述为“在训练空间之外进行泛化的问题”，而莱夫（2011, 155）则借用斯图亚特·霍尔（Stuart Hall）的“上升到具体”（rising to the concrete）这一形象（2003, 131），来命名将普遍化理论与持续展开的文化/历史世界之特殊性联系起来的能力。按照这种理解，计算神经网络对封闭世界的依赖，不只是其无力处理“新颖性”的症状，而是计算与在实践中/作为实践的认知（knowing in/as practice）之间一种更为根本的差异的症状。¶

吉莉安·爱因斯坦神经科学研究中的跨边界探索

计算神经网络的局限，是通过在实际操作上有效地封闭其被设计来运行于其中的世界而加以管理的。系统的效能通过其在一小组行业标准“基准”（benchmark）任务上的表现来衡量，并以竞争性“排行榜”上的相对分数来登录（Bender et al. 2021, 618; Inioluwa et al 2021）。支撑对计算神经网络之投资的那种从实验室到应用的转化承诺，是通过海量数据集及相应算力的结合、连同对由此产生之能力范围的过度表述而得以维持的。与本讨论最相关的是，正如我们在杰弗里·辛顿的案例中所见，把大脑说成计算神经科学之模型的主张所具有的策略性模糊，使得人们在面对有机体与机器之间不可转译的差异时，能够退回到把大脑当作灵感。¶

生物神经科学中的神经网络形象，同样带有20世纪技术想象的印记；而在实验室的范围之内，神经科学依照种种实验体制运作，这些体制提供了另一种形式的自我指涉的封闭。^[13] 然而，在主流神经科学的边缘，另一项转化事业正在进行之中：它以女性主义对大脑、身体和世界之异性恋规范性形象化的批判为基础，阐述一种关于生物差异的关系本体论（Haraway 1989, Martin 1991, Fausto-Sterling 2012）。为了探讨这一事业对神经网络问题的意涵，我转向女性主义神经科学家吉莉安·爱因斯坦的工作，她是多伦多大学爱因斯坦认知神经科学、社会性别与健康实验室的负责人。^[14] 在一篇题为《情境化的神经科学：探索多样性的生物学》（"Situated Neuroscience: Exploring Biologies of Diversity"）的论文中，爱因斯坦将她的事业描述为“对神经系统的研究，这种研究将为以往被噤声的研究领域发声，揭示无知的角落——而不仅仅是‘知识空白’——［并］彻底颠覆关于生物学本质主义的预期”（2012, 150）。¶

为了说明这可能意味着什么，爱因斯坦反思了她对东北非和西非传统的女性生殖器切割（female genital cutting, FGC）习俗之神经生物学效应的研究。她在研究之初假设，这些效应可能更广泛地构成了与之相关的“正常/可欲的”女性身体：¶

中枢神经系统（CNS）的参与，其结果将是使这一传统被具身化，影响接受过FGC的女性走路的方式、举止仪态，以及更一般地通过身体经验世界的方式，从而实际上使她们的文化被具身化。我特别想知道，这一传统的目的是否在于在中枢神经系统中实现一种男女之间的身体差异，而这种差异在没有这一手术的情况下是不存在的。（151）

爱因斯坦意识到，要追究这一假设，就需要对实验神经科学的主流方法作一系列扩展。首先，此前没有任何关于FGC的研究从神经生物学上追踪过它的效应。在她看来，这一“无知的角落”是由17世纪那种把身体视为一台由独立部件或系统构成之机器的模型所维持的（158）。她指出，在这一模型中，¶

大脑仍然高居于我们这具两极分化的身体之上，享有特权，其他身体系统像提线木偶的手臂、腿和躯干一样排布在线上——由大脑来牵拉和操纵。信息进来。大脑处理它。一个动作被生成，然后由周围神经系统执行。身体的其余部分作出反应。按照这种观点，大脑是身体的首席执行官。或许正因如此，身体本身未被认为是有知识的，因而也未被认为拥有它自己的叙事。（159）

与此相反，爱因斯坦坚持认为，¶

大脑并不是身体拥有的唯一神经系统。其他神经系统也在努力工作，与身体的其余部分相互作用，并受其影响。脊髓回路和周围神经系统——神经、感受器以及散布各处的神经元——例如视网膜、背柱核和肠神经系统中的——都对大脑皮层所“知道”的东西有所贡献……这强调了一点：身体、大脑和社会处于一种相互影响的互惠关系之中……世界书写在整个身体之上。（160）^[15]

因此，除了致力于追踪全身性的关联之外，爱因斯坦的假设还要求对她的方法作更激进的扩展，即超越身体、走向世界。这使她走出实验室，与十四位移居多伦多的索马里裔加拿大移民展开合作（她强调，在研究中这些女性被定位为同事而非受试者）。在她们的祖国，在她开展研究时，FGC习俗仍影响着98%的女性。爱因斯坦小心地指出，她的合作者们并不意在代表所有索马里女性，或所有经历过FGC的女性：“她们中的大多数人在［20世纪80年代末和90年代初］战争爆发时正在国外探亲、求学或工作，于是便再也没有回家。她们是健康、积极投入、充满活力的女性，对自己在世界上的位置有着特定的认识。”（163）她还强调，正如不存在单一的索马里文化或单一的女性范畴一样，FGC也是多样的。¶

大脑在这项研究中扮演了重要角色，这不仅是因为爱因斯坦关注大脑/身体/世界之间的相互关联，也是因为在方法上，转向神经生物学为她与对话者之间的交谈打开了空间。正如爱因斯坦所解释的：¶

我能够在与每位女性开始交谈时就说明，我感兴趣的不是她的生殖器，而是她的大脑。把问题从生殖器——在实行FGC的文化中这是一个沉默之处——转向大脑——一个此前未被考虑、但在大众想象中享有特权的部位——使参与者得以谈论她们的割礼，同时也把这个话题置于一个对她们而言受到尊重的空间之中。（161）

研究结果证实了FGC对这些女性的全身性影响，包括初始假设中所预期的那些影响（Perović et al. 2021）。与此同时，研究参与者并不认为自己是残疾的或不健康的，有些人还对自己所承受的一切表示自豪。尽管爱因斯坦清楚自己研究样本的规模之小与特殊性，她仍强调这项研究的意义：它进一步证明了大脑与身体多重且相互关联的神经系统不可分割，也证明了“疼痛”——无论是其可测量的形式还是其经验的形式——与神经生物学的文化具身化不可分割。¶

更一般地说，爱因斯坦坚持认为身体没有独立的部件，与其说大脑享有特权，不如说“神经系统是整个身体和世界的整合者，并与之相整合……因此，影响身体某一部分的实践，将被整个身体所拥有，或通过所有身体系统与环境之间的相互联系而被具身化”（2012, 158）。爱因斯坦表达了她对内分泌系统的“热爱”，并指出，内分泌系统以血液为媒介，作为“一个巨大的统一效应器而起作用；人们称之为调节器，但如果你真的认真对待，你可以说它是启动者，而不是调节器。你可以拿身体中任何一个曾被当作自成一体的系统来研究的部分，然后意识到它是整个身体的调节器，同时也被整个身体所调节”。^[16] 此外，失效是通向新知识的一个开口：爱因斯坦指出，虽然系统彼此分立这个“小谎言”或许具有一定的预测力，但“它不起作用的地方，恰恰很好地表明了事物真正相互关联之处”（访谈，2022年5月）。¶

爱因斯坦以神经“回路”来构想大脑，但对她而言，这些连接不仅深刻而复杂地被具身化，而且会随着无法化约为加权输入的经验而变化（2012, 162）。当被问及计算神经科学中神经网络类比的局限时，爱因斯坦指出了这样一个前提：计算神经网络的顶层被类比为输入感受器，而中间层则通过反向传播、以无法说明的方式决定系统的输出。相反，神经科学家关心的正是居于其间的东西：¶

在大脑中，一个网络由许多脑区中的许多神经元相互连接而构成。无论你把它看作层级式处理还是并行处理，网络中都有已被识别的、个别的神经元。在初级视觉皮层，或任何皮层中，我们至少愿意认为我们知道第一层、第二层中是什么类型的神经元，第三层的神经元投射到哪里，第四层从哪里获得输入，也就是布线图。据我对计算机科学模型中当前大脑类比的理解，人们不需要了解这些层的特殊性，因为反向传播并不要求我们理解输入与输出之间是什么的细节。但在大脑中，我认为要为一个真实的大脑如何处理输入建立模型，确实需要理解这些错综复杂之处。同样，对于某一特定脑区的内部连接而言，还有来自其他脑区的外部输入，而这些脑区可能正在获得关于世界的完全不同的信息（激素的、感觉的，等等）。（访谈，2022年5月）

我们或许还记得，辛顿的叙述仅仅根据相对权重来区分神经元；在某种意义上，所有神经元都是可通约的。相比之下，爱因斯坦的描述指出了神经元的不同类别（依据位置，而位置决定功能），而她上述关于内分泌系统的评论则表明，智能的调节因素弥散于整个神经系统之中，难以用固定的方式加以“寻址”。^[17] 尽管神经科学想象与电气工程想象的交汇在“布线图”这一形象中显而易见，但对爱因斯坦而言，最令人困扰的是计算主张在方法论上的意涵。她承认自己对神经科学实验室方法的投入，这种方法以“把东西拆开看它们做什么”为目标；她也坦承，在她的研究中，如果出现了一个没有在行为上表现出来的大脑变化，她所感到的不安，要小于出现了一个没有可观察到的大脑变化的行为变化。^[18] 当被问及她如何解释这一承诺的强度时，她解释道：¶

我相信行为是由大脑回路组织的。最终可能导致行为变化的东西，可能早先便在大脑中显现出来。虽然可能存在无法测量的、或其测量方式尚未被辨识出来的大脑变化——因此我们“看”不到它——但如果有一个可测量的大脑变化，而与之对应的行为尚未被观察到，我并不感到惊讶。组织一个行为需要大量的神经元。所以，一些神经元可能已经改变了，但还不足以产生行为上的变化。（访谈，2023年1月）

对爱因斯坦而言，实验并不是一项机械论的或还原论的事业，因为她认为神经元与其关系——无论是身体之内的还是身体之外的——不可分割。在方法论上，这带来了一项持续的挑战，即如何把她所说的“一个大世界和一个微小世界”结合在一起（访谈，2022年5月）。前者是性、社会性别与女性健康研究所涉及的人/身体/世界，而后者则是实验室科学的微观世界。质性研究的“不可测量的结果”^[19]与实验科学的测量体系往往难以衔接：在爱因斯坦关于女性生殖器切割案例的研究中，使用标准指数进行的慢性疼痛自我评估、生理指标，以及来自更长时间的质性访谈中所报告的经验，彼此无法以任何简单的方式对齐（Perović et al. 2120）〔译注：原文如此，应为2021〕；而经前综合征所显示的激素水平测量值与情绪并不相关（Romans et al. 2012）。她指出，即便确实出现了关联，研究对话者对关于大脑–身体关系的既有叙事的熟悉，以及她们对这些问题之流行框定方式的适应，也使得确定因果的工作更加复杂（访谈，2022年5月）。¶

在我们谈话的最后，爱因斯坦说，她常常思考那种要发现某种可普遍化之物的标准科学主义冲动，并想知道，如果不把内分泌（或免疫等）系统这类调节性系统以及情境纳入考量，这如何能够实现：¶

我认为，产生某种“基本”东西的一般科学目标，对于现实世界中的生物系统不会很奏效。在真实的生物学中，差异与变异才是“基本的”。要找到“真的”东西，我们需要把我们的主张限定在研究开展时的确切条件/有机体/被调节状态之内。如果有人把差异同质化、对变异轻描淡写，他们就会失去使这些系统运转起来的东西。我认为我们在大脑面前需要保持谦逊。我们可以了解到一些关于摘除了卵巢的老年雌性斯普拉格–道利（Sprague Dawley）大鼠CA1锥体神经元的知识，但这甚至并不能真正告诉我们另一种啮齿动物中同一类型神经元的情况，更不用说人类了。我告诉我的学生，我们所了解和报告的，是一个特定的现象，发生在这种动物（人类或非人类）身上、在这个年龄、在一个给定的情境中。也许，真正知道某种真的东西，就是限定我们的主张，然后开始将这些主张与其他主张进行比较。（访谈，2022年5月）

爱因斯坦在此所抵制的那种“基本”的意义，其作用在于划定研究对象的内部与外部——具体到计算神经科学的情形，即作为神经网络的大脑——其方式是把其他系统呈现为副现象，从而是无关的。^[20] 相比之下，对爱因斯坦而言，生物大脑被视为与“在世界之中的身体”不可分割，而一门能够提供根本洞见的神经科学，需要能够扩展、以纳入其对象之构成性关系的方法。换言之，她并不是去限定她的研究对象，而是致力于随着理解的加深，重新打开并重新配置它的边界。¶

当神经网络想象遭遇其极限时，我们或许能学到什么

勒帕热-里歇（2021, 200）采用“对抗性认识论”（adversarial epistemology）这一修辞，论证关于神经网络的知识主张“在历史上取决于一种更宏大的技术–认识论想象，这种想象将知识自然化地理解为抵抗、反制和克服一个假定对手的持续努力的产物”。在计算神经网络的情形中，这个对手不仅是一个隐藏其秘密的大脑，也是关于如何揭示这些秘密的种种相互竞争的主张。颇具讽刺意味的是，马库斯等人（见 Olazaran 1996）把神经网络支持者们承诺之坚定，与其说归因于数据或逻辑，不如说归因于计算界内部历史上的斗争与敌意脉络——这始于20世纪60年代马文·明斯基（Marvin Minsky）和西摩·佩珀特（Seymour Papert）对弗兰克·罗森布拉特（Frank Rosenblatt）的“感知机”（perceptron）所作的批判（Marcus 2022）。神经网络在20世纪80年代的重新兴起，被明确地框定为符号路径的一种不可调和的替代方案。^[21] 符号路径被描述为已经走进了死胡同，导致了20世纪80年代所谓的“人工智能寒冬”；而如今马库斯提出了一条新的“混合”前进道路，称之为“神经符号”（neurosymbolic）路径（Marcus 2022）。^[22]¶

换言之，随着所谓深度学习路径的能力显露出其局限，计算神经科学中出现了向“智能需要对符号进行操纵”这一观念的回归。^[23] 马库斯（2022）将符号操纵描述为包含两个基本要素：“用来表征信息的符号集合（本质上就是代表事物的模式），以及以一种特定方式处理（操纵）这些符号，使用类似代数（或逻辑，或计算机程序）的东西来对这些符号进行运算。”一旦大脑被理解为参与符号操纵，而符号又被转译为代码（二进制数位或比特串），那么被读作符号操纵的神经过程便现成地适合于计算运算。正如马库斯所解释的：“符号为外推提供了一种有原则的机制：合乎法则的、代数式的程序，可以被普遍地应用，而不依赖于与已知样例的任何相似性。它们（至少目前）仍然是手工构建知识、并在新情境中稳健地处理抽象的最佳方式。”（2022）^[24]¶

深度学习路径曾寄望于：只要有足够的数据，再加上检测潜在有意义之相关性的精密技术，智能便会“涌现”。然而，就其基本假设与承诺而言，深度学习路径和符号路径的共同之处，多于它们所能提供的替代性。虽然一者依赖统计分析，另一者依赖对决定计算运算的算法（所谓规则）的编码，但二者都在研究开始之前就已经把认知转译成了一个计算问题。无论是随机过程的产物还是“抽象推理”的产物，理解都要通过这样一些运算来实现：这些运算得益于大脑“识别”来自一个被外在化的世界的输入、并将其转译为可操纵之数字的能力，而这些数字又被转译为适当的输出。¶

按照这一逻辑，作为抽象推理机器的大脑/心智，随后需要被置于与一个被理解为外在于它、与它相分离的“真实世界”的交互之中。对生物学而言，大脑/身体/世界之间的关联是通过有机体/环境所固有的关系过程而形成的，而对计算神经科学而言，这些关联是有待设计的界面。如今对这种自然/文化二元论形式的批判已经相当成熟，内容过于丰富，无法在此复述。^[25] 但对本文的目的而言至关重要的是这样一个前提：关于实在的文化/历史表述，与我们作为人类所栖居的真实世界之间，存在着不可分割的关系。对大脑与计算系统的划定，以及对二者之间同一和/或差异的阐述，并不是客观观察这一清白无辜的事情，而是一项世界化（worlding）^[26]的事业，所有参与这场讨论的我们都牵涉其中。而且，其利害关系并不局限于实验室，而是对于我们如何划定人类的边界以及其他/超越人类的关系的边界，具有政治的、经济的和物质的后果。¶

我希望从这些故事中引出的寓意，关乎在理论和方法上致力于限定（containment）与封闭的局限。我已经指出，对认知主义的承诺，除其他外，维系着实验室计算科学的封闭世界逻辑。这一承诺似乎让从业者们在遭遇其实践的理论与方法论极限时别无他途，只能进行一种许诺新的、有益的综合的回归。我已经指出，另一种选择更接近于阿格雷（Agre）（1997, 23）所设想的批判性技术实践（critical technical practice），他写道：¶

它不寻求基础，而是会拥抱基础之不可能，以一种对其自身作为一种历史特定实践之运作方式的持续展开的意识来引导自己。它会使对这一实践的进一步探究……成为实践本身的有机组成部分。它会接受，这种反身性探究使其所有概念和方法都处于风险之中。而它会积极地看待这种风险，不是将其视为对理性的威胁，而是视为更好地做事方式的希望。

正如吉莉安·爱因斯坦的工作所表明的，要实现阿格雷的呼吁，就需要在自己的知识生产实践中容忍一定程度的杂乱与不完整，并对自己的知识主张保持谦逊。在一位批判性实践者手中，与认知之偶然性和局部性的遭遇，不被视为一种需要被隐藏的失败的迹象，而被视为世界性关系不可补救之开放性的迹象。这些关系所涉及的学习模式是深的——不是在同质数字阵列的倍增和巧妙操纵的意义上，而是就其牵涉于持续进行的、异质的世界营造实践而言。¶

参考文献

• Adam, Alison. 1998. Artificial Knowing: Gender and the Thinking Machine. New York: Routledge.
• Agre, Philip. 1997. Computation and Human Experience. New York: Cambridge University Press.
• Barad, Karen. 2007. Meeting the Universe Halfway: Quantum Physics and the Entanglement of Matter and Meaning. Durham, N.C.: Duke University Press.
• Bender, Emily, Timnit Gebru, Angelina McMillan-Major, and Shmargaret Shmitchell. 2021. “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” FAccT’ 21. Accessed May 26, 2023. https://dl.acm.org/doi/10.1145/3442188.3445922.
• Brosnan, Caragh, and Mike Michael. 2014. “Enacting the ‘Neuro’ in Practice: Translational Research, Adhesion and the Promise of Porosity. Social Studies of Science 44, no. 5: 680–700.
• Brown, A., L. Karkaby, M. Perovic, R. Shafi, and G. Einstein. 2022. “Sex and Gender Science: The World Writes on the Body.” In Sex Differences in Brain Function and
• Dysfunction, ed. C. Gibson and L. Galea, 3-25. Berlin: Springer Cham.
• Brown, Nick, and Mike Michael. 2003. “A Sociology of Expectations: Retrospecting Prospects and Prospecting Retrospects.” Technology Analysis & Strategic Management 15, no. 1: 3–18.
• Butler, Judith. 1993. Bodies That Matter: On the Discursive Limits of “Sex.” New York: Routledge.
• de la Cadena, Marisol, and Mario Blaser, eds. 2018. A World of Many Worlds. Durham, N.C.: Duke University Press.
• Dennett, Daniel. 2013. Intuition Pumps and Other Tools for Thinking. New York: Norton.
• Dhaliwal, Ranjodh Singh. 2022. “On Addressability, or What Even Is Computing?” Critical Inquiry 49, no. 1: 1–27.
• Dreyfus, Hubert. 1992. What Computers Still Can’t Do. Cambridge, Mass.: MIT Press.
• Dumit, Joe. 2004. Picturing Personhood: Brain Scans and Biomedical Identity. Princeton, N.J.: Princeton University Press.
• Edwards, Paul. 1996. The Closed World: Computers and the Politics of Discourse in Cold War America. Cambridge, Mass: MIT Press.
• Einstein, Gillian. 2012. “Situated Neuroscience: Exploring Biologies of Diversity.” In
• Neurofeminism, New Directions in Philosophy and Cognitive Science, ed. R. Bluhm, A. J. Jacobson, and H. L. Maibom, 145–74. London: Palgrave Macmillan.
• Fausto-Sterling, Ann. 2012. Sex/Gender: Biology in a Social World. New York: Routledge.
• Goodwin, Charles. 1994. “Professional Vision.” American Anthropologist 96, no. 3: 606–33.
• Goodwin, Charles. 2017. Co-Operative Action. Cambridge: Cambridge University Press.
• Hall, Stuart. 2003. “Marx’s Notes on Method: A ‘Reading’ of the 1857 Introduction.” Cultural Studies 17, no. 2: 113–49.
• Halpern, Orit. 2022. “The Future Will Not Be Calculated: Neural Nets, Neoliberalism, and Reactionary Politics. Critical Inquiry 48, no. 2: 334–59.
• Haraway, Donna. 1989. Primate Visions: Gender, Race, and Nature in the World of Modern Science. New York: Routledge.
• Haraway, Donna. 1991. Simians, Cyborgs, and Women: The Reinvention of Nature. New York: Routledge.
• Haraway, Donna. 1997. Modest_Witness@Second_Millenium.FemaleMan_Meets_ OncoMouse™: Feminism and Technoscience. New York: Routledge.
• Heikkilä, Melissa, and Will Douglas Heaven. 2022. “Yann LeCun Has a Bold New Vision for the Future of AI.” MIT Technology Review, June 24. Accessed May 26, 2023. https://www.technologyreview.com/2022/06/24/1054817/yann-lecun-bold-new-vision-future-ai-deep-learning-meta/.
• Hutchins, Edwin. 1995. Cognition in the Wild. Cambridge, Mass.: MIT Press.
• Inioluwa, Deborah Raji, Emily Bender, Amandalynne Paullada, Emily Denton, and Alex Hanna. 2021. “AI and the Everything in the Whole Wide World Benchmark.” 35th Conference on Neural Information Processing Systems (NeurIPS 2021). https://arxiv.org/pdf/2111.15366.pdf.
• Lakoff, George, and Mark Johnson. 1999. Philosophy in the Flesh: The Embodied Mind and Its Challenge to Western Thought. New York: Basic Books.
• Latour, Bruno. 1993. We Have Never Been Modern. Cambridge, Mass.: Harvard University Press.
• Lave, Jean. 1988. Cognition in Practice: Mind, Mathematics, and Culture in Everyday Life. Cambridge: Cambridge University Press.
• Lave, Jean. 2011. Apprenticeship in Critical Ethnographic Practice. Chicago: University of Chicago Press.
• Lepage-Richer, Théo. 2021. “Adversariality in Machine Learning Systems: On Neural Networks and the Limits of Knowledge.” In The Cultural Life of Machine Learning: An Incursion into Critical AI Studies, ed Jonathan Roberge and Michael Castelle, 197–225. London: Palgrave.
• Lynch, Michael. 1988. “Sacrifice and the Transformation of the Animal Body into a Scientific Object: Laboratory Culture and Ritual Practice in the Neurosciences.” Social Studies of Science 18, no. 2: 265–89.
• Lynch, Michael. 1993. Scientific Practice and Ordinary Action: Ethnomethodology and Social Studies of Science. New York: Cambridge University Press.
• Marcus, Gary. 2018. “Deep Learning: A Critical Appraisal.” arXiv preprint arXiv: 1801.00631
• Marcus, Gary. 2022. “Deep Learning Is Hitting a Wall.” Nautilus. March 10. Accessed October 2022. https://nautil.us/deep-learning-is-hitting-a-wall-238440/.
• Marcus, Gary, Adam Marblestone, and Thomas Dean. 2014. “The Atoms of Neural Computation.” Science, 346 (6209), 551–52.
• Martin, Emily. 1991. “The Egg and the Sperm: How Science Has Constructed a Romance Based on Stereotypically Male-Female Roles.” Signs: Journal of Women in Culture and Society 16, no. 3: 485–501.
• Martin, Emily. 2004. “Talking Back to Neuro-reductionism.” In Cultural Bodies: Ethnography and Theory, ed. H. Thomas and J. Ahmed, 190–211. New York: Wiley & Sons.
• McCarthy, John, Marvin Minsky, Nathaniel Rochester, and Claude Shannon. 1955. “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence.” Accessed May 26, 2023. http://raysolomonoff.com/dartmouth/boxa/dart564props.pdf.
• Myers, Natasha. 2015. Rendering Life Molecular: Models, Modelers, and Excitable Matter
• Durham, N.C.: Duke University Press.
• Olazaran, Mikel. 1996. “A Sociological Study of the Official History of the Perceptrons Controversy.” Social Studies of Science 26, no. 3: 611–59.
• Perović, Mateja, Danielle Jacobson, Emily Glazer, Caroline Pukall, and Gillian Einstein. 2021. “Are You in Pain if You Say You Are Not? Accounts of Pain in Somali-Canadian Women with Female Genital Cutting.” PAIN: The Journal for the International Association for the Study of Pain 162, no. 4 (April 2021): 1144–52.
• Romans, Sarah, Rose Clarkson, Gillian Einstein, Mateja Perović, and Donna Stewart. 2012. “Mood and the Menstrual Cycle: A Review of Prospective Data Studies.” Gender Medicine 9, no. 5: 361–84.
• Schull, Natasha, and Caitlin Zaloom. 2011. “The Shortsighted Brain: Neuroeconomics and the Governance of Choice in Time.” Social Studies of Science 41, no. 4: 515–38.
• Slaby, J. and S. Gallagher. 2015. “Critical Neuroscience and Socially Extended Minds.”
• Theory, Culture & Society 32, no. 1: 33–59.
• Smith, Brian Cantwell 2019. The Promise of Artificial Intelligence: Reckoning and Judgment. Cambridge, Mass.: MIT Press.
• Star, Susan Leigh. 1992. “The Skin, the Skull, and the Self: Toward a Sociology of the Brain.” In So Human a Brain, ed. Anne Harrington, 204–28. Boston: Birkhäuser.
• Suchman, Lucy. 2007a. Human-Machine Reconfigurations: Plans and Situated Actions, rev. ed. New York: Cambridge.
• Suchman, Lucy. 2007b. “Feminist STS and the Sciences of the Artificial.” In The Handbook of Science and Technology Studies, 3rd ed., ed. E. Hackett, O. Amsterdamska, M. Lynch, and J. Wajcman, 139–63. Cambridge, Mass.: MIT Press.
• Thompson, Nicholas. 2019. “An AI Pioneer Explains the Evolution of Neural Networks.” Wired, May 13. Accessed May 26, 2023. https://www.wired.com/story/ai-pioneer-explains-evolution-neural-networks/.
• Varela, Francisco, Thompson, Evan, and Eleanor Rosch. 1991. The Embodied Mind: Cognitive Science and Human Experience. Cambridge, Mass.: MIT.
• Vidal, Fernando. 2009. Brainhood, Anthropological Figure of Modernity. History of the Human Sciences 22, no. 1: 5–36.
• Vidal, Fernando, and Franciso Ortega. 2011. “Approaching the Neurocultural Spectrum: An Introduction.” In Neurocultures: Glimpses into an Expanding Universe, ed, F. Ortega and F. Vidal, 7–27. Frankfurt am Main: Peter Lang.

注释