[8] 论知道得太多：技术人员围绕网络匿名性的话语

On Knowing Too Much: Technologists' Discourses Around Online Anonymity¶

保拉·比亚尔斯基（Paula Bialski）¶

本章关注技术人员（technologists）如何对待他们所收集、管理和分析的数据：他们有时觉得自己对个体用户知道得太多、看到得太多，有时又觉得自己知道得太少，从而渴望收集更多数据。基于在旧金山针对数据经纪人、黑客、行动者、大公司隐私团队、应用开发者、博主和密码学家所做的初步研究，我建立了一套处理数据之角色的类型学。借助编织的隐喻，我把数据想象为构成织物的丝线。借助这一隐喻，我追问：谁收集这些丝线？谁把它们聚拢、编织，又是谁将它们剪断？数据是如何被收集和处理的？

引言

人生中总有一些时刻，我们会无意间听到自己并不特别想听的谈话。那天我坐着晚班火车从吕讷堡（Lüneburg）回汉堡——车厢里除了我自己、我已睡着的伴侣，就只有两个三十来岁的波兰恶棍。他们用波兰语交谈，以为不会有人听懂，便以正常音量讨论起一桩正在策划的毒品勾当：他们想雇一个运毒者，坐船把五公斤毒品运到瑞典。凭借我对波兰语的熟练理解，我开始搜集一条条信息：五公斤，去瑞典的船，几千欧元，还有没完没了的问题——怎样找一个看起来合适、警察不会怀疑的运毒者，怎样才不会被抓。最好是个娇小的小妞。或者是个基佬。或者是一对情侣。谁会干这活？他们可以利用谁？甚至在他们说出那些性别歧视和恐同的言论之前，我就在心里想：“这太过分了。我知道得太多了。”火车快到汉堡了，我僵住了，心想：“现在该拿这些知识怎么办？”我心里有很大一部分想用 iPhone 追踪他们——拍几张照片，录下他们的谈话，再把信息用电子邮件发给汉堡警方，来一次“公民逮捕”式的行动。我心里的另一部分则不想追踪和跟踪他们。仅仅因为我掌握了这些信息，凭什么由我来拥有揭露他们身份的权力？他们对我监视他们一事毫不知情，这使我的追踪行为显得不正当。我是否应当剥夺这两个人本来可能抽身于这桩毒品交易的意图和自由？我的伴侣醒了，我把发生的事告诉他之后，他开始生气。这两个家伙在说性别歧视的话？他挺起胸膛，转过身去瞪着他们。他们几乎没有察觉。火车停靠汉堡中央车站，他跟在他们身后下了车。他们仍旧没有察觉。虽然这个故事以两个恶棍浑然不知我们的存在、离开车站而告终，我却忍不住一直在想——当人们真的知道得太多时，他们会怎么做？知道得太多的人之间又存在着怎样的情感维度？¶

每个人都有一种特定的生活形式或生活模式。正如格雷瓜尔·夏马尤（Gregoire Chamayou）在《无人机理论》（Drone Theory）中所解释的，我们的日常行为是重复的，我们的举止具有一定的规律性。¶

〔译者注：此处原文引用了格雷瓜尔·夏马尤《无人机理论》英译本（Chamayou 2015, 75）的一段文字，大意为：你大致在同一时间起床，经常走同一条路线去上班或去别处，常在同样的地方与同样的朋友见面；一旦你被置于监视之下，你的一切行动都可以被记录下来，进而建立起一张关于你日常所为的时空地图；此外，通过截听你的电话，观察者还可以把你的社会网络叠加到这张地图上，确定哪些是你的私人联系，并计算每一条联系在你生活中的重要程度。〕

正如一份美国陆军手册所解释的：“当敌人从一处移动到另一处时，监视会追踪并记录其到访的每一个地点和每一个人。这些地点和人员与目标之间的联系被建立起来，敌人网络中的节点便浮现出来”（Chamayou 2015, 76）。¶

这些实践、行为以及做事的日常模式，都是标识我们是谁的识别标记。当今用于收集、传输、分析和呈现的数字基础设施，使持续的数据挖掘成为可能（Couldry and Powell 2014）——持续地挖掘构成“我们”的东西。正如我在旧金山田野调查期间结识的一位技术人员向我解释的那样：“你会惊讶于你实际上有多么独特。从数据的角度来看，所有那些说我们都一样的说法都是错的。”要找到那个特定的 30 岁男人非常容易：他生于 4 月 16 日，身高正好六米，早上八点去上班。^[1]¶

如今，许多日常活动在无需人类赋予意义或进行建构（甚至无需最基本的同意）的情况下就会产生数据。随着传感器网络的创新，个体开始产生的不是“由包含内在意义或建构意义的消息所组成的‘内容’，而仅仅是数据——温度读数、状态更新、位置坐标、轨迹、痕迹和签到”（Couldry and Powell 2014, 3）。这些单个数据类型本身未必有任何意义——但经由聚合、关联或计算而结合在一起时，这类数据便能提供大量信息。“我们正在经历一场治理的转型——既包括其机制，也包括其参照点——这场转型很可能对政府的实际运作过程以及人们对社会世界的日常理解产生深远影响”（Couldry and Powell 2014, 1）。¶

为了处理这一问题，库尔德利和鲍威尔（Couldry and Powell）指出，新兴的数据收集文化值得以这样一种方式加以审视：它突出个体行动者的能动性与反身性，以及权力与参与得以被建构和实施的多变方式。我赞同这一说法，因为它呼吁重新评估结构与能动性之间的张力，以及行动者在我们这个数据驱动的环境中的控制与抵抗；然而，“行动者”或“数据主体”往往把探究更多地引向“用户”，而较少引向屏幕背后正在发生的事情，即那些收集、操作和分析我们数据的技术人员的身体与头脑之中所发生的事情。比尔（Beer 2009, 999）曾指出，社会学还必须“关注……那些在日常生活中与软件打交道的人”；我想补充的是，社会学还必须关注软件工程师、系统管理员和数据分析师如何设想用户的日常生活——从而对以下问题展开更为开放的探究：哪些类型的决策被作出，哪些类型的斗争在上演，以及在实施影响我们日常生活的技术时存在哪些障碍。正如我将在本文中探讨的，技术人员思考着他们所收集、管理和分析的数据——有时觉得自己可能知道得太多、看到得太多，有时又觉得自己知道得太少，从而渴望得到更多。¶

这些操作无人机的技术人员或旧金山的分析师，正是看到我们生活模式的人。理解他们对我们的鸟瞰视角，有助于我们思考他们的能动性，而这种能动性本身“对于思考数据权力的分配至关重要”（Kennedy et al. 2015, 2）。为了透彻思考这两个维度——能动性与数据权力——我的研究聚焦于当今的一个关键问题：匿名性（anonymity）。¶

巴赫曼等人（Bachmann et al. 2014）借鉴斯特拉森（Strathern）的《切割网络》（“Cutting the Network”，1996）提出，如果想要理解匿名性，就必须开始把它概念化为在识别标记上进行切割的行为。采取某种形式的匿名——例如无面孔、无名字或假名——意味着一个人把这些可能具有识别性的、关于个体性与差异的标记从某人身上“切掉”。“当第二方把个人信息与其所属之人联系起来，或未能将二者联系起来时，匿名性才发生真正的得失”（Ponnesse 2013, 344）。¶

在蓬内斯（Ponnesse）看来，这一联系与解除联系的过程是“某种特定控制之运作的结果”（2013, 344）。由于当代社会日益建立在网络化的信息与基础设施之上，我们正面临一些新的问题：信息、财产与人的网络如何能够被联系起来或解除联系，以便产生、维持、放弃或改变匿名性——以及谁掌握着这种控制。¶

如今，这些切割是由特定的技术或特定的人来协助完成或全权居间操办的。当这些切割发生时——阻止某一条信息到达另一方（无论是一个人还是一台服务器）——匿名性就在上演。切割可以由匿名互动的 A 方、B 方或双方作出，但越来越多地也有其他行动者在影响这一切割时刻：例如系统管理员、隐私团队和数据分析师。因此，我不打算聚焦于“用户”如何在其自身个体性与差异的潜在识别标记上进行切割，也不打算聚焦于“用户”如何创造情境性的、关系性的和局部的不可知性、不可见性与不可追踪性——我希望聚焦于像夏马尤故事中的无人机操作员，或我在旧金山访谈过的技术人员这样的人。由于一系列复杂的原因，既涉及物质结构，也涉及技术人员所处的社会经济体系，他们在匿名性形式如何发生转变这一问题上，时而是有权力的中介者，时而又是无权力的中介者。此外，“技术人员”并非只是一个人——每个人都有各自不同的议程。我之所以有兴趣理解他们——而不是用户——还源于想要理解并拆解这样一个“黑箱”（Star 1992）：他们往往是如何在我们不知情的情况下收集并知晓我们的“生活模式”的。¶

为了探讨这些角色，以及他们如何变得“知道得太多”，我将在本文中做几件事：¶

首先，我将介绍我研究中的方法，即建立一套“知道得太多的角色”的类型学。这些角色包括来自科技行业各个领域与层面的数据科学家、技术人员、系统管理员、密码学家和应用开发者。其中一些人为大公司工作，另一些人则在创办自己的初创企业。我之所以建立这些韦伯式的理想类型（Weberian ideal types），不仅是为了综合和解释那些“知道得太多”的人的各种角色与意识形态，也是为了掩护我所访谈的对象的身份——较少聚焦于个人及其识别标记，而更多聚焦于他们处理数据时的情感维度。我意识到，在做一项关于匿名性的研究时对数据进行匿名化处理的方法需要更多的解释，但我会把这一点留待另一篇文章，出于时间考虑，此处不予展开。¶

其次，为了拆解这些“知道得太多”的人物的行动，我将运用“切割”这一隐喻，把数据收集比作纺织品生产。这一路径的灵感来自唐娜·哈拉维（Donna Haraway）关于纱线与文化的隐喻，更具体地说，来自贾尼斯·杰弗里斯（Janis Jefferies）。杰弗里斯是一位英国艺术家和理论家，她运用纺织品的隐喻来生产围绕计算与数字技术的新知识。她建议我们关注纺织品，尤其是图案所提供的一种物质性知识：在图案化的表面上，曾经不可见的东西——概念性的、情感性的、有质感的东西——变得可见（Jefferies 2012）。循着这一思路，我把数据想象为构成织物的丝线。借助这一隐喻，我追问：谁收集这些丝线？谁把它们聚拢、编织，又是谁将它们剪断？数据是如何被收集和处理的？什么样的剪刀作出这些切割？它们锋利吗？它们切出的是干净利落、难以察觉的切口，还是说它们很钝，剪切时会留下疤痕和碎屑？在这一切割中握着剪刀的女裁缝或裁缝是谁？是否有些人握着剪刀，却根本不作任何切割？究竟为什么要作出切割？这些女裁缝和裁缝有着不同的议程，而在本文中，我只是开始分析切割的技术，向你们展示谁是那些知道得太多的人，以及他们如何处理自己所知道的东西。¶

方法介绍

本研究的田野调查是为一个更大的项目而开展的，该项目题为“重构匿名性——转型中的互惠、可识别性与问责的当代形式”（“Reconfiguring Anonymity—Contemporary Forms of Reciprocity, Identifiability, and Accountability in Transformation”）。这个为期三年的项目始于 2015 年 8 月，是一项跨学科的事业，汇集了社会人类学家、社会学家、媒介学者和艺术家，旨在就当代线上线下混合世界中维持、改变或放弃匿名性的种种机制产生新的见解。¶

2015 年 8 月，我在旧金山待了将近两个月，在此期间访谈了黑客、行动者、大公司的隐私团队、应用开发者、博主和密码学家。我总共进行了 20 次深度访谈，时长从半小时到数天不等。我还与一家浏览器提供商的隐私团队进行了一次焦点小组访谈，参加了科技隐私主题的聚会，并作了一场公开讲座（在维基媒体基金会［Wikimedia Foundation］）。这项初步研究随后使我参加了一些面向技术人员的会议和工作坊，例如 2016 年 12 月在维也纳举行的“欧洲信任与身份工作坊”（“European Workshop for Trust and Identity”），该工作坊汇集了致力于跨组织信任与身份等各类议题的技术人员。¶

我的访谈是非结构化的，我主要通过“混在一起”（hanging out）并询问受访者下一步该找谁谈来获得联系人。我们的讨论主要围绕这些行动者如何对待数据和用户的人格，围绕正在开发的、用于帮助用户匿名化以及帮助存储和加密数据的工具。我们还讨论了网络上匿名或假名的未来。¶

基于这次田野调查，我开始看到这些技术人员或数据经纪人在处理、交换个人数据以及在伦理上对待个人数据的方式中存在的冲突与一致之处。在本文中，我将把我的理想类型限定为三种“信息裁缝”（Information Tailors）：聚合者（aggregators）、分配者（allocators）和分析者（analysts）。虽然本文仅仅标志着我分析的开端，但我认为这最初的三种“理想类型”可以帮助我们透彻思考数据权力的分配，以及技术人员在处理数据时，对与个体之人相关联之信息的知道与不知（un-knowing）中所体现的能动性与反身性。同样，为了帮助直观地呈现这一过程，我将把数据收集比作纺织品生产。¶

信息裁缝

聚合者

这些行动者收集、记录并存储来自用户的数据。他们是人与机器的混合体。他们可以是一种技术机制，比如一个数据包存储系统，粗略地说，它从一个 IP 地址所传输的任何信息中收集数据包，并将其存储在服务器上。数据聚合是网络的一个核心结构。数据聚合者在网络上随处可见，从谷歌和网上约会网站到小型应用程序。就知道得太多而言，数据聚合者是收集并准备数据的人——或者用织物的隐喻来说——他们收集成十、成千、成百万、成十亿的丝线，以纺成纱或线。这里的一根“丝线”就是一个信息项（Item of Information，IOI），它们被梳理、分拣，并被导向这台或那台服务器或数据存储。虽然聚合者未必“知道”得太多，但他们收集并记录大量数据，以便为用户及其平台和产品开发者创造更多知识。¶

正如一位正在开发自己应用的数据聚合者所说：“人类正在放弃自己的隐私，以便参与各种有益的实践（例如量化自我类应用）。”作为一名应用设计者，他根据应用的前提来决定究竟需要聚合哪些数据（例如，一款跑步应用会聚合用户的跑步速度和频率、跑步路线等）。¶

这位应用设计者认为，我们聚合的数据越多越好——他把数据解释为一个有益的全球大脑。他说：“对于任何系统，一旦你开始记录它，它就存在于某个地方了。所以问题其实是：我是否信任整个系统会照顾我自己的利益？如果我不信任，我又愿意付出多大努力来确保它这样做？那些参与各种实践、并希望这些实践保持私密或匿名的人，不应该考虑退出分享这些信息，而必须帮助优化一个中央系统，这个系统既能充当声誉系统，也必须收集并保护其用户数据。”回到我们的裁缝隐喻，这位应用设计者很兴奋地想看到更多数据、用个人数据做更多事情，同时又表达了他的总体感受：那些交出自己数据的人，应当信任像他这样把他们的数据穿成线并加以存储的人——他向用户承诺，可以信任他会对这些数据加密，并把它们存放在正确、安全的地方。¶

然而，并非所有数据聚合者都抱有同样的愿景，即“拥有和收集得越多越好”。一位操作系统开发者兼系统管理员在一次讲座中试图激励他的技术人员同行，他建议他们应当通过“少记日志”来“少聚合”。为了给那些不熟悉日志记录——数据聚合的一个基本组成部分——的人提供背景，这位技术人员解释道：“日志是由网络化服务产生的”，例如，系统管理员必须为调试而记录日志，并且要有审计跟踪和可用性研究（一个网站如何被使用），这对分析很有用。被记录的数据涵盖许多领域，但他特别指出：“有一些细节更具可识别性，它们会产生这样一些信息模式，可以被用来针对某个人，但也许不会被那个人自己使用。比如 IP 地址、谁登录了一台机器，还有被记录下来的邮件头、被记录下来的密码学参数，有一大堆各种各样的东西，在这些数据集中形成可被指纹识别的痕迹。”¶

“少记日志”是系统管理员和信息科学家之间被称为“数据最小化”（data minimization）的实践的一部分。这是一种理论路径，起源于 20 世纪 80 年代，与网络化基础设施和信息科学同时出现，而如今似乎只在“身份管理”行动者中得到推广，这些行动者以透彻思考个人身份保护和数据管理为己任。信息科学家普菲茨曼和汉森（Pfitzmann and Hansen）解释说，这一路径“意味着，首先，收集他人个人数据的可能性应当被最小化。其次，在剩余的可能性之内，个人数据的收集应当被最小化。最后，已收集的个人数据的存储时长应当被最小化”（Pfitzmann and Hansen 2010, 6）。¶

一位聚合者解释道：“默认情况下，甚至不是有意的，我们就在收集数据；如果我们什么都不做，数据就会被存储下来。但谁被允许存储数据？删除也是一个有意识的决定。而且还有一个责任问题——由谁来决定删除什么？这里存在一个意识问题。”¶

他慷慨激昂地说：¶

我认为这值得思考——人们常常意识不到这样一个简单的道理：如果有人试图从你这里获取关于别人的数据，你有很多不同的方式可以抵制他们从你这里得到这些数据。但最简单的抵制方式就是不拥有这些数据。得出这个结论简直蠢到家了，但这确实是抵制把数据交给别人的最容易的方式。干脆就别拥有它。

虽然我在这里没有时间解释数据聚合者的所有变体、他们的意识形态和议程，但我所提到的这两位表明，稀疏编结的和密集织就的数据丝线都在发挥作用。我提到的那几位技术人员偏爱稀疏的数据丝线，因为他们担心这些丝线会落入坏人之手。那位应用开发者则相信，密集织就的丝线在制作更高质量的衣物时会更有用，而信任这位裁缝及其技术将有助于用户分享更多数据，进而使技术人员能够更多地了解用户的生活模式。¶

分配者

在关于主体的“知道得太多”的游戏中，数据分配者是决定哪些丝线进入哪些织物的行动者。分配者通常是公司里的隐私团队——他们是收集丝线的数据聚合者与把各种丝线编织在一起以制成某块布料的数据分析者之间的中介。分配者的议程是保护用户，使其免于在公司收集哪些数据这一问题上“被知道得太多”。^[2] 这些分配者考虑的是公司的用户、公司的形象、有多少东西可以被“知道”，以及有多少东西应当对公众“保持未知”。分配者不仅决定如何处置正在被收集的丝线，还决定首先要收集哪些丝线，或者说哪些信息项。在田野调查中，我了解到，许多大公司都拥有完整的隐私团队来保护用户数据，这些隐私团队扮演着把关人（gatekeepers）的角色。较小的应用程序资金仍然紧张，团队只有三到五人而非几百人，可能就没有一个十分周全的信息分配者。一个人可能同时充当分配者、设计者和管理者——身兼许多其他职务——而投入到保护这些数据上的精力，或许不如在一个以守护数据为唯一职责的隐私团队中那样多。¶

我交谈过的一位数据分析师向我解释了他们的数据聚合与数据分配团队：“新工具是有空间的，但目前大量数据只是被聚合起来却没有被使用。”为什么没有被使用？因为隐私团队不允许他们使用。他解释说，必须引导用户这样想：“我们信任那些聚合这些数据的公司，相信它们不会用这些数据做任何过于敏感或泄露我们隐私的事情。”在这种情况下，隐私团队必须确保这种信任不被破坏——只分配一小份数据供使用，不让用户对其他用户知道得太多。我们可以把分配者想象为知道与遗忘之游戏中的把关人。¶

分析者

正如其名称所示，分析者分析关于用户的信息。他们这样做出于各种原因——为了衡量用户对其产品的参与度，或者为了给公司打造一款新产品。分析者收集由分配者向其开放的各种丝线，或者说信息项，织成织物，并缝制成衣。分析者有时会被他们所拥有的数据量以及他们对一个用户所拥有的知识量压得喘不过气来。一家大型社交网络平台的一位分析师说：“我拥有的信息多到你无法想象。我对用户所知道的东西多得离谱。我可能会想：‘嘿，我不知道我是否应该追踪这个’，但我看得出我们不得不这么做。这是我有时会感到困扰的事情。”¶

分析者可以接触到数据分配者，他们以这样或那样的方式编织数据丝线，制成某种布料；这里指的是一款应用的某项功能。这位自称嬉皮士的分析师还解释了他的道德困境：“这就是你的工作，帮助人们作决策。所以数据越多越好。但有时我们也会说：‘我们为什么要这样做？数据越少越好。’”在我看来，这一困境是数据权力及其控制感的困境：一方面，他渴望更多地了解用户并创造更多功能；另一方面，他又觉得自己在侵犯用户的隐私。¶

另一位分析师在谈到对大数据和监控的批判时感叹道：“完全的匿名性不会给我们足够精确的数据。”他这句话的意思是，数据安全往往意味着拥有更少的数据、删除数据或安全地存储数据。但为了让系统更快、提供更多功能并让这些系统更好用，他必须拥有更多数据，更多地了解用户。这就是可用性与数据安全之间的张力。“我们如何把某人对匿名性的需求置于系统功能之上？那些设计和实现涉及用户隐私之产品的人，往往想把工作做好，而为了做到这一点，他们需要拥有尽可能多的数据”（数据分析师，旧金山，2015 年 8 月）。¶

对这些技术人员而言，这种道德困境并非每天都会出现。正如另一位分析师所说：“那些设计和实现匿名系统的人只是技术人员，他们不是哲学家或社会学家，他们的决策并没有经过完全深思熟虑——他们不会考虑脑中闪过的所有可能想法。由于不能对一切都面面俱到，产品开发的效率就会受到影响。在极端情况下，开发者不会想到所有的问题（即隐私或匿名性问题）。”¶

这又一次造成了用户匿名感的不稳定，即他们认为自己透露了什么，以及他们认为接收方对他们知道些什么。我交谈过的一位数据分析师只收集关于用户交通路线和手机运营商的信息。他解释说，他经常与他的隐私团队发生冲突，因为他们没有分配足够的数据供他使用。这种对信息不断进行的联系与切割，在以下几者之间的张力中发挥作用：分析者被允许知道什么，被允许发明什么，想要知道什么，以及他们觉得什么在个人层面上越过了“知道得太多”的道德界限。¶

结论

本文探讨的是一项持续进行的、关于“知道得太多的人”之描述的最初分析阶段。在这项描述中，我希望解开那些匿名性裁缝的故事——他们在匿名性如何在网上得到实践这一问题上进行切割或建立联系。我相信，要充分理解今天的匿名性是如何被“做”出来的，以及更一般地，个人数据是如何被处理的，质性研究应当考察“切割”数据的性质、用于切割和联系的工具，以及这样做背后的意识形态与议程。围绕大数据的进一步研究还应当纳入软件工程师、系统管理员和数据分析师的声音，他们直接或间接地影响着用户的日常生活。这样做将揭示哪些类型的决策被作出，哪些类型的斗争在上演，以及在处理个人数据时存在哪些障碍。对切割与联系之情感维度的这一描述，有望进一步揭示匿名性正在如何被重构，并阐明技术与社会相互缠绕的织体。¶

参考文献

Bachmann, Goetz, Michi Knecht, Gertraud Koch, Nils Zurawski, and Ulf Wuggenig. 2014. "Reconfiguring Anonymity: Contemporary Forms of Reciprocity, Identifiability and Accountability in Transformation." In Grant Application: Volkswagen Stiftung. Accessed November 2016. http://reconfiguring-anonymity.net/blog/wp-content/uploads/2015/07/Project_description_web.pdf.¶

Beer, David. 2009. "Power through the Algorithm? Participatory Web Cultures and the Technological Unconscious." New Media & Society 11: 985–1002.¶

Chamayou, Gregoire. 2015. Drone Theory. New York: The New Press.¶

Couldry, Nick, and Allison Powell. 2014. "Big Data from the Bottom Up." Big Data & Society 1 (2), July–December: 1-5.¶

Jefferies, Janis. 2012. "Pattern, Patterning." In Inventive Methods: The Happening of the Social, edited by Celia Lury and Nina Wakeford, 125–136. New York: Routledge.¶

Kennedy, Helen, Thomas Poell, and José van Dijck. 2015. "Data and Agency." Big Data & Society 2 (2), July–December: 1-7.¶

Pfitzmann, Andreas, and Marit Hansen. 2010. "A Terminology for Talking about Privacy by Data Minimization: Anonymity, Unlinkability, Undetectability, Unobservability, Pseudonymity, and Identity Management." Accessed January 30, 2015. http://www.maroki.de/pub/dphistory/2010_Anon_Terminology_v0.34.pdf.¶

Ponnesse, Julie. 2013. "Navigating the Unknown: Towards a Positive Conception of Anonymity." The Southern Journal of Philosophy 51 (3): 320–344.¶

Star, Susan Leigh. 1992. "The Trojan Door: Organizations, Work, and the 'Open Black Box'". Systems Practice 5 (4): 395–410.¶

Strathern, Marilyn. 1996. "Cutting the Network." The Journal of the Royal Anthropological Institute 2 (3): 517–535.¶

注释