简介
社交媒体已证明自己是催化美国和世界各地政治行动主义和社会变革的重要工具1然而,正是这些特性使得它对那些寻求提高更高的可扩展性、移动性和低进入成本的人非常有用,也使得它容易被恶意行为者操纵,他们利用它来执行影响操作和传播分裂言论。这些试图影响公众舆论的不良行为者既包括边缘群体,也包括资金充足、人员配备丰富的政府机构,近年来,他们的数量不断增加<这种新型的治国方略只是社交媒体对社会产生广泛影响的一个例子,这一主题需要更多的研究和长期的机构投资
扩大影响力运营知识库的一个关键障碍是利用高度敏感的数据进行可信、可重复的科学研究。原则上,这一挑战可以由公司员工(内包)或外部学者(外包)解决,但这两种途径都有局限性
尽管社交网络和互联网平台表达了支持更好研究的愿望,并明确了激励措施,但此类研究很难外包。常见的挑战包括:为缺乏明显产品途径的研究获取人员和预算,管理数据隐私问题,建立研究的可信度,努力解决启动可能在平台上反映不佳的项目的困难,克服由于社交媒体公司普遍不愿与竞争对手共享数据而造成的跨平台工作限制。招聘顶级人才也可能是一个挑战,因为许多研究人员不愿在此类公司工作,因为他们担心自己无法发表论文或独立性受到质疑3由于这些障碍,公司很少对长期非商业问题进行内部研究,至少相对于每天每秒产生的大量数据而言<雅各布·N·夏皮罗(Jacob N.Shapiro)是普林斯顿大学政治和国际事务教授,研究范围包括冲突、经济发展和安全政策。普林斯顿大学政治系和伍德罗·威尔逊公共与国际事务学院,新泽西州普林斯顿,08540
通过与学者共享数据外包研究带来了一系列不同的挑战
当科技公司允许外部人员处理个人用户帐户数据时,它们面临着广泛的法律和声誉风险。以往通过外包研究来规避这些障碍的尝试也远未达到预期。举一个例子,2018年,Facebook和一个基金会联合会以及哈佛、斯坦福和其他大学的学者成立了社会科学一号。该组织的选举研究委员会遵循了一种模式,即一群学者与Facebook合作,确定可以安全匿名的数据,然后将其发布给研究人员——这项任务结果比预期的要难得多5建立类似于美国政府联邦统计研究数据中心(RDC)的数据共享机构的努力尚未为更广泛的学术界(例如斯坦福互联网天文台)带来成果6虽然临时合作解决了上面讨论的一些挑战,但它们通常基于不可扩展的个人关系7
研究人员和行业参与者(社交媒体公司和互联网平台的简称)都需要新的模式来思考如何建立持久的组织,这些组织可以利用广泛的专业知识,关注新问题,保持足够的稳定性以吸引顶尖人才,并灵活处理大量高度敏感的信息。为了最大限度地开发知识,这些组织需要在研究过程的多个阶段解决与激励相关的问题,从概念化到资源化、数据共享到出版。此类组织还需要以现有系统无法实现的方式实现跨平台工作
学术研究人员和美国国防界之间的长期关系提供了几种制度模型,可以作为开发新解决方案以填补这一空白的灵感。这些丰富的持续合作形式几乎都介于柏拉图式的开放科学理想和私有内部研究之间。它们涉及妥协和巧妙利用合同、财务和声誉机制将熟练的研究人员与难题联系起来,同时为他们提供取得进展所需的资源。这些模型可以塑造行业行为体如何思考和寻求催化研究,从打击恶意影响行动到减轻分心的心理成本
Michelle Nedashkovskaya
从整体上看,国防研究生态系统基本上解决了一系列需要在产学研合作中解决的任务(或至少是它们的国防等效物)。根据最近的经验,有三项特别重要:
- 任务1:保持可信度并吸引外部研究人员
- 任务2:保护数据,同时支持跨平台研究;和
- 任务3:克服结构性障碍,包括:
- 高层决策周期不足,
- 不愿研究某些主题,
- 产品导向文化, >和短期关注8
在本文中,这三项任务作为评估不同倡议及其解决或不解决问题的框架。论文的其余部分探讨了国防与学术界合作的丰富历史中的经验教训,提供了一些例子,可以帮助思考如何更好地支持在线影响力行动的研究,以及与新兴技术相关的其他主题。第一节简要讨论了解决上述三项任务的现有模型的局限性,包括内包的挑战和外包的困难。接下来,本文考察了其他领域的正式和非正式合作模式,主要是国防和情报,也包括劳动经济学。这些模型对一些人来说很熟悉,但在更广泛的影响力运营社区中并不知名。最后一节讨论了中间组织的好处以及建立中间组织的五个具体原则
现有模型的局限性
近年来,有几项研究试图更好地理解社交媒体如何被用于恶意目的。主要的社交媒体平台都建立了内部研究小组,几个智库建立了研究机构,各个学者也同时开发了一些模型。总的来说,这些机构培养了广泛的宝贵知识,但在重要方面也有所欠缺
Jan Oledan
内包的挑战
研究社交媒体对社会的影响这一挑战的一个看似明确的解决方案是,企业通过内包自己承担工作。不幸的是,尽管社交媒体和互联网平台显然必须在这些调查中发挥关键作用,但它们面临着特定的限制,阻碍了它们在多年时间框架内推动科学研究的能力9
行业参与者在进行可信研究方面面临着真正的挑战(见上文任务1),公众对大型平台采取重大措施提高其内部能力以打击网络影响力努力的反应冷淡就证明了这一点。例如,Facebook已经雇佣了数百名员工,并投资了一系列新技术,以帮助在其产品中针对其所谓的“协调不真实行为”10谷歌一直通过其“谷歌新闻倡议”(Google News Initiative)支持更有效的新闻报道,同时致力于制定积极的策略,将虚假信息排除在搜索结果之外11Twitter一直在关闭与网络操纵相关的账户,并发布大量数据,以帮助研究国家赞助的影响力运营<尽管最近采取了这些举措,但社交媒体公司仍因未能平息不真实的行为而受到批评<为什么会这样?部分答案肯定是最近丑闻的后果,这些丑闻动摇了公众对行业参与者的信任,加剧了可信研究的系统性障碍<例如,据报道,在2018年重大隐私事件之后,Facebook的信任度下降了66%涉及剑桥分析公司使用该公司数据的丑闻16自那以后,该平台也因发布了一款Facebook Research应用程序而受到批评,该应用程序允许该公司广泛访问用户的移动设备<此类丑闻极大地影响了公众对行业参与者的看法,从而加剧了对内部研究独立性和道德的担忧18它们还强化了公司不完整披露的历史,这引发了人们对他们是否愿意公布对其影响或政策反映不佳的调查结果的质疑19这段历史也加剧了对文件抽屉偏见的担忧,即当空结果不太可能被公布时,整体知识的失真20由于公司有强大的财务激励来压制不利的研究结果,纯粹的外包研究可能总是会受到怀疑
任务2的核心,保护数据,对于纯粹的内部研究来说相对简单。但这项任务的后半部分(支持跨平台研究)使维护安全变得更加困难21根据定义,跨平台工作不能完全外包。这是一个真正的挑战,因为老练的社交媒体操纵者同时在多个平台上运作,因此任何一家公司识别和锁定他们的能力都是有限的
此外,充分了解影响力运营的结构和影响可能需要使用通常分析资源有限的较小平台的信息。跟踪平台上不良行为者的概况和活动对于了解如何管理影响力活动很重要,但如果研究人员系统性地缺乏来自较小平台的数据,则无法可靠地评估影响。然而,许多这样的公司缺乏资源来进行投资,以识别大型公司所做的网络操纵行为。单靠外包是不够的,至少在跨平台信息共享方面没有显著改善
最后,行业参与者未能克服任务3所带来的一系列结构性障碍。即使相关行为体打算这样做,他们的许多努力也受到阻碍,或花费的时间远远超过预期,因为他们需要高级领导人关注不同部门之间的协调。预计会产生对公司不利结果的项目(因此不受一些高管的欢迎)被推迟或资源不足。而且,大多数社交媒体平台普遍存在的频繁内部重组往往会使研究计划获得批准变得复杂。这些公司中的大多数都是在一个极其快速的变革时期成长起来的,这导致了一种频繁的人员流动和重组的文化22这使得执行多年研究项目变得极其困难,因为每次领导层更换或重组都需要为此类项目建立新一轮联盟23高流动率也会造成人才招聘方面的障碍。具备执行最具挑战性基础研究技能的人通常希望在能够长期专注于一个问题集的地方工作
在某些方面,最重要的结构性障碍与大多数社交媒体公司流行的短期、以产品为中心的文化有关24在基础研究项目开始时,此类研究咨询与公司产品之间的联系往往不清楚(事实上,其结果在定义上是未知的,否则就不是研究),因此在许多公司都很难接受。这种不确定性也使得在出现意外的产品相关问题时(例如,如果一个主要的软件发布对其他产品产生了意外的后果,并且需要重新分配工程资源),很难对人员和预算分配进行辩护。当项目需要跨多个部门进行协调时,这些挑战会加剧。除了强大的产品导向文化外,大多数社交媒体平台也倾向于关注短期,尤其是下一季度、半年或一年的业绩。尽管这是许多动态盈利公司的特点,但这一特点使得执行持续数年的项目变得困难,正如许多社会科学项目通常所做的那样。
在与对科技公司缺乏信任、数据隐私担忧、跨平台研究限制和结构性障碍相关的无数挑战之间,单靠内包无法解决研究差距。这就留下了几个对民主很重要的问题:运营对受众决策有什么影响(如果有的话)?影响运营的现有对策是否有效?平台的内容节制政策会无意中扼杀美国公民的政治言论吗?解决此类问题需要超越内包的创新方法
外包的困难
外包带来了一系列不同的挑战。与外部组织合作的行业行为者取得了一些显著的成功。例如,在Facebook信息共享的支持下,数字取证研究实验室(Digital Forensics Research Laboratory)提供了一些最丰富的公开数据源,其中包括巨魔战术、技术和程序。不幸的是,数据隐私问题往往阻碍了这种形式的合作
社会科学一号倡议体现了这些挑战25社会科学一号专门设计用于通过三阶段过程可靠地吸引外部研究人员(任务1)。首先,一个著名的学术委员会,即所谓的选举研究委员会,将作为一个值得信赖的第三方,了解学术界的需求,同时充分访问公司的专有数据,以便确定有助于学术目标的数据。然后,董事会和公司(最初是Facebook)努力匿名化数据以保护用户隐私,最后,研究计划通过同行审查程序的外部学者获得数据访问权,并有能力在未经公司事先批准的情况下发布其发现,这是一项支持研究独立性的措施<在意识形态多元化的慈善团体的支持下,为该倡议提供资金也可以缓解对公正性的担忧。这种方法旨在实现高可信度的研究,同时保护用户隐私以及公司严密保护的商业秘密
虽然《社会科学一号》在克服内部方法固有的问题方面取得了令人钦佩的进展,虽然它支持重要的数据发布和有希望的研究,但它也面临着一系列意想不到的挑战,最终阻碍了它实现其许多既定目标。最关键的是,该组织的领导层低估了解决与发布该计划的第一个数据集相关的隐私问题的难度27Facebook无法向研究人员提供所承诺的细粒度数据,因为大规模匿名化在技术和法律上比预期更具挑战性。社会科学一号所能提供的有限数据与承诺相比相形见绌,导致一些资助者从该计划中获得支持28
最终,操作障碍阻碍了社会科学一号解决任务2和任务3。它无法以充分利用学术研究人员所需的方式保护数据。它也没有解决超出数据访问范围的许多长期结构性障碍(也没有打算这样做,除非作为一种可能方法的示范)。《社会科学一号》需要在数据匿名化方面进行大规模、定制、一次性的努力,这推动了该主题的最先进水平,但它没有创建一套持久的组织流程
当然,阻碍研究的一系列数据共享问题远远超出了匿名化。即使是能力很强的公司,数据也会非常混乱。公司通常没有跨产品的标准化数据,这加剧了共享和理解数据的挑战。与学术研究人员所需要的相比,文件通常是稀疏和不完整的。在数据共享之前解决公司内部的这些问题可能需要昂贵的工程工作以及跨业务部门的协作。这些额外的复杂性意味着研究人员需要建立深入、长期的合作关系,才能完成第三项任务。否则,他们将很难知道他们可以或不能为他们的研究提供什么样的数据,也很难知道如何利用发布的数据
到目前为止,外包的失败不应阻止对允许行业参与者共享数据的体制框架的探索。但是,公司和学术研究人员所做的最突出的努力是角落解决方案,要么是纯外包,要么是专注于在开放科学框架中推出数据,这两种方法都可能在重要方面继续步履蹒跚。这种状况应该推动工业界和研究界寻求创新的制度解决方案
国防与安全领域的模型如何解决导言中确定的三项关键任务的示例:
- 任务1:保持可信度并吸引外部研究人员
- 任务2:保护数据,同时支持跨平台研究;任务3:克服结构性障碍
本节首先强调了非正式机制在促进学术和国防机构之间的有效关系方面的作用。然后,它审查了一些促进研究项目的正规组织,这些项目既不能完全由政府内部提供,也不能通过竞争性研究资助外包给学术机构
非正式机制研究人员和从业者之间的个人互动一直是支撑美国国防政策的研究基础的关键部分。这样的关系为学者提供了对国家安全问题的深入了解,这些问题往往是高度敏感的,需要确定哪些问题可以用学者的技巧来回答例如,诺贝尔奖得主托马斯·谢林和阿尔伯特·沃尔斯特特(Albert Wohlstetter)在兰德公司(RAND Corporation)工作期间,通过与核武器界的合作,深入了解了核战略的基础工作<同样,斯科特·萨根(Scott Sagan)在核武器安全固有的组织限制方面的关键工作也利用了他在参谋长联席会议担任外交关系委员会(CFR)国际事务研究员以及后来在同一办公室担任顾问的时间<凯特琳·塔尔马奇(Caitlin Talmadge)对常规战争中核升级的可能性进行的新研究借鉴了对现任和前任官员进行的数十次采访,其中许多人愿意在塔尔马吉担任CFR斯坦顿核安全研究员期间建立的人际关系基础上发言,以及她作为政府研究员在华盛顿特区智库和大学的访问
可以肯定的是,有支持机构培育了这种长期的人际关系。学术方面最引人注目的是CFR国际事务研究金(IAF),自1967年以来,该基金资助了约600名研究员。IAF将职业中期的外交政策专业人员(包括学者)置于新的角色,让公共部门接触学者,反之亦然。例如,如果没有迈克尔·C·霍洛维茨(Michael C.Horowitz)在IAF任职期间积累的人脉和背景知识,一些关于无人机和人工智能长期影响的领先学术研究就不会发生<在军事/国防方面,陆军战争学院军事教育1级(MEL-1)研究员计划是现役人员与研究界建立关系的众多资助教育机会之一。MEL-1研究员在哈佛、普林斯顿和斯坦福等大学或布鲁金斯学会等智库工作一年。通过给国防政策界的研究人员及其同事建立信任和建立共享知识的机会,这些计划有助于为数据共享和克服结构性障碍奠定基础(任务3)
非正式关系也是过去十年蓬勃发展的叛乱和非正规战争研究的核心。这篇论文的作者之一夏皮罗作为冲突实证研究项目(ESOC)的联合主任参与了这项工作,ESOC是一个基于普林斯顿大学的多大学联合体35自2009年以来,ESOC以各种方式支持了100多篇研究论文,包括:致力于解密和建立阿富汗、伊拉克、墨西哥和菲律宾战斗事件的数据36与美国国防部各机构合作,发布恐怖组织的内部文件,并与兰德公司的学者共同编写关于这些文件的研究<开发伊拉克项目实施的定性数据38,并与多个国家级官僚机构合作,建立印度合同和开发项目执行信息39
ESOC的经验突出了学术界如何在高度敏感的话题上有效地与行业参与者接触的一些原则40首先,定期、持续的对话是确定相关数据和研究可能性的最佳方式<研究人员在询问数据之前,应该先了解潜在伴侣的问题。这种合作参与有助于研究人员提出更精细、更精确的请求,这是合作伙伴在支持研究之外承担其他责任时的关键考虑因素做和这样的来回对话也产生了一组共同的关注点,这有助于让合作伙伴更愿意花时间回答任何时候挖掘新数据时出现的各种意想不到的问题
其次,研究人员应该灵活,并期望项目涉及广泛的迭代和发现阶段。ESOC支持的许多项目需要多个周期,包括确定双方都感兴趣的问题、运行初始分析、找出数据有各种怪癖和不一致之处,必须理解这些怪癖和矛盾之处,才能理解结果、向运营合作伙伴提供初始结果、提出后续问题和修改初始问题。建立一种基于信任的关系来实现这种迭代需要花时间站在运营商的立场上。无论是政府机构还是科技公司,要求运营合作伙伴简单地把数据扔到墙上,很少能得到好的研究结果
第三,研究人员应对合作伙伴面临的运营环境保持敏感42作为一个实际问题,这意味着努力调整节奏、问题和兴趣。协调步调的关键是要认识到,学者早期研究过程中的很大一部分都在探索新问题,并组织现有的知识,这对于那些在短时间内构建工具的人来说是非常有帮助的。例如,通过分享在准备工作中所学到的知识,研究文献对给定政策可能产生的影响做了什么或没有说什么,研究人员可以获得大量的善意。当结合将重大研究问题分解为当今相关的有科学意义的组成部分时,此类非正式咨询有助于为解决更大问题所需的数据共享创造动力
根据问题和兴趣进行调整需要将基础研究问题转化为对合作伙伴有意义的术语,无论他们是军队的参谋还是科技公司的产品经理。在基本层面上,非正式合作意味着马交易数据的获取、支持和信息,以帮助特定公司获得研究驱动的见解。如果学者们不能让答案有意义,他们就没有什么可交易的了
最后,任何非正式合作都需要对保护数据的后勤工作保持耐心。无论是通过解密国家安全数据还是发布敏感的公司信息,获取数据的过程中经常会遇到各种各样的法律问题。这些通常可以在防御空间中巧妙运用,这通常意味着放弃释放一些潜在有用的领域,但这样做需要对规则有清醒的理解
即使数据可以发布,许多合作伙伴也不会拥有可访问格式的关键数据。生产系统很少设计用于长期存储、检索和聚合。意识到局限性很重要,因为研究人员提出了不可行的请求,为管理人员提供了一个关闭潜在研究的好借口。一旦数据发布,高可靠性研究仍需要详细了解数据生成过程。这可能是个问题。研究所需的文件通常不是操作数据的一部分。研究人员需要非常积极地分享它,因为这样做通常需要挖掘旧记录,特别是对于一年多以前的研究
国防部和学术界之间的人际关系是推进敏感问题研究的关键。通过迭代协作,研究人员和从业者在产生创新想法的同时,对彼此的局限性有了丰富的理解。随着时间的推移,行业与学术界的合作同样可以建立可信的关系来刺激研究。为了做到这一点,社区可以从成功培养了国防研究信任和非正式联系的项目中吸取教训
赋能机构
虽然发展信任关系是一门艺术,但也有机构将其变成了一门科学。例如,北卡罗来纳州立大学的分析科学实验室(LAS)自成立以来,就为教员和情报界围绕敏感安全问题开展广泛的研究合作提供了范例43政府人员在LAS工作多年,与大学教职员工和行业合作伙伴一起解决本国组织面临的具体问题。LAS在这一过程中克服了一些挑战,例如克服组织间的结构和文化差异,在出现问题时适应不同的方法和术语解决问题,培养互信,使员工朝着共同的目标努力<阿拉伯国家联盟在发展一种结构化的方法以鼓励具有不同体制背景的行为者之间的合作方面取得了很大的成功。它采用了几个不同的年度工作流程,为教师和学生提供可预测性,并采用一致的方法建立包括学者、行业参与者和政府官员在内的团队。随着时间的推移,阿拉伯国家联盟学会了在其特定环境下有效领导项目的特点,并开发了一条将这些人引入政府和学术界的渠道45由于这种极端的跨学科性并不是来LAS工作的研究人员或情报界人员的常态,该组织成立了一个专门的合作团队。该团队通过建议流程改进来提高组织内较小单位的团队合作能力,从而为领导层提供建议并促进研究46
国防高级研究计划局(DARPA)也是非正式关系的关键推动者;D努力。1958年成立于美国国防部,负责“高风险、高回报”研发;D挑战,DARPA解决了一系列复杂的技术问题,同时在学术界、政府组织和行业之间建立了联系<美国国防高级研究计划局的创新模式将雄心勃勃的目标与由来自工业、大学和联邦政府组织的跨学科专家组成的临时项目团队系统相结合48
DARPA项目由项目经理管理,他们是从外部招募来的,负责开发、推介和执行项目的个人。DARPA项目经理的任期是有限的,在三到五年之间,有一个非正式的规定,一个人的职业生涯不能超过两次49这种结构鼓励有创新想法的人进入,然后将他们带着在任职期间获得的知识和联系推向其他行业50项目经理加入“完成某件事,而不是建立一个职业”。51如果项目不起作用,项目经理可以终止这些项目,并将资金重新分配给一个新的或现有的项目,该项目显示出更大的前景<与国防部其他机构相比,国防高级研究计划局的创新、冒险文化通过不同寻常的雇佣和合同灵活性得以维持<重要的是,这些能力包括根据短期合同从政府外部聘请专家的能力<总的来说,DARPA有时间限制的任命和直接聘用具有商业或学术背景的人员担任高级政府职位的能力鼓励了思想和观点的交流,否则这是不可能发生的——这对所有各方都是有益的
LAS和DARPA阐明了一个更广泛的原则,即处理跨组织边界的研究课题可以促进长期的跨学科关系。他们解决了与外部研究人员接触所涉及的许多合同和人力资源挑战,并克服了国防和情报界内包研究的一系列结构性障碍
正式机制
在涉及敏感数据的经济和国防问题上,联邦政府和学术界之间的合作有两个关键的正式机制:RDC和联邦资助的研究与发展中心(FFRDC)55本节将从这两个组织中寻找灵感,特别关注它们如何处理导言中确定的三项关键任务
联邦统计研究数据中心
RDC使个人研究人员能够处理高度敏感的政府收集信息,包括个人层面的调查数据和公司层面对劳工统计局调查的回应<这些安全设施由美国人口普查局在全美29个不同地点管理,包括大学、联邦储备银行分行和其他一些研究机构,如国家经济研究局。为确保数据安全,RDC研究人员必须通过背景调查并宣誓终身保护受访者机密,以获得人口普查局特别宣誓身份<这些中心与50多个不同的研究机构合作,包括大学、非营利研究机构和政府机构。由于其严格的安全要求,RDC能够使用敏感数据集进行各种研究,如具有识别信息的公司级调查
已使用RDC数据研究多年来的一系列主题,包括关于虚假财务报告对员工的影响、2020年人口普查中增加公民问题的潜在影响,以及生育子女如何影响美国女性就业动力的研究<如果没有学术途径获取敏感的个人和公司数据,这些研究是不可能的RDC工作有两个原因。首先,通过控制进行分析的计算基础设施,RDC可以确保数据不泄漏。通过这种方式,尽管公司知道研究人员最终可能会使用这些数据,但他们愿意分享劳工统计局调查中的敏感数据。第二,研究人员可以在进入RDC之前计划项目,因为即使数据本身无法公开,也有大量的数据字典可用
这种体制结构使外部研究人员(任务1)和保护数据(任务2)成为可能。即使是规避风险的学者也对依赖人口普查局和劳动统计局数据的项目充满信心,因为他们可以在访问数据之前规划项目,一旦获得批准,他们知道访问将持续下去<发送给RDC的数据通过受控系统和审查的组合得到保护
然而,RDC或类似结构无法解决任务3中的所有问题。分析工作由学者完成,对RDC没有合同义务,因此这些机构只能支持学术研究人员固有兴趣的研究。因为有很多问题对社会和行业至关重要,但不一定是学术兴趣,所以当涉及政治影响力运营和行业对社会影响的其他方面时,需要一个不同的解决方案
FRDC和UARC
FFRDC的历史清楚地说明了可信中介机构如何满足动态和快速发展的研究需求。FFRDC“为联邦机构提供联邦政府或私营部门无法单独有效满足的研发能力。”,通常通过五年可续期合同61给定的FFRDC受采购、合同和职能方面的特殊规则的约束,符合赞助该机构的特定联邦机构的规定。特别是,这些实体帮助满足联邦长期研究和开发要求,同时将商业利益冲突降至最低,同时为高度专业化的人员提供住所<行业行为体应借鉴FFRDC的经验,特别是明确的赞助商指南、对其他商业工作的强烈禁止,以及可以满足关键研究需求的机构模型的有时限但灵活的合同
《联邦采购条例》第35.017节正式规定了FFRDC的管理和治理64赞助机构(如国防部)负责监督其FFRDC,必须在续签协议前进行年度审计、绩效评估和审查<目前,每个赞助机构都有自己的管理流程,没有固定的机构间程序。制定年度研究计划,并且必须在授权工作量和分配任务时间之前,由赞助机构和相应的FFRDC批准<与FFRDC类似,大学附属研究中心(UARC)也为各自的赞助机构提供专门研究和专业知识<67虽然联邦法律中没有正式定义UARC,但国防部已经制定了关于其管理和运营的程序和规则68UARC必须是大学附属机构,在大学或大学校园外运营,将教育作为其使命的核心部分,并在竞争公共或私人合同方面保持灵活性<目前,有14个国防部运营的UARC<这两种机构都可以追溯到第二次世界大战,当时科学家、工程师和学者动员起来支持战争。在冷战初期,这种合作的例子在FFRDC中被正式化,其任务是满足国家安全研究要求。FFRDC承担了政府或营利性公司无法直接完成的利基活动<国防部是第一个使用FFRDC,因为它认为需要“操作和战略规划的政策指导”和“重大系统开发的无偏见技术指导和专业知识”。根据国家科学基金会的总名单,自1948年以来,共有123个FFRDC,但目前只有42个由13个联邦机构赞助73
这种灵活性是由管理FFRDC的规则实现的,这些规则为FFRDC提供了应对新挑战的能力,并在问题集发生变化时关闭<根据《联邦采购条例》,赞助机构必须至少每五年对其FFRDC协议进行一次重新评估,以提供稳定措施,同时适应不断变化的安全环境
FFRDC解决了传统国家安全担忧之外的广泛问题,包括恐怖主义威胁、网络安全问题、美国信息技术基础设施保护、医疗保健、环境问题和民用基础设施现代化<有时这些机构会对紧急问题作出反应。例如,隶属于国土安全部和能源部的FFRDC迅速动员技术和爆炸物专家,评估2009年12月25日飞机爆炸未遂后机场安全系统的威胁和弱点,并提出了一些具体改进措施76由于新型冠状病毒引起的疾病新冠肺炎(COVID-19)所带来的错误信息挑战如此明显,建立能够扩大紧急问题研究能力的机构可以为科技公司提供重大价值。创建这样的结构将是未来解决这些问题的关键
FFRDC的另一个关键结构要素是通过休假期、咨询安排和在学术工作市场上竞争核心长期员工来招聘学者。这些做法促进了政府和学术界之间思想的交叉传播。在兰德公司的早期,这种异花授粉可以说为美国冷战时期的核武器战略奠定了基础。国防分析研究所(IDA)和其他FFRDC将这些做法延续至今。与CFR IAF项目一样,国防学术界的联系有助于国防界在任何给定项目的生命周期之外完成任务3
FFRDC合同
FFRDC历史上如何处理所有三项关键任务的关键在于赞助机构协议的指导方针。《联邦采购条例》第35.017-1节非常简洁,概述了担保机构协议的五个必要部分,明确但最低的要求。这九句简短的话在过去四十年中促成了一百多家定制研究机构的成立:
- FFRDC的宗旨和使命声明
- 禁止FFRDC与任何非FFRDC公司竞争,以响应联邦机构提出的除FFRDC运营以外的提案请求。该禁令不要求适用于任何母组织或母组织在其非FFRDC运营中的其他子公司。对信息、资质或能力的要求可以得到答复,除非赞助商另有限制
- 说明FFRDC是否可以接受赞助商以外的工作。如果可以接受非赞助商作品,则应遵循的程序以及对可以接受作品的非赞助商的任何限制(其他联邦机构、州或地方政府、非营利组织或营利组织等)77
请注意,这些法规如何将严格禁止与商业公司竞争联邦政府工作与灵活的目的和方法相结合。该语言没有对FFRDC可以使用何种数据、如何审查其研究、其具体的人事规则或内部组织方式提出严格要求。联邦收购监管指南有效地允许每个FFRDC及其赞助机构制定一个能够解决其特定问题的机构。许多国家与赞助机构合作建立了优先研究的机制,同时也允许FFRDC的研究人员开展创业活动。这些研究人员可以与潜在的政府赞助商合作,确定项目并执行项目,有效地使受支持机构的人员能够灵活地利用FFRDC的研究能力<例如,国防部在其与FFRDC的赞助协议中纳入了工作绩效指南。大体上,拟议项目要经过几个阶段,以确定它们是否合适,是否符合给定的FFRDC核心能力<当然,FFRDC结构不是万能的。他们历来面临客户、国会和学术界的挑战和批评。面临的挑战包括,由于国会对年度工作时间和人员配备水平的限制,需要优先考虑和推迟项目,以及基础设施现代化问题和对与其他军事资助项目竞争的担忧80历史上,兰德公司和其他FFRDC因参与越南战争而受到批评,这与大学和公众普遍的反战情绪一致<这项引起公众愤怒最多的研究表明,美国部队通过多次袭击,包括大规模空中轰炸,成功地挫败了敌军的士气<据称,这项研究被用来证明继续作战行动的正当性,导致许多校园抗议大学与军方的联合。其中一些事件升级为对设施的人身攻击,包括至少一次造成人员伤亡的爆炸83
有趣的是,这项研究只是旨在更好地了解敌人动机和士气的系列研究之一。该系列研究中至少有一项得出了相反的结论,这表明美国的作战行动在降低敌人的动机和士气方面是无效的<该研究的发表及其在政府内部引起的争议实际上突出了FFRDC在提出与高级决策者的偏好相矛盾的证据方面发挥的重要作用
总体而言,FFRDC的合同安排使得能够利用秘密数据对敏感主题进行研究,同时仍然允许独立性和非正统研究结果的发表。这种组合可能有助于在影响运营这一广泛问题上取得进展,其中核心数据涉及重大隐私问题,持有这些数据的公司需要对研究进行一些控制,但整个社会可能会从对平台不利的发现中受益
DA和跨平台数据共享的经验教训
IDA值得特别提及,因为它能够与政府和私营部门合作伙伴在涉及专有商业数据的项目中合作,而不受国家安全分类系统的保护。IDA起源于武器系统评估小组(WSEG)。WSEG成立于1948年12月,是一个为参谋长联席会议和国防部长服务的高级咨询小组<其目的是将军事和民用专业知识结合起来,以实现三个主要目标:将科学、技术和作战军事专业知识用于评估武器系统;采用先进的科学分析和研究技术;并从超越武装部队各部门的公正角度处理其任务
最终,由于对WSEG的需求继续使其小型员工和有限的资源紧张,国防部当局考虑到WSEG可用的合同替代方案,意识到大学赞助可以为企业带来更大的科学声望,同时吸引更多的民间研究分析人员,并与学术界建立更紧密的联系<为此,国防部长和参谋长联席会议召集了一批顶尖大学,赞助一家非盈利公司,协助WSEG解决该国一些最紧迫的安全问题。该组织正式成立为IDA,由五名大学成员于1956年成立<学术界和政府之间的合作是建立新机构的关键
IDA处理了多家公司的专有信息,这些公司正在争夺数百万美元,有时甚至数十亿美元的合同。它可以跨多个与之竞争的公司(例如洛克希德·马丁公司或波音公司)签订了数十亿美元的采购合同,这证明了其制度模式的威力以及上述严格的竞业禁止条款。从事技术评估工作的人员非常了解行业同行,并有权查看全部成本结构。然而,国际开发协会仍然是一个值得信赖的成本效益分析对话者。公司乐于与IDA共享专有信息,因为他们知道IDA拥有强大的安全保护措施,而且其合同阻止IDA将收到的任何信息货币化。所有的激励措施都是为了保护专有信息。至关重要的是,这种信息共享大多没有国家安全分类系统的法律保护。它是由明确的合同激励和谨慎对待专有数据的长期文化相结合而实现的
中间组织的益处
从FFRDC经验中吸取的经验教训可以为社会广泛认同的解决社交媒体平台影响力运营的目标提供信息。世界各地的民主政府都有兴趣更好地理解影响行动的性质,以保护其社会并捍卫其选举的完整性。同样,科技公司希望解决这一现象,因为它们因未能减轻负面影响运营而面临声誉和业务风险
解决影响力运营的一个关键挑战是建立稳定、客观、独立的R&;D解决问题所需的能力。研究人员与美国联邦政府之间的长期关系为如何做到这一点提供了许多经验教训。尽管政府和学术界之间的正式机构数据共享发挥了作用,尽管非正式关系多年来促成了大量优秀的工作,其中一些工作指导了如何避免冷战高峰时期通过核冲突实现世界末日的战略,但政府和学界之间的组织也发挥了核心作用
FFRDC如何适应
FFRDC的结构、对赞助商的长期承诺、缺乏商业利益冲突以及保留高技能专业知识,使他们能够解决技术-学术合作的所有三项关键任务。他们通常处理机密和专有数据(任务1)。即使在开放科学传统中无法公开完整的复制数据(任务2),他们的声誉和内部同行评审过程也能提供可信度<而且,重要的是,FFRDC与其赞助机构之间的密切关系并没有阻止他们发表非正统研究结果(任务3)
多年来,FFRDC对广泛的敏感话题进行了研究。最近,这些挑战包括评估反叛乱行动进展的固有挑战(引用美国驻阿富汗和伊拉克部队的错误),以及联邦政府所谓的毒品战争的许多失败89类似地,JASON,一个由MITRE运行的程序,虽然在技术上不是FFRDC,在2009年对能源部部署的核武器寿命延长计划进行了极具争议的外部评估。90
当涉及到保持可信度和吸引外部研究人员(任务1)时,FFRDC和相关组织长期以来为培养熟练的研究人员和联系提供了场所。他们还制定了有关研究诚信的标准,以创造可信度。例如,在赞助机构协议和内部标准中融入了独立于政府操纵研究的措施,这些协议通常规定了同行审查机制,并限制了政府限制出版的能力。这些规则为研究人员的独立性提供了合同保护。虽然政府对FFRDC工作的隐性影响始终存在,因为FFRDC的研究人员与赞助机构的官员保持着长期关系,但合同独立性使这些机构能够处理广泛的敏感话题,并定期发布有争议的结果
至于在支持跨平台研究的同时保护数据(任务2),IDA在管理多个行业参与者之间的数据安全和信任问题方面取得了成功。它表明,即使没有国家安全分类系统的保护,结构合理的合同加上对其他类型营利性工作的机构禁令,也可以解决许多问题
最后,在不同的FFRDC通常有助于克服体制障碍(任务3),允许政府中的中层人员在没有得到高级领导批准的情况下完成工作,免除他们与起草提案、获得授权和获得资金有关的通常漫长的过程。具有讽刺意味的是,制定研究议程的结构化流程最终实现了一种灵活、动态的研究方法,从而突破了安全政府计划中典型的官僚障碍。从确定R&;D最终分散资金的努力大大简化了
某些FFRDC模型也包含了竞争因素,以确保效率
例如,在国防部的方法中,办公室可以邀请多个FFRDC投标,争取实现给定研究目标的机会。允许申请办公室比较每项工作的能力,并确定最适合该工作的组织,以保持质量和成本,而无需公开采购所需的一整套冗长的合同程序
总体而言,FFRDC和相关机构使政府受益于顶尖科学人才的贡献。早些时候,许多人被这些组织的声望所吸引。时至今日,FFRDC通常吸引那些不想直接为政府工作的科学家,至少不想为他们的整个职业生涯工作
使FFRDC模型发挥作用需要联邦政府合同规则、自愿赞助商的支持,最重要的是,几十年来对研究的强烈需求。FFRDC生态系统有70多年的历史。第二次世界大战后初期,这些实体的增长是由这样一种信念推动的,即政府需要那些不会直接为其工作但会为其中一个机构工作的人的帮助。这种增长是通过两方面的合同规则实现的。首先,该规则禁止FFRDC在营利性合同上进行竞争,这意味着它们不会对公司的物质利益构成威胁。其次,政府保留了对最敏感研究的最终放行控制,限制了声誉和安全风险
可以肯定的是,FFRDC模型和其他中间解决方案远远没有达到开放科学的理想。他们没有以民主的方式扩大研究人员的范围(在某种意义上,允许不同的学者自行选择使用数据)。机密工作的同行评审必须以受限的方式进行,主要由中间机构内的其他人进行。但正是因为他们在一些开放科学理想上妥协,他们才能克服目前阻碍广泛潜在有益工作的数据共享限制
从任务到原则
这项研究首先确定了三项未完成的关键任务:保持可信度和吸引外部研究人员、保护数据同时支持跨平台研究以及克服结构性障碍。在国防界,一系列机构已经解决了部分或全部这些问题。特别是,《FFRDC联邦采购条例》中规定的基本原则支持了丰富的组织生态系统,这些组织在70年中解决了各种各样的科学问题
对对抗影响力运营感兴趣的行业领袖和学者应该从这段历史中汲取灵感,并开始思考允许类似生态系统蓬勃发展并解决其问题的原则。这些原则也有助于建立组织,以应对围绕社交媒体对社会影响的更广泛的实际研究和发展挑战
那么,什么样的原则应该指导中间组织的发展,使其具备与FFRDC为国防界带来的对抗恶意影响行动的挑战类似的能力?五个突出:寿命、协作优先、专业人员、非竞争条款和同行评审
- 寿命:任何新的中间组织都必须拥有持续多年的资金,且不受赞助商优先级变化的影响。例如,这可以通过几个社交媒体公司建立信任来实现
- 协作优先顺序:每个组织都应该有一份赞助协议,根据该协议,公司将明确他们希望新组织从事的主题,并建立分配该组织资源的年度流程
- 专业人员:核心人员应来自以下人员的组合研究和技术社区,按照LAS模式,聘用多年合同的高级员工,以提供顶级研究人员所需的稳定性
- 无竞争:组织结构上应为非营利组织或B类公司,其章程规定了强有力的隐私保护,并限制其为与其共享数据的公司或这些公司的竞争对手竞标
- 同行评议:抵御其他学者批评的能力是科学可信度的基石。这些组织需要一套同行评审标准,以及出版前咨询评审和科技公司的评论。后者将确保公司有机会提供反馈,并减少对错误发现的担忧。在这种情况下,同行审查可以仿效政府问责办公室的议定书,该议定书规定,该组织在出版前征求机构的意见,并在其报告中对这些意见作出回应91适当地将研究独立制度化将有助于提高新组织的可信度,同时应对招聘挑战
今天就可以开始创建合同和协议模型,以实例化这些原则。拥有它们将使工业界更容易支持那些能够进行大量关键研究的机构,这些研究处于一个灰色世界,介于公司自己可以做什么和学者在数据共享限制下可以做什么之间
如果开发FFRDC和UARC生态系统的长期经验可以作为指导,那么一个单一的辉煌模型不太可能解决所有阻碍技术-学术界合作影响运营的问题。相反,将有一个创新的过程,在这个过程中,一套正确的原则可以尝试许多不同的解决方案。有些人会失败,但其他人会成功,帮助解决恶意信息操作带来的问题。这种创业过程是科技公司应该能够落后的
结论
虽然行业行为体正在做出巨大努力来应对网络影响力运营带来的复杂挑战,但必须着眼于未来开展更多工作。社交媒体公司面临着用户信任和安全方面的障碍,这些障碍将持续下去,并可能随着时间的推移而加剧。在撰写本文时,这一点可能比以往任何时候都更加明显,因为围绕冠状病毒大流行的错误信息继续传播,威胁着世界各国的公共健康
非政府组织和学术机构对联合国官员称之为“信息革命”的某些方面做出了迅速反应。数十个国家的事实核查组织很快开始揭穿虚假说法,包括ESOC在内的一些组织开始收集虚假信息陈述的数据93主要的社交媒体平台采取行动消除已知的错误信息,尽管取得了不同程度的成功,但有时是由于研究表明他们的努力还不够有效94研究人员迅速行动起来,了解是谁在某些平台上传播与冠状病毒相关的错误信息。尽管这些特别努力可能令人鼓舞,但如果已经建立了研究机构,能够解决深度数据访问、技术能力和熟练处理社交媒体数据的人员的问题,那么这些努力肯定没有达到预期效果
努力建设具备所需研究能力和跨学科专业知识的机构,以解决跨平台的错误信息,可以从国防与学术界长期合作的历史中汲取大量经验教训。围绕国防相关研发的多样化组织生态系统;D证明,有多种方法可以满足这项努力的三项关键任务。建立知识共享机构对于解决当前科技公司面临的问题至关重要,如国家主导的信息运营和合成视频的日益使用,并将为应对未来危机做好准备
作者简介
雅各布·N·夏皮罗是普林斯顿大学政治和国际事务教授,研究范围包括冲突、经济发展和安全政策
联系方式:普林斯顿大学政治系和伍德罗·威尔逊公共与国际事务学院,新泽西州普林斯顿,08540。电子邮件:jns@princeton.edu
Michelle p.Nedashkovskaya是普林斯顿大学伍德罗·威尔逊公共与国际事务学院公共事务硕士候选人冲突项目实证研究助理
联系方式:伍德罗·威尔逊公共与国际事务学院,普林斯顿大学,新泽西州普林斯顿08540。电子邮件:mpn@princeton.edu
Jan G.Oledan是普林斯顿大学冲突实证研究项目的研究专家
联系人:冲突项目实证研究,普林斯顿大学,新泽西州普林斯顿,08540。电子邮件:joledan@princeton.edu
致谢
卡内基反影响力行动伙伴关系(PCIO)感谢威廉和弗洛拉·休利特基金会、克雷格·纽马克慈善基金会、Facebook、Twitter和WhatsApp提供的资金。PCIO对其产品的内容(书面或其他)负全部责任。我们欢迎与新的捐助者进行对话。所有捐赠都要经过卡内基的捐赠政策审查。我们不允许捐助者事先批准草案,对项目参与者的选择产生影响,或对他们可能支持的工作结果和建议产生任何影响
作者感谢Vlad Barash、Steve Biddle、David Broniatowski、David Chu、Steve Downs、Joe Felter、Michael C.Horowitz、Radha Iyengar、Seth Jones、Damon McCoy、Ben Nimmo、Nate Persly、Scott Sagan、Caitlin Talmadge、Josh Tucker、Alicia Wanless、Chris White和Alyson Wilson提供了有益的建议、深刻的思考和相关引用的方向。卡内基国际和平基金会(Carnegie Endowment for International Peace)主办的关于促进行业学术合作的会议上的反馈意见使该论文受益匪浅
这项研究得到了微软的部分支持。夏皮罗此前曾在Facebook和Twitter的付费咨询小组任职,并曾在兰德公司担任助理。所有错误均由作者负责
注释
1Panayiota Tstatsou,“社会媒体和公民活动的非正式组织:在向日葵运动中使用Facebook的教训”,社会媒体+社会4,第1期(2018年1月至3月):1-12,https://doi.org/10.1177%2F2056305117751384.
2Diego Martin、Jacob N.Shapiro和Michelle Nedashkovskaya,“在线外国影响力努力的最新趋势”,《信息战杂志》18,第3期(2019):15-48,https://www.jinfowar.com/journal/volume-18-issue-3/recent-trends-online-foreign-influence-efforts; 费格斯·汉森、莎拉·奥康纳、马里·沃克和卢克·考图瓦,《黑客民主政体》,澳大利亚战略政策研究所,2019年5月15日,http://www.aspi.org.au/report/hacking-democracies.
3David Klepper和Danica Kirka,《科技公司在英国投票前奋力打击虚假信息》,美联社,2019年11月10日,https://apnews.com/1e2a9c09f6774fdea811dafe2b2cdf45.
4正如Joshua Tucker和Nathaniel Persly指出的,有大量的研究利用社交媒体数据来回答平台及其合作伙伴正在进行的与产品相关的问题。参见Nathaniel Persly和Joshua A.Tucker,《社交媒体研究的挑战和机遇》,《社交媒体与民主:领域现状》,由NathanielPersly和约书亚A.Tucker编辑(剑桥:剑桥大学出版社),2020年,Rebekah Tromble、Gary King和Nathaniel Persly,“社会科学一号联合主席和欧洲咨询委员会的公开声明”,《社会科学一》,2019年12月11日,https://socialscience.one/blog/public-statement-european-advisory-committee-social-science-one.
6Andy Greenberg,“Facebook前安全首席执行官详细介绍了他对互联网滥用的‘观察者’”,Wired,2019年7月25日,https://www.wired.com/story/alex-stamos-internet-observatory/.
7例如,参见Kurt Thomas、Damon McCoy、Chris Grier、Alek Kolcz和Vern Paxson,《欺诈账户交易:地下市场在Twitter垃圾邮件和滥用中的作用》,作为第22届{USENIX}安全研讨会({USENIX}Security 13)(2013)的一部分,195–210;Kurt Thomas、Dmytro Iatskiv、Elie Bursztein、Tadek Pietraszek、Chris Grier和Damon McCoy,“电话验证账户上的回拨滥用”,2014 ACM SIGSAC计算机和通信安全会议,465–476;Kurt Thomas、Juan A.Elices Crespo、Ryan Rasti、Jean Michel Picod、Cait Phillips、Marc AndréDecoste、Chris Sharp等人,“调查每安装一次的商业支付和不需要软件的分发”,第25届{USENIX}安全研讨会({USENIX}安全16),2016年,721–739;和Periwinkle Doerfler、Kurt Thomas、Maija Marinchenko、Juri Ranieri、Yu Jiang、Angelika Moscicki和Damon McCoy,“评估登录挑战作为账户防御”接管,“万维网大会(2019),372-382.
8短期意味着下一个季度或明年。相比之下,大多数社会科学研究项目从概念化到出版需要数年时间
9加里·金(Gary King)和纳撒尼尔·佩斯利(Nathaniel Persly),“行业-学术伙伴关系的新模式”,PS:政治学与;政治(2019):1–7,https://doi.org/10.1017/S1049096519001021.
10Nathaniel Gleicher,“我们如何应对平台上的不正当行为:政策更新”,Facebook新闻室,2019年10月21日,https://about.fb.com/news/2019/10/inauthentic-behavior-policy-update/.
11斯坦福互联网天文台最近的研究表明,与Bing相比,谷歌在从搜索结果中删除假新闻方面相对有效。参见丹尼尔·布什(Daniel Bush)和亚历克斯·扎希尔(Alex Zaheer),“必应的顶级搜索结果包含大量虚假信息”,斯坦福互联网观察站,2019年12月17日,https://cyber.fsi.stanford.edu/io/news/bing-search-disinformation; “谷歌如何对抗信息”,谷歌,2019年2月,https://www.blog.google/documents/37/HowGoogleFightsDisinformation.pdf.
12Peter Talbot,“推特因操纵其平台而删除数千个帐户”,NPR,2019年9月20日,https://www.npr.org/2019/09/20/762799187/twitter-removes-thousands-of-accounts-for-manipulating-their-platform; 和Sara Harrison,“Twitter的虚假信息转储在某种程度上是有用的”,《连线》,2019年7月7日,https://www.wired.com/story/twitters-disinformation-data-dumps-helpful/.
13主要平台都发布了详细说明相关政策更新和减少其产品中不真实行为的文件。参见Kristie Canegallo,“在我们的产品中对抗虚假信息”,关键词,2019年2月16日,https://www.blog.google/around-the-globe/google-europe/fighting-disinformation-across-our-products/; Colin Crowell,“我们对机器人和错误信息的处理方法”,Twitter博客,2017年6月14日,https://blog.twitter.com/en_us/topics/company/2017/Our-Approach-Bots-Misinformation.html; 和莫尼卡·比克特(Monika Bickert),“对被操纵的媒体实施强制”,Facebook新闻室,2020年1月6日,https://about.fb.com/news/2020/01/enforcing-against-manipulated-media/.
14Sebastian Bay和Rolf Fredheim,“社交媒体公司如何在网上打击不正当行为”,北约战略传播卓越中心,2019年11月,https://www.stratcomcoe.org/how-social-media-companies-are-failing-combat-inauthentic-behaviour-online.卡罗尔·多尔蒂(Carroll Doherty)和乔斯林·基利(Jocelyn Kiley),“美国人对科技公司对美国的影响越来越不乐观”,皮尤研究中心,2019年7月29日,https://www.pewresearch.org/fact-tank/2019/07/29/americans-have-become-much-less-positive-about-tech-companies-impact-on-the-u-s/.
16Herb Weisbaum,“自剑桥分析丑闻以来,对Facebook的信任度下降了66%”,NBC新闻,2018年4月18日,https://www.nbcnews.com/business/consumer/trust-facebook-has-dropped-51-percent-cambridge-analytica-scandal-n867011.
17Louise Matsakis,“为什么Facebook被禁止的‘研究’应用程序如此具有侵略性”,《连线》,2019年1月30日,https://www.wired.com/story/facebook-research-app-root-certificate/
18Charles Arthur,“研究人员称,Facebook情绪研究违反了道德准则”,《卫报》,2014年6月30日,https://www.theguardian.com/technology/2014/jun/30/facebook-emotion-study-breached-ethical-guidelines-researchers-say; 和凯特琳·蒂芙尼(Kaitlyn Tiffany),“Facebook一直在向未成年人支付20美元以获取其所有个人数据”,《Vox》,2019年1月30日,https://www.vox.com/the-goods/2019/1/30/18203803/facebook-research-vpn-minors-data-access-apple.
19Lily Hay Newman,“没有人能正确地获得网络安全披露,特别是立法者”,《连线》,2018年10月12日,https://www.wired.com/story/cybersecurity-disclosure-gdpr-facebook-google/.
20Annie Franco、Neil Malhotra和Gabor Simonovits,《社会科学中的出版偏见:打开文件抽屉》,《科学》345,第6203期(2014年9月):1502-1505,https://science.sciencemag.org/content/345/6203/1502/tab-pdf.
21尽管如本文第二部分所述,多年来,一些国防研究机构已经成功地处理了来自多家公司的极具价值的专有数据
2017年,科技行业的平均员工流失率为13.2%,是所有行业中最高的。参见Michael Booz,“这三个行业的人才流失率最高”,LinkedIn人才博客,2018年3月15日,https://business.linkedin.com/talent-解决方案/博客/趋势和研究/2018/具有最高转换率的3个行业23David J.Teece,“企业组织、产业结构和技术创新”,《经济行为组织杂志》31,第2期(1996年11月):193-224,http://www.sciencedirect.com/science/article/pii/S0167268196008955; 和Grant Freeland,“哦,不,不是另一次重组!我们真的需要一次吗?”福布斯,2018年11月5日,https://www.forbes.com/sites/grantfreeland/2018/11/05/oh-no-not-another-reorganization-do-we-really-need-one/.
24Jacob Metcalf、Emanuel Moss和Danah Boyd,《拥有伦理:企业逻辑、硅谷和伦理制度化》,《社会研究:国际季刊》,第2期(2019年夏季):449–476,https://muse.jhu.edu/article/732185.
25这项研究考察了六个其他机构对此项工作的组织方法:
- 数字智能实验室,参见“数字智能实验室”,未来研究所,http://www.iftf.org/partner-with-iftf/research-labs/digital-intelligence-lab/;
- 数字法医研究实验室(DFRL),参见:“数字法医研究室”,大西洋理事会,https://www.atlanticcouncil.org/programs/digital-forensic-research-lab/;
- 汉密尔顿2.0仪表盘,参见:“汉密尔顿2.0仪表板”,德国马歇尔基金会保障民主联盟,https://securingdemocracy.gmfus.org/hamilton-dashboard/;
- 计算宣传项目,参见:“关于”,牛津大学牛津互联网研究所的计算宣传项目,https://comprop.oii.ox.ac.uk/about-the-project/;
- 网络政策中心,参见:“国际网络政策中心”,澳大利亚战略政策研究所,https://www.aspi.org.au/program/international-cyber-policy-centre;
- 和东StratCom特遣部队,见“关于东StratCom特遣部队的问题和答案”,欧盟对外行动服务,2018年12月5日,https://eeas.europa.eu/headquarters/headquarters-homepage/2116/-questions-and-answers-about-the-east-stratcom-task-force_en.
DFRL与Facebook的长期合作是外部研究机构与社交媒体平台多年合作成功的最明显例子,但迄今为止,该合作的范围似乎仅限于政治影响力活动的描述性工作。参见Issie Lapowsky,“在研究实验室内教授Facebook关于其巨魔”,Wired,2018年8月15日,https://www.wired.com/story/facebook-enlists-dfrlab-track-trolls/; 和Graham Brookie,“为什么我们在选举诚信上与Facebook合作”,Medium,2018年5月17日,https://medium.com/dfrlab/why-were-partnering-with-facebook-on-election-integrity-19f0ca39db2e.
26“概述”,《社会科学一》,https://socialscience.one/overview.
27Jeffrey Mervis,“隐私问题可能会破坏使用Facebook数据研究选举的空前计划”,《科学》,2019年9月24日,https://www.sciencemag.org/news/2019/09/privacy-concerns-could-derail-unprecedented-plan-use-facebook-data-study-elections.
28Alex Pasternack,“沮丧的资助者退出Facebook的选举透明度项目”,Fast Company,2019年10月28日,https://www.fastcompany.com/90412518/facebooks-plan-for-radical-transparency-was-too-radical; 和丹尼尔·斯蒂德,“了解社交媒体对民主的影响的初步项目盘点”,威廉和弗洛拉·休利特基金会,2020年2月13日,https://hewlett.org/taking-stock-of-an-initial-project-to-understand-social-medias-impact-on-democracy/.
29作者感谢Alicia Wanless提醒我们这些问题。另请参见克雷格·斯克里布纳(Craig Scribener),《数据无序是一个大问题》(Data Disorganization Is a Big Problem),克莱格伦,2019年5月7日,https://www.claravine.com/2019/05/07/data-disorganization-is-a-big-problem/; 和Richard Carufel,“数据过载不仅与数量有关,还与无序有关”,Agility PR Solutions,2017年11月13日,https://www.agilitypr.com/pr-news/public-relations/data-overload-isnt-just-volume-also-disorganization/.
30托马斯·谢林,《冲突战略》(剑桥:哈佛大学出版社,1980年);Albert Wohlstetter,《恐怖的微妙平衡》,兰德公司,1958年,https://www.rand.org/pubs/papers/P1472.html.
31Scott Douglas Sagan,《安全的极限:组织、事故和核武器》(普林斯顿:普林斯顿大学出版社,1993年)
32迈克尔·霍洛维茨,《当速度杀死:致命的自主武器系统、威慑和稳定性》,战略研究杂志42,第6期(2019):764-788,https://doi.org/10.1080/01402390.2019.1621174; Michael C.Horowitz、Sarah E.Kreps和Matthew Fuhrmann,“无人机扩散辩论中的事实与虚构分离”,《国际安全》41,第2期(2016年秋季):7–42,https://www.mitpressjournals.org/doi/pdf/10.1162/ISEC_a_00257; Matthew Fuhrmann和Michael C.Horowitz,“Droning On:解释无人机的扩散”,国际组织71,第2期(2017年春季):397–418,https://doi.org/10.1017/S0020818317000121.
33查尔斯·D·艾伦(Charles D.Allen)和爱德华·J·菲里贝蒂(Edward J.Filiberti),《高级服务学院教育的未来:关注号角》,《联合部队季刊》,第81期,第2期(2016年4月):51,https://ndupress.ndu.edu/JFQ/Joint-Force-Quarterly-81/Article/702020/the-future-of-senior-service-college-education-heed-the-clarion-call/.
34有关更多信息,请参阅“关于我们”,冲突的实证研究,https://esoc.princeton.edu/about-us.
35ESOC的另一位主管,退役上校约瑟夫·费尔特,在项目开始时是现役陆军军官,辞去了ESOC的职务,担任南亚国防部副助理部长,现在除了担任胡佛研究所的研究员外,还恢复了ESOC职务
36卢克·N·康德拉、詹姆斯·D·朗、安德鲁·C·沙弗和奥斯汀·L·赖特,《叛乱选举暴力的逻辑》,《美国经济评论》108,第11期(2018年11月):3199–3231,https://www.aeaweb.org/articles?id=10.1257/aer.20170416; Eli Berman、Jacob N.Shapiro和Joseph H.Felter,《心灵和心灵可以买到吗?伊拉克反叛乱的经济学》,《政治经济学杂志》,119,第4期(2011年8月):766-819,https://www.jstor.org/stable/10.1086/661983?seq=1; Gabriela Calderón、Gustavo Robles、Alberto Díaz Cayeros和Beatriz Magaloni,《墨西哥犯罪组织的斩首与暴力动态》,《冲突解决杂志》,第59期,第8期(2015年12月):1455–1485,https://doi.org/10.1177/0022002715587053; Benjamin Crost、Joseph Felter和Patrick Johnston,《战火中的援助:发展项目与国内冲突》,《美国经济评论》,第104期,第6期(2014年6月):1833–1856,https://www.aeaweb.org/articles?id=10.1257/aer.104.6.1833.
37Joseph Felter、Jeff Bramlett、Bill Perkins、Jarret Brachman、Brian Fishman、James Forest、Liane Kennedy、Jacob Shapiro和Tom Stocking,https://www.ctc.usma.edu/harmony-and-disharmony-exploiting-al-qaidas-organizational-vulnerabilities/; 雅各布·N·夏皮罗,《恐怖分子的困境:管理暴力隐蔽组织》(普林斯顿:普林斯顿大学出版社,2013年);Benjamin W.Bahney、Radha K.Iyengar、Patrick B.Johnston、Danielle F.Jung、Jacob N.Shapiro和Howard J.Shatz,《叛乱赔偿:来自伊拉克的证据》,《美国经济评论:论文与诉讼》,第103期,第3期(2013年5月):518–522,https://www.aeaweb.org/articles?id=10.1257/aer.103.3.518; 和Patrick B.Johnston、Jacob N.Shapiro、Howard J.Shatz、Benjamin Bahney、Danielle F.Jung、Patrick Ryan和Jonathan Wallace,《伊斯兰国基金会:伊拉克的管理、金钱和恐怖》,2005–2010年(圣莫尼卡:兰德公司,2016年),https://www.rand.org/pubs/research_reports/RR1192.html.
38Stephen Biddle、Jeffrey A.Friedman和Jacob N.Shapiro,《测试激增:2007年伊拉克暴力为何减少?》,《国际安全》,第37期,第1期(2011年夏季):7–40,https://www.jstor.org/stable/23280403; 雅各布·N·夏皮罗(Jacob N.Shapiro)和尼尔斯·B·魏德曼(Nils B.Weidmann),《手机比剑更强大吗?伊拉克的手机和叛乱暴力》,《国际组织》,第69期,第2期(2015年春季):247–274,https://doi.org/10.1017/S0020818314000423.
39乔纳森·莱恩、雅各布·N·夏皮罗和奥利弗·范登·埃恩德,“建立联系:印度的政治腐败和道路建设”,《发展经济学杂志》,131(2018年3月):62–78,https://doi.org/10.1016/j.jdeveco.2017.10.009.
40改善非正式参与的时间范围要比创建新组织或颁布法规以促进研究合作的时间范围短得多。在这些作者最近与科技公司合作打击虚假信息活动的经验中,他们发现建立关系有助于克服在公司边缘制造障碍的法律和公共关系问题
41这对于本文稍后讨论的LAS模型也是如此
42作者感谢Radha Iyengar提出了这一特定框架
Alyson Wilson、Matthew Schmidt、Lara Schmidt和Brent温特,“用于智能分析的数据科学沉浸式协作”,《哈佛数据科学评论》1,第2期(2019年11月),https://doi.org/10.1162/99608f92.4a9eef8d; 另见“分析科学实验室”,北卡罗来纳州立大学,https://ncsu-las.org/.44Kathleen M.Vogel、Jessica Katz Jameson、Beverly B.Tyler、Sharon Joines、Brian M.Evans和Hector Rendon,“组织创新和适应在构建学术-工业-情报合作中的重要性:来自分析科学实验室的观察”,《国际情报、安全和公共事务杂志》19,编号3(2017):173,https://doi.org/10.1080/23800992.2017.1384676.Kathleen M.Vogel和Beverly B.Tyler,“美国情报界的跨学科、跨部门合作:从过去和现在的努力中吸取的教训”,《情报与国家安全》第34卷第6期(2019年6月):851-880页,https://doi.org/10.1080/02684527.2019.1620545.
46Vogel等人,“组织创新和适应在构建学术-工业-智能合作中的重要性”;和Wilson等人,《情报分析数据科学的沉浸式协作》。
47《DARPA创新史选集》,国防高级研究计划局,https://www.darpa.mil/Timeline/index.html; 和Marcy E.Gallo,《国防高级研究计划局:国会概况和问题》,国会研究服务,2020年3月17日更新,https://fas.org/sgp/crs/natsec/R45088.pdf.
48Regina E.Dugan和Kaigham J.Gabriel,“特种部队”创新:DARPA如何解决问题”,《哈佛商业评论》91,第10期(2013年10月):74–84,https://hbr.org/2013/10/special-forces-innovation-how-darpa-attacks-problems.
49Jeffrey Mervis,“什么让DARPA滴答作响?”科学351,第6273号(2016年2月):549-553,https://science.sciencemag.org/content/351/6273/549.summary.
50Gallo,“国防高级研究计划局”,5。
51“DARPA的创新”,国防高级研究项目局,2016年7月,https://www.darpa.mil/attachments/DARPA_Innovation_2016.pdf,3.
52Gallo,“国防高级研究计划局”,5.
53Erica R.H.Fuchs,“成功克隆DARPA”,《科学与技术问题》,第26期,第1期(2009年秋季):67,https://www.jstor.org/stable/43315003?seq=1.54Gallo,“国防高级研究计划局”,6。
55其他机构,如能源部的18个国家实验室,也为敏感的技术问题带来了学术人才。他们的体制模式针对“大规模、复杂的研发挑战”进行了优化,如聚变能或美国核武器的安全性和可靠性。参见“关于”,普林斯顿等离子体物理实验室,https://www.pppl.gov/about; 和“关于”劳伦斯·利弗莫尔国家实验室https://www.llnl.gov/about.56“联邦统计研究数据中心”,美国人口普查局,https://www.census.gov/fsrdc.
57“安全研究环境”,美国人口普查局,https://www.census.gov/about/adrm/fsrdc/about/secure_rdc.html.Jung Ho Choi和Brandon Gipper,“欺诈性财务报告及其对员工的影响”,经济研究中心工作文件19-12,美国人口普查局,2019年3月,https://ideas.repec.org/p/cen/wpaper/19-12.html; David J.Brown、Misty L.Heggeness、Suzanne M.Dorinski、Lawrence Warren和Moises Yi,“预测2020年人口普查中增加公民身份问题的影响”,经济研究中心工作文件19-18,美国人口普查局,2019年6月,https://ideas.repec.org/p/cen/wpaper/19-18.html; 和Danielle Sandler和Nichole Szembrot,“产妇劳动动态:参与、收入和雇主变化”,经济研究中心工作文件19-33,美国人口普查局,2019年12月,https://ideas.repec.org/p/cen/wpaper/19-33.html.
59相比之下,启动需要技术公司共享数据的项目风险非常高
60Marcy E.Gallo,“联邦资助的研究与发展中心(FFRDC):国会背景与问题”,国会研究服务,2017年12月1日,https://fas.org/sgp/crs/misc/R44629.pdf.
61政府问责办公室,“改善联邦资助研发中心管理和监督的机会存在”,政府问责局提交国会委员会的报告,2008年10月第09-15号出版物,https://www.gao.gov/assets/290/282697.pdf;国防商业委员会,“联邦资助研发中心合同的未来模式”,提交国防部长的报告,2016年,https://dbb.defense.gov/Portals/35/Documents/Reports/2017/DBB%20FY17-02%20FFRDC%20已完成%20Study%20(2016年10月%2020).pdf.
62Gallo,“联邦资助研发中心”;技术评估办公室,《国防部联邦资助研发中心历史》(华盛顿特区:美国政府印刷局,1995),https://www.princeton.edu/~ota/disk1/1995/9501/9501.PDF.
63政府问责办公室,“国防部对研究和分析中心的使用”,政府问责局提交国会委员会的报告,2019年12月第20–31号出版物,https://www.gao.gov/assets/710/703063.pdf.
64《联邦采购条例》,《联邦法规法典》,标题48(2007),§35.017。可访问:https://www.acquisition.gov/browse/index/far.
65政府问责办公室,“改善联邦资助研究和开发中心管理和监督的机会”,15。
66同上。
67Hruby等人,“联邦资助研究与开发中心的演变”,20,“大学附属研究中心(UARC)管理计划”,美国国防部,2010年7月,https://rt.cto.mil/wp-content/uploads/2019/09/UARC-Mgmt-Plan-Jun-23-10-FINAL-6811-with-Signed-Memo.pdf.
69Hruby等人,“联邦资助研究与发展中心的演变”,20。
71政府问责办公室,“国防部对研究和分析中心的使用”,政府问责局提交国会委员会的报告,第20-31号出版物,2019年12月,https://www.gao.gov/assets/710/703063.pdf.
72Bruce C.Dale和Timothy D.Moy,“联邦资助研发中心的崛起”,桑迪亚国家实验室,2000年9月9日,https://www.semanticscholar.org/paper/The-Rise-of-Federally-Funded-Research-and-Centers-Dale-Moy/0a3e4f324db8d8951b6ec29d5d4e69060ef41f00.
73能源部和国防部赞助的FFRDC数量最多,分别为16个和10个。参见“联邦政府资助研发中心总清单”,国家科学基金会,https://www.nsf.gov/statistics/ffrdclist/#agency.
74超过60个国防部FFRDC已停止运营,尽管有些FFRDC仍以其他形式继续运营。参见技术评估办公室,《国防部联邦资助研究与开发中心的历史》,6。
75MITRE,“FFRDCs-A Primer”。
>76吉尔·M·赫鲁比、道恩·曼利、罗纳德·E·斯托尔茨、埃里克·K·韦伯和琼·B·伍德德,“联邦资助研发中心的演变”,公共利益报告64,第1期(2011年春季):29,https://fas.org/pubs/pir/2011spring/FFRDCs.pdf.
77《联邦采购条例》,《联邦法规法典》,标题48(2007),§35.017,https://www.acquisition.gov/browse/index/far.
78例如,夏皮罗的合著者帕特里克·约翰斯顿(Patrick Johnston)和霍华德·沙茨(Howard Shatz)都是兰德公司(RAND)的社会科学家,他们找到了政府赞助商来支持他们的研究工作,这项研究促成了《伊斯兰国基金会:2005年至2010年伊拉克的管理、金钱和恐怖》
79政府问责办公室总结了不同赞助商下不同FFRDC的项目启动流程。见政府问责办公室,“改善联邦资助研发中心管理和监督的机会”,16-18。
80政府问责局,“国防部研究和分析中心的使用”,10;和政府问责办公室,“国防科学与技术:加强使用实验室发起的研究机构所需的行动”,政府问责局提交国会委员会的报告,第19-64号出版物,2018年12月,35,https://www.gao.gov/assets/700/696192.pdf.
81Elliott Mai,兰德公司在东南亚:越南战争时期的历史(圣莫尼卡:兰德公司,2010年),vii,https://www.rand.org/pubs/corporate_pubs/CP564.html.
82同上,231。
83丹尼尔·S·格林伯格,“IDA:大学赞助的校园暴力中心”,科学160,编号3829(1968年5月):744-748,https://science.sciencemag.org/content/160/3829/744; 和技术评估办公室,“国防部联邦资助的研究和开发中心的历史”,28.
84Konrad Kellen,《风险投资的观点:1966–1967年敌营凝聚力的要素》(圣莫尼卡:兰德公司,1969年)
85约翰·蓬图罗,“参谋长联席会议的分析支持:1948–1976年WSEG经验”,国防分析研究所,1979年7月,https://apps.dtic.mil/dtic/tr/fulltext/u2/a090946.pdf.
86同上,130。
87创始参与者是加州理工学院、凯斯研究所、麻省理工学院,斯坦福大学和杜兰大学。随后几年,加州大学、芝加哥大学、哥伦比亚大学、伊利诺伊大学、密歇根大学、宾夕法尼亚州立大学和普林斯顿大学加入了其他成员,共有12名成员88虽然FFRDC的研究质量随着时间和问题领域的不同而有所不同,但有些研究确实取得了突破性进展
塞斯·琼斯(Seth G.Jones),“改善美国平叛行动”,兰德公司,2008年,https://www.rand.org/pubs/research_briefs/RB9357.html; 乔纳森·P·考金斯(Jonathan P.Caulkins)、彼得·鲁特(Peter Reuter)、马丁·伊古奇(Martin Y.Iguchi)和詹姆斯·基耶萨(James Chiesa),《“禁毒战争”进展如何?》:《美国毒品问题与政策评估》(Santa Monica:RAND Corporation,2005),https://www.rand.org/content/dam/rand/pubs/occasional_papers/2005/RAND_OP121.pdf.90JASON项目办公室,“终身延长计划(LEP)执行摘要”,兰德公司,2009年9月9日,https://fas.org/irp/agency/dod/jason/lep.pdf.
91政府问责办公室,“GAO的代理协议”,美国政府问责局,2004年10月,https://www.gao.gov/new.items/d0535g.pdf.
92联合国全球传播部,“联合国应对新冠肺炎危机中的错误信息和网络犯罪”,2020年3月28日,https://www.un.org/en/un-coronavirus-communications-team/un-tackling-“infodemic”-错误信息和网络犯罪-19。Poynter Institute的国际事实核查网络(IFCN)维护着一个可搜索的虚假主张数据库,该数据库由他们在全球70多个国家的独立事实核查网络以及其他记者工具识别。参见Poynter研究所的“抗击信息流行病:#冠状病毒行为联盟”,2020年5月28日访问,https://www.poynter.org/coronavirusfactsalliance/.从2020年3月下旬开始,ESOC用20多种语言定期更新了一个结构化的冠状病毒相关错误信息数据库。见Jacob N.Shapiro和Jan Oledan,“COVID-019虚假数据”,普林斯顿大学冲突实证研究,2020年5月28日,https://esoc.princeton.edu/files/covid-019-disinformation-data.法新社还建立了一个网站,详细报道了数百起虚假指控。参见“AFP新冠肺炎验证中心”,法国新闻社,2020年5月6日,https://factcheck.afp.com.
94“脸书如何能压平冠状病毒信息的曲线”,Avaaz,2020年4月15日,https://secure.avaaz.org/campaign/en/facebook_coronavirus_misinformation/.关于Facebook的回应,请参阅乔·蒂迪(Joe Tidy),《冠状病毒:Facebook在破坏虚假信息报告后改变病毒行动》,BBC新闻,2020年4月16日,https://www.bbc.com/news/technology-52309094.