人们很快将注意力吸引到了该组织最大的名人埃隆·马斯克（Elon Musk）身上，马斯克在推特上写道：“如果你不关心人工智能安全，你应该关注。”。风险比朝鲜大得多。”

116名人工智能专家在致《联合国特定常规武器公约》的公开信中警告称，“致命的自主武器有可能成为战争中的第三次革命。”代表制造人工智能和机器人的公司发言他们写道，“我们感到特别有责任提出这一警报。”

人工智能世界领导人的直言不讳引起了人们的关注。马斯克已将人工智能置于生存威胁的范畴，并要求立即采取果断的监管措施。但即便是这封信的一些签署人现在也表示，马斯克把这种散布恐惧的行为做得太过火了。

这对五角大楼及其将智能机器并入武器系统的大规模努力意味着什么，目前仍不清楚。军方看到了由人工智能和空中、海上、地面以及网络空间无处不在的自主武器驱动的高科技武器系统的未来。它成立了一个关于“致命自主武器系统”的政府专家小组。这封信要求该小组“努力寻找防止这些武器军备竞赛的方法，保护平民免受滥用，并避免这些技术的破坏稳定影响。”，签署了这封信，但坚称他反对任何会扼杀进步和创新的禁令或限制。他指出，这场运动是由澳大利亚新南威尔士大学的托比·沃尔什教授组织的，旨在强调“在国际上没有就这些问题进行辩论的情况下，自主武器的潜在危险”，阿米尔在一份声明中告诉RealClearDefense。但全面禁令是“不可行和不可执行的”。他补充道，科学进步是不可避免的，“对我来说，这并不可怕。”。“我认为，解决方案——正如现阶段存在的解决方案一样——是加倍投资开发安全、可解释和透明的人工智能技术。”，他表示，建议禁止甚至严格限制任何技术的发展是一个“滑坡”，将使美国处于竞争劣势，因为其他国家将继续追求该技术。安德森说：“我们不能掉队。”。“禁止或限制其发展并不是答案。诚实、深入地讨论我们如何创造、开发和部署这项技术才是答案。”大西洋理事会高级研究员、咨询公司Avascent的作家奥古斯特·科尔（August Cole）表示，技术领导人对自主武器的担忧是有效的，但禁令是不现实的。他说：“鉴于民用机器学习的普及以及从汽车到金融到社交媒体等各个领域的自主性进步，禁止是行不通的。”。需要发展的是一个国际法律、道德和伦理框架…但考虑到人工智能、机器人和机器学习领域的商业突破速度之快，这可能比要求彻底禁止自主武器更为艰巨。”，分析人士担心，五角大楼还没有充分把握人工智能不受约束的风险，以及机器可能变得无法控制的可能性。

“人工智能不仅仅是另一种技术，”海军分析中心首席研究科学家安迪·伊拉奇斯基（Andy Ilachinski）表示。他撰写了最近的CNA研究《人工智能、机器人和沼泽：问题、问题和建议研究》。他在采访中表示，“

国防部必须关注这场辩论的影响。”。他说，人工智能正在将世界“转变为古滕贝格出版社的水平，互联网的水平”。“这是一项改变文化的技术。国防部只是其中的一小部分。”

另一个令人困扰的问题事实是，五角大楼尚未就自主武器的定义达成一致。2012年，国防部发布了一份关于使用自主武器的指导手册。Ilachinski说，这份长达5年的文件是关于美国军方如何使用这些系统的书籍上唯一现有的政策。根据该手册，武器是自主的，如果“一旦激活，它可以选择和攻击目标，而无需人类的进一步干预”。他说，政策和指令早就应该更新了。“我们需要知道人工智能有什么能力，如何测试它，评估它。”

他指出，国防科学委员会（Defense Science Board）是五角大楼的一个咨询小组，在2012年和2016年发表了两项关于这一主题的研究，但“没有对这两个领域中的自主性或人工智能做出很好的定义”。这些都是五角大楼的顶级专家，“他们甚至都搞不清楚。”。“

马斯克的警告引起了真正理解人工智能的科学家的共鸣，”伊拉钦斯基观察到。当谷歌的Deepmind在2015年创造了一个击败世界围棋冠军的计算机程序时，这是人工智能的一个里程碑式的成就，但也让人们认识到这些算法确实有自己的头脑。“这是国防部非常关注的问题。”

人工智能中的一些领域，科学家仍在努力解决。在像Deepmind的AlphaGo这样的高级系统中，“你无法对某一行为发生的原因进行逆向工程，”伊拉钦斯基说。“重要的是，国防部要认识到，他们可能无法完全理解系统为什么在做它正在做的事情。”

严肃对待马斯克警告的一个原因是，这些人工智能系统一旦接受训练，其大脑内部会发生什么，仍有很多未知之处，伊拉奇斯基说。“你可能无法预测系统的整体行为，”他说。“所以在这个意义上，我和埃隆·马斯克一样感到焦虑。”。美国不能放弃，因为像中国这样的国家已经在努力成为人工智能领域的主导力量。此外，五角大楼不得不担心敌人会以无法想象的方式利用人工智能。他说，任何人都可以花不到1000美元购买几架无人机，访问麻省理工学院或哈佛大学的网站，了解人工智能，下载代码片段并将其植入无人机。一群智能无人机是“很难对付的，因为我们没有预料到。它非常便宜，而且很容易做到。”

Sandra Erwin是RealClearDefense的国家安全和国防记者。可以通过[电子邮件保护]联系她。在Twitter上关注Sandra@Sandra_I_Erwin

本文最初出现在《真正的清晰防御》上

图片：Flickr/Dick Thomas Johnson