摘要

将人工智能融入军事行动已成为全球武装部队关注的重点。军事指挥官对人工智能改善决策的潜力很感兴趣，尤其是在战争的作战层面，他们必须快速整合大量信息以做出生死攸关的决定。然而，对人工智能决策支持系统 (DSS) 的热情必须与对其能力和局限性的理解相平衡，以确保适当和有效的部署。本报告回顾了最近提出的人工智能 DSS 用途，提供了一个考虑人工智能 DSS 能力和局限性的简化框架，并推荐了指挥官在使用人工智能 DSS 时可能采用的实际风险缓解措施。我们考虑用于作战决策的人工智能 DSS 的框架强调了三个关键领域。

范围考虑：人工智能 DSS 的范围是否定义明确且易于理解？
- 情境转换。如果在与训练数据有显著差异的环境中使用，AI 系统很容易失败。
- 投射和预测。基于物理定律的预测和涉及人机交互的预测之间存在重要差异。对于后者，我们缺乏准确的模型和直接观察到的数据。
- 灵活或范围不明确的系统。AI-DSS 可以灵活，但如果没有明确定义的用例或护栏，它们可能会使操作员感到困惑并导致误用。
- 不可约的不确定性。诸如“敌人会做什么？”之类的问题具有固有的不确定性，无法完全消除。 DSS 用户必须明白，确定性是一个不可能实现的目标，使用 AI-DSS 时仍然需要人类判断。
数据考虑因素：训练数据是否证实了 AI-DSS 的结论？
人机交互：在给定情境中，人机团队作为单个系统的能力和局限性是什么？
- LLM 的错误期望。大型语言模型 (LLM) 是强大的工具，但必须谨慎使用，因为它们可能会通过自信地呈现不正确的信息、捏造理由或增加用户对错误建议的接受度来误导用户。
- 人类偏见。用户必须了解他们的认知偏见（例如自动化偏见、确认偏见或近因偏见）可能会如何受到 AI-DSS 输出的影响，尤其是在压力情况下。
- 组织偏见。由于认为 DSS 易于使用而过度依赖它会导致决策失误，尤其是在风险承受能力较高的极端情况下。组织必须小心谨慎，避免基于对 AI 能力的错误认知而做出草率或资源不足的决策。

根据我们的分析，我们建议在使用 AI-DSS 时采取以下风险缓解策略：

设置基于环境和风险的部署标准：指挥官应设定授权使用 DSS 的时间、地点和环境，并准备好部队根据条件和风险承受能力的变化调整软件设置。
培训和认证支持 AI 的 DSS 操作员：操作员应接受有关 DSS 能力和局限性的全面培训。参与致命行动的人员应接受与其操作系统角色相适应的官方资格考试。
建立持续的认证周期：利用 AI-DSS 的单位应定期获得认证，以降低不当部署或操作系统的风险。与数据科学家、运营和分析师和持续测试与评估专家可以帮助验证是否继续负责任地使用 AI-DSS，并支持技术发展。
指定负责任的 AI 官员：类似于建立安全和事故计划，军事单位中的负责任 AI (RAI) 官员可以充当新信息的本地渠道，促进广泛的 AI 素养，向更高当局报告 AI 事件或事故，并减轻 AI-DSS 风险。
记录事件和危害：记录 AI 系统缺陷和用户错误对于避免重复错误和通过透明度建立信任至关重要。RAI 官员应该负责此类记录，类似于服务中已经实施的事故报告流程。AI 融入军事决策既带来了机遇，也带来了挑战。通过仔细考虑范围、数据质量和人机交互，并实施严格的培训、认证和安全措施，军事组织可以更有效地利用人工智能，同时降低潜在风险。

下载完整报告

人工智能用于军事决策

简介