在过去的十年里，有很多关于致命的自主武器系统（LAWS）的文章，通常被称为“杀手机器人”。这包括法律、道德和道德问题以及与责任相关的问题。然而，尽管所有的讨论都是针对当某件事出错时会发生什么的问题，但对它会如何出错的关注却很少。LAWS和我们现有的武器系统之间的主要区别是它们在战场上做出决定的自由，这给我们如何管理此类武器带来了独特的挑战。不仅验证LAWS的可靠行为可能更加困难，而且事故的后果可能更加严重。因此，从LAWS将比我们现有的武器系统复杂得多的假设出发，本文使用查尔斯·佩罗（Charles Perrow）的正常事故理论（及其批评者），从系统故障的角度探讨对LAWS的担忧。关注失败为风险缓解策略（如武器审查）和责任（指挥链）相关问题提供了新的见解。此外，它还指出了国际社会在管理未来武器系统方面可以采取的初步步骤