武器系统中的自主性（国防部指令3000.09）

批准:

负责政策的国防部副部长办公室

2023年1月25日

可以公开发布。可在指令司网站https://www.esd.whs.mil/DD/查阅。

国防部指令3000.09，“武器系统中的自主性”，2012年11月21日

国防部副部长凯瑟琳·希克斯(Kathleen H. Hicks)

目的:本指令:

•建立开发和使用武器系统的自主和半自主功能的政策并分配责任，包括远程操作或由机载人员操作的武装平台。

•建立指导方针，旨在最大限度地减少自主和半自主武器系统可能导致意外交战的失败概率和后果。

•建立自主武器系统工作组。

第一节:一般发行信息 .....3.

1.1.适用性 . .................3.

1.2.政策 . ......................3.

第二节:责任 .......................7

2.1.美元(P ).....................7

2.2.美元(的).....................7

2.3.美元研发)....................7

2.4.在国防部长人员和准备.................8

2.5.DOT&E ...........................................9

2.6.国防部总法律顾问(GC国防部 ). ........9

2.7.对公共事务助理国防部长 . .................9

2.8.CDAO . ..................................................10

2.9.军事部门秘书;指挥官,USSOCOM;和导演国防部国防机构和领域的活动 . .................................................................10

2.10.CJCS . ....................................................12

2.11.VCJCS ....................................................12

2.12.作战指挥官..............................................12

第三节:验证和确认测试和评估自治和半自治的武器系统 ................................................................................14

第4节:某些自主武器系统审查指南.....................15

第五部分:自动武器系统工作组 ..........................19

5.1.一般 . .......................................................... 19

5.2.会员 . ............................................................19

术语表 .....................................................................21

G.1。首字母缩略词 . .........................................21

G.2。定义.............................................................21

参考文献24

数据

图1所示。帮助确定是否需要高级审查和批准的流程图...............18

第1节:一般发行信息

1.1.适用性。

本指令适用于:

(1) OSD、军事部门、参谋长联席会议主席办公室(CJCS)和联合参谋部、战斗司令部、国防部监察长办公室、国防机构、国防部现场活动以及国防部内的所有其他组织实体。

(2)自主和半自主武器系统的设计、开发、采办、测试、装备和使用，包括能够自动选择目标的制导弹药。

(3)自主或半自主武器系统使用致命或非致命、动能或非动能的武力。

b.本指令不适用于:

(1)自主或半自主的网络空间能力。

(2)非武装平台，无论是远程操作还是由机载人员操作，无论是自主还是半自主。

(3)非制导弹药。

(4)由操作员手动制导的弹药(如激光或线制导弹药)。

(5)矿山。

(6)未爆炸的爆炸性弹药。

(7)非武器系统的自主或半自主系统。

1.2.政策。

a.自主和半自主武器系统的设计将使指挥官和操作人员能够对武力的使用进行适当程度的人类判断。

(1)系统将按照第3节进行严格的硬件和软件验证与验证(V&V)以及现实的系统开发和作战测试与评估(T&E)。将建立适用于相关系统的培训、学说以及战术、技术和程序(TTPs)。这些措施将为自主和半自主武器系统提供足够的信心:

(a)在现实作战环境中对采取现实可行对抗措施的自适应对手发挥预期功能。

(b)在符合指挥官和作战人员意图的时间框架和地理区域内，以及其他相关环境和作战约束条件下完成交战。如果无法做到这一点，系统将终止交战或在继续交战之前获得额外的操作人员输入。

(c)具有足够的鲁棒性，以将故障的概率和后果降至最低。

(2)与意外接触或未经授权方干扰系统运行的潜在后果相一致，物理硬件和软件的设计应适当:

(a)系统安全、防篡改机制和网络安全，符合国防部指令(DoDI) 8500.01和军事标准882E。

(b)人机界面和控制。

(c)对相关人员透明、可审计和可解释的技术和数据源。

(3)为了操作人员就目标交战做出知情和适当的决策，自主和半自主武器系统的人机界面将:

(a)使训练有素的操作人员易于理解，例如通过明确指示操作人员需要执行哪些动作以及系统将执行哪些动作。

(b)对系统状态提供透明的反馈。

(c)为训练有素的操作人员提供启动和关闭系统的明确程序

功能。

b.授权使用、指导使用或操作自主和半自主武器系统的人员将以适当的小心行事，并遵守战争法、适用条约、武器系统安全规则和适用交战规则(ROE)。在自主或半自主武器系统中使用AI能力将符合国防部AI伦理原则(见第1.2.f段)。

c.除打算以符合第1.2 d(1)至1.2 d(4)段政策范围内的方式使用的系统外，自主武器系统，包括具有自主和半自主操作模式的武器系统，必须在正式开发前获得负责政策的国防部副部长(USD(P))、负责研究和工程的国防部副部长(①USD(R&E))和参谋长联席会议副主席(VCJCS)的批准。它们必须再次获得USD(P)、负责采买和维持的副国防部长(USD(A&S))和VCJCS的批准，然后才能部署。这些需要批准的要求是对其他要求的补充

适用的政策和发布。根据本指令第4节，在正式研制前和再次列装前需要这些高级批准的自主武器系统包括:

(1)以前未按照本指令审查和批准的自主武器系统，包括对现有非自主武器系统进行修改的自主武器系统。

②先前批准的自主武器系统的修改版本，其系统算法、预期任务集、预期作战环境、预期目标集或预期对抗性对抗措施与先前批准的武器系统适用的有实质性差异，从而超出了先前在高级审查中批准的范围。此类改进型系统在正式研制前需要进行新的高级审查和批准，在列装前也需要再次进行审查和批准。

d.对于打算以1.2.d.(1)至1.2.d.(4)段所述方式使用的武器系统，不需要1.2.c段所述的高级审查。这些将根据适用的政策和发布，如与国防采办系统相关的适用发布，考虑批准。不需要第1.2.c段规定的高级审查的武器系统为:

(1)用于施加致命或非致命、动能或非动能的武力，而没有任何旨在作为自主武器系统发挥作用的操作模式的半自主武器系统。

(2)操作人员监督的自主武器系统，用于选择和交战当地防御的材料目标，以拦截对以下目标的试图的限时或饱和攻击:

(a)有人员的设施的静态防御，包括自主武器系统不与设施共址的网络化防御。

(b)配备舰载人员的平台的机载和/或网络化防御。

(3)操作人员监督的自主武器系统，用于选择和交战材料目标，以防御部署的远程驾驶或自主车辆和/或船只。

(4)根据多德3000.03E标准，用于对物质目标施加非致命、非动能的自主武器系统。

e.自主和半自主武器系统的国际销售或转让将根据现有的技术安全和外国披露要求和流程，按照多德法案5111.21获得批准。

f.自主和半自主武器系统中AI能力的设计、开发、部署和使用将符合国防部人工智能伦理原则和国防部负责的人工智能战略和实施路径。2020年2月21日国防部长备忘录通过的国防部人工智能伦理原则是:

(1)负责。

国防部人员将行使适当的判断和护理水平，同时继续负责AI能力的开发、部署和使用。

(2)公平。

国防部将采取深思熟虑的步骤，尽量减少AI能力方面的意外偏见。(3)可追踪的。

国防部的AI能力将被开发和部署，以便相关人员对适用于AI能力的技术、开发过程和操作方法有适当的了解，包括透明和可审计的方法、数据源以及设计程序和文件。

(4)可靠。

国防部的AI能力将有明确、定义明确的用途，该等能力的安全性、安全性和有效性将在其整个生命周期内接受测试和保证。

(5)可控制的。

国防部将设计和工程AI能力，以实现其预期功能，同时具有检测和避免意外后果的能力，并有能力脱离或停用显示意外行为的部署系统。

第2节:责任

2.1.USD(P)。

USD(P):

a.为开发和使用自主和半自主武器系统提供政策监督。

b.接收根据第1.2段提交的系统批准请求。c，并与USD(A&S)或USD(R&E)和VCJCS协调，审查和考虑批准该等系统。

c.发布指导以帮助实施本指令，并在必要时审查鉴于新技术的不断进步和不断变化的作战人员需求，此类指导的适当性。

d.根据现有的技术安全和外国披露要求和流程，批准国防部关于自主和半自主武器系统的国际销售或转让的立场。

e.监督并指派自主武器系统工作组主席，为工作组提供必要的后勤和行政支持，批准工作组章程，并根据需要提供指导和职权范围。

2.2.USD(A&S)。USD(A&S):

a.与USD(P)和VCJCS协调，根据第1.2.c段审查和考虑在部署前提交的武器系统以获得批准。

b.确保国防部有关国防采买系统的指导文件中包括一项要求，以确定自主或半自主武器系统将以符合第1.2 d(1)至1.2 d(4)段政策范围内的方式使用，因此不需要根据本指令获得高级批准。无论适用于该武器系统的采办途径如何，该文件应在正式研制之前进行，并在列装前再次进行。

2.3.USD(R&E)。

USD(R&E):

a.监督自主和半自主武器开发测试、安全认证和可靠性评估的标准和评估指标的建立系统，特别注意非授权方的意外交战或操作干扰的风险。

b.监督为武器系统的自主建立科学和技术以及研究和发展优先事项，包括开发新的V&V和T&E方法，以及为武器系统的自主性能建立最低风险和可靠性阈值。

c.监督自主和半自主武器系统所有非人工智能要素的具体、可测试要求的制定。

d.与首席数字和人工智能官(CDAO)合作，制定具体、可测试的要求，以实施国防部AI伦理原则和国防部负责任的AI战略和实施路径。

e.监督和评估自主和半自主武器系统的发展试验，以评估失败的风险。

f.开发和维护劳动力认证流程、人才管理和课程，以支持国防部人员对自主和半自主武器系统的T&E和V&V。

g.与USD(P)和VCJCS协调，审查并考虑按照1.2.c段进入正式开发前提交的武器系统，以获得批准。

h.协调作战测试和评估主任(DOT&E)和美国特种作战司令部(USSOCOM)的适当军事部长或指挥官，以提供监测，识别和处理系统设计或作战环境的变化需要额外的T&E，以提供足够的信心，使系统将继续避免意外交战和抵抗未经授权方的干扰。

2.4.负责人事和战备的国防部副部长。

根据多德法案1322.18，负责人事和准备工作的国防部副部长负责监督和制定以下政策:

a.总部队与自主和半自主武器系统相关的单兵军事训练计划。

b.针对军事人员的个人和功能训练计划，以及与自主和半自主武器系统有关的军事单位和工作人员的集体训练计划。

2.5.DOT&E。

DOT&E:

a.根据第1.2段a(1)和第3节，监督自主和半自主武器系统的实际作战T&E标准的制定，包括数据收集要求和系统在初始作战T&E(IOT&E)之后的任何变化的T&E标准。

b.评估在DOT&E监督下的自主和半自主武器系统是否在实际作战条件下(包括潜在的对手行动)达到了严格的V&V和T&E标准，以提供足够的信心，使失败的概率和后果降到最低。

c.根据项目建立野战后数据收集和监测评估标准。

d.协调USD(R&E)和适当的军事部长或指挥官，USSOCOM提供监测，以识别和解决系统设计或作战环境的变化需要额外的T&E，以提供足够的信心，使系统将继续避免意外交战和抵抗未经授权方的干扰。

e.审查和批准用于重大国防采办项目和指定用于DOT&E监督的项目的自主和半自主武器系统的作战和实弹测试计划。

2.6.国防部(GC国防部)总法律顾问。

根据多德法案5000.01，多德法案2311.01，多德法案5145.01，以及适用的多德法案3000.03E，GC国防部就武器系统自主方面的重大法律问题提供指导和协调。GC国防部还协调根据1.2.c段提交的武器系统合法性审查工作。

2.7.国防部长公共事务助理。

负责公共事务的国防部长助理负责协调关于自主和半自主武器系统的公共事务事务的指导的发展，以及这种指导的使用，并批准最终指导的发布。

2.8.CDAO。

CDAO:

a.根据本指令第1.2.a.(2)(a)段及多迪8500.01段，监测及评估自主及半自主武器系统的AI能力及网络安全，并就该等事项向国防部长提供建议。

b.与USD(R&E)合作，制定具体的、可测试的要求，以实施国防部人工智能道德原则和国防部负责任的人工智能战略和实施路径。

c.制定政策，就人工智能系统的需求定义和可测试性提出指导意见，以实施和展示遵守国防部人工智能道德原则和国防部负责任的人工智能战略和实施路径。

d.发布自主或半自主武器系统AI能力的T&E实践指南。

e.与USD(R&E)和DOT&E协调，开发和使用通用工具和基础设施，用于自主或半自主武器系统AI能力的T&E和V&V。

2.9.军事部门秘书;指挥官,

USSOCOM;以及国防机构和国防部外勤活动的主管。

军事部门部长;USSOCOM司令;在各自OSD组件负责人的授权、指导和控制下，国防机构和国防部现场活动主管:

a.设计和开发自主和半自主武器系统，使指挥官和操作人员能够对武力使用行使适当水平的人类判断。这将包括开发和实施:

(1)就业概念、学说、实验策略、ttp、培训和后勤支持。

(2)符合882E军事标准的V&V、防篡改机制、物理硬件和软件系统安全。

(3)根据多迪8500.01规定的网络生存性、运营复原力及网络安全。

(4)适当的开发和操作T&E，不论采伐路径、这些系统任务的联合/非联合性质，或这些系统缺乏生存能力关键性能参数。

b.对于第2.9.a段中的系统:

(1)设计自主和半自主武器系统，使失效的概率和后果最小化。

(2)根据第1.2.a.(1)段及第3节，进行严格及现实的开发及营运T&E及V&V，包括物联网后对系统的任何更改的T&E。

(3)与USD(R&E)和DOT&E协调，提供监测，以识别和解决系统设计或操作环境的变化需要额外的T&E，以提供足够的信心，使系统将继续避免意外接触和抵抗未经授权的方的干扰。

(4)对于包含AI能力的系统，根据国防部负责的人工智能战略和实施路径设计系统，利用强大的AI，使系统在现实环境中具有复原力，并能够抵御对抗攻击和欺骗。

(5)根据本指令第1.2.a.(2)段、多迪5000.83、联合能力集成与开发系统手册和多迪8500.01设计系统安全、防篡改机制、网络生存性、作战复原力和网络安全能力。

(6)设计人机界面，使训练有素的操作人员易于理解，具有激活和停用系统功能的明确程序，并根据第1.2.a.(3)段提供透明的系统状态反馈。

(7)证明操作人员已接受过系统能力、理论和ttp方面的培训，能够根据战争法、适用条约、武器系统安全规则和适用或合理预期适用的ROE，对使用武力行使适当程度的人类判断，并适当谨慎地使用系统。

(8)建立并定期审查培训、ttp和理论，以确保操作人员和指挥官了解在实际操作条件下系统自治的功能、能力和限制，包括可能的对手行动的结果。

c.确保按照多德5000.01、多德2311.01和(适用时)多德3000.03E的规定，对自主和半自主武器系统的预定采购、采购或修改进行法律审查。法律审查必须解决与所有适用的国内法和国际法，特别是战争法的一致性问题。

d.仅考虑技术上可行、符合适用法律并符合本指令标准的那些自主和半自主武器系统作为支持。

e.按照第1.2.c和1.2段。d，在决定进入正式开发之前，以及在部署任何此类系统之前，向USD(P)、USD(a & s)或USD(R&E)和VCJCS提交任何需要批准的自主武器系统。

2.10.CJCS。

CJCS:

a.开发和实施自主和半自主武器系统的联合使用概念、理论、实验策略、ttp、培训和后勤支持。

b.评估自主和半自主武器系统的军事需求，包括适用的关键性能参数和关键系统属性。

c.根据本指令，开发和发布适当的联合理论、政策和其他指导，将自主和半自主武器系统的新兴能力纳入联合和联合作战。

2.11.VCJCS。

VCJCS与USD(P)和USD(a & s)或USD(R&E)协调，审查并考虑根据第1.2.c段提交的自主武器系统，以获得批准。

2.12.作战指挥官。

战斗指挥官:

a.按照本指令，以与其设计、测试、认证、操作员培训、理论、ttp和批准相一致的方式使用自主和半自主武器系统，作为自主或半自主武器系统。

b.根据第1.2段，根据战争法、适用条约、武器系统安全规则和适用ROE，适当谨慎地使用自主和半自主武器系统。b，并根据第1.2.f段，在符合国防部AI伦理原则和国防部负责任的人工智能战略和实施路径的自主和半自主武器系统中使用AI能力。

c.确保自主和半自主武器系统在未经第1.2.c段规定的具体批准的情况下，不会以超出第1.2.d.(1)至第1.2.d.(4)段规定的政策范围的方式使用或修改。

d.酌情将自主和半自主武器系统纳入作战任务规划。

e.通过CJCS，确定自主和半自主武器系统可能满足的作战人员优先事项和作战需求。

无论给定武器系统的采运路径或OSD T&E监督状态如何，都要确保自主和半自主武器系统在对抗适应性对手的现实作战环境中按照预期功能运行，并足够健壮，以尽量减少故障:

a.系统将经过严格的硬件和软件V&V以及实际系统开发和操作T&E，包括对意外紧急行为的分析。

(1)硬件和软件V&V将包括根据多迪5000.89的迭代网络T&E，以验证武器系统在有争议的网络空间中具有弹性和生存能力。

(2)纳入AI能力的系统将经过严格的开发和运营T&E，以核实和验证AI根据设计要求是稳健的。

b.纳入人工智能能力的系统的T&E将包括测试，以确认其自主算法可以根据新的输入数据迅速重新编程。

c.在物联网和电子设备之后，按照DOT&E的指示，将收集系统数据，对系统的任何进一步更改将经过适当的V&V和T&E，以确保关键的安全特性没有退化。

(1)系统软件将使用国防部可用的最佳手段和方法进行测试，以验证关键安全特性没有降级。在可行的情况下，将使用建模和仿真等自动化测试工具。测试将识别自主或半自主武器系统中任何新的操作状态和其他相关变化。

(2)根据DOT&E的指示:

(a)每个新的或经修订的运行状态将接受适当和量身定制的额外T&E，以确定该新的运行状态下的系统行为。

(2)状态转移矩阵的变化可能需要整个系统后续的可操作T&E。

d.在与USD(R&E)和DOT&E的协调下，拥有组件将提供监测，以识别和解决系统设计或操作环境的变化需要额外的T&E，以提供足够的信心，使系统将继续避免意外接触和抵抗未经授权的方的干扰。

4.1.有意以不属于第1.2 d(1)段至第1.2 d(4)段政策范围的方式使用的自主武器系统，必须在正式开发前得到USD(P)、USD(R&E)和VCJCS的批准，在部署前得到USD(P)、USD(a & s)和VCJCS的批准。如果有关武器系统将被开发，然后由国防部部署，它将需要经过审查和批准。如果该武器系统之前已获得正式研制或列装的批准，则不需要进行审查。高级审查和批准的请求应提交给USD(P)，注意新兴能力政策办公室主任。

a.如果系统算法、预期任务集、预期操作环境、预期目标集或预期对抗对策的变化与先前批准的武器系统适用的变化有重大差异，从而超出先前在高级审查中批准的范围，则作为先前批准的现有武器系统变体的自主武器系统将不包括在先前批准的范围内。此类系统在正式研制前和列装前都需要进行新的高级评审。

b.自主武器系统如果是先前未通过本次审查获得批准的现有武器系统的改型，则需要进行1.2.c段所述的高级审查，除非其使用方式符合第1.2.d.(1)至1.2.d.(4)段所述政策。

c.在决定进入正式开发之前，USD(P)、USD(R&E)和VCJCS将验证:

(1)系统设计包含必要的能力，允许指挥官和操作人员在武器的设想规划和使用过程中对武力使用行使适当水平的人类判断。

②系统设计可在符合指挥官和操作人员意图的时间框架和地理区域内完成交战，以及其他适用的环境和作战参数。如果无法做到这一点，系统将终止交战或在继续交战之前获得额外的操作人员输入。

(3)系统的设计和使用概念(例如，其目标选择和交战逻辑以及其他相关流程或措施)的结合考虑了对非目标的风险，与指挥官和操作员的意图一致。

(4)系统设计，包括系统安全性、防篡改机制和

按照DoDI 8500.01的网络安全，解决并最小化故障的概率和后果。

(5)V&V和T&E计划已到位，以在现实条件下(包括可能的敌手行动)建立系统的可靠性、有效性和适宜性

与意外交战或未经授权方干扰系统运行的潜在后果相一致的标准。

(6)对于纳入AI能力的系统，已制定计划，以确保与国防部人工智能道德原则以及国防部负责任的人工智能战略和实施路径保持一致。

(7)根据多德5000.01、多德2311.01和适用的多德3000.03E，与GC DoD协调完成了对武器系统的初步法律审查。

d.在fielding之前，USD(P)、USD(A&S)和VCJCS将验证:

(1)系统能力、人机界面、理论、ttp和培训已被证明允许指挥官和操作员对武力的使用行使适当水平的人类判断，并适当谨慎地使用系统，并符合适用或合理预期适用的战争法、适用条约、武器系统安全规则和ROE。

(2)系统安全、防篡改机制、网络生存性、作战弹性和网络安全能力已经按照多迪5000.83、联合能力集成和开发系统手册和多迪8500.01实施，以尽量减少故障的概率和后果。已建立监测制度，以识别和解决可能导致此类故障的作战环境、数据输入和使用方面的变化。

(3) V&V和T&E:

(a)评估系统在现实条件下的性能、能力、可靠性、有效性和适宜性，包括可能的对手行动，与非故意参与或未经授权方干扰系统运行的潜在后果一致。

(b)已经证明系统能够以足够快的速度重新编程，能够及时纠正未来系统运行过程中可能观察或发现的任何意外系统行为。

(4)充分的培训、ttp和理论是可用的，定期审查，并由系统操作员和指挥官使用，以了解系统在现实作战条件下的功能、能力和自主权的限制。

(5)系统设计和人机界面易于为训练有素的操作人员理解，对系统状态提供透明反馈，并为训练有素的操作人员提供激活和停用系统功能的明确程序。

(6)对于包含AI能力的系统，武器系统中AI能力的部署和使用将符合国防部人工智能道德原则以及国防部负责任的人工智能战略和实施路径。

根据多德5000.01，多德2311.01，以及适用的多德3000.03E，与GC DoD协调，武器系统的法律审查已经完成。

4.2.在紧急军事需要的情况下，USD(P)、USD(A&S)、USD(R&E)或VCJCS可以要求国防部副部长豁免本节和1.2.c段的要求。

4.3.图1说明了高级评审流程，可以帮助确定武器系统是否需要进行高级评审。

图1所示。帮助确定是否需要高级审查和批准的流程图

第5节:自主武器系统工作组

5.1.将军。

自主武器系统工作组将:

a.在正式开发自主武器系统之前，支持美元(P)、美元(R&E)和VCJCS在审查自主武器系统时考虑到所有相关国防部利益。

b.在部署前对自主武器系统进行审查时，支持美元(P)、美元(A&S)和VCJCS考虑所有相关国防部利益。

c.在军事部门部长的适当代表提出要求时;USSOCOM司令;或者，在适用的情况下，国防机构或国防部现场活动的主管:

(1)根据本指令，就某一特定武器系统是否需要高层批准提出建议。

(2)在根据本指令进行的可能的高级审查中，帮助确定特定武器系统所提出的潜在问题，并提供解决问题的建议。

5.2.成员资格。

除美元(P)的代表外，自主武器系统工作组将由下列官员的代表组成。该工作组的所有成员将是全职联邦政府雇员、长期兼职联邦政府雇员或现役军人。代表的上级机构将负责与参加工作组有关的任何费用，包括与差旅有关的费用:

a.美元(A&S)。b.美元(R&E)。

c.GC DoD。d.CDAO。e.DOT&E。f.CJCS代表来自:

(1)战略、计划和政策主任(联合参谋人员J5)。

(2)指挥、控制、通信和计算机/网络主任，首席信息官(联合参谋部J6)。

(3)部队结构、资源和评估主任(联合参谋J8)。

(四)参谋长联席会议主席的法律顾问。

G.1。缩写词。

首字母缩写

CJCS

CDAO

多德

多迪

DOT&E

GC DoD

型战斗机

罗伊

差旅

ttp

美元(A&S)

美元(P)

美元(R&E)

USSOCOM

VCJCS V&V

术语表

意义

人工智能

参谋长联席会议主席，国防部数字和人工智能主任指令

国防部指令

作战试验与评估主任国防部初始作战试验与评估交战规则总法律顾问

试验与评估

战术、技术和程序

负责采办和维持的副国防部长负责政策的副国防部长

美国特种作战司令部研究与工程副国防部长

副参谋长联席会议主席核查和验证

G.2。定义。

除非另有说明，这些术语及其定义适用于本指令。

术语

自主武器系统

定义

一种武器系统，一旦激活，可以选择和攻击目标，无需操作员进一步干预。这包括但不限于操作员监督的自主武器系统，其设计允许操作员覆盖武器系统的操作，但在激活后可以在无需操作员进一步输入的情况下选择和交战目标。

术语

失败

菲尔丁

正式的开发

物资

操作员监督的自主武器系统

操作状态

操作符

远程操作平台

稳健的AI

定义

预期功能的实际或感知的退化或丧失，或系统不能按预期或设计的方式运行。故障可能由多种原因导致，包括但不限于人为错误、有缺陷的人机交互、故障、通信退化、软件编码错误、敌方网络攻击或渗透到工业供应链、干扰、欺骗、诱饵、敌方其他对抗措施或行动，或战场上的意外情况。就本次发布而言，最大限度地降低失败的概率和后果意味着在满足任务目标的同时，将意外交战的概率和后果降低到可接受的水平，并不意味着通过从不与目标交战来实现尽可能低的风险水平。

使武器系统可用于或将其投入作战使用(而不是测试、演习或实验)，而不考虑武器系统采用的采办方法，包括主要的国防采办项目、中间层采办或原型工作，如联合概念技术演示。

从“里程碑B”开始，如第3.10段所述

DoDI 5000.85，以重大国防采办项目为例。对于重大国防采办项目以外的情况，开始于与技术成熟和风险降低阶段结束相关的初步设计审查之后。

在国防部军事和相关术语词典中定义。

一种自主武器系统，旨在为操作人员提供干预和终止交战的能力，包括在发生不可接受的损害水平之前发生武器系统故障的情况下。

反映系统状态的变量或矢量。操纵者操作平台或武器系统的人由不在平台上的操作人员主动控制的空中、陆地、地面、地下或太空平台。在国防部负责的人工智能战略和实施路径中定义。

术语

半自动武器系统

特定目标群

状态转移矩阵

目标选择

意想不到的订婚