来源 | 从心推送的防务菌

智库 | 云脑智库(CloudBrain-TT)

云圈 | 进“云脑智库微信群”,请加微信:15881101905,备注您的研究方向

声明 | 本号聚焦相关知识分享，内容观点不代表本号立场，可追溯内容均注明来源，若存在版权等问题，请联系(15881101905，微信同号)删除，谢谢。

在军事、特殊行动中——从战斗、医疗分流到救灾，需要在动态情况下做出复杂而快速的决策，而在这种情况下往往没有单一的正确答案。例如，两个经验丰富的军事领导人在战场上面对同样的场景，在面临困难的选择时可能会做出不同的战术决定。随着人工智能系统在与人类的合作中变得越来越先进，在人工智能做出正确决定的能力中建立适当的人类信任是至关重要的。捕捉人类专家在动态环境中决策的关键特征，并在算法决策者中计算出这些数据，可能是确保算法在困难情况下做出值得信赖的选择的一个基本要素。

基于以上背景，3月4日，美国国防高级研究计划局（DARPA）宣布了“须臾之间”（In the Moment，ITM）项目，试图量化在没有商定的正确答案的困难领域中算法与可信任的人类决策者的一致性，为美国国防部的关键任务行动评估和建立可信的算法决策者。

据DARPA信息创新办公室（I2O）负责ITM的项目经理马特·图雷克（Matt Turek）介绍：“ITM与典型的人工智能开发方法不同，后者需要人类同意正确的结果。在困难的场景中缺乏正确的答案，这使我们无法使用传统的人工智能评估技术，这隐含着要求人类达成协议以创建基准真相数据。”

举例来说，自动驾驶汽车算法可以基于基准真相，根据交通标志和不变的道路规则判断正确和错误的驾驶反应。在这些情况下，一种可行的方法是将风险值硬编码到用于训练自动驾驶汽车算法的模拟环境中。

马特·图雷克表示：“从国防部的角度来看，在一刀切的风险值中是行不通的，因为战斗情况发展迅速，指挥官的意图在不同的情况下会发生变化。国防部需要严格、可量化、可扩展的方法来评估和建立算法系统，以便在无法获得客观事实的情况下进行困难决策。困难决策是指那些值得信赖的决策者不同意，不存在正确答案，以及不确定性、时间压力和相互冲突的价值观造成的重大决策挑战。”

ITM正从医学成像分析领域获得灵感，该领域已开发出评估系统的技术，即使熟练的专家可能对基准真相有异议。例如，器官或病理的边界可能不清楚，或者放射科医生之间有争议。为了克服缺乏真实边界的问题，用算法绘制的边界与人类专家绘制的边界分布进行比较。如果算法的边界位于人类专家在许多试验中绘制的边界分布范围内，那么该算法就被认为与人类的表现相当。

马特·图雷克表示：“在医学成像见解的基础上，ITM将开发一个定量框架，以评估算法在非常困难的领域的决策。我们将创建现实的、具有挑战性的决策场景，从受信任的人类那里获得反应，以捕捉关键决策者属性的分布。然后，我们将使决策算法面临同样的挑战性场景，并将其反应映射到参考分布中，以将其与受信任的人类决策者进行比较。”

ITM项目有四个技术领域：

• 第一个领域是开发决策者特征描述技术，以确定和量化困难领域的关键决策者属性；

• 第二个技术领域是在人类决策者和算法之间创建一个量化的匹配分数，其方式可以预测最终用户的信任；

• 第三个技术领域是负责设计和执行方案评估；

• 第四个技术领域负责政策和实践的整合；为该项目提供法律、道德和伦理方面的专业知识；支持未来国防部政策和作战行动概念（CONOPS）的发展；监督道德行动过程（DevEthOps）的发展；并对更广泛的政策界开展宣传活动。

ITM是一个为期3.5年的项目，包括两个阶段，并有可能在第三阶段专门与过渡伙伴一起使技术成熟。第一阶段为期24个月，重点是将小单位分流作为决策场景。第二阶段为期18个月，通过关注大规模伤亡事件增加决策的复杂性。

为了评估整个ITM过程，将向多个人类和算法决策者展示医疗分流（第一阶段）或大规模伤亡（第二阶段）领域的情景。算法决策者将包括一个了解人类关键决策属性的统一算法决策者和一个不了解人类关键属性的基线算法决策者。一个人类分流专业人员也将被包括在内作为实验对照。

据马特·图雷克介绍：“我们将收集每个决策者的决定和反应，并以盲目的方式向多个分流专业人员展示这些决定。这些分流专业人员将不知道这个反应是来自于一个统一的算法、一个基准算法还是来自于人类。而我们可能向这些分流专业人员提出的问题是，他们会委托哪个决策者，为我们提供一个衡量他们是否愿意信任这些特定决策者的标准。”

针对ITM项目潜在提案者的线上提案者日定于2022年3月18日举行，广泛机构公告（BAA）招标预计将在未来几周在SAM.gov上发布。

－ The End －

版权声明：欢迎转发本号原创内容，转载和摘编需经本号授权并标注原作者和信息来源为云脑智库。本公众号目前所载内容为本公众号原创、网络转载或根据非密公开性信息资料编辑整理，相关内容仅供参考及学习交流使用。由于部分文字、图片等来源于互联网，无法核实真实出处，如涉及相关争议，请跟我们联系删除。我们致力于保护作者知识产权或作品版权，本公众号所载内容的知识产权或作品版权归原作者所有。本公众号拥有对此声明的最终解释权。

投稿/招聘/推广/合作/入群/赞助 请加微信：15881101905，备注关键词

“阅读是一种习惯，分享是一种美德，我们是一群专业、有态度的知识传播者.”