Charles River Analytics近日，该公司证实已从美国国防部获得超过900万美元的资金，用于开发更多防故障人工智能(AI)系统的建模工具。
随着人工智能系统越来越多地被调用到服务中，对人机界面(HMI)的需求也越来越大，以使操作员保持在循环中。通过这些接口，如果AI模型不够健壮，无法支持适当的响应，则人类对流程有足够的态势感知(SA)来控制并防止灾难性的故障。
然而，如果工程师在模型开发过程的早期没有解决这些SA需求，那么当AI产品已经处于第一线时，系统的差距就会出现得太晚。为了解决这一问题，美国国防高级研究计划局(DARPA)创建了“增强优雅可扩展性设计”(EDGE)项目，旨在在设计过程的早期纳入基于hmi的原则。
查尔斯河分析公司正在为航空和太空领域开发PERCEPTS(用于表示和计算增强SA表示技术的概率引擎)，以响应EDGE计划。
Charles River Analytics首席科学家兼PERCEPTS项目经理Sean Guarino解释说，使用传统的基于模型的工程设计方法往往无法解决HMI问题。“我们非常快速地在抽象的层面上迭代想法。但是从HMI的角度来看，没有任何工具可以做到这一点，”Guarino说。PERCEPTS解决了这一差距。“该项目的目标是在模型建立之前，将[基于hmi的]建模早期引入系统设计过程，以便能够更早地检测SA差距，并更改设计以满足SA需求。”
PERCEPTS使用概率编程(具体来说，是假设场景建模的结果)来评估早期HMI设计是否(以及如何)满足一组SA因素。净设计得分还可以对组成设计的各个组件的SA能力进行评分。
然后PERCEPTS使用概率模型对设计提出修改建议——增加或减少系统组件——在一个迭代循环中，这可以提高设计的得分。我们的目标是自动化创建，这样即使那些专业知识有限的人也可以构建可靠的、感知sa的AI系统，并在设计过程的早期将HMI作为优先级。
瓜里诺指出，潜在的商业应用是广泛的。Guarino说:“这种使用HMI设计的早期设计迭代在任何建造大型系统的地方都非常有用——例如，那些从事系统设计的组织，或者那些建造大型飞机的组织。”“它可以彻底改变我们目前的人机界面设计方式。”
