人工智能助手监控团队合作

2018年，在夏威夷进行的一次科研巡航中，SM’19级、PhD’24级的张悦宁（Yuening Zhang）亲眼目睹了保持团队紧密协作的艰难。绘制水下地形所需的精心协调有时会导致团队成员面临压力重重的环境，因为大家可能对在瞬息万变的环境中必须完成哪些任务有不同的理解。在这些航行中，张悦宁思考了机器人伙伴如何帮助她和队友更有效地实现目标。

六年后，作为麻省理工学院计算机科学和人工智能实验室（CSAIL）的研究助理，张悦宁开发了可以视为缺失的一环：一个与团队成员沟通以协调角色并完成共同目标的AI助手。在国际机器人与自动化会议（ICRA）上发表的一篇论文中，以及8月8日在IEEE Xplore上发布的论文中，她和同事们介绍了一个系统，该系统可以监督人类和AI代理组成的团队，并在必要时进行干预，以潜在地提高搜救任务、医疗程序和战略视频游戏等领域的团队合作效率。

CSAIL领导的团队为AI代理开发了一种心智理论模型，该模型代表了人类在合作完成任务时如何思考和理解彼此可能的行动计划。通过观察同伴代理的行动，这个新的团队协调员可以从一组先前的信念中推断出他们的计划以及他们对彼此的理解。当他们的计划不兼容时，AI助手会通过协调他们彼此之间的信念、指导他们的行动以及在需要时提出问题来进行干预。

例如，当一组救援人员在现场对受害者进行急救分类时，他们必须根据对彼此角色和进度的信念来做出决策。这种知识规划可以通过CSAIL的软件得到改进，该软件可以发送消息说明每个代理打算做什么或已经做了什么，以确保任务完成并避免重复努力。在这种情况下，AI助手可能会介入沟通，告知某个代理已经前往某个房间，或者没有任何代理在覆盖某个可能有受害者的区域。

“我们的工作考虑了‘我相信你认为别人相信什么’的情感，”目前在Mobi Systems担任研究科学家的张悦宁说。“想象一下你在一个团队中工作，你问自己，‘那个人到底在做什么？我要做什么？他知道我要做什么吗？’我们模拟了不同团队成员如何理解总体计划，并沟通他们需要完成什么来帮助实现团队的整体目标。”

AI救援

即使有了周密的计划，如果角色不明确，人类和机器人代理都会感到困惑甚至犯错。这种困境在搜救任务中尤为突出，因为目标可能是在有限的时间和广阔的区域内找到处于危险中的人。幸运的是，借助新的机器人助手的通信技术可以潜在地通知搜救各方每个小组正在做什么以及他们在寻找什么。反过来，代理可以更高效地在其地形中导航。

这种任务组织方式也可以在其他高风险场景中发挥作用，如手术。在这些情况下，护士首先需要将病人带到手术室，然后麻醉师在外科医生开始手术之前让病人入睡。在整个手术过程中，团队必须不断监测病人的状况，同时动态响应每位同事的行动。为确保手术过程中的每项活动都井然有序，AI团队协调员可以在出现任何任务混淆时进行监督和干预。

有效的团队合作对于《Valorant》等视频游戏也至关重要，玩家需要在线协作协调谁需要攻击和防守另一支队伍。在这些场景中，AI助手可以在屏幕上弹出，提醒个别用户他们误解了需要完成哪些任务。

在领导开发此模型之前，张悦宁设计了EPike，这是一个可以作为团队成员的计算模型。在3D模拟程序中，该算法控制了一个机器人代理，该代理需要将容器与人类选择的饮料相匹配。尽管这些AI模拟机器人可能既合理又复杂，但也会出现它们对人类伙伴或任务存在误解的情况。新的AI协调员可以在需要时纠正代理的信念以解决潜在问题，并且在此情况下始终进行干预。该系统向机器人发送有关人类真实意图的消息，以确保其正确匹配容器。

“在我们关于人机协作的研究中，多年来，人类伙伴能够如此自如地协作，既让我们感到谦卑，也让我们深受启发，”麻省理工学院航空与航天学教授、CSAIL成员、该研究的主要作者布莱恩·C·威廉姆斯表示。“只要看看有孩子的年轻夫妇，他们一起为孩子准备早餐并送他们上学。如果一方看到另一方穿着浴袍在准备早餐，那么这位家长就会知道要赶快去洗澡，然后带孩子们去学校，无需多言。好的伙伴对彼此的信仰和目标都有很好的把握，而我们在知识规划方面的工作就是努力捕捉这种推理方式。”

研究人员的方法将概率推理与代理的递归心理建模相结合，使人工智能助手能够做出风险有限的决策。此外，他们专注于建模代理对计划和行动的理解，这可以弥补之前关于当前世界或环境信念建模工作的不足。目前，人工智能助手根据给定的一组可能信念的先验知识来推断代理的信念，但麻省理工学院团队设想应用机器学习技术来实时生成新假设。为了将这一对应物应用于现实生活任务，他们还致力于在其工作中考虑更丰富的计划表示，并进一步降低计算成本。

约翰斯·霍普金斯大学助理教授田民书（Tianmin Shu）、动态对象语言实验室主席保罗·罗伯逊（Paul Robertson）和前CSAIL成员孙权洪（Sungkweon Hong）博士与张和威廉姆斯共同撰写了这篇论文。他们的工作得到了美国国防部高级研究计划局（DARPA）成功团队人工社会智能（ASIST）计划的部分支持。