走向超级智能体,AI还需要主动性:UIUC、谷歌等联合综述
1995年,Michael Wooldridge与Nicholas Jennings在《Intelligent Agents: Theory and Practice》中,将自主性(Autonomy)、交互能力(Social Ability)、反应性(Reactivity)和主动性(Proactiveness)确定为智能体四大基本属性。

主动性指的是智能体能够根据目标主动展开行动。
这一要求在三十年前就已进入智能体研究的核心讨论。
如今,大模型智能体已能理解指令、调用工具,并独立完成多步骤任务。然而,许多系统仍依赖人类发现问题、提出任务,再交由AI处理。人们对智能助手的期望还包括另一项能力:在未收到新指令前,识别出值得执行的工作,并主动启动处理。

图1|支持主动行为的研究脉络。持续感知、预测、目标维护和介入选择,均早于大模型时代已有研究基础。
这项能力直接影响长程任务的持续推进。一项工作持续数天或数周,初始指令难以涵盖后续所有变化。信息可能缺失,原定方案可能受阻,已完成的安排也可能需要重新核实。智能体需主动澄清疑问、寻找替代方案、调整计划,以减少人类反复检查进度、补充指令的负担。
设想一位研究者将会议出行及后续变动交由助手处理,机票和酒店已预订完毕。出发前一周,会议延长一天,导致返程航班早于会议结束时间,而酒店免费取消期限恰好在当晚截止。要完成此次出行,助手需发现这些安排间的冲突,核对调整条件,准备方案,并及时提出需研究者决策的事项。订票时的指令,很难预先规定好这一系列变化的处理方式。
对于未来的超级智能体,主动性应与智能和对齐一同受到重视。智能关乎理解、推理和执行能力,对齐关乎行为是否符合人类意图与价值。主动性还要求智能体判断什么值得做,并承担发现和发起工作的责任。一个能长期协作的助手,需具备这几方面能力。
前沿实验室已开始探索这类助手。Meta将Muse定位为能围绕人类目标主动提供帮助、持续推进工作的个人智能体;OpenAI的dots支持跨对话持续跟进任务,也可从获准读取的信息中主动研究,发现与既有工作相关的新情况。
学术界也在研究具体实现方式。清华大学等机构的Proactive Agent研究如何根据情境预测任务,在无明确指令时主动提供帮助;香港中文大学等机构的ProAgent利用可穿戴设备获取环境信息,推断日常活动中的需求,并调用工具提供协助。
如何发现需求、选择值得开展的工作,并持续推进,是这些探索共同面临的问题。UIUC、谷歌、斯坦福、UC Berkeley和CMU的研究者在《Proactive AI for Superintelligent Agents》中,围绕主动发起工作这一能力,提出6A分析框架,梳理相关机制、评测方法和13个应用领域。读者可借助此框架理解现有系统,也可据此思考一个主动智能体还需哪些能力。


- 项目主页:https://empathyang.github.io/Proactive-AI-for-Superintelligent-Agents/
- Google Research: https://research.google/pubs/proactive-ai-for-superintelligent-agents/
智能体需自行作出哪些判断
按要求查询航班、完成订票时,需开展的工作已由人指出。会议延长后,助手需自行发现返程与住宿受影响,判断哪些安排值得重新检查,并提出后续工作。
参会目标和预算仍适用,具体需处理哪些事项,需根据变化后的情况判断。这种自行发现并发起工作的能力,是综述讨论主动性时的重点。
综述将这些判断归纳为两个问题:什么值得处理,以及是否、何时、怎样介入。返程冲突影响参会目标,检查返程安排因此有明确理由。
发现冲突后,助手还需比较调整的收益与费用,考虑取消期限,并决定当前适合准备方案、请求确认,还是执行已获准的操作。

图2|响应式与主动行为。主动智能体自行判断什么值得处理,以及是否、何时、怎样介入;明确请求和预设规则仍可在同一系统中发挥作用。
一项指令可规定参会日期、预算上限和允许使用的账户。转机风险与票价如何取舍、住宿无法延长时怎样调整、哪些已有安排值得保留,往往留待执行时判断。论文用“剩余决策空间”描述这些未被预先规定的选择。主动性既可用于完成当前任务,也可在持续职责下发现新的具体工作;人的目标和约束为这些选择提供依据。

图3|任务中的部分要求已明确,另一些留待执行时判断。智能体可在受委托的范围内处理这些剩余决策,目标和约束继续适用。
发起工作的能力与执行权限可分别安排。助手主动发现行程冲突,准备了改签方案,付款可留给研究者确认;研究者明确要求改签后,助手也可独立完成已获授权的操作。主动性关注工作如何被发现和提出,自主程度关注系统可独立执行到哪一步。智能支持它理解和解决问题,对齐则关系到行为是否符合人的意图与价值。

图4|主动性、智能水平与对齐共同影响智能体的表现。自主程度描述获准独立执行的范围,授权需参考可靠性和任务风险。
同一助手可采用多种工作方式。收到查询请求后回答航班信息,到预定时间发出登机提醒,根据新的会议安排主动检查行程,都可在一个系统中出现。随着系统承担的职责变化,人也可从逐项操作,转为共同修改方案,再转为审核关键决定。响应式行为、主动判断和人的参与方式,需结合具体任务一起理解。

图5|协作方式可连续变化。任务、证据、时间尺度和权限,共同影响智能体的主动程度与人的参与方式。
从一封改期通知
到一次主动协助
在行程例子里,自行发现工作依赖于几个相互配合的能力。通知和订单提供当前情况,预判帮助识别后续影响,目标选择决定跟进哪些事项,介入判断决定何时推进,执行与反馈则让工作继续。综述将这些能力归为6A:Awareness、Anticipation、Agenda、Arbitration、Action和Adaptation。
大语言模型和多模态模型能处理文本、图像及其他情境信息,Agent harness提供的记忆、工具、技能和执行管理扩展了智能体的工作能力,使其能接入外部应用、保存进度,并跨会话继续任务。6A框架帮助解释这些能力如何用于发现和推进工作,以及不同环节之间如何相互影响。

图6|6A框架。图中的家庭情境说明各项能力如何相互影响,执行结果和人的反馈可修订之前的理解与安排。
Awareness
核对新通知与已有安排
新的会议结束时间、原定返程时间和酒店取消期限,分散在通知、机票与酒店订单中。助手将这些信息与当前的参会目标关联,更新对行程的理解。此时会议延长已确认,机票和酒店仍按原日期预订,后续判断有了明确的起点。
跨会话工作还依赖信息的保存与更新。记忆中保留参会目标、预算和已完成的安排,新的通知改变其中的日期。缺少改签条款时,助手可主动查询;再次接续工作时,它能沿用仍然有效的记录。Awareness涵盖这种状态跟踪、信息获取和记忆管理,也包括系统在没有新提问时如何获取相关变化。

图7|工作跨越多个会话时,状态与记忆需保持一致。持续观察还涉及隐私、计算和能源成本,信息获取的范围与频率需与任务相称。
Anticipation
判断变化会带来什么后果
有了更新后的行程,助手就能推断原返程航班会与最后一天的会议冲突。返程延后又会产生住宿需求,可能影响预算和之后的日程。酒店取消期限临近,也让等待产生了潜在费用。预判把一次日期变化转化成尚未被人提出的工作需求。
这些判断同时涉及人的目标和外部条件。参会目标决定哪些时间冲突需处理,预算与个人安排影响方案取舍;航班时刻、余票、改签规则和酒店条款决定方案是否可行。论文中的用户模型与世界模型,分别帮助系统理解这些信息,并预测后续需求与环境变化。
助手还可比较保留原安排、延后返程或选择其他方案的后果,估计提前介入能带来什么帮助。这样的比较需区分已核实的事实与预测中的假设。对余票或费用的推测,可引出一次查询,查询结果再用于修正方案。

图8|预判同时考虑人的需求和环境的变化。比较行动与等待,有助于判断提前介入能带来什么收益。
Agenda
选择并持续跟进值得做的工作
发现返程、住宿和预算受影响后,助手选择哪些事项进入待办,将它们组织成可推进的工作。
待办可包括查询改签与延住条件、准备费用对照,以及提出需研究者决定的事项。免费取消期限影响处理顺序,航班选择也会影响住宿安排。
Agenda关注目标的选择、优先级和持续维护。待办中保存每项工作的依据、进度和依赖关系,能让助手在等待确认或跨会话中断之后继续跟进。如果延住条件已查清、返程尚未选定,下一次接续就可直接处理尚未完成的部分。新的重要任务到来时,已有工作也可调整优先级,同时保留之后恢复所需的信息。

图9|Agenda维护已有承诺,并随新请求和环境变化调整优先级。预测到的需求需经过选择,才能成为持续跟进的目标。
Arbitration
判断此刻该推进到哪一步
返程与住宿已进入待办,助手还要决定现在采取什么方式推进。整理选项、提醒期限、请求确认和直接修改订单,产生的影响各不相同。这一步结合证据、收益、时间与风险,决定是否介入,以及介入的时机和程度。
在这次行程中,会议日期已确认,酒店期限也已知,因此及时准备方案有明确理由。具体费用和延住条件仍需查询,付款与取消操作还受权限约束。助手可先完成信息查询与方案整理,把需研究者决定的事项及时提出,待确认后再处理订单。
这里的判断还包括不确定性和可撤回程度。一项调整可能解决时间冲突,同时产生较高费用;取消订单后,原价格或房间也可能无法恢复。Arbitration将这些后果纳入介入选择,帮助系统把“发现了一个问题”转化成有依据的当前行动。

图10|介入判断把证据、价值、时间和风险放在一起考虑,决定当前适合推进到哪一步。
Action
把决定落实为可理解的协助
选定了介入方式,助手就可将原订单、新日期、备选航班、费用差额与截止时间整理成方案,让研究者比较并修改。在这一步,信息如何呈现会影响审核所需的时间。研究者能看清修改哪些安排、费用来自哪里,以及哪些操作还未生效。
研究者选定方案并确认操作后,助手可在获准范围内完成改签或住宿调整,再核对结果。
操作涉及多个应用时,部分步骤可能成功、另一些失败,已有订单和待处理事项因此需分别记录。论文将建议、询问、草稿、预览和直接执行都纳入Action,也讨论编辑、撤销、人工接管与失败恢复如何支持协作。

图11|介入方式决定了人如何参与。预览、确认、修改、撤销和失败恢复,让具体操作可理解、审核和纠正。
Adaptation
从结果与反馈中调整后续工作
行程调整后,工具结果可说明改签是否成功,研究者的修改则提供对方案的反馈。操作失败时,助手可根据错误重新查询或调整执行办法。研究者修改了返程选项,助手也可据此更新当前安排。反馈由此影响后续的状态理解、目标维护与行动。
跨任务学习还需解释反馈的适用范围。假如研究者把建议的晚班航班换成早班,原因可能是当天另有安排,也可能是长期偏好。一次选择能修正当前行程,其对今后出差的意义还需更多证据。没有回应一条提醒,同样可能与忙碌、提示时机或内容有关。
Adaptation关注当前任务中的修正,也关注长期协作中的个性化与主动程度调整。系统需学习的内容包括需求判断、提醒时机和介入方式。执行是否成功、建议是否被接受,以及主动协助是否符合人的目标,提供了含义不同的反馈。

图12|反馈有时延和噪声。系统需解释信号的含义,再决定如何修正当前工作、更新偏好或调整之后的协作方式。
执行中出现新情况时,助手可重新获取信息、调整目标或修改方案。反馈也会影响之后的预测和介入判断,六项能力因此会在持续工作中反复配合。
13个应用领域,主动性正在用于哪些工作
行程安排属于个人协助,综述还考察了编码、图形界面操作、信息获取、具身机器人、安全、自动科研、智能家居、智慧城市、医疗、法律、教育、娱乐与媒体、农业,共13个领域。比较这些应用,可看到主动发现工作的需求如何随任务、环境和人的职责变化。

图