Arca:一家 AI 原生服务公司
我叫 Aman,在 Arca 负责 AI。今天我想聊聊 Arca 那些能够长期推进、并实际运营我们业务的智能体。
Arca 是一家 AI 原生服务公司,为客户提供财务规划、税务规划、资产管理和投资建议等服务。我们的客户类型很多:有积累了大量财富、需要认真规划提前退休的科技公司高管;也有新罕布什尔州的一户家庭,他们刚赚到人生第一个一百万美元,终于想买下那套房子。
如今“AI 原生”有很多种定义,这个词也被用得太多了。我们所说的 AI 原生,是指智能体在运营我们的业务,而不是躲在某个副驾驶角落里给业务打下手。它们会执行那些塑造客户最终结果的决策。
长周期工作与长时间连续运行的区别
了解金融服务行业的工作形态很有意思。在这个行业,工作更像是长周期推进,而不是让智能体连续运行很久。也就是说,不是让智能体一连几个小时甚至几天不停地消耗 token;更像是围绕一个客户目标,跨越十天断断续续地推进。中间会有很多参与者、很多决策点,也会有很多次交接。最终,这个目标在十天后落地。这就是我们正在处理的工作。
案例:为客户筹钱缴税
举个例子。Jane 是我们的客户,资产相当可观,但有一笔很大的税款要缴,缴款日是 4 月 15 日。我们要帮 Jane 找到税务上最合算的筹资方式。
顾问会分析账户结单,研究怎样安排才能最节税;交易员会实际卖出资产。资产卖出后,结算本身要花几天,之后运营人员再发起 ACH 转账,而这一步到账也要几天。这就是这个行业里的典型工作:每一步都可能要几天才能结算。
如果要为好几位客户大规模做这类事,整家公司花在这些工作的时间就会呈指数级增长。
让智能体端到端负责结果
所以 Arca 采取了不同的做法。先说明一点:Arca 不是一家 SaaS 公司,我们不向其他企业或公司卖软件。我们自己就是这家公司。我们是一家应用 AI 公司,只不过恰好在这个行业经营服务业务。
我们的做法是:让智能体从头到尾负责整个长周期目标。为此,我们给了它们几个关键组件,简单介绍一下。我们把外部世界的信号交给它们,让它们持续了解正在发生什么;比如由智能体读取那封邮件。我们还提供运营背景,告诉它们这封邮件该怎么处理、遇到这种税务情况行业里通常该怎么做。
我们给了它们一个 harness,里面有执行工作所需的工具和护栏;更重要的是,在漫长的工作周期中,它们有持久记忆,能够把事情一直推进下去。当然,我们也让它们能够和人协作。
这样一来,工作周期就大幅缩短了,因为我们把人从关键路径上移开了。没人需要连续几天守着这个目标;智能体会一直跟进。在这场演讲里,我想具体讲讲我们是怎么做到的。
跟踪一个信号:一封邮件的旅程
Jane 发来邮件,说她欠着 10 万美元的税款。这封邮件和平台里的许多其他信号一样,会由后台智能体读取。信号还包括公司打出的电话、收到的文件、举行的会议、托管机构传来的事件,以及市场波动。后台智能体会持续评估这些信号,推动工作往前走。这封邮件就是其中一个信号。
智能体收到信号后,就会开始处理工作。我们的 harness 提供了所需的行业知识,让智能体知道该怎么做;它们还有深入的客户记忆,因此知道“Jane 的苹果股票仓位千万别动”,因为她大约八个月前在一次通话里提过这一点。我们也提供沙盒,供它们完成分析所需的各类财务计算。
不过,我觉得如今各种 harness 正逐渐形成相似的标准形态。更有意思的是 harness 之外会发生什么。智能体完成工作后,会产出一份计划。
Spaces:智能体把人拉进协作的地方
光有计划还不够,人必须参与执行。因此,我们的产品里有一个 space,由智能体创建,把计划放在那里。大家可以在里面和智能体聊天,了解计划进展;也可以有好几个人同时和智能体交流。
更重要的是,智能体需要人来执行某些工作时,会把相关人员拉进这个 space。这个案例里,我们会在这里批准计划,以及发给 Jane 的邮件。接下来还有一连串需要处理的问题:Jane 回复了吗?她的回复对原计划意味着什么?在整个长周期工作中,还有其他问题也需要逐一回答……
智能体盯着外部变化,人就不用守着
……这些都是长周期工作里需要回答的问题。在 Arca,我们当然不打算让人一直守着进度,所以让智能体去观察外部世界,人就不用盯着了。
我们给智能体工具,让它们可以登记自己关心的事情:比如“Jane 回复时告诉我”“ACH 到账时告诉我”。后台的信号系统会把信号路由给关注它的智能体。
如果信号一直没有出现,智能体也可以按计划自行唤醒,继续跟踪这项工作。
应对混乱的现实世界
当然,现实世界很混乱。大家都在等 Jane 回邮件,可她一直没回。假设我们后来当面见到她,得知了一些会影响计划的新情况,员工就可以把这些信息录入我们的界面。
但录入信息、在界面里完成工作,本身也是一种会唤醒智能体的信号。员工在产品里操作也会产生信号:比如他们改了日历活动的时间,这就是信号;把任务标记为完成,也是信号。
这套系统让我们既能感知外部世界发生的一切,也能了解内部工作进展,让智能体参与其中。智能体之间也会互相沟通:后台智能体读到信号后,会通知另一个智能体,由它更新 space,说明“现在只需要 8 万美元,不是 10 万美元了”。信号一变,工作内容也随之调整。
故事的最后一环是,智能体能在恰当的时候把合适的人拉进来。左边的智能体读过运营背景后,会判断:“下一步该找负责交易这些资产的人。”于是那个人会收到一项任务,被拉进来参与这项长周期工作。
长周期工作的基础能力
总体来看,我们给了智能体推进长周期工作的基础能力。人在工作中需要知道正在发生什么,所以我们为智能体建了一套很强的信号系统,让它们保持感知;它们还需要知道下一步做什么,因此我们提供了完整的运营背景。
它们需要实际完成工作,所以 harness 让它们能够执行并跟踪工作。它们还需要能长期保存状态的记忆系统;也需要在恰当的时候把合适的人拉进来。
涌现的复杂性,以及过去六个月的工作
这个想法表面上很简单,但会涌现出很多复杂情况。你可以想象,任何时候都可能有数百个信号涌进来;任务不断加到员工的待办里,员工被拉进来协作,后台智能体之间也在互相沟通。
过去六个月,我们一直在努力把这套系统打磨好。我们在弥合各种上下文缺口,让智能体充分了解情况;也在提高任务分配的准确性,确保在合适的时间找对人。需要以后跟进的工作,会记进智能体的记忆;现在就能做的工作,则会变成一项任务。
我们也一直在提升系统跨越长周期保持状态的能力。因为我们自己就是这家公司,而不只是一家 SaaS 公司,所以我们一直在改变并规范公司内部的工作方式,再把这些运营背景转化为智能体的状态。
使用我们产品的同事也是我们的团队伙伴。我们会从他们那里收集丰富的推理过程,并把这些材料转化成评测,帮助系统持续改进。
为什么要这么做?让智能体运营业务
这里自然会有人问:为什么要做这件事?它能带来什么?我们想表达的核心观点是,我们希望平台足够 AI 原生,让智能体来推动业务。智能体运营业务,做出那些会塑造业务结果的决策。
在 Arca,员工登录后,看到的是智能体已经为他们准备好的任务。智能体已经读过那封邮件、看过收到的文件,也完成了 90% 的工作;只有轮到员工采取行动时,才会把他们拉进来。
打造这套系统,能让我们做到:在 Arca,智能体主动提示人的次数多于人提示智能体。这样,智能体就能推动公司的工作;既然智能体在推动公司做的事,它们也就能推动业务本身。
通过引导智能体来引导业务
我再举个例子。还记得 Jane 发来的那封邮件吗?这其实说明我们没做好,因为我们本来就应该主动处理这件事,不该等 Jane 发邮件。
假设在我们的 AI 原生业务里,我们设定了一个新目标:主动服务。每年一月,提前准备好每位客户的税务情况,并在客户开口之前主动联系他们。这就是公司要推动的新业务目标。
在 AI 原生公司里,我们只需要把这个目标纳入智能体的目标集合。因为它们已经具备通过员工推动业务的基础能力,就会开始推进这个目标。这样一来,一月份就会完成分析,每位客户的完整方案也会出现在员工面前,附上一封只需点击一次即可批准的邮件。智能体的目标与主动服务保持一致,员工就能一键批准,推动业务走向这个新结果。
使用 AI 工具与成为 AI 原生公司的区别
我觉得这就是“使用 AI 工具的公司”和“AI 原生公司”之间的关键区别。当你能够通过引导智能体来引导业务时,就知道自己已经建成了一家 AI 原生公司。
这也是我们在 Arca 的目标,而且我们正在招聘。欢迎访问我们的网站;如果你也想解决这类问题,欢迎联系我。谢谢大家收听。