冷开场
我以前从没用叉子煎过牛排。Arthur要是看到这段,抱歉把你架到台前了。我们能回应一下那些批评吗?
认识 Adit Abraham:那条爆红的牛排推文
大家好,欢迎来到 Latent Space Cooking。我们会请创业者和研究者来下厨。今天的特别嘉宾是 Reducto 联合创始人兼 CEO Adit,欢迎你。
谢谢邀请。
当然!我们是因为一条爆红的推文,经 Adele 牵线认识的。你当时发的那块牛排,我觉得看起来特别棒。
我觉得它简直太棒了。
可大家却疯狂嘲讽你,对吧?是这么回事吗?
对,有人提出了一些指控,今天我们会回应。
好,今天我们就来扳回一城。那开始吧,今天做牛排,还会做阿根廷青酱(chimichurri)。把欧芹递给我,我们来切吧。开始之前我还挺好奇:你最初……
好啊。在开始之前,我也想问问……
从 Remembrall 到 Reducto:YC 与转型
你当初带着一家叫 Remembrall 的公司加入 YC,对吗?现在公司叫 Reducto。名字和《哈利·波特》有什么关系吗?
这问题我们经常听到。
好吧。
其实我们加入 YC 那天就知道要从 Remembrall 转型了。我们当时告诉 Diana:“嘿,我们觉得这不是接下来要做的方向。”不过具体要转去做什么,我们还没想好。只有个大致想法:给开发者做些神奇的工具。我们在群聊里发起投票,列出可用的名字和对应域名……
这个名字……
里面有些名字简直糟透了。
是啊。不过想想看,变化真不小:那时候做的是长期记忆,或者说给智能体用的记忆;现在你们做的却是文档解析或处理。
没错。
为什么 PDF 仍然难倒 AI
为了让听众了解背景,能不能梳理一下问题的核心,再讲讲从 OCR、智能文档处理(IDP)到今天视觉语言模型和智能体的发展?
做 PDF 处理的公司已经有几十年了。我遇到过一位从事 PDF 处理的工程师,他做这行的时间比我活着的时间还长——真的,他参与过最早让打印机能够打印 PDF 的驱动程序。
如今人们处理文档的场景显然很不一样。文档是横向通用格式,很多人用它来归档信息;企业里也会用一套统一的数据。如果要让模型承担大量人类工作,那么它读文档的准确度就必须达到人类水平。
难点在于,PDF 这种文件格式最初是为了让打印机忠实还原原稿而设计的,并不是为了让智能体来阅读。于是我们一头扎进这个问题:怎样才能像人一样读懂这些文档?这其实是个非常难的视觉问题。
对。
我们常把它比作自动驾驶研究。汽车早就有车道保持辅助了,但那跟 Waymo 能从头到尾全程自主驾驶完全是两回事。Reducto 想达到的就是后面这种标准。
明白了。听起来很有道理。我想你们也算是一个智能体平台……
AI 智能体需要怎样处理文档
除了让很多智能体能调用你们,你们的平台具体还包括什么?你们会不会把它做成横向平台,除了处理和解析,还覆盖编辑,甚至提供客户可用的节点式工作流编辑器?
可以这样理解:只要模型要和文档或其他非结构化文件交互,我们就希望 Reducto 成为完成这种交互的最佳方式。
明白。也就是说,读文档、解析、分类信息,再到编辑。人类工作里有很多就是从文档里读信息,再把内容写进文档。
没错。它可以负责提取数据、拿数据和其他文档对照核验,然后再……
难页和复杂表格如何路由给不同模型
我看到你们网站说 Reducto 底层有 12 个以上的模型。你们怎么决定不同任务和文件该用便宜模型还是更贵的模型?难点在于,这最终是个长尾问题:很多页面看起来只是普通文本,但偶尔会冒出一张特别复杂的表格,而你事先不知道它会在哪一页。
对。我们一开始的想法是,基础处理用很多较小的传统计算机视觉模型,特别难的任务再用大模型。不过后来我们逐渐形成了一个挺有意思的模型架构方案。我们周一会公布自研模型 R1,它能端到端完成这项工作:既识别版面,也做最后一公里的修正,尽可能把准确率推近 100%。
明白,挺不错的。我们现在可以加欧芹了。我觉得切得差不多就行,再加入其他食材。
自研还是外购:何时训练自己的模型
接着聊你提到的新模型。你们怎么判断该自己拥有模型能力,还是租用别人的?去年你们有个基于 Qwen 视觉语言模型的 ROM OCR 测试版;这次的新模型似乎说明你们更想自己做,而不是依赖外部供应商。
我们团队的主张或使命是:无论如何都要成为最好的服务提供方。客户不会关心 Reducto 用的是自研模型还是别的模型,他们只想要很好的结果。所以我们不把问题看成“是不是自研”。自然发展下来,我们越来越重视准确率、成本和延迟之间的帕累托前沿。针对某一类具体任务,经过后训练的模型往往能在这三个维度上都做得更好。因此我们的技术栈逐渐更多转向自研。当然,仍有一些很通用的任务适合用前沿基础模型,但目前范围有限。
很好。接下来要不要把桃子切了,拿去烤一下?我来……你用这块新砧板好吗?
好,谢谢。我就拿这个,这样我可以……
你之前说边做饭边聊天很分心,看来不是开玩笑。
是啊。
你们最近也发布了……
Deep Extract、前沿模型与漏掉的表格行
你们最近发布了 Deep Extract,基准测试显示它的整套流程比很多基础模型表现更好。有人会问:“我为什么不等基础模型进步到这个水平,直接用它,何必用你们这套流程?”你怎么看?
这次发布最有意思的一点,是我们发现精确率和召回率之间有个很奇怪的取舍。不知道你有没有看博客:当你给前沿模型不受限的推理时间时,很多专门做文档处理的平台表现反而不如它们。但前沿模型的问题出在召回率上:它们会悄悄漏掉表格行、漏掉一些上下文。
对。如果你的信息抽取层直接把内容漏了,到了生产环境也很难发现这种损失模式,因为你一开始就不知道自己漏提取了什么。
没错。所以这类工作特别需要一套完整流程来核验和审计结果。我不觉得这是非此即彼:有些任务前沿模型确实很出色。但如果你要找最适合某项任务、效率最高的工具,可能就应该针对那项任务做专门优化。
嗯,有道理。你们这次发布还和 Micro1 合作做了基准测试……
为什么每家都能在自家基准上夺冠
你们怎么看评测和基准测试与模型表现之间的关系?也有人担心模型为了基准刷分,导致不同任务间的表现参差不齐,和真实世界任务脱节。
我们内部做了很多基准测试。让我挺头疼的是,基准测试在很大程度上已经变成营销材料:每个人都在自己的基准上拿第一,所以噪声很快就变得特别大。我们和 Micro1 合作,是想划清一条线:Reducto 不挑选测试文档,不设定标准答案,也不会以任何方式操纵结果,这样至少能有一份独立基准。当然,它也不完美。我觉得最终最重要的,还是让大家拿自己的文档试用。
对。
不过至少这能给大家一个大致方向,让人们开始思考这些问题。我们想做的也就是这个。
明白。接着聊你们最近推出的 R1……
Reducto R1:准确率、成本与每月十亿页
R1 这次发布意味着你们的做法会有什么变化吗?研发过程中有没有什么有意思的发现?
R1 对我们来说是很大的一步。我们一直希望 Reducto 能成为客户试过的最准确的方案。尤其现在处理量越来越大——拍摄时,Reducto 每个月处理的页面已经略多于十亿页,而且这个数字还在快速变化——在准确率、成本和延迟之间找到帕累托前沿,让各种不同用例都能用得起,就越来越重要。
我特别喜欢 R1 的一点是,它不只是提高准确率,还会大幅简化定价,让客户更容易在生产环境中采用。以前如果启用 AI 功能,我们会加收倍率费用;这些都要取消了。用 R1 时,客户只要把文档发给我们,单页成本就会低于基础模型,准确率还高于我们最准确的模型。
哇,价格确实好很多。
便宜得多,比之前的价格低了好几倍。
明白。对那些按你们很多客户的规模使用 Reducto 的人来说,这确实挺让人期待。
没错。
说到这,你提到很多客户都在容错空间很小的行业……
99% 准确率为什么还不够
你们不少客户都来自容错空间很小的行业。我好奇你们怎么评估系统、设定指标。比如准确率达到 99%,但偏偏在某些企业最需要的场景里失败了——像医疗这种容错空间很小的行业,或者其他风险不对称的用例——这时该怎么办?
首先,理想情况下,系统第一遍处理就应该尽可能准确。这当然占了我们很多心力。但第二点是,永远不会有一条线能代表“绝对完美”。即使你已经非常擅长读取页面内容,仍可能遇到歧义之类的问题。
所以可追溯性就很重要:要知道某条信息是从哪里提取出来的;如果需要人工复核,要能准确指出人应该看哪里;还要有可靠的置信度评分,让人知道哪些内容需要检查。要做医疗文档工作流,这些都非常关键。
我们内部做基准测试时,不只测信息抽取的准确率。对于那些没能做到完美的内容,我们还会看能不能可靠地把它升级给人工,让人知道结果不完美。这些都很重要。
你们会不会把最难的失败案例都收集起来,放进数据集里反复跑,确保整套流程没有退步?
我们确实做了很多类似的事。
能不能具体说说?你们用什么基础设施工具或框架?我刚才应该先问一下:这些食材你想让我怎么切?
完全由你决定。切成这样的小块也行,切薄一点也行。
我应该切成薄片的。好吧,我们桃子很多,可以先吃一些,薄一点的拿去烤,放到三明治里。回到刚才的话题,你们用什么框架或工具来发现这些失败案例,并据此做基准测试?
持续评测与生产环境中的失败
有件事我们不太公开谈:我们的机器学习团队花很多时间做持续评测。我们会在生产环境里发现那些也许不算错、但还不够完善的结果,从而逐渐了解真实使用场景里哪些内容属于分布外情况。
我们关注的不是单个数据点,而是失败模式。比如医疗文档,你可以说自己关心手写内容,也可以专门测手写识别。但你手头的数据可能没有多少是那种页面倾斜、有人还在表格线外潦草书写的情况。先弄清楚自己在哪些地方做得不好,才能把这些情况纳入下一轮训练。
你们会按行业设置不同标准吗?我猜医疗公司和律所的需求不一样,不过律所之间可能比较接近,医疗公司之间也类似。
早期我们对此争论很多。垂直领域专用的文档处理平台确实容易做一些。不过代价是,我认为很多文档归根结底都由非常相似的基本元素组成。
人们常常忽略这一点:你看一页纸时,会瞬间做出许多基本判断。比如两个段落之间只要有一段空白,你就会自然地知道这里是一个新的语义信息块;你未必有意识地去想,但直觉上就懂。其他东西也一样,比如你会自然而然看出表格结构是如何把两类信息关联起来的。
对。
我们努力让模型能处理复杂情况,比如医疗领域那些传真来的乱表格,这也让我们更容易为金融客户提供可靠方案。整体来看,这条路更难,但也意味着我们能服务各类客户里最棘手的案例。
明白。不同产业里的经验会因为你们都关注同样的基本元素而相互通用?
没错。基本上就是把人看文档时的直觉教给模型。
这就是目标。那未来 Reducto 也会一直做横向平台、不会变成垂直行业产品吗?这样任何行业、任何公司都能用表现很好的通用方案?
对于文档解析这种客观任务,我们希望平台保持横向通用、开箱即用。看一页文档时,你应该能明确指出“页面上写的就是这些”。如果涉及主观看法,比如某个财务团队对某项指标有不同定义,那些东西就应该能通过提示来设定、调整,并随着使用不断改进。
明白,有道理。总体来说,智能体这波热潮以及大语言模型兴起之后,你怎么看 Reducto 内部的变化……
Reducto 内部如何使用 AI 智能体
你们在文化上做了很多调整来适应这波浪潮吗?比如要求工程师用编程智能体、内部搭建工具,还是把精力主要放在客户产品上,或者两边都做?
我的联合创始人很年轻,这是他大学毕业后的第一份工作。我觉得他是你能遇到的最懂大语言模型的一类人。你给他发条消息,回你的可能就是 ChatGPT 写的内容。因为有他这样的同事,我们自然就会看到很多人使用这些工具;我们没有规定工程师必须用 Claude Code 之类的工具。
我觉得很有意思的是,现在我们的销售团队也大量使用 Devin。
哇。
比如他们会给潜在客户做定制网站。
对。
这不是自上而下推动的。大家自己发现:“我在 Google Slides 上花了好多时间,结果用 Claude Design 做出来的提案比我费劲做的还好。”所以他们就会用它,主要是为了展示产品能带来的价值。
明白。这算是以身作则吗?比如你的联合创始人常用,员工看到之后也想试试,让自己效率更高?
对,此外……
用 AI 招聘与八小时现场面试
此外,我们从第一天起就在现场面试和一般面试中允许使用大语言模型。我们的现场面试实际上是一整天的安排,候选人会和团队一起待八个小时。
哇。
而且有些题目如果不恰当地使用大语言模型,确实很难解出来。我觉得最终通过现场面试的人,通常都知道如何有效使用编程工具。
我们团队里有个叫 Arth 的人——如果你看到这段,抱歉又把你架出来了。他当时还在伯克利读书,来参加现场面试时大概二十岁。他上大一时 GPT-3 刚发布。看他写代码就像看一个嗑了药的人一样,同时开着一大堆东西。最夸张的是,我们给了他标准的软件工程现场面试题,他大概两小时就全做完了。
哇。
Ronic 在 Slack 上私信我,特别着急地说:“糟了,他会觉得特别无聊。”于是我们又给他安排了整套机器学习工程现场面试题。这种人就是我们希望确保能招进团队的人。
哇,确实是理想人选:既熟悉这些工具,行动又特别快。
没错。
好。要不要尝尝青酱?桃子应该也差不多了。旁边有勺子,你可以用。喷枪也准备好了。
好。
早期员工与什么叫真正投入
趁我们准备这些,我想继续聊招聘。你们出了名地招人很谨慎,团队一直保持精干。最早的员工里,比如 Efe,可以说是这个领域里最厉害的人之一;其他增长岗位的人也很专业,有些人自己就经营着业务,比如 Adele 等人。从你和 Ronic 两个人一路发展到现在的团队,你在顶尖员工身上反复看到什么特质?现在招人时又会找什么?
我们最重要的文化价值观,就是对自己的工作有热忱。
我说的热忱不只是“想做”。我会观察那些非常执着于把某件事做到最好的人。无论是厨师、运动员还是其他人,你总会发现他们对日常工作有一种严格的投入。
比如 Yee 是非常出色的机器学习研究员,不只是因为他读了和我们领域相关的博士。他对检查数据特别执着,会非常仔细地翻数据集,可能连某些 PDF 页都记住了。
哇。
我不认识有人比他花更多时间在 PDF 上画框了。
哇。
这很重要。
不容易规模化。
确实。我们曾经有一段时间,数据标注员比全职员工还多,但他还是会亲自看数据、对每个细节较真。我觉得工程师也得对客户支持这类事情上心,不只是关注炫酷功能上线;还得确保产品在生产环境里能处理那些长尾案例。这种事很难强迫别人主动想做。如果他们把自己的工作看作一件想做到极致的事,自然就会想不断进步。所以我们会招聘这类人。
明白。你们怎么判断候选人有没有这种投入?看过往经历,还是通过面试来了解?
对自己真正投入的人,往往会在工作中的很多方面都表现出来。有时是在全职工作,有时是在爱好上。我很喜欢问别人:“你有什么事做得特别出色,甚至达到世界级?”看他们讲这件事时眼睛会不会亮起来。哪怕是电子游戏也可以,只要能把这种投入引导到正确的问题上,它就会自然迁移过来。
明白。桃子片还挺多的。
用喷枪炙烤桃子
好,我拿几个桃子来喷枪烤一下。对,这样挺好,边做边聊。我觉得对一件事的投入确实会迁移。
是啊。
你想烤到多焦?按你喜欢的程度来。说真的,你可以用喷枪……
我还以为这样就算了。
要不我直接把它们放锅里?
对,我们就直接放……
我有点手忙脚乱。我们用电磁炉吧。你想试试吗?就这样打开。
我太期待了。
对,转一下旋钮就行。
哦,随便设什么温度都行吗?我看过相关视频……
> 翻译待核对:23:35–24:07 炙烤桃子的对话有字幕断裂且说话边界不清;上述归属依料理动作的问答关系判断,个别短句仍需音频复核。
从小团队扩张到 B 轮
从早期阶段走到现在的 B 轮,先再次恭喜。团队从很小变成增长阶段,你有哪些不得不放下或改变的做法?
如果公司发展顺利,问题的数量不会真的变少,只是你随着时间开始处理不同的问题。创业第一天,我做的很多事都是当下需要亲自下场处理的细节,比如一笔具体交易、一张客户支持工单。团队人数增加后,这些事情自然会变。
放手其实挺不容易。我做创始人很长时间里,只要没法随时在 Slack 上响应,就会焦虑,觉得自己不盯着就可能出问题。后来这种感觉慢慢少了,你会意识到公司在某种程度上有自己的运转方式。不过你仍会花很多时间陪伴顶级客户,也会逐渐接手更多和人有关的工作。我以前没想过自己会写文化文件,没想到这类事会成为工作的一部分。
但这都挺有意思。我总觉得自己刚开始做当前阶段的工作时很不擅长,三个月后才上手,接着又开始做一份新工作。
随着公司成长,工作一直在变化。早期你会给工程师一个优先事项,让他用一周完成。团队规模扩大之后,你还会坚持一周一个重点吗?还是会更像大科技公司那样组织?
我们仍然每周全员开会。工程团队应该了解最重要的客户交易,反过来也是一样,这点没变。有些重要项目很难压进一周,所以某些工作的周期确实变长了。不过也有很多事仍然是一天内要解决的优先事项。我们会尽量明确真正重要的几件事。
我的想法也从每周优先级,逐渐转向月度和季度优先级。不过还没变成大科技公司那种组织方式,我们没有一整套年度 OKR。我们仍然尽量像创业公司一样精干地运作。
因为你会不断获得新信息,市场变化很快,不跟着调整就会落后,尤其 AI 和编程领域变化更快。
对,确实一直在变。
那我们转到商业层面……
竞争与数据飞轮
你们所在的赛道竞争很激烈,大家都在拼命提升表现。如果客户数据不能全部用于训练,性能会不会无法随着业务量一起扩展?你们怎么建立护城河、和其他公司拉开差距?
就像刚才说的,持续评测做得好,是关键的一部分。我们每个月处理十亿页文档,怎么围绕这些数据形成飞轮,是我们需要解决的问题。
我们做的并不只是针对某一种版面。我们的方案是横向通用的。很棒的一点是,客户群越广,我们对各种问题的理解就越好。
我其实觉得竞争市场很好,因为它很看实力。我们服务 Harvey 这样的领先 AI 原生创业公司;如果我们不能继续做到最好,他们就会自己去找最好的供应商。我们的态度一直是要迎接这个挑战。
所以你们是竞争优先,想赢,但也接受公平竞争?
是的。
明白。如今很多市场都会很拥挤,关键就是能不能快速行动、参与竞争;比起系统性优势,执行似乎比以往都重要。
对,确实一直如此。
好,桃子看起来可以了,放到盘子里,然后开始处理牛排。回到 Reducto 的未来……
该死,可以再给我一点油吗?
可以。好。关于 Reducto 的未来,你会不会想像 Rippling 那样,做很多横向产品,成为提供多种服务的综合型创业公司,甚至接手文件存储等客户除了提取、解析、编辑以外的需求?
我们最关心的是直接对文档进行操作。我们考虑问题时,不太关注文件存储;关键一直是能不能把某项任务做到世界第一。就文档分类、解析和编辑而言,我们认为答案是可以。至少目前,单纯存储数据没那么吸引我们。只有当这些方向能改善客户体验时,我们才会考虑推进。
明白。那你们的客户每次来找你们时……
更好的解析能为客户带来什么
听说你们的客户通常会带来一批此前所有测试都失败的文档,但这些文档到了 Reducto 就能处理。有没有什么让你觉得特别神奇的案例?
我最喜欢的客户演示,是客户找到了一个以前根本无法实现的用例,结果现在能解决了。他们开始把原来认为不在能力范围内的内容也交给系统处理。
有些时候,解析准确率还会带来人们意想不到的下游影响。一家法律科技客户发现,文档经过 Reducto 解析后,用户与文档的互动次数翻了一倍。
哇。
用户会问更多问题。这显然不是我们直接销售的功能,但他们发现答案质量和引用准确度都提高了,所以客户总体上更愿意参与互动。
这很重要。我们最终想带来的就是这种效果,只是它可能不会立刻体现在邮件流程里。明白了。现在你和 Ronic 都在团队里;你们都去了 MIT,对吧?
在 MIT 找到联合创始人
你和 Ronic 都去了 MIT,是通过他当助教或研究助理的一门课认识的吗?
对,我们是在他大一时认识的。
你以前说过,你很欣赏他的能力和才华。你们一起做事快要三年了吧?这三年里,有没有某些时刻让你意识到你们很合拍,或明白了联合创始人该有哪些特质?有没有什么做法和常见的创业建议不一样?
到目前为止,我最喜欢我们这段创始人关系的一点是,我们从没发生过我会真正称为“争吵”的事情。
好。
我们讨论过很多事情,也会表达不同意见,但我们很擅长就事论事地沟通、解决分歧。我觉得这最重要。前提当然是你尊重对方,觉得对方有互补的技能。但创业真的很艰难,重要的是你觉得自己能和联合创始人一起经历起起落落,而不会心生怨恨。这种关系很特别,刚认识一个人时很难强求或预测。
你和 Ronic 的技能互补吗?
我觉得是。我在 MIT 完成了计算机科学本科,但和他比起来,我都快算不上技术人员了。我们的工作通常会在产品上交汇。他主导了各方面的大量工程工作,在技术上也有很多强烈的看法;我的强项则是在市场拓展方面。
明白。不过你们都懂技术,能进行相关讨论;但你肯定不会和 Ronic 比编程马拉松。我觉得他这辈子可能一次都没输过。
是啊。
你们也一起参加过黑客松,对吧?
Anthropic 黑客松、长期记忆与 RAG
你们还一起参加过一次黑客松,对吧?
参加过。
是 Anthropic 推出早期 Claude 模型时办的那场?
对,他们当时提供了 Claude 的早期使用权限。我们的创业历程某种程度上就是从那时开始的。当时模型已经很厉害,但上下文窗口限制非常糟糕,于是我们开始考虑长期记忆,最后发展成后来的 Reducto。
时代确实变了。当时 RAG 很重要,你们的处理流程现在还会做很多分块吗?上下文窗口变长之后,这件事是不是没那么重要了?
分块可能不再是最吸引人注意的部分,但很多问题归根结底还是搜索问题。
好。
不管你叫它 RAG,还是叫别的名字,很多产品本质上仍是某种搜索,再基于搜索结果做推理。
明白。
我个人认为,按定义来说,这其实就是检索增强生成。
对,说得通。你能具体讲讲“所有问题说到底都是搜索问题”吗?编程领域里,文件引用和文件搜索似乎是在 RAG 之后出现的方向。文档解析和处理的框架也一样吗?
人们想到 RAG,常想到传统做法:先把内容切块、生成嵌入,再用余弦相似度搜索,决定哪些内容要放进模型上下文。
有些人排斥 RAG,理由是“我又不是在做聊天机器人”。但我们很多客户仍然会给智能体一个文件系统,让智能体在里面搜索,找出相关上下文,再基于这些内容推理、拼接多个文档的信息。
我想说的是,无论这件事由智能体完成,还是直接呈现在搜索产品里,流程都是先查找信息、拼出上下文、综合内容,最后采取某种行动。
明白。这流程挺直观的。我的牛排应该做好了,你可以开始看看。接下来聊聊大家怎么找到你们,以及你们在招聘什么。我猜你们不同岗位都在招?
我们现在大概有 40 个职位空缺。
哇。你们眼下主要受限于什么?销售,还是还在招很多研究人员?
各方面都在招,尤其是工程岗位。随着规模扩大,基础设施问题对我们特别重要。
对。我也得洗洗手。
> 翻译待核对:37:42–37:48 的字幕残句“mistakes in the washing hand”不通顺,无法据此确认具体所指。
我们在招产品工程、机器学习和平台岗位。销售团队方面,今年年初我们只有一名客户经理(AE)和销售工程师(SE);现在销售团队已经有 30 个人了。
哇。
总体来说招了很多人,短期内应该还会继续。团队的产能仍然不够。
明白。能有增长问题可比陷在转型地狱里好——你以前也提过,坐下来解决不了问题,比现在要增长难多了。
是啊,应该会挺好的。
好,我们把这个移过去,然后去洗手。
我以前从没用叉子煎过牛排。凡事总有第一次。
重新回到厨房
太棒了。好了,我们回来了。牛排已经做好,可以开始切了。你切面包,我来切牛排,怎么样?
好。再回到 Reducto,你们已经从帮助公司提取和解析文档,发展到也能处理文档编辑了……
从读 PDF 到修订合同
你们已经从帮公司提取和解析文档,发展到也能处理文档编辑。你觉得从阅读、分析到编辑和知识工作,还有多少机会可以拓展?
我总体上觉得,白领工作还没有迎来类似 Claude Code 那样的时刻。很多白领工作不只是综合信息、从文档里提取内容,也包括最后把内容写进电子表格、Word 文档等。
所以我们想的不只是解析和提取这一层,还想让模型尽可能可靠地修订合同、填写贷款申请,完成原本要由人来做的工作。这里面有很多难题。刚才我们也提到了,人类每年要花几十亿美元做文档本地化。
比如美国企业要和中东公司做生意,可能需要把内容翻译成阿拉伯语。模型翻译得很好,但把修改应用到文档里很难:英文文档转成从右到左的文字后,版面要重排,内容可能流到下一页,格式也会变化。
格式确实不一样。
正是如此。理想情况下,我们能替客户处理这一整套问题。我们还处在早期,差不多半年前推出了表单编辑接口。接下来也有不少东西快要发布,我认为会带来巨大的变化。
这听起来像是一个很不一样的问题,更像计算机操作,比如填写表单。
确实有些相似之处,而且这里也有不少工作更接近代码生成。不过,最根本的还是要非常擅长理解视觉结构;有了这项能力,我们也就能做好把修改应用到文档里。
明白。你们会把这些问题交给不同团队,还是都放在同一个体系里?
我们不会很严格地拆分团队。这也和刚才聊到的工程团队优先级有关。我们有机器学习团队,组内的人会做各种不同问题;当然也有人专门研究某些方向。我们刚招到一位很棒的新员工,叫 Leang。他因为开源办公智能体在 Twitter 上火了起来。
哦,我好像看过。
对,这人很难招,刚从新加坡搬过来。他对文档编辑问题特别感兴趣,现在主导了其中不少工作。让人和问题之间有热情上的契合,真的很重要。
你们怎么找到对这个使命有同样雄心的人?主要靠主动联系还是申请?会用什么方式筛选?我猜你们很看重使命感。
从读 PDF 到修订合同(续)
我们一直在持续招聘:有内部招聘人员,也和招聘机构合作。不过,偶尔你会在 Twitter 上发现某个人对 PDF 的执着程度超乎寻常。一个人会随手花时间琢磨文档处理,这本身就很能说明问题。只要看到这种人,我们就会想办法联系。
有道理。你刚才说白领工作还没有迎来 Claude Code 时刻,你觉得引发那种爆发式增长的催化剂会是什么?是大家看到用例的价值,还是行业扩散和文档编辑场景的普及?
办公工作中的 Claude Code 时刻
我觉得模型能力已经快到那个点了。前沿实验室显然先集中提升了代码生成能力,之后才考虑其他模型应用问题。
对。代码很多时候是可验证的问题,工程师也最容易接受新工具。但企业的数据散落在各种地方,还有很多奇怪的经验规则。你问大型金融机构某个纸面流程是怎么处理的,他们可能会告诉你:“如果我在屏幕左下角看到这个,就知道它来自肯塔基州,所以……”
这类知识通常根本没有被清楚地写下来。
所以工具公司还有很多工作要做:汇总这些上下文、帮企业建立合适的知识库,再为模型提供足够的信息来推理。
对。不过我觉得离大规模出现这种情况已经不远了。
明白。所以问题更像是数据碎片化和上下文不足,而不是模型表现?模型的长程推理已经越来越强,智能水平似乎不再是最大的瓶颈。
是这样。
那是不是需要更集中地解决这个问题?把某个州的纸质文件和老旧文件系统里的数据整合起来,并不是软件一定能轻易解决的。你们从文档处理角度考虑过这种问题吗?
好的一点是,我们能和各个垂直领域的领先团队密切合作。比如我们和 Basis 团队合作,他们想自动化 1099 报税;也和 Harvey、Lora 这些在法律领域做得很出色的公司紧密合作。
这些公司专注于自己的领域,因此能逐步摸清在特定场景下如何端到端交付价值,这很好。
明白了。那块好像还冒着热气。
是热气,不是烟。
好。我们可以组装一个,吃完就结束。接下来……
Reducto 接下来的方向:提取、引用与成本
除了这次发布,今年剩下的时间里还有什么里程碑或事情让你期待?再恭喜一次。
总体而言,我们的模型都在变得更好很多。
你要戴这个 Halo 吗?
好啊,要把这个也戴上吗?
行。
我们的结构化提取模型也有了巨大进步,而且不只是准确率提高。引用表现和遵循 schema 的能力也更好了,成本还更划算。我们今天宣布,以前结构化提取每页总成本要超过 4.5 美分;现在成本降到一半,同时表现还更好。
哇。
你还好吗?
我呛到了。
哇,这一下降得真多。
这些就是我们想继续推进的方向:全面推动准确率、成本和延迟之间的帕累托前沿。
明白。之前你提过成本和性能。这主要是为了降成本,还是成本降下来的同时维持原有性能?
幸运的是,我们并不是为了降成本而刻意降成本,而是发现只要专注提升模型表现,每一美元能买到的智能也会更高。我们的首要目标始终是成为市面上最准确的文档处理平台。
嗯,而且就像你说的,也不绑定某一家模型。
没错。
好,太好了。那我们组装三明治吧。
组装牛排三明治
好,牛排要放多少?要不要再加点?
我们可以叠两层。
好。你要不要往这边挪?这样我也能加一些。感觉怎么样?
挺好。我在想那个人的事,忘了他的用户名了。我想把这些牛排片铺得好看一点,确保摆放方式没问题……
别再被网友嘲讽一次就行。
才不会被嘲讽。这些肉块也切得很小,应该能铺开。
看起来很好。把芝士放上去。你放布拉塔奶酪,我来放桃子?
好,哇,真不错。
放在牛排上还是面包上?
放牛排上吧。然后盖上去。
铺开。太好了,看起来真棒。把顶上的面包也放上去。好,完美,我们来切开。
太棒了。
接着加点阿根廷青酱?好,拌一拌,再放到上面。拍这些动作镜头肯定会很精彩。看起来好凉啊。你也可以把面包盖上去。好,完美,我们来切开吧。我们能回应一下那些批评吗?
可以。我觉得我们该数一数你咬的时候会带出几片牛排。有人说会有三片。
牛排指控与试吃
三片,对吧?来,咬一口。
一片。
对,很轻松。味道怎么样?
太棒了。
好,碰杯。
还有点辣。
嗯,太好吃了,天哪。牛排三明治怎么做都不会错。
对,尤其是加了桃子。
真的太棒了,我们做得真好。
谢谢你们招待我们。
那这份三明治和 Reducto 之间有什么比喻?
你是想让我说句和文档有关的话吗?