世界太吵,来原声听播客

Latent Space

法律AI最大的工程难题不是模型,是永远看不到真实数据

客户数据大多连律所自己都无权查看,Legora的evals团队只能靠分类和改写后的合成数据,去猜测律师们真实在做什么。

法律科技企业AI智能体数据隐私模型路由前线部署

原视频在 YouTube 上放不出来,用音频听:

信息密度高,给出企业级AI公司在零数据可见度下如何做评测、选模型、分工现场支持的具体做法,少有空话。

核心论点 · 点时间戳可跳到原声

10:43

最难招的人是懂代码的大所律师

Legora的evals团队由工程师和律师混合组成,另外还有一批「法律工程师」——在大所执业三四年、同时有CS背景的律师。这类人懂法律实务又懂技术,是招聘里最难凑齐的交集,Jacob直接说这是公司最难招的岗位。但他们价值极高:既能做评测,又能直接影响产品设计,因为他们自己每天用产品、也每天见客户,是能拉出一百人专家池去塑造产品的力量倍增器。

— Jacob Lauritzen
14:30

AI未必能救得了律所合伙人制度

合伙人制存在的原因很简单:律所唯一的资本是人力资本,留不住人就留不住公司,于是干脆把人变成股东。Jacob认为AI本该让律所把经验和工作方法沉淀成可复用的系统——比如一个会自我迭代的知识图谱——从而积累一种不属于某个人的无形资产。但现实是合伙人靠「吃掉自己猎到的」方式计费,花时间编码经验反而耽误拉新客户,一旦离开合伙人身份,这些资产也分不到自己头上。这个激励错位目前没有答案。

— Jacob Lauritzen
16:45

初级律师没被淘汰,而是被两极分化

主持人抛出「律师助理没用了、初级律师没用了」的论断,Jacob直接反驳说这不是他们看到的现实。他拿工程师类比:一个优秀的工程师今天比两年前值钱得多,因为借助AI能产出远超从前的工作量;律师同理,好的初级律师会因为能用AI做出更多、更高质量的产出而变得更值钱。这种分化一直存在,只是现在被放大了,而不是整个群体消失。

— Jacob Lauritzen
26:40

看不到任何用户真实数据怎么做评测

Legora最大的工程难题不是模型能力,而是几乎看不到客户在产品里做什么——数据全程保密,很多时候甚至不属于律所自己,而属于律所的客户,连看一眼都不被允许。公司只能靠单独的evals团队去猜测、近似真实使用场景,再把猜测编进评测集。改写、脱敏后生成的合成轨迹是唯一可行的替代品,而脱敏越偏向「绝对安全」,信号就越弱,这被Jacob称作业务里最烦人的一个结。

— Jacob Lauritzen
28:50

三年前律所连AWS都不敢用

Legora的全部基础设施建在Azure上,原因很直接:创业早期律所客户明确表示不信任AWS、不信任Google,理由是没人替它们做过安全评审;但微软因为已经是Office 365的供应商,在律所眼里早就「过审」了,于是顺理成章成为唯一能用的云。Jacob说这种对公有云的抵触在过去三年里几乎完全消失,连关于私有化部署的讨论也一起消失了——这个行业的云迁移,是被AI倒逼着在三年内走完的。

— Jacob Lauritzen
43:00

法律工程师不写代码,前线工程师才写

Legora把现场支持拆成两层:「法律工程师」是大所出身、懂产品也懂客户工作流的人,负责像高级用户一样配置产品,不碰代码;「前线部署工程师」才是真正写代码、对接客户内部系统API的工程师,通常是连续创业者或大厂背景。大客户的定制需求先交给法律工程师处理,处理不了、需要改产品或做深度集成时才升级给前线工程师,这套两层分工让公司不必为每个大客户配一整个工程团队。

— Jacob Lauritzen
50:00

二十个工程师打败所有对手的想法放弃了

Jacob曾打算让公司永远只保留二十名工程师去打败规模大得多的对手,现在团队已经一百人,他却觉得还是太少——激烈竞争和客户的海量需求让这种极简主义难以维持。他现在的思路是把产品收敛成少数几个核心原语(Lists、Projects、Agent),客户感觉公司做了很多东西,但背后其实只是这几个原语的组合;他甚至在设想未来「agent本身就是API」,用一次agent调用取代原本要长期维护的整套接口。

— Jacob Lauritzen
1:03:50

大模型公司会不会把Legora这种公司挤掉

过去Anthropic和OpenAI已经两次在编程和搜索领域,把依赖它们模型吃饭的创业公司挤出局,Jacob被问到法律行业会不会重演。他的判断是不会:大模型公司要覆盖企业知识工作的方方面面——法务、数据分析、销售、财务都要兼顾,不可能在法律这一个垂直领域做到足够深;小客户用Claude顺手处理一点法务没问题,但做一笔四亿美元的并购交易,企业还是会选择专门做深做透的Legora。

— Jacob Lauritzen

原话 · 已逐字校验

Paralegals, gone. Yeah. Junior lawyers, gone. I don't need them.

律师助理,没用了。对。初级律师,也没用了。我不需要他们。

something that I'm toying with is, like, how much of our product can just be the agent versus all the other stuff?

我一直在琢磨的一件事是,我们的产品到底有多少部分可以干脆就是那个agent本身,而不是其他所有附加的东西?

Jacob Lauritzen0:00

we had one problem where, like, it wouldn't cite properly, and so it would be difficult to follow, and it was like next model release solved.

我们有一个问题,就是它引用得不对,导致很难看懂它的论证过程,结果就是下一次模型发布就把它解决了。

Jacob Lauritzen11:00

we can't look at any traces, basically. We can't look at any data 'cause it's all super confidential.

我们基本上没法看任何轨迹数据。我们什么数据都看不了,因为这一切都是高度保密的。

Jacob Lauritzen27:00

when we started, law firms were like, "AWS? No."

我们刚起步的时候,律所的反应是:「AWS?不行。」

Jacob Lauritzen29:00

we're just gonna be twenty engineers for the rest of the company's history, and, like, we're gonna beat everyone who's much bigger. And we're a hundred engineers now, and it feels like we're way too small.

我们公司往后余生就只招二十个工程师,然后把所有比我们大得多的对手都打败。而我们现在已经有一百名工程师了,却感觉还是太小。

Jacob Lauritzen50:45

But if you're doing a, you know, $400 million M&A transaction, you're gonna want Legora.

但如果你要做一笔四亿美元的并购交易,你会想要用Legora。

Jacob Lauritzen1:04:00

数字与实体

引用错误经模型升级后修复的准确率从70%提升到99%11:00
Tabular Review单次处理的单元格数量最多一百万个21:50
尽职调查数据房示例规模一万份雇佣合同/文件9:39
团队规模变化从「永远20名工程师」的目标涨到现在约100名工程师50:45
纽约团队人数约100人1:05:00
被反复举例的并购交易规模4亿美元1:04:00

术语

Tabular Review表格式批量审查
让agent对成千上万份文档逐一提问、把结果汇总成表格的功能
Forward Deployed Engineer前线部署工程师
入驻大客户、直接写代码做深度定制集成的工程师
Legal Engineer法律工程师
有CS背景、曾在大所执业的律师,负责产品配置和评测,不写代码
Pareto frontier帕累托前沿
在能力、成本、延迟之间始终选当下最优模型组合的策略
DPA数据处理协议
规定数据可流向哪些供应商的合同,决定了能接入哪些AI模型或工具

收听指南

谁该听

企业级AI产品经理、法律科技从业者、关心数据隐私约束下如何做产品与评测的工程师。

可跳过

结尾关于法学院奖学金和CS转JD项目的闲聊信息量低,可跳过。