智能体流量首超人类，AI 失控才是落地最大瓶颈
AI 已从内容生成走向自主行动：95% 的 agent 项目困在 pilot，进不了生产，因为缺的不是智能，而是运行时控制层。
核心论点 · 点时间戳可跳到原声
信任为何成为新瓶颈
Manoj 给出信任变重要的三个原因：一，AI 从生成内容变成替你执行动作，动作可能持续几分钟到几天；二，企业从单模型工作流转向多智能体系统，OpenClaw 这类框架会把影响放大到可能是 ChatGPT 的千倍；三，policy 不再只在部署时执行，必须在 runtime 持续检查每个工具调用和输出。因此 AI 架构本身成了风险面，需要新的基础设施层来管理 agent。
— Manoj Saxena95% 项目死在生产前
引 MIT 报告：95% 的 agent 项目无法从 pilot 走到 production。原因是写一个 agent 只要几小时，上线却要六七个月——风险合规要验证内外规、安全要防它成为内部威胁、财务要防它烧穿 token 预算。Manoj 的结论是：问题不是构建 agent，而是控制 agent；这个环节没人压缩时间，TrustWise 做的就是给 agent 做生产前的「拼写检查」。
— Manoj Saxenatoken 消耗爆炸与降本
agentic AI 的 token 经济完全不同：一次输入可触发 20 到 50 个动作，消耗是两年前生成式 AI 的 20 到 40 倍。TrustWise 用三类 shield（安全、合规、成本与碳）做 runtime 干预，宣称实测降本 83%、安全提升 40%、延迟改善 60%。控制层不是负担，反而是让 agent 规模化的成本杠杆。
— Manoj SaxenaAI 是 actor，不是 app
Manoj 区分了两种软件：过去 75 年建的是应用，应用等人输入、规则不变；AI 是 actor，能自己登录网站和数据库，同一个输入明天可能给出不同结果。因此企业栈要新增一层运行时控制层，位于模型/agent 编排层之上、用户体验层之下。他还预测三年后控制塔 90% 的用户不是人类，而是 agent。
— Manoj Saxenaagent 流量首超人类流量
刚过去的一个月，互联网上 agent 产生的流量首次超过人类流量。Manoj 把它比作当年 AT&T 网络上数据流量超过语音流量，认为这是里程碑式的迁移：未来的企业栈会更多由 agent 以电子的速度操作，而不是人。由此出现 AX（agent experience）与 UX 之分，控制塔产品也要同时服务人和 agent。
— Manoj Saxena六层对齐框架
Agent 在行动时要同时对齐六层：联合国人权宪章这样的全球权利层、国家法律（新加坡 AI Act、美国、沙特不同）、行业规则（FINRA vs HIPAA）、公司价值观、业务单元与工作负载层、客户 SLA 与互动层。TrustWise 在 10 到 300 毫秒内完成对齐评估，任何一层失守都可能酿成灾难，并且事后要能证明「牙签穿过三明治」的完整路径。
— Manoj Saxena语义动作层替代知识图谱
知识图谱只告诉你实体关系，上下文图谱加上情境，世界模型加入物理规律，但都不足以控制 agent 的 runtime 行为。TrustWise 发明的是 semantic action layer：定义该 agent 在运行时允许执行的动作路径，对齐所有层级。它像预计算的 Google 地图，而不是每 10 米重算一次地图的自动驾驶，这让 AI 变得可确定、可证明、更快。
— Manoj Saxena从防坏事到制造有益幻觉
Control Tower 的第一阶段是 Guardian Agents，防止坏事发生；新发布的 Harmony AI 加入 Genesis Agents，基于 OpenClaw 让一组 agent 像当年 Deep Blue 看到 95 步深一样，在收入流失、欺诈等领域生成假设。Manoj 称之为「有益幻觉」：10 个里可能只有 2 个对，但这两个可能是商业上的 game changer。这是他对垂直 AGI 和自主金融的起点。
— Manoj Saxena原话 · 已逐字校验
At the end of the day, trust cuts down to does the AI and the model do what you intend it to do? That kind of the heart of is it aligned to your business and personal intent?
归根结底，信任取决于 AI 和模型是否做你想让它做的事，也就是是否与你的业务和个人意图对齐。这正是问题的核心。
Manoj Saxena4:17
In fact, there was an MIT report that says 95% of agent projects are not able to move from pilots to production. And the reason is that you can write up an agent very soon, but risk and compliance need to make sure that it is following all the internal and external regulations.
事实上，MIT 报告称 95% 的 agent 项目无法从试点走向生产。原因是你可以很快写出一个 agent，但风险与合规要确保它遵守所有内外部法规。
Manoj Saxena20:56
we have demonstrated as much as 83% reduction in costs as we improved safety by 40% and latency by another 60%.
我们已经证明可以将成本降低 83%，同时安全提升 40%，延迟再改善 60%。
Manoj Saxena31:39
last month, the first time ever, the traffic on the Internet, agent traffic exceeded human traffic.
上个月，互联网流量中 agent 流量首次超过人类流量。
Manoj Saxena45:12
There is a layer beyond that that we have invented and innovated called the semantic action layer, which is what are the allowable action paths for that agent at runtime that aligns to all those seven layers.
我们发明并创新的这一层叫语义动作层，它定义了该 agent 在运行时被允许执行的动作路径，并与那七个层级对齐。
Manoj Saxena53:23
So what we are launching is the first prototype version of an open claw-based system where a group of agents can act as those machines that can go in and look 95 moves deep in domains like revenue leakage into fraud.
我们即将发布的是基于 open claw 的首个原型系统，一组 agent 可以像那些机器一样，在收入流失、欺诈等领域深入看到 95 步。
Manoj Saxena58:35
数字与实体
| MIT 报告中 agent 项目从 pilot 到生产失败率 | 95% | 20:56 |
| TrustWise 实测成本下降 | 83%（同时安全提升 40%、延迟改善 60%） | 31:39 |
| 一次 agent 输入可触发动作数 | 20-50 个 | 32:49 |
| 相比两年前生成式 AI 的 token 消耗倍数 | 20-40 倍 | 32:49 |
| TrustWise 提供的预置控制与策略数 | 超 1100 个，覆盖 17 项法规 | 42:08 |
| 某大型全球公司年底 agent 数量 | 100,000 个 | 7:25 |
| Hitachi 参与 OEM 的业务单元数 | 650 个 | 27:25 |
术语
- runtime governance运行时治理
- 在 agent 行动的当下检查并约束行为，而非只在部署前或事后审计。
- AI control towerAI 控制塔
- 跨厂商、跨模型的 meta 控制平面，统一管理多个 agent 的合规、成本与安全。
- guardian agents守护智能体
- 带人类在环、输出确定性的控制型 agent，负责监督和约束业务 agent。
- semantic action layer语义动作层
- 记录并执行 agent 在各层级对齐约束下的允许动作路径，使行为可确定、可证明。
- trust posture management信任姿态管理
- 同时权衡安全、合规、成本与碳效率的 agent 治理方法。
收听指南
企业 CTO/CIO、风险合规负责人，以及想理解 agent 落地卡点的 AI 创业者和投资人。
产品集成与四类部署模式（约 27:25-31:00）可略读。