关键数据
7→1
分散调用收口为统一网关
过去 18 个月,我们帮 11 家企业把 AI 能力从「业务系统各自接 API」升级为「企业级 AI 接入平台」。
这一篇总结 4 个被反复验证的设计原则:边界、契约、可观测、可降级。
图集
01
边界:业务系统只对接一个网关,不直连模型
业务系统(CRM / ERP / 工单 / BI)只与 AI Gateway 对接,Gateway 统一屏蔽主流大模型 API / 私有化模型 / 国产开源模型。
模型替换、限流、降级、配额都在网关内完成,业务侧零感知。
02
契约:每个能力是一份 Schema,不是裸 Prompt
Ouryun 的接入平台不暴露「聊天补全」原语,而是暴露 named capability。
每个 capability 都有 JSON Schema 输入输出、版本号、Owner、回归测试集。业务系统只调用能力,不关心 Prompt。
03
可观测:每条调用都要可被审计
trace_id、user_id、capability、model、token、latency、cost 全部落入审计表。
合规可一键导出过去 90 天某个用户的所有调用。这是把 AI 从「黑盒工具」变成「企业能力」的关键。
04
可降级:模型挂了业务不能挂
主模型超时 / 限流 / 拒答时,网关按策略降级:私有化小模型 → 规则兜底 → 人工队列。
降级路径对业务透明,通过 capability_status 字段告知调用方结果置信度。
typescript
一段接入示例:业务系统只调 capability,不调模型
// 业务系统(CRM)调用:生成客户拜访纪要
// 关键:业务侧只看到 capability,不看到 model / prompt / temperature
import { aiGateway } from '@/lib/ouryun-gateway'
const result = await aiGateway.invoke('summarize_meeting_note', {
input: {
transcript,
language: 'zh',
max_bullets: 5,
},
context: {
user_id: currentUser.id,
tenant_id: currentTenant.id,
trace_id: meetingTraceId,
},
policy: {
// 网关会按这些 policy 自动选模型 + 限流 + 计费
pii_redaction: 'strict',
data_zone: 'cn', // 强制路由到合规区域
fallback: 'rule-based', // 模型挂了走规则
},
})
if (result.status === 'ok') {
saveSummary(result.output)
} else if (result.status === 'degraded') {
saveSummaryWithFlag(result.output, result.confidence)
} else {
queueForManual(result.input)
}成果
企业 AI 接入 · 量化的成果
11
家企业已落地 Ouryun 接入平台
70%
API 调用通过统一网关
42%
推理成本下降
王皓· 2026/5/8