企业接触大模型,往往从“接个 API 试试”开始,很快遇到现实:模型不懂公司的私域知识,一张嘴就胡编;数据不敢出域,公有云用不了;想让它真去干活,又发现它够不着业务系统。于是项目停在 Demo,进不了生产。
金兰信息把企业级 AI 落地,当成一门工程而非一次调用。我们把它拆成四道关,关关都要达标,模型才能真正在业务里“上岗”。
第一关:知识关——让模型说“内行话”
通用大模型最大的短板,是不懂企业自己的制度、产品、历史工单。我们采用检索增强生成(RAG),把企业私域文档、手册、案例向量化建库,让模型回答时先“查资料再开口”,从根上抑制幻觉。
实践中我们关注三点:
- 切片与元数据:按业务语义切分,带上来源、版本、权限标签;
- 召回质量:用混合检索(向量+关键词)提升命中率,并做重排;
- 可追溯:每条回答都能回链到原始依据,可审计、可纠错。
第二关:安全关——数据不出域,权限不越界
对政企与科研客户,安全是前提。我们支持私有化部署,模型与知识库都落在客户网络内;同时在应用层做细粒度权限隔离,确保“张三问不到李四的数据”。对外调用的第三方模型,也走受控通道,不泄露业务上下文。
交付物:《私有化部署方案》《权限矩阵》《数据安全评估》
第三关:集成关——让 AI 真正“动手”
只会聊天的 AI 价值有限。我们把大模型封装为智能体(Agent),通过工具调用对接业务系统:查订单、提单子、跑分析、生成报告。在轨道交通数据分析等场景,我们让智能体串联“上传数据—选择算子—生成报告”的工作流,把人从重复劳动里解放出来。
交付物:《智能体工作流设计》《工具接口规范》《集成测试报告》
第四关:评估关——效果可度量、可回归
AI 不能“感觉变好了”。我们建立评测集与回归基线,对回答准确率、幻觉率、工具调用成功率等关键指标持续监测;每次模型或知识库更新,都跑回归,防止“越改越差”。
交付物:《AI 效果评测报告》《回归基线》《线上观测看板》
四道关,关关是工程
| 维度 | 只接 API | 金兰信息四道关 |
|---|---|---|
| 知识 | 胡编乱造 | RAG 私域检索 |
| 安全 | 数据外泄风险 | 私有化+权限隔离 |
| 能力 | 只能聊天 | 智能体打通业务 |
| 效果 | 凭感觉 | 评测+回归 |
企业 AI 的最后一公里,不在模型多强,而在工程多稳。
金兰信息——专注为企业提供私有化、可集成、可度量的 AI 应用工程。从图像生成到智能体工作流,让大模型真正落到业务里、跑在生产中。
