围绕模型构建的平台,让 AI 功能从演示走向生产:能够规划、执行和验证的智能体,以及架设在企业自有系统之上的 MCP 服务器。围绕它们的是跨模型服务商的路由、面向长任务的持久化工作流、按客户隔离的记忆,以及让每一次写操作都有人把关的防护机制。本站背后正在运行的 MCP 服务器就是现成的例子,同样的工程也曾运行在一个服务一千多个租户、以智能体为核心的 AI 工作流平台上。整套系统运行在自托管的基础设施上,因此没有任何数据离开本地。
完整故事
一个 AI 功能如何成为生产系统,以及这能为您的业务带来哪些可能。
演示很顺利。然后它遇上了您的真实业务。
大多数 AI 功能都死在演示和产品之间。原型在聊天窗口里回答得漂亮,一接触真实业务就露了底:看不到客户的订单,打不开工单,编造出一条根本不存在的政策,自己启动的长任务半途夭折,某天下午模型服务商一出故障,故障就成了您的。团队在提示词上耗费数月,却始终触及不到真正的问题,因为问题从来就不在提示词。
这就是工作室为创始人和产品团队把 AI 功能推向生产所用的技术栈:会规划、执行和验证的智能体;让助手以安全、类型化的方式访问企业自有系统的 MCP 服务器;跨模型服务商的路由;为不容丢失的任务准备的持久化工作流;以及有人工参与把关的护栏。真正的杠杆在模型周围的平台,而不在任何单一模型。本文其余部分将逐一介绍每个组成部分,以及它带来的可能。
现在就能亲手验证的证据
本站背后的公开 MCP 服务器就是现成的实例。把任意 AI 助手接入它,问问工作室做过的项目:它通过二十七个类型化工具读取实时记录,并按数据如实作答。匿名调用者可以使用一组用于初步筛选的工具;一把免费密钥即可解锁其余全部。联系方式永远不会离开数据库,日期按设计只精确到月,未发布的内容一律不可见。
把作品集换成您的产品目录、订单历史或客服记录,结构完全一样:一个助手基于您自己的数据、通过您定义的工具来回答客户和员工的问题,而不是凭训练数据去猜。



位于助手与您的系统之间的 MCP 服务器
MCP 服务器位于助手与您的 CRM、数据库、工单系统或 CMS 之间,只开放少数几个类型化工具:输入经过校验,每个工具可返回的字段有允许列表,每一次调用都有日志。助手从不直接接触原始数据库,而这套集成只需构建一次,便可供团队使用的所有助手共用:基于您自有记录的客服、查询客户账户的销售、任何助手都能调用的内部工具。


会规划、执行和验证的智能体
智能体就是被允许采取行动的助手,而有用的智能体与危险的智能体之间的区别,在于包裹它的那套循环。接到任务后,它先写出一份您能读懂的计划,借助工具逐步执行,对照测试或业务规则检查自己的结果,然后报告做了什么、哪些没有碰。任何会改变现实世界的操作,都要等人来确认。
对产品团队来说,这意味着过去要排队等工程师或运营人员处理的工作,现在可以自行推进:一项改动完成、验证后,以草稿 pull request 的形式交付;一件退回的货品被查到,在承运商规定的时限内备好索赔,写好给客户的邮件草稿,安排好后续跟进。跑腿的活由智能体完成,决定权留在人手里。



每项任务用对的模型,绝不受制于单一厂商
没有哪个模型在所有任务上都最好或最便宜,而只接入一家服务商的产品,会连带承受它的故障、调价和悄无声息的性能退化。这套技术栈让每一次调用都按一套策略来路由:分类和信息提取用小而快的模型,推理和撰写用更强的模型,按数据驻留要求和成本选择服务商,首选失败或变慢时由备用方案接替。
工作室已在一个以智能体为核心的 AI 工作流平台上,在生产环境中跨 AWS Bedrock、OpenAI 和 Anthropic 运行这套路由。对您的业务而言,这意味着 AI 账单跟随每项任务的价值,而不是最贵模型的价格;某家服务商出故障,也只是日志里的一行记录,而不是一张客服工单。



能扛过故障的长任务
真实的 AI 工作很少只是一次调用。为两千条记录补全信息、核对一个月的发票、带一位客户走完六个系统的开通流程:每一项都是一连串可能持续数小时的步骤,而每一步都可能失败。一旦某个 worker 挂掉,cron 任务和队列就会丢失进度,失败的链条通常从第一步重新开始,重复已经做过的工作,重复发送消息。
这套技术栈把多步骤的智能体工作作为持久化工作流运行在 Temporal 上。每个已完成的步骤都会被记录,失败的步骤按退避策略重试,在第七步中断的工作流会带着完好的状态从第七步继续。对您的运营来说,这把“机器人跑到一半崩了”变成了“工作流重试后已恢复”,这正是 AI 演示与 AI 产品之间的区别。



护栏,以及一个能说“不”的人
读取操作立即执行。任何写入操作都要等人确认,通常先给出一份可供审阅的草稿;破坏性操作在获得确认之前,只会报告将会发生什么。每一次工具调用都有日志,所有者的管理入口受三道独立校验保护,每个租户的数据在存储层隔离,而不是靠约定俗成。助手所做的一切,没有一样会未经检查就生效,而且始终留有记录。


在您的业务中会是什么样子
客服基于您自己的记录作答,而不是照本宣科;一旦涉及退款或特殊情况,就立即把客户转给真人。运营智能体负责提交索赔、催促供货商、安排后续跟进,每一条对外发出的消息都经过审批。团队已在使用的内部工具以 MCP 工具的形式开放,任何助手都能调用。记忆保留过往工作的上下文,并划定范围,确保一个客户的历史绝不会在另一个客户那里被检索到。
合作从小处起步,随着信任建立逐步扩大:一个系统、只读工具、由您设定的审批策略,以及归您所有的记忆范围。第一个里程碑是一个在您真实数据上运行的助手,而不是一套幻灯片。



由同时运维基础设施的工程师打造
在成为工作室自己的技术栈之前,这套技术栈已在企业级规模上经受过检验:作为一个以智能体为核心的 AI 工作流平台的工程负责人,涉及自主智能体、持久化编排和多服务商 LLM 集成,运行在服务一千多个租户的多租户 SaaS 上,部署于生产级 Kubernetes。真正的难题没有一个是提示词问题,而是模式设计、隔离保证、工具安全、重试语义和可观测性,也就是任何生产系统都需要的那套工程能力。
公开的 MCP 服务器及其背后的管理入口都运行在自主管理的基础设施上,因此没有任何数据离开本地。如果您希望 AI 能够安全地读取您的数据、驱动您的工具、记住您的上下文,这就是这类工作的样子。本站背后的服务器有它自己的故事:Webanion 平台。

博客是来自生产一线的笔记:架构决策、经受住真实用户考验的 AI 系统、能自己挣回成本的基础设施。写于工作之中,而不是隔岸观火。
