上个月和一个做供应链的朋友吃饭,他跟我吐槽了一件很典型的事:公司去年采购了一整套AI问答应用,模型是当时评测排第一梯队的那种,厂商演示时效果惊艳,领导层当场拍板。结果上线三个月,业务部门没人愿意用——不是模型不行,而是每次问采购流程,系统答出来的版本都不一样;权限设置乱成一锅粥,实习生都能查到高管的组织架构信息;知识库更新靠人工提交,两个月没人维护,内容早就过期了。
他问我:"是不是我们选型选错了?"
我说不是,产品本身没问题,问题出在你们缺了一个叫"AI应用底座"的层。这个底座,恰恰是现在大部分企业搞AI最容易忽略、也最值得先想清楚的东西。我当时给他推荐了QuickBlue这条路线,也是这篇文章想聊的主题:QuickBlue到底是什么,以及为什么说企业做AI应用,缺的往往不是大模型,而是这一层底座。
1. 从一场"打水漂"的AI项目复盘说起:翻车点不在模型,在地基
1.1 模型选对了,项目照样烂尾
上面那个供应链案例不是个例。我带过不少AI落地项目,也帮朋友做过技术顾问,几乎每个月都能听到类似的"模型很强、落地稀碎"的故事。说句直接的话:在2024年之后,把一个大模型接进业务,这件事本身已经不太难了。难的是接进去之后那摊子事——知识怎么进去、权限怎么控、效果怎么评估、出了故障怎么排查。
我见过一个制造业客户,上了智能客服机器人,模型用得很好,但知识库里几百份非结构化文档全靠人工一份份导入,没有统一的切片和向量化流程。结果工程师每次更新设备手册,都要找人重跑一遍管线,跑完还不一定成功。最后项目组干了三个月,实际都在做"文档搬运工"的工作,真正业务优化的时间不足一周。
你发现没有,这些翻车点没有一个是模型本身的问题。它们全部落在"模型之外"的环节,也就是那些看起来不起眼、实际上决定成败的基础设施。
1.2 翻车背后藏着的五块"隐形地基"
我复盘过自己参与过的、以及朋友踩坑的项目,问题高度集中在五块内容上。
第一是提示词和上下文的管理。多数初期项目里,提示词散落在各个业务代码里,改一版就要重新部署服务。时间一长,根本没人记得哪个提示词在哪个接口里生效,出了效果差异只能靠猜。
第二是知识接入。企业里大量知识在PDF、Word、Excel、PPT和内部Wiki里,格式五花八门。文档解析、清洗、切片、向量化、混合检索,这整套管线看着不起眼,实际工作量非常大。不把这一层做成标准化能力,每个新应用都要重新搞一遍。
第三是权限与审计。大模型应用一旦接进来,它就是一个"能读企业大量内部资料"的系统。谁的权限能看到什么,问答记录留不留痕,敏感信息能不能被模型带出去,这些如果不在底座层设计好,后面补起来极其痛苦。
第四是效果评估。模型回答好不好,不能靠拍脑袋。需要统一的评估集、评测流程、回归测试机制。否则模型一更新,你不知道哪些回答变好了、哪些变差了。
第五是成本和可观测性。大模型调用是有真金白银成本的,不同模型不同价,不同应用消耗差异很大。没有统一的用量观测和成本分摊,财务问起来就是一笔糊涂账。
这五块东西,就是我今天要说的"AI应用底座"要解决的核心问题。它们像地基,平时看不见,但决定房子能盖多高。
1.3 我们说的"底座"到底应该是什么
我把底座这个词翻译成一句大白话:它就是一组开箱即用的、可复用的企业AI应用基础设施。它解决的是"让每个业务团队都能快速、安全、可控地把模型用起来"这个共同问题,而不是某个单一应用的具体逻辑。
一个有底座的AI项目长什么样?团队拿到一个新场景,不需要从零搞提示词管理、知识库接入、权限系统、评估流程,直接从底座的能力池里调就行。就像装修不用自己挖水管沟,楼盘交付时水电管道已经铺好了,你要做的只是装开关。
这个概念不是我编的,云原生领域早就有一个类似词叫"平台工程"——把基础设施变成标准化能力,让业务团队按需取用。QuickBlue在这条思路上往前走了一步,把AI应用特有的那些能力,做成了一套面向企业场景的底座。接下来我展开说说它的具体定位。
2. QuickBlue的真实定位:模型和应用之间那层"看不见的地基"
2.1 它既不是大模型,也不是业务系统
很多人第一次接触QuickBlue,会下意识问:它是不是又一个大模型套壳产品?或者反过来,它是不是一套聊天机器人系统?我的理解是,它两边都不是。
它不做底层大模型的训练,这是模型厂商的活;它也不做具体的业务应用,那是你业务团队和业务系统的活。它站在中间,用一个不太性感的词说,是"胶水层"——把模型能力、企业知识、业务数据、权限体系、应用场景这些碎片化的东西,"胶"成一个标准化的、可运营的整体。
我举个例子。你们公司如果准备做一个面向销售团队的AI报价助手,同时还想做一个面向HR的入职问答机器人。如果不用底座,这两个项目从知识库搭建到权限设计,几乎平行地各做一遍,互相之间完全无法复用。用了QuickBlue之后,底层的知识接入、模型路由、权限控制都是同一套,两个项目只是在上面各加了一层业务逻辑而已。复用率直接拉满。
2.2 我理解中的QuickBlue六块核心能力
由于QuickBlue本身是持续迭代的产品,我接触下来的经验是,它最核心的组件基本围绕下面六个方面。
模型接入与统一路由层:所有应用通过统一接口调用模型,底层接的是哪家API、哪个版本,由路由层统一管理。模型升级或切换时,业务代码不需要改。这个有点像家里装的宽带路由器——你不需要关心电信还是联通,只要网线插上去能用就行。
知识接入与处理管线:文档上传之后自动完成解析、清洗、切片、向量化、索引更新。业务团队只需要管"内容对不对",不用管"这些内容怎么变成模型能用的形式"。
工作流与工具编排:把多个模型调用、业务API、逻辑分支编排成一条流程。比如"先检索知识库,再带着结果调用模型生成答案,然后查一下内部库存系统确认可用量"。这个能力本质上是一个简化版的业务中台,只不过中台管的是数据,它管的是"智能逻辑"。
应用运行时:会话管理、记忆存储、并发控制、限流熔断,统一在这里处理。不同应用共享一套稳定的运行时能力,避免每个应用各写一套会话逻辑。
权限与审计体系:对接企业内部的身份体系(比如LDAP或企业微信组织架构),控制谁能访问哪些知识库,谁在什么时间问了什么问题。所有问答操作都有审计记录,出问题可以追溯。
效果评估与可观测:内置评测管理,支持标注、评估集、回归测试;同时记录每次调用的Token消耗、延迟、成本,做到成本归属清晰。这一块是后期运营的关键。
六块能力里面,我自己的看法是:前两块决定了应用能不能"好用",后两块决定了它能不能"长久用"。很多项目死在半路,不是前面不行,是后面没考虑。
2.3 用装修做类比:为什么需要单独"一层"
有朋友跟我抬杠说:你说的这些能力,让开发团队自己写不就行了?各个项目组自己搞一套,好像也不复杂。我一般拿装修来打比方。
你在毛坯房里装水电,可以选择每个房间自己拉一条电线、自己接水管,最后大概率是能用,但开关参差不齐、水管走向混乱,后面想改造一个房间,得上上下下动一大堆原来的线路。更好的做法是,先把全屋的水电管线统一设计好、铺好、验收好,再在标准接口上装各房间的灯和龙头。
AI应用底座就是全屋的水电管线,QuickBlue这类产品把它做成了交付标准。业务团队的应用就像各房间的灯具,只管插上标准接口就行,不用关心电压稳不稳、水管压力够不够。
这带来一个很实际的好处,就是技术团队的心智负担大幅下降。不用每个项目都担心"我该用哪套权限模型""我的知识库该存哪",这一切在底座层已经定了。团队可以把精力放在更值钱的业务环节上,比如怎么优化销售话术,怎么让HR问答更贴合公司制度。
聊到这里,你已经知道QuickBlue是干嘛的了。那么下一个问题自然就蹦出来了:这玩意儿听起来挺好,但企业真的需要吗?中小公司用不上吧?我明确说,恰恰相反,规模越往上走,底座越是刚需。
3. 为什么底座是刚需:组织协作、成本账和风险桶三条线一起看
3.1 组织协作线:别让每个项目组都把轮子重造一遍
企业做AI通常不是只做一个应用,而是一批应用。销售那边想做助手,客服那边想上问答,运营想搞内容生成,财务想弄合同审核。业务需求永远是分散且层出不穷的。
如果第一年做了3个应用,每个应用团队各自为阵,每人写一套提示词管理、搭一套知识库、设计一套权限方案。第二年做到6个应用的时候,你会看到什么?看到6份互不兼容的技术栈,6种不同的权限术语,6套独立部署的知识索引。然后你就得养一个团队,专门在不同系统之间当翻译。
这不是假设,这是我亲眼见过的情况。一家零售企业当时做了5个AI应用,分别由3个外包团队交付。半年后业务方想调整其中一个问答机器人的知识口径,结果要同时改两个外包团队的代码,还要等排期。从那以后,他们内部立了个规矩:新的AI项目一律要过统一的底座。
组织层面的逻辑说白了就一句话:如果你知道未来会有很多个AI应用,那么现在就值得把公共部分抽出来。底座的本质,就是企业AI能力的"公共资产池",大家往里面存,也从里面取。
3.2 成本账:算一笔隐性开发账
有人会觉得"底座是额外开销,省掉岂不是更省钱"。这是最大的误解。底座不是额外开销,它是帮你避免重复开销的。
我拿一个中型项目粗算:一个团队自研一套基础的知识处理管线加提示词管理,不包括业务逻辑,大概需要2到3个人做1到2个月。一个企业如果有5个AI项目各自搞,就是10到15个人月花在"重复造轮子"上。而上一套成熟的底座,许可费可能只相当于两三个人月的成本,而且这些能力是持续迭代的。
这就是规模效应的魅力。单个项目时,自研可能"更便宜";到了5个、10个项目,重复劳动的总成本会被快速放大。成本曲线一画出来,答案很明显。
另外还有一笔隐性账叫维护。自研的东西是要长期养着的。你写了一套文档解析脚本,下周PDF出新版了,格式变了,谁来改?底座产品由专门团队持续维护,这件事的隐性成本已经转移出去了。
3.3 风险桶:安全、合规、数据主权与模型供应商锁定
第三根线是风险,这根线也是我觉得最重要的。
先看数据和隐私。企业内部的知识库往往包含大量敏感信息,比如薪酬制度、客户名单、业务财务数据。如果每个团队各自接入模型,调用链路上谁来做数据脱敏?谁保证提示词不会把敏感信息直接带出去?责任落实不了,出了事就是事故。
QuickBlue这类底座通常会内置敏感信息识别与过滤、细粒度的权限控制、完整的审计日志。它把"谁看了什么,问了什么,系统返回了什么"全部记录在案。这在合规视角上是刚需中的刚需——任何做审计的同事听到"我们没有留痕"都会当场变脸。
再看模型供应商绑定。今天你用了A厂商的模型,用得挺顺;明天A厂商涨价或者产品下线,你要不要换到B厂?如果应用代码里直接写死了A厂商的API,换一次就是一次伤筋动骨。有了统一模型路由层,切换模型只是配置项的变化,业务代码一行不用动。底座在这里起到了"保险"的作用,防止你把鸡蛋全压在一个篮子里,还压死了。
还有自主可控的问题。企业信息资产放在别人的公有云里,和放在自己能控制的内网环境里,运营层面的自由度完全不一样。底座支持私有化部署,数据链路全程留在企业自己的环境内,这件事本身就是一种风险对冲。
三条线看下来,底座不是"锦上添花",而是"组织复杂度到了一定程度之后的必然产物"。但它也不是花钱买来就能自动解决问题的。选底座、落底座的过程里,坑还不少。
4. 选底座不是挑软件:评估标准、常见误区和一条渐进式落地路线
4.1 我给企业选型时的六个评估问题
我参与过几轮底座选型,最后沉淀下来一套问题清单,谁问我都是先问这六个问题。
第一,能否私有化部署,数据链路能不能全程留在内网?这是硬门槛。数据出不去内网,后面的安全、合规、审计才有得谈。
第二,模型接入是否标准,换模型方不方便?不要听厂商说"支持多模型",要现场演示:把当前模型路由从A换成B,应用是否无感切换。演示不了,等于不支持。
第三,权限模型粒度够不够细?能不能和现有身份体系打通?能不能做到"同一知识库,不同角色看到不同内容"?这个决定了你后续做业务隔离的时候要不要返工。
第四,审计能力是否完整?是只记个调用日志,还是从提问、上下文、检索文档、模型回答到操作人,整条链路可追溯?后者的价值出问题时你才体会得到。
第五,是否有可持续运营的可观测体系?成本能不能按应用、按团队分摊?效果评估有没有内置工具?没有运营能力,底座用半年就会变成黑盒。
第六,生态开放度如何?厂商有没有开放API和插件机制?数据能不能方便地导出?这决定了你未来会不会被绑死在一家厂商身上。
这六个问题,前两个卡方向,中间两个卡安全,后两个卡长期运营。逻辑顺序不要乱。
4.2 选型和落地过程中踩过的三个坑
第一,把底座当成"什么都管的大平台"来用,什么事都往里塞。有人上了底座之后,想让它连业务审批流、业务流程也一并管起来。底座最擅长的是AI应用通用能力,不是所有业务逻辑。业务逻辑还是要留在业务系统里,底座只做公共智能能力层。越界的后果就是底座越来越重,最终谁也改不动。
第二,等所有模块都完美了再启动。有次和企业对接,对方说,等底座的权限模块完全做好了我们再试点。我说不行,等完全做好是等不到的,应该先选两个风险低、价值高的小场景跑通,让业务方看到效果,再逐步放开。底座是干出来的,不是等出来的。
第三,权限设计放在后期补救。有一次客户图快,先跑通了智能问答,权限体系后面再接。结果接的时候发现,历史会话里已经积累了大量越权访问的数据,要么全部清掉重来,要么带病上线。最后只能删数据、重建第一批知识库,白白耽误两周。权限这个东西必须在第一天就设计进去,因为一旦有真实用户使用过,回头的成本就不是代码能解决的了。
4.3 一条经过实测的渐进式落地路线
最后分享一条我自己验证过的路线,适合多数从零开始引入底座的企业。
第一阶段,小范围试点。挑两个高频、低风险、业务价值清晰的场景(比如内部政策问答、客服话术辅助),接入底座跑起来。目标是验证底座的能力边界,积累运维经验,同时让业务团队建立信心。
第二阶段,沉淀公共组件。试点过程中,把重复出现的需求(比如"某个业务领域的学习资料需要定时更新进知识库")固化成标准操作流程和模板。这一步是把"做过的东西"变成"可复用的资产"的关键。
第三阶段,平台化运营。成立一个小型平台团队(两三个人就够),负责底座的日常运营、知识库治理、效果回归、成本观测。然后把更多应用逐步迁移上底座,并制定"新项目必须走底座"的准入规则。至此底座才算真正落地。
整个过程中,我最大的体感是:底座类项目的成败,七分靠组织,三分靠技术。技术选型选对了,只是开始;真正难的是让各个业务团队愿意把公共的活交出来,把重复的建设停下来。QuickBlue给的是一套工具,但工具背后那套"统一、沉淀、复用"的做事方式,才是企业真正的资产。
如果你所在的企业正准备上AI应用,我特别建议在聊大模型之前,先坐下来把"底座"这个概念对齐一下。别等第五个项目启动时,才发现前面四个各修了一套互不相通的轮子。那会儿再回头补地基,代价就不是最初那点选型时间可以比的了。