☰
3年淘宝店主学完RAG,打算用Streamlit搭个电商客服Demo
2026/10/8 7:01:27 网站建设 项目流程

5年写前端,3年开淘宝店,现在学AI大模型。

学到RAG的时候突然拍大腿,这不就是我当年开店最需要的东西吗?

先聊聊当年怎么被折磨的。

开淘宝店那3年被折磨的事

客服每天回答一模一样的问题:快递发啥、几天到、能退吗,说到怀疑人生。商品详情页一个品磨半天,卖点规格使用场景全靠自己一个字一个字敲。几百条差评翻来翻去看不出问题出在哪。退换货政策隔三差五变,新客服来了又要从头教。

能怎么办?招人呗。人多了成本上去了,效率没见涨。

后来接触到RAG,越学越觉得:这东西早五年出来,我至少能少操一半的心。

RAG到底干了啥

全称Retrieval-Augmented Generation,检索增强生成。

听着挺唬人,思路说白了就一句话:你把知识喂进去,模型先检索再回答。开卷考试,不是裸考。

你直接问ChatGPT"你家退货政策是什么",它瞎编。为啥?上周刚改的政策它不知道,你店铺的沟通风格它没有,今天什么价什么库存它更查不到。

RAG就不一样了,知识是你自己喂的。模型只负责理解问题和组织语言,答案必须基于你给它的资料。

电商客服这块我打算怎么搞

脑子里大概分了几块,也是准备动手的顺序。

知识库:把老客服脑子里的东西掏出来

电商客服的知识散落在好几个地方,商品资料、售后政策、常见问题FAQ、历史好评差评。

这些资料格式五花八门,PDF政策文档、Excel商品表、Word话术模板、TXT聊天记录什么都有。

要做的就是把它们全部解析成统一格式,按语义切分成chunk(文本块)。切分这事有讲究,块太大检索精度低,容易混进不相关内容。块太小上下文丢了,回答断章取义。

看了一些资料,电商场景大概500到800字的chunk效果比较好。一段退货政策刚好一块,一个商品的完整介绍也差不多这个量。具体还得跑了才知道。

检索:两条路一起跑

用户来问问题,怎么找到对应的知识?

靠一种检索方式搞不定。

表格

检索方式擅长不擅长
向量检索(语义)"这个东西跟图片颜色不一样" → 匹配到色差退换政策精确型号、SKU编号
BM25(关键词)"SKU20240315有货吗" → 精确命中"你们家那个XXX能不能便宜点"

一个懂意思,一个懂字面。

所以两条路并行跑,结果合在一起再做重排序(Reranking)。

召回求全,重排求准。准备用qwen-turbo做LLM重排,让模型判断哪些chunk跟用户问题真正相关,排出优先级。这块还没跑,但感觉这个思路应该没错。

Prompt:让模型说人话

检索到了知识,怎么生成回复?这块估计会踩坑。

直接把检索内容丢给模型,大概率会照搬原文。用户问"几天能到",模型回一大段物流政策原文,体验肯定很差。

想了想,Prompt得这么设计:角色设定要有(你是XX店铺的客服小助手,语气亲切专业),约束要写死(基于参考资料回答,不要编造,不知道的要说"帮您确认一下"),回答格式定好(先给结论再补充细节)。

风格跟店铺调性走,我店里走的是"闺蜜聊天"风格,不是机器人腔。

大概长这样:

prompt = f"""你是{shop_name}的客服助手,风格亲切专业。 基于以下参考资料回答用户问题。 如果资料中没有相关信息,回复"这个问题我帮您确认一下,稍后回复您哦~"。 回答要简短,先说结论,再补充细节。 参考资料: {retrieved_context} 用户问题:{user_question} """

Streamlit搭界面

光跑通Pipeline不够,得有个能交互的界面。打算用Streamlit来搭,几十行代码应该能搞定。

左边是知识库管理,上传商品资料、政策文档。右边是模拟客服对话窗口。中间展示检索过程,命中的chunk、相似度分数、重排结果。

中间那栏我觉得挺重要的,让人看到模型不是瞎编的,每一句回答都能追溯到原始资料。这也是RAG对比纯LLM很大的一个优势,答案可溯源。

跟以前的关键词机器人完全不是一个东西

可能有人会觉得,这不就是智能客服吗?

以前的关键词客服,用户说"退货"就弹退货政策模板。就是关键词匹配加固定回复,没什么好说的。

RAG客服呢?用户说"收到的东西颜色跟图片差太多了,穿了一次才发现问题"。它能理解这是在问色差退换,检索到色差相关退换政策、7天无理由条款、运费说明,组织一个完整回复:"亲,色差问题支持7天无理由退换哦,运费这边承担,您把订单号发我帮您登记~"

一个是查字典,一个是真的听懂了。

差评分析:顺便把运营也做了

同一个知识库,换个Prompt就能干别的。

比如把几百条差评丢给LLM,让它分析高频负面关键词、正负面情感比例、最需要改进的3个问题、具体改进建议。

理论上跑出来的结果应该比人工翻评论靠谱不少。以前运营花半天整理的差评报告,用这个几十秒可能就出结果了。

详情页文案也一样,挑几个爆款的好评文案当few-shot示例,让模型学那个调性批量生成。不一定完美,但改一改就能用,少说省5倍功夫。

为什么我觉得这事能成

以前觉得AI挺虚的,什么大模型什么Transformer,离实际经验太远。学完RAG之后发现,它就是把你的经验变成一套随时能用的系统。你当客服积累的应对话术、运营积累的商品理解、售后积累的政策规则,全部灌进去,变成一个"不会累、不会忘、不会情绪化"的超级客服。

当年开店要有这东西,客服那边至少能省不少事。

下一步

准备开始动手搭这个电商客服Demo,用Streamlit做界面,跑通整个Pipeline。后面还要完善电商场景的知识库模板(商品和SKU结构化模板),加上多轮对话记忆(用户追问"那运费呢"能接上上下文),把差评分析模块做成独立功能,最后开源到GitHub配完整教程。

做完发出来,代码加教程一起。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询