项目总览¶
这个项目围绕邮政客服场景展开,主线不是单独做一个聊天页面,而是把数据、知识库、模型微调、Web 系统和推理服务串成一条完整链路。
最核心的两件事是:
- 把邮政知识整理成可检索、可引用的 RAG 链路。
- 把模型微调到更贴近邮政客服场景的状态。
Django 页面、API、推理部署和负载均衡这些内容不是孤立存在的,它们负责把 RAG 和 LoRA 变成可交互、可对比、可演示的系统成品。
从工程能力上看,这个项目覆盖了几条比较完整的链路:
- 从原始客服数据和公开页面材料中筛选、清洗、整理邮政知识。
- 把知识转成可检索、可追溯的向量库,并在页面上展示引用来源。
- 用 LoRA 做邮政客服场景适配,让模型回答更贴近业务语境。
- 用 Django 把会话、流式回答、引用、工单 JSON 和四种模式对比接到一起。
- 用 vLLM、A100 8 卡和 nginx 把模型能力接成服务入口。
整体可以按三段来理解:
第一阶段:数据筛选与知识整理¶
这一阶段主要处理邮政客服数据的筛选、分析和知识整理,包括:
- 从泛客服数据中筛出邮政相关对话。
- 做关键词统计、样本分析和边界 case 检查。
- 为后续知识库和训练数据准备更干净的输入。
对应目录主要是:
week1/week1-module-Web-Crawler/
第二阶段:RAG 智能客服系统¶
这一阶段的重点是把知识整理和问答系统接起来,形成可以运行、可以引用知识来源的邮政智能客服链路。
这一阶段保留的重点包括:
- RAG 检索链路整理。
- Django 应用接入。
- 会话、引用、工单等交互能力组织。
- 不同模式下的效果对比入口。
对应目录主要是:
week2/
第三阶段:LoRA 微调与推理接入¶
这一阶段主要是围绕 LoRA 微调和推理接入展开,对 Qwen2.5 做邮政客服场景适配,并保留一版统一可复述的实验结论。
对应目录主要是:
week3/
仓库里保留的是整理后的实验工程、报告和说明文档;原始训练环境中的大量运行产物没有继续纳入版本库。
如果只看这个项目的主次关系,可以直接理解为:
RAG是知识能力主线。LoRA是模型能力主线。- Django 页面与部署链路主要用于把这两部分能力接成一个可验证的系统 demo。