智能体构建咨询服务-
智能客服
• 背景
集团属民航领域，设有专门的客服部门，为提高客户服务效率和客户满意度，需要对当前客服系统进行升级。升级前客服系统为纯人工电话客服，希望引入以大模型能力为核心的新一代 智能客服 系统，从客户服务水平提升与客服团队与流程科学管理两大方面实现同步提升。
本项目BISHENG团队与某国内头部客服系统共同合作完成，该客服系统过去主要以NLP小模型以及强大的画布编排方式来响应复杂的业务场景需求，本次希望借助大模型及相关新一代模型能力实现更加智能的客服体验。
• 问题分析
1. 上一代技术无法实现用户问题与FAQ（常见问题库）的精准匹配。
2. 客户初始的问题描述往往是缺失信息的，直接使用残缺的意图描述进行FAQ匹配也是FAQ匹配率低下的主要原因之一，上一代技术无法实现智能的客户意图引导，只能通过生硬的槽位填充以及固定引导话术来补全用户意图。
3. 过去若FAQ中没有与用户提问相关的内容，则只能转接人工。
4. 更加智能的客服系统还有许多周边相关场景：会话内容摘要小节、会话内容标签分类、客户隐私信息脱敏、基于文档的QA生成等。
• 解决方案
针对前三个问题，通过与客服系统主流程进行对接，对机器人客服（智能客服）部分进行改造。客户从电话或文本两个渠道接入后默认进入智能客服，调用BISHENG平台接口，当用户点选转人工或说出“转人工”指令后，客服系统自动将客户请求流转到人工坐席队列。客服系统与BISHENG平台通过会话ID实现多轮对话的管理。
1. 首先使用大模型能力判断用户问题为闲聊还是业务咨询，若为闲聊则通过话术引导用户进行业务咨询，若为业务咨询则继续进入意图完整性判断模块。
2. 意图完整性判断与多轮问答引导为同一个模块，该模块的核心是一个经过微调的LLM，若判断用户问题表述完整则直接进入下一个模块，若不完整则根据不同问题类型引导反问用户提供更多信息，然后再次进行完整性判断，直到模型认为用户意图已经表达完整。该过程的核心是针对业务场景需求，针对性构造微调数据，帮助模型理解完整性判断逻辑与引导逻辑。通过该方式可以较自由地实现各类情形的适应。
3.引导用户表达完整意图后，会进入FAQ库搜索模块，使用用户完整意图描述与QA库中的问题进行意图相似性匹配，找到超过相似度阈值的top1QA，返回对应的答案。若没有超过相似度阈值的QA，则进入文档知识库问答模块。
公司全量知识库智能问答
• 背景
客户为某工程集团某子公司，要求将公司各类文档（约几万份）全部放在一个统一知识库中，方便用户在使用时无需选择知识库。
• 问题分析
文档来源丰富：各业务系统（项目管理、科研、市场营销、OA、财务共享待定、知网待定）、个人电脑、nas、个人网盘。
公司有17个部门，问题和需求各异：办公室、党委办公室、人力资源部、财务资金管理部、战略与投资管理部、科技与工程管理部、经营管理部、安全环保部、设备物资管理部、法律合规与风险管理部、审计部、纪委办公室、群组工作部、市场开发部、海外部等。
跟财务数字相关的问题，直接使用大模型生成的方案效果差。
• 解决方案
1. 针对相对复杂多样的业务诉求，在BISHENG设计了一整套解决方案，大致逻辑如下图所示
a. 首先要将用户问题分成三大类：A类是基于规则进行回复的问题；B类是财务数字类问题；C类是所有其他类问题
b. 针对B类问题，使用ETL4LLM模块对数据进行针对性处理，将文档中的财务数值通过OCR、版式分析、表格分析等技术解析为结构化数据存储在结构化 数据库 中，文档中的财务数据样式如下图所示；然后微调一个专门的NL2SQL模型，这类问题直接转成SQL查询语句直接进行精确查询（同时也支持进行统计分析），将财务数值类问题的准确率由70%左右提升到了95+%。由于数据在客户场内，想要体验效果可以查看我们在BISHENG Demo环境构建的类似场景：⭐️ 上市公司年报问答
2. 对于C类问题，首先会走到C1流程，即先从人工整理的QA库（一问一答的形式）中找相同或语义一致的问题，若找到则直接回复人工整理的答案且注明该答案来源于已有QA库，若没有找到则走C2流程。
3. C2流程即流行的RAG（Retrieval Augmented Generation）方案，大致逻辑是根据用户问题从文档知识库中搜索相关段落，然后将相关段落+用户问题+Prompt模板拼接在一起一同发送给大模型来生成答案。与市面上仅使用向量搜索进行知识库搜索的方案不同，我们融合了向量搜索与关键词搜索，并且支持根据不同场景的特点切换两者的权重以及具体的召回参数；同时，不同于普通的关键词搜索，我们的方案中提出了基于大模型的“query2keyword”方案，可以大大增强各类垂直业务场景的搜索泛化能力以及提高召回率。
研报生成
• 背景
一些例行研报（周报、月报、新股报告）的质量要求并不高，但是需要较大量的材料收集与整理撰写工作。
• 解决方案
仅就生成个股研报举例。
在毕昇平台预先构建两类知识库，一类是不同行业知识与行业研报知识库，每个行业一个库；另一类是个股最新进展知识库，每个公司一个库（更精细一些可以每个公司每个时间段一个库，或者每次分析时使用最新公司相关资料新建一个库。）。
报告主要内容是四大块：行业概况、公司分析、财务分析、免责声明
1. 行业概况部分，预置行业通用分析维度/问题（如：XXX的市场规模和增长趋势；XXX涉及哪些领域，分析各个领域的特点、规模和增长前景；XXX行业最新出台的法规、政策；XXX行业未来发展趋势和预测，考虑到技术发展、市场需求变化等因素...）；然后，系统自动基于行业知识库内容使用大模型回答这些问题，并将其填充到报告相应位置。
2. 公司分析部分，同理，预置公司通用分析维度/问题（如：公司的核心业务和主要产品和服务；公司在行业中的地位和市场份额；公司的核心竞争力，如专利技术、品牌影响力等；影响公司业务的风险，包括市场风险、财务风险、法规风险...），类似图1；然后，系统自动基于公司知识库内容使用大模型回答这些问题，并将其填充到报告相应位置。
3. 财务分析部分，类似尽调报告生成场景中财务数据的抓取与分析方案。
4. 免责声明部分，是固定模板，如下图所示，直接在Word模板中预置好即可。
以上不同的分析步骤执行完成后将在BISHENG平台自动生成一份完整的Word版报告，点击即可下载该报告。分析师可在此基础上进一步做修订。
