基于意图理解驱动的客服知识推荐大模型构建

doi:10.12141/j.issn.1000-565X.240191

华南理工大学学报(自然科学版) ›› 2025, Vol. 53 ›› Issue (3): 40-49.doi: 10.12141/j.issn.1000-565X.240191

基于意图理解驱动的客服知识推荐大模型构建

马晓亮¹^,²^,³(), 高洁²^,³, 刘英²^,³, 裴庆祺¹, 赵汝强²^,⁴, 杨邦兴⁵, 邓从健³^,⁴

^1.西安电子科技大学广州研究院，广东广州 510555
^2.中国电信股份有限公司广州分公司，广东广州 510620
^3.马晓亮劳模和创新工匠工作室，广东广州 510620
^4.广州云趣信息科技有限公司，广东广州 510665
^5.中数通信息有限公司，广东广州 510650

收稿日期:2024-04-17 出版日期:2025-03-10 发布日期:2024-08-23
作者简介:马晓亮（1973—），男，博士生，高级工程师，华南理工大学工商管理学院讲席教授，主要从事人工智能、自然语言处理、方言处理、运营商客服运营、数据安全保护研究。E-mail： maxiaol.gd@chinatelecom.cn
基金资助:
国家重点研发计划项目(2021YFB2700600)

Customer Service Knowledge Recommendation Large Model Construction Driven by Intent Understanding

MA Xiaoliang¹^,²^,³(), GAO Jie²^,³, LIU Ying²^,³, PEI Qingqi¹, ZHAO Ruqiang²^,⁴, YANG Bangxing⁵, DENG Congjian³^,⁴

^1.Guangzhou Institue of Technology，Xidian University，Guangzhou 510555，Guangdong，China
^2.Guangzhou Branch of China Telecom Co. ，Ltd. ，Guangzhou 510620，Guangdong，China
^3.MA Xiaoliang’?s Model Worker and Innovative Craftsman Workshop，Guangzhou 510620，Guangdong，China
^4.Guangzhou Yunqu Information Technology Co. ，Ltd. ，Guangzhou 510665，Guangdong，China
^5.China DataCom Co. ，Ltd. ，Guangzhou 510650，Guangdong，China

Received:2024-04-17 Online:2025-03-10 Published:2024-08-23
Supported by:
the National Key R & D Program of China(2021YFB2700600)

摘要/Abstract

摘要：

随着人工智能技术在客服领域的深入应用，电信运营商对AI服务知识推荐的准确率提升提出了更高的要求。为提高电信运营商AI客服系统的知识推荐效率和准确度，该文提出了基于意图理解驱动的客服知识推荐大模型。首先，采用同义词及对话序列的关键词提取模型识别用户查询中的关键词，通过语义相似度比较技术匹配标准问库中的问题，生成最相关的标准问，并采用生成式智能体技术框架构建标准问库，使用智能体技术自动生成知识问题；然后将提取的标准问输入ChatGLM2-6B大语言模型中，经过预训练与人类偏好对齐训练，以进一步提高知识推荐的准确率。实验结果显示：引入标准问库后，智能推荐系统在特定行业知识领域的准确率从74.8%显著提升至85.9%，多组对比实验结果进一步验证了建立标准问库的策略在提高准确率方面的有效性；该文大模型优化了运营商AI客服的智能知识推荐，可为电信运营商AI客服系统的知识推荐提供新的思路和技术支持；运营商通过该文大模型能够更有效地理解和响应客户查询，显著提升客户服务体验。

关键词: 意图理解, AI客服, 生成式大语言模型, 关键词提问, 提示示例

Abstract:

With the deepening application of artificial intelligence technology in the field of customer service, telecommunications operators have raised higher standards for the accuracy of AI service knowledge recommendations. To enhance the efficiency and accuracy of knowledge recommendation in telecommunications operators’AI customer service systems, this paper proposed a large-scale customer service knowledge recommendation model driven by intent understanding. Firstly, the synonym and dialogue sequence keyword extraction model was employed to identify key terms in user queries. These keywords were then matched with questions in a standard question bank using semantic similarity comparison techniques to generate the most relevant standard questions. Additionally, a generative agent technology framework was utilized to construct and enrich the standard question bank, enabling the automatic generation of knowledge questions. The extracted standard questions were input into the ChatGLM2-6B large language model, which has been pre-trained and aligned with human preferences, further improving the accuracy of knowledge recommendations. The experimental results show that after the introduction of the standard question bank, the accuracy of the intelligent recommendation system in specific industry knowledge domains significantly increased from 74.8% to 85.9%. Multiple sets of comparative experimental results further validate the effectiveness of the strategy of establishing a standard question bank in improving accuracy. The large model discussed in this paper optimized the intelligent knowledge recommendation for operator AI customer service, providing new ideas and technical support for the knowledge recommendation in telecommunications operators’AI customer service systems. With this model, operators can more effectively understand and respond to customer inquiries, significantly enhancing the customer service experience.

Key words: intent understanding, AI customer service, large language model, keyword-based questioning, prompt example

中图分类号:

TP391.41

马晓亮, 高洁, 刘英, 裴庆祺, 赵汝强, 杨邦兴, 邓从健. 基于意图理解驱动的客服知识推荐大模型构建[J]. 华南理工大学学报(自然科学版), 2025, 53(3): 40-49.

MA Xiaoliang, GAO Jie, LIU Ying, PEI Qingqi, ZHAO Ruqiang, YANG Bangxing, DENG Congjian. Customer Service Knowledge Recommendation Large Model Construction Driven by Intent Understanding[J]. Journal of South China University of Technology(Natural Science Edition), 2025, 53(3): 40-49.

图/表 10

图1

图2

图3

图4

图5

图6

图7

表1

表2

图8

参考文献 18

1	黄勃，严非凡，张昊，等．推荐系统研究进展与应用［J］．武汉大学学报（理学版），2021，67（6）：503-516.
	HUANG Bo， YAN Feifan， ZHANG Hao，et al ．Pro-gress and Application of Recommendation System ［J］．Journal of Wuhan University（Natural Science Edition），2021，67（6）：503-516.
2	胡琪，朱定局，吴惠粦，等．智能推荐系统研究综述［J］．计算机系统应用，2022，31（4）：47-58.
	HU Qi， ZHU Ding-ju， WU Hui-lin，et al ．Survey on intelligent recommendation system［J］．Computer Systems Applications，2022，31（4）：47-58.
3	冷亚军，陆青，梁昌勇．协同过滤推荐技术综述［J］．模式识别与人工智能，2014，27（8）：720-734.
	LENG Ya-jun， LU Qing， LIANG Chang-yong ．Survey of recommendation based on collaborative filtering［J］．Pattern Recognition and Artificial Intelligence，2014，27（8）：720-734.
4	刘海涛，赵卫东．基于知识模式挖掘的流程知识推荐系统［J］．计算机集成制造系统，2017，23（2）：396-403.
	LIU Haitao， ZHAO Weidong ．Process-oriented know-ledge recommendation by mining knowledge patterns［J］．Computer Integrated Manufacturing Systems，2017，23（2）：396-403.
5	赵晔辉，柳林，王海龙，等．知识图谱推荐系统研究综述［J］．计算机科学与探索，2023，17（4）：771-791.
	ZHAO Yehui， LIU Lin， WANG Hailong，et al ．Survey of knowledge graph recommendation system research［J］．Journal of Frontiers of Computer Science and Technology，2023，17（4）：771-791.
6	秦琪琦，张月琴，王润泽，等．基于知识图谱的层次粒化推荐方法［J］．计算机科学，2022，49（8）：64-69.
	QIN Qiqi， ZHANG Yueqin， WANG Runze，et al ．Hie-rarchical granulation recommendation method based on knowledge graph［J］．Computer Science，2022，49（8）：64-69.
7	YUAN S， ZHAO H， DU Z，et al ．WuDaoCorpora：a super large-scale Chinese corpora for pre-training language models［J］．AI Open，2021，2：65-68.
8	MAATOUK A， PIOVESAN N， AYED F，et al ．Large language models for telecom：forthcoming impact on the industry［EB/OL］．（2023-08-11）［2024-04-14］．.
9	陈彬，张荣梅，张琦．DCFM：基于深度学习的混合推荐模型［J］．计算机工程与应用，2021，57（3）：150-155.
	CHEN Bin， ZHANG Rongmei， ZHANG Qi ．DCFM：hybrid recommendation model based on deep learning［J］．Computer Engineering and Applications，2021，57（3）：150-155.
10	马娟．智能客服在运营商中的主要应用场景探讨［J］．无线互联科技，2022，19（16）：124-127.
	MA Juan ．Discussion on main application scenarios of intelligent customer service in operators［J］．Wireless Internet Technology，2022，19（16）：124-127.
11	马晓亮，安玲玲，邓从健，等．基于行业词表的自动语音转写后优化技术［J］．华南理工大学学报（自然科学版），2023，51（8）：118-125.
	MA Xiaoliang， AN Lingling， DENG Congjian，et al ．Translation optimization technology of automatic speech recognition based on industry-specific vocabulary［J］．Journal of South China University of Technology（Natural Science Edition），2023，51（8）：118-125.
12	PARK J S， O’BRIEN J C， CAI C J，et al ．Generative agents：interactive simulacra of human behavior ［EB/OL］（2023-08-06）［2024-04-14］．.
13	WILLIAMS R， HOSSEINICHIMEH N， MAJUMDAR A，et al ．Epidemic modeling with generative agents ［EB/OL］．（2023-07-10）［2024-04-14］．.
14	杨兴锐，赵寿为，张如学，等．改进BERT词向量的BiLSTM-Attention文本分类模型［J］．传感器与微系统，2023，42（10）：160-164.
	YANG Xingrui， ZHAO Shouwei， ZHANG Ruxue，et al ．BiLSTM-attention text classification model of improved BERT word vector［J］．Transducer and Microsystem Technologies，2023，42（10）：160-164.
15	马晓亮，安玲玲，朱栩，等．基于小样本学习的关键词提取方法及装置：CN202211459952.0［P］．2023-12-29.
16	DU Z， QIAN Y， LIU X，et al ．GLM：general language model pretraining with autoregressive blank infilling ［EB/OL］．（2021-03-18）［2024-04-14］．.
17	LEE H， PHATALE S， MANSOOR H， et al ．RLAIF vs．RLHF：scaling reinforcement learning from human feedback with AI feedback ［EB/OL］．（2023-09-01）［2024-04-14］．.
18	SUN T， ZHANG X， HE Z，et al ．MOSS：an open conversational large language model［J］．Machine Inte-lligence Research，2024，21（5）：888-905.

模型	A/%
模型	通用行业	垂直行业
GPT-4	68.7	51.3
ChatGPT	54.4	32.6
MOSS	31.1	13.9
SQL模糊查询协同过滤文中模型	33.8 37.3 40.5	42.5 47.1 85.9

模型	P/%	R/%	F₁/%
BiLSTM-CRF	83.8	89.9	88.0
KeyBERT	75.8	67.3	70.6
RoBERTa	79.1	80.7	86.4
S & DS模型	86.2	98.5	91.9

[1]	冼进, 徐小茹, 冼允廷, 冼楚华. 基于混合编码和掩膜空间调制的图像补全算法[J]. 华南理工大学学报(自然科学版), 2025, 53(3): 31-39.
[2]	柳宁, 华天标, 王高, 等. 面向部分工序无序加工的柔性作业车间批量调度方法[J]. 华南理工大学学报(自然科学版), 2024, 52(10): 51-63.
[3]	马碧云, 范逸华, 刘娇蛟. 基于多频脉冲采样的血流速度估计方法[J]. 华南理工大学学报(自然科学版), 2024, 52(10): 22-30.
[4]	胡广华, 涂千禧. 基于光度立体和双流特征融合网络的工业产品表面缺陷检测方法[J]. 华南理工大学学报(自然科学版), 2024, 52(10): 112-123.
[5]	胡广华, 欧美彤, 李振东. 基于合成数据集的多目标识别与6-DoF位姿估计[J]. 华南理工大学学报(自然科学版), 2024, 52(4): 42-50.
[6]	罗玉涛, 高强. 基于通道注意力和特征增强的交通标志检测[J]. 华南理工大学学报(自然科学版), 2023, 51(12): 64-72.
[7]	李海燕, 尹浩林, 李鹏, 等. 基于密集特征推理及混合损失函数的修复算法[J]. 华南理工大学学报(自然科学版), 2023, 51(9): 99-109.
[8]	刘怡俊, 王嘉达, 钟仕杰, 等. 基于统一标签矩阵的快速多视图聚类[J]. 华南理工大学学报(自然科学版), 2023, 51(9): 110-119.
[9]	王世勇, 乾国康, 李迪, 等. 面向边缘特征的实时模板匹配方法[J]. 华南理工大学学报(自然科学版), 2023, 51(9): 1-10.
[10]	韩乐, 江怡华. 鲁棒截断L1-L2全变分稀疏恢复模型[J]. 华南理工大学学报(自然科学版), 2023, 51(5): 45-53.
[11]	林志坚, 丁永强, 杨秀芝, 等. HEVC帧内率失真优化预测模式的并行流水线硬件设计[J]. 华南理工大学学报(自然科学版), 2023, 51(5): 95-103.
[12]	马碧云, 吴港, 刘娇蛟, 等. 基于稀疏脉冲采样的低复杂度血流速度估计算法[J]. 华南理工大学学报(自然科学版), 2023, 51(5): 63-69.
[13]	易清明, 吕人毅, 石敏, 等. 融合多尺度空洞卷积与反卷积的轻量化目标检测[J]. 华南理工大学学报(自然科学版), 2022, 50(12): 41-48.
[14]	何凯, 刘志国, 李大双, 等. 基于邻域结构和驱动力准则的非刚性点集配准[J]. 华南理工大学学报(自然科学版), 2022, 50(4): 73-80.
[15]	张艳, 高梓健, 许昌康, 等. 基于融合分布图网络的触觉压力足迹分类方法[J]. 华南理工大学学报（自然科学版）, 2022, 50(1): 91-100.

基于意图理解驱动的客服知识推荐大模型构建

Customer Service Knowledge Recommendation Large Model Construction Driven by Intent Understanding

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 10

参考文献 18

相关文章 15

编辑推荐

Metrics

本文评价