Skip to content

SheltonXiao/ChatBotDSinHVAC

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

15 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

ChatBotDSinHVAC

本项目是一个基于个人专业知识库的问答机器人,主要针对暖通空调(HVAC)领域。项目包含个人专业向量知识库的建立及问答两部分,使用 Python 语言编写而成,参考了 LangChain-ChatGLM-Webuilangchain-ChatGLMhugging-llm,及 OpenChatPaper。本项目的初衷是为了提升大语言模型在 HVAC 领域的问答回答能力,同时降低本专业从业人员使用大语言模型的门槛。

问题背景

本项目的问题背景诞生于 2022 年 12 月 ChatGPT 刚刚发布时的专业知识简单测试。根据测试结果及后续分析,虽然 ChatGPT 在 HVAC 领域具有一定的问答能力,但仍然存在普遍的概念回答不准确、知识幻觉的现象。显然,大语言模型训练时并未能获取足够的 HVAC 领域公开数据进行训练。

初步分析 HVAC 专业的数据特点包括:

  • HVAC 专业作为地产行业及能源行业的交叉学科,数据隐私性较高,数据需经过脱敏处理才可公开,公开数据较少;
  • HVAC 专业从业人员规模相对较小,知识信息化水平相对较低,公开网络上信息分散且良莠不齐,优质信息获取成本较高。

因此,为使大语言模型更好地应用于 HVAC 垂直领域,本项目尝试从科研视角入手,使用向量数据库更新及扩充大语言模型的暖通空调基础知识。项目实践中,以本人专业 HVAC 作为背景,结合个人知识背景建立了一个初步向量知识库。

项目目标

本项目预期实现一个HVAC专业学生/入门科研者可用的针对领域学科基础概念的对话模型,模型支持多轮对话,根据上下文问答。

相对于基础的大模型,其改进目标为:

  • 减少问答中的 HVAC 知识幻觉;
  • 增强大语言模型回答 HVAC 相关知识的能力;
  • 一定程度上降低使用对话模型的门槛。

项目介绍

本项目实现的功能包含两大部分:

  1. 个人专业向量知识库的建立;
  2. 基于向量知识库的多轮问答。

目前借助langchain+Pinecone+OpenAI API实现,使用Streamlit构建较为简单的前端(目前参考OpenChatPaper)。

项目的数据流如下图所示:

对应到两个具体功能上,实现方式分别为:

  1. 读取多个不同主题的文件,对每一个文件,进行文本切割、拼接分片、嵌入、存入向量数据库;当知识需要增加时,只需读取新的文件,执行上述操作更新数据库即可。
  2. 获取用户问题,在向量数据库中进行相似匹配检索,返回指定数量的结果;将结果结合问题及对话历史生成prompt,调用大语言模型生成回答。

使用

目前,有基于本地服务器的在线运行版本(demo不常开,可联系我):在线运行

已在部分例子中初步实现了对原语言模型的HVAC领域优化。如:

  • 本项目当前版本的回答:
  • ChatGPT的回答:错误的回答

后续工作

  • 提升多轮对话能力;
  • 扩充知识库;
  • 增加开源大语言模型;
  • 前端界面优化;
  • ...

本项目未涉及模型微调,仅为基于向量知识库问答的简单尝试。如需进一步提升效果,可考虑微调模型。

About

No description, website, or topics provided.

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages