26年WH软件工程 基于LangChain与ChatGLM的私有化部署聊天机器人2.1-AI4.91-约35470字符.pdf

东北石油大学本科生毕业设计（论文）1摘要企业在采用大语言模型开展内部知识管理的时候，经常被数据安全、网络依存所限制。本文设计并实现了一个基于 LangChain 和 ChatGLM-6B 的私有化部署聊天机器人系统，用 INT4 量化减少模型显存占用，在 RTX 3060 消费级显卡上也可以运行。系统使用检索增强的生成技术来创建知识库的问答链条，可以解析 PDF、Word、Markdown 以及纯文本文档，用中文分块的方法将文档分成若干个部分，再利用text2vec 向量编码的方式把各个文档的信息转译为向量形式，在 FAISS 中利用相似度搜索的方法找到与问题有关的部分内容。经过测...