AI工具集导航 AI工具集导航
langchain-ChatGLM
新加坡
AI生活服务 AI聊天助手
langchain-ChatGLM

基于本地知识的 ChatGLM 应用实现

标签：
链接直达 手机查看

🤖️ 一种利用 ChatGLM-6B + langchain 实现的基于本地知识的 ChatGLM 应用。

💡 受 GanymedeNil 的项目 document.ai 和 AlexZhangji 创建的 ChatGLM-6B Pull Request 启发，建立了全部基于开源模型实现的本地知识问答应用。

✅ 本项目中 Embedding 选用的是 GanymedeNil/text2vec-large-chinese，LLM 选用的是 ChatGLM-6B。依托上述模型，本项目可实现全部使用开源模型离线私有部署。

⛓️ 本项目实现原理如下图所示，过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的top k个 -> 匹配出的文本作为上下文和问题一起添加到prompt中 -> 提交给LLM生成回答。

langchain-ChatGLM

🚩 本项目未涉及微调、训练过程，但可利用微调或训练对本项目效果进行优化。

📓 ModelWhale 在线运行项目

赞赏

langchain-ChatGLM微信赞赏langchain-ChatGLM支付宝赞赏

相关导航

MOSS

复旦大学团队开发的对话式大型语言模型
ChatALL

一款应用程序，一次提问发多个大模型看结果，支持几乎市面上所有大模型
Kimi Chat

月之暗面Moonshot AI推出的聊天机器人
WebChatGPT

WebChatGPT是一个非常实用的谷歌浏览器扩展程序，它可以为你的聊天机器人ChatGPT提供更准确、更实时的信息。
Open Assistant

Open Assistant是一个面向所有人的对话式AI，由LAION和全球贡献者共同开发的GPT LLM项目。
GPTFlix

GPTFlix是一个基于Streamlit的电影聊天机器人网站，用户可以在网站上输入电影相关问题进行评论。

暂无评论

暂无评论...