V2EX = way to explore V2EX 是一个关于分享和探索的地方
Sign Up Now For Existing Member Sign In
请不要在回答技术问题时复制粘贴 AI 生成的内容
This topic created in 847 days ago, the information mentioned may be changed or developed.
需求
如题，准备一个企业内部问题的知识库，做一个聊天机器人，回答的问题都是知识库相关的。 实现思路
思路 1：借助一些开源的支持私有部署的 chatGPT
- llama-gpt https://github.com/getumbrel/llama-gpt
这个开源项目支持聊天功能，并且也支持 API 调用，这样就更容易实现第三方集成，但是缺点是：目前不支持导入自己的知识库。
- ChatGLM3 https://github.com/THUDM/ChatGLM3
这个开源项目是我刚发现的，而且是国产的。具体能否实现还没去研究。
思路 2：使用分词技术
找一些分析工具，将用户输入的问题进行分词匹配，但是这有可能会匹配到多条回答，如何找出最优的回答呢？
各位路过的大佬，有好的思路或好的开源工具欢迎一起讨论一下
 | 1 HanSonJ Jan 3, 2024 也可以用现成的服务，例如讯飞。 知识库就不是通过分词来匹配了，匹配多个也会有相关度，不是你想要的就是知识库不够庞大。 |
 | 2 GlobalNPC Jan 3, 2024 给你一点提示： 向量数据库 + GPT |
 | 3 c5QzzesMys8FudxI Jan 3, 2024 已经做完了，用的 fastgpt + ChatGLM3 https://github.com/labring/FastGPT |
 | 4 kevinmissu Jan 3, 2024 @4rat 牛 |
 | 5 haoyunyinglai Jan 3, 2024 我用的这个 CPU 模式 做知识库效果还可以 https://github.com/chatchat-space/Langchain-Chatchat/wiki/ |
 | 6 anubu Jan 3, 2024  1 前台项目主要有 FastGPT 和 langchain-chatchat ，基本都能开箱即用。FastGPT 完成度更高一些，但商业考量也多一些。进一步调优可能还是要看底层框架，langchain 、llama-index 等。有能力的话自己拿框架搓一个前台也可以。 模型还是看算力看规模，知识库类的一般要求不高。企业内部可能要自部署模型，chatglm3 、千问都可以，千问似乎更好一些。 关键词：RAG 真正落地能用还是要了解 RAG 应用的基本架构，各个流程节点也有很多优化措施值得摸索。 |
 | 7 Wyearn Jan 3, 2024 我这边也再想搞这个，我们写了很多 FAQ 文档，一直无法落地，大部分人都习惯直接当面去问，很少去看 FAQ 或者相关文档，但是我看了一下准备的硬件资源得需要一定费用，估计你这个得跟老板或者上级领导好好沟通了。 |
Select Language