用api+本地知识库有人走通么

IT技术 • coffeeshine0 • 发表于 1 月前 • 最后回复来自 ww2003 • 1 月前

本地部署特别好用大模型可能不太容易，但是api+本地知识库，就可以立即形成生产力吧

这个有社友做到了么？

共收到11条回复

feisan 1 月前湖北省 #1

直接用腾讯ima好了，反正api也泄漏

kindles 1 月前加拿大 #2

用cherryStudio

antia1 1 月前湖北省 #3

正在用，用的dify，但是dify的知识库不太好使，建议外挂别的RAG。

sheepchang 1 月前湖北省 #4

走通了还开发了一套先玩下，楼上dify的知识库不好使什么问题？试了下可以用

antia1 1 月前湖北省 #5

@sheepchang 当我的文档内容比较多，格式为md，使用父子分段时，显示的分段不是我预期的。比如我使用 ## 为父分段 ### 为子分段，看着分段预览结果 ## 被 ### 给包含进去了。还有 flow 中的一些小bug。

antia1 1 月前湖北省 #6

@sheepchang 用到是可以用，但是不知道是不是我的姿势不对？

zespri 1 月前湖北省 #7

核心问题是知识库！其他那些工具大家都用的一样的。
文档的完善程度、格式化等，直接关系到你这个小AI好不好使

stargazer 1 月前湖北省 #8

@antia1 关键是插件得另找，自带模块的anythinLLM基本可以算是最差，你用的明显不支持MD解析

sheepchang 1 月前湖北省 #9

是分段最大长度的问题，我测试父子分段正常，调整合适的分段最大长度就可以解决。

nyep 1 月前湖北省 #10

不重要的知识库内容，maxkb一下就好了

ww2003 1 月前湖北省 #11

你本地搭个知识库，每次获取到知识后更新一下大模型提示词再用api请求一下回答不就好了么。
都是这么做的吧

请绑定手机号后，再发言，点击此处