Chatbot 求推荐(附 NextChat / AnythingLLM / Dify 对比) - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
reekin

Chatbot 求推荐(附 NextChat / AnythingLLM / Dify 对比)

  •  
  •   reekin Nov 1, 2024 4439 views
    This topic created in 548 days ago, the information mentioned may be changed or developed.

    目前在用的是 NextChat ,胜在轻便,但功能不太够。一直在找一款能满足自己日常需求的 Chatbot ,但试了不少都感觉缺点东西。按我自己的需求列了个对比表,各有各的不足(加感叹号表示我认为无法接受)

    功能 NextChat AnythingLLM Dify
    支持对单条消息进行编辑/删除/重新生成 不支持归档 不支持归档 !!不支持编辑/删除/归档!!
    附件 OCR/RAG 需要通过插件支持 支持 支持
    代码块等 md 格式识别 支持 支持 支持
    预设创建和管理对话 只支持简单预设( Mask )
    !!对话无法按预设分类!!
    只支持简单预设( Workspace )
    支持按预设分类对话
    支持工作流形式的预设,支持按预设分类对话
    有完整独立的 App !!无!!
    能提供 API 供外部调用

    其中一部分需求对应的工作量并不大(比如给消息加个删除按钮等),但我完全没有前端经验,虽然之前在 AI 辅助下倒是成功往 NextChat 加了一些想要的 feature ,但 PR 没被接受(也许是实现得不太规范),那我也不可能就停留在一个魔改过的版本不更新了。dify 这种 docker 部署的我甚至都还没摸清要怎么让改动生效。所以感觉自己魔改并不是一条很可行的道路。

    目前的主要诉求是希望能通过工作流(或者脚本代码也行)自定义一些对话预设,dify 的形式我很满意,但它的对话前端比较弱。 我不知道更合适的思路是将他作为模型提供商接入到 anythingLLM 中(接口改造看起来很麻烦,而且意味着我要同时开 dify 和 anythingLLM ?),还是为 dify 添加前端能力。但 dify 在 win10 需要通过 docker 运行,而且不知道为什么总是要重新登陆,各种麻烦问题感觉也不好搞。

    每家 Chatbot 都有自己的一套交互,似乎没办法有一款产品能集百家之长。想到以后还可能需要支持 CrewAI 这类 AI 聊天群,到时候又不知道能筛剩下谁,愁

    5 replies    2024-11-04 15:45:26 +08:00
    vacuitym
        1
    vacuitym  
       Nov 1, 2024
    顺便看下我的: https://chat.vacuity.me/
    reekin
        2
    reekin  
    OP
       Nov 1, 2024
    @vacuitym 要注册的网页版不符合我的需求。。。我需要的是本地客户端,将来还可能需要连本地模型
    flintttan
        3
    flintttan  
       Nov 2, 2024
    很长时间没关注,我以前是跑了个 fastgpt ,直接用 web 界面或者用他的 api ,其他厂家用 one-api 接入。

    消息可以导出;
    可以发图,文件好像不行(最近没关注),OCR 依赖模型能力吧,本来也是个 RAG 框架,流程编排用起来挺方便的;
    支持 md ;
    预设 prompt 没问题,流程编排里自行接入 Google 搜索也行,有完整案例;
    没有独立 app ,就是 web 界面( app 的话可以用 api 服务接入其他 app );
    有 api 。

    开源版本好像是没有多用户,可以分享链接出来直接使用;
    reekin
        4
    reekin  
    OP
       Nov 4, 2024
    @flintttan
    fastgpt 跟 dify 类似,都是偏重后端特性,对话界面也不支持编辑内容,不过相比 dify 好歹支持删消息了(
    也是跑在网页的,不打包成桌面端软件的话应该也就没办法支持全局快捷键呼出这种特性了吧?每次都要切窗口找出来还是挺烦的
    flintttan
        5
    flintttan  
       Nov 4, 2024
    @reekin 是的,跟 dify 类似。
    我有在用 alfred/raycast 这种效率软件,设置了快捷键[cmd+.]快捷打开 web 网页,很丝滑
    About     Help     Advertise     Blog     API     FAQ     Solana     2448 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 36ms UTC 02:21 PVG 10:21 LAX 19:21 JFK 22:21
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86