如果是 3-5 个人自己搭开源模型用什么好？

comfyui ?

@wentx 不玩生图和视频，只是 gpt 。

Ollama+LobeChat

开源大模型能达到 GPT 水平的，基本要 700 亿以上参数的 AI 模型，例如：qwen2(72B)，对服务器硬件要求不低哦。

目前用 librechat
利用 hf 、mongo 服务，railway 之类打个配合，确实可以做到不用出自己的服务器

@yinmin 手里 2 路 4210 ，256g ，rtx5000 不要求 72b 。14 ，22 就可以了

Ollama + Cherry Studio

模型支持：

1. OpenAI
2. SiliconFlow
3. deepseek
4. 零一万物
5. 智谱 AI
6. 月之暗面
7. OpenRouter
8. Groq
9. Ollama
10. 百川智能
11. 阿里云 DashScope
12. AiHubMix
13. Anthropic

https://hao.logosc.cn/p/3748

试试这个组合，体验度不错的：Ollama + one api + ChatGPT-Next-Web
或者 Ollama + ChatGPT-Next-Web

给你个免费的 别纠结了

api.66d.eu

@hkshawn 广告滚粗

@gtese 有本事你别用啊

@hkshawn 有本事的门槛这么低。。。。笑。。。。