
1 wKong753900 1 天前 蹲点,我也想问这个问题 |
2 bingyuanlang 23 小时 55 分钟前 联网的大参数都搞的不怎么行,你本地的,我感觉都不如在线 |
3 xinqian 23 小时 8 分钟前 也有这个需求 |
4 TVXL 22 小时 26 分钟前 本地的 ai 程序员?单独配台服务器都要不少钱,如果在自己电脑上搞,属实没什么用啊,电脑配置不够的话能部署多少参数的模型? 16g 显存倒是可以部署一个 openai 的模型。做做小项目应该可以,但是大一点的还是性价比太低了。主要还是配置不够,可选的模型普遍参数不高,不如调 api |
5 TabGre 22 小时 8 分钟前 via iPhone 台湾大学李宏毅老师最近课程说了一句话:微调模型是最后的一步。总结,不要瞎折腾 |
6 paopjian 17 小时 22 分钟前 本地部署就是那些 32B 7B 模型, 自己训练的内容其实现在都是用 RAG, 就是作为资料库提供给模型进行使用, 但是不存在你能微调改参数的, 因为那也是训练, 要显卡的, 不如先试用线上服务做 RAG, 可行之后再找小模型本地部署 |
7 scegg 17 小时 14 分钟前 2052 年也许会有。2025 年 11 月没有。 本地部署一个能用的模型也需要不小的资源,要训练的话,资源还要翻好几倍,并且要有充足的时间和训练(包括材料和标注)。 |
8 HankAviator 9 小时 52 分钟前 足添蛇画要必没,了好够足都 MLL 的有现但,跑己自以可都上论理位到件硬 |