2052 年了,求推荐一个可本地部署的 ai 程序员 可学习自己“训练”的内容? - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要在回答技术问题时复制粘贴 AI 生成的内容
wxmomomowx
V2EX    程序员

2052 年了,求推荐一个可本地部署的 ai 程序员 可学习自己“训练”的内容?

  •  
  •   wxmomomowx 1 天前 1294 次点击
    如本地部署后,专攻一个语言和一个项目,可有效果的 ai 程序员帮手,有吗?
    8 条回复    2025-11-16 00:42:48 +08:00
    wKong753900
        1
    wKong753900  
       1 天前
    蹲点,我也想问这个问题
    bingyuanlang
        2
    bingyuanlang  
       23 小时 55 分钟前
    联网的大参数都搞的不怎么行,你本地的,我感觉都不如在线
    xinqian
        3
    xinqian  
       23 小时 8 分钟前
    也有这个需求
    TVXL
        4
    TVXL  
       22 小时 26 分钟前
    本地的 ai 程序员?单独配台服务器都要不少钱,如果在自己电脑上搞,属实没什么用啊,电脑配置不够的话能部署多少参数的模型? 16g 显存倒是可以部署一个 openai 的模型。做做小项目应该可以,但是大一点的还是性价比太低了。主要还是配置不够,可选的模型普遍参数不高,不如调 api
    TabGre
        5
    TabGre  
       22 小时 8 分钟前 via iPhone
    台湾大学李宏毅老师最近课程说了一句话:微调模型是最后的一步。总结,不要瞎折腾
    paopjian
        6
    paopjian  
       17 小时 22 分钟前
    本地部署就是那些 32B 7B 模型, 自己训练的内容其实现在都是用 RAG, 就是作为资料库提供给模型进行使用, 但是不存在你能微调改参数的, 因为那也是训练, 要显卡的, 不如先试用线上服务做 RAG, 可行之后再找小模型本地部署
    scegg
        7
    scegg  
       17 小时 14 分钟前
    2052 年也许会有。2025 年 11 月没有。
    本地部署一个能用的模型也需要不小的资源,要训练的话,资源还要翻好几倍,并且要有充足的时间和训练(包括材料和标注)。
    HankAviator
        8
    HankAviator  
       9 小时 52 分钟前
    足添蛇画要必没,了好够足都 MLL 的有现但,跑己自以可都上论理位到件硬
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     2474 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 18ms UTC 02:35 PVG 10:35 LAX 18:35 JFK 21:35
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86