一个纯纯 qwen3.5 本地 9B 模型自己写出的在线社区,给各位参考 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
YUX

一个纯纯 qwen3.5 本地 9B 模型自己写出的在线社区,给各位参考

  •  1
     
  •   YUX
    PRO
    YUX 3 月 10 日 4443 次点击
    这是一个创建于 44 天前的主题,其中的信息可能已经有所发展或是发生改变。
    • 标题的含义是 项目所有代码均由 qwen3.5 本地 9B 模型产生 同时需要人类(我)和其他模型进行必要指导
    • 2020 款 m1 macbook air 16G 内存
    • 本地部署参考,几乎是一样的 https://advanced-stack.com/fields-notes/qwen35-opencode-lm-studio-agentic-coding-on-m1.html
    • 我用的 ohmyopencode
    • 我做的工作: 描述我的想法,做一个任意用户名密码都能发言的论坛,相同用户名密码永远同一个身份,不用注册,随便瞎输入用户名密码直接匿名,前后端都用 rust ,技术栈 tokio,axum,sqlite,leptos,本地部署+cf tunnel, ai 内容审查,防滥用机制,页面设计风格。
    • 其他模型的工作: 输出指导性文档(详细的项目介绍,项目结构,roadmap ,模型分工),文档中不包含具体代码,文档确定后不会再被 qwen3.5 修改。
    • qwen3.5 的工作: 面向文档编程。自己审阅代码,调试代码。

    https://offgrid.ing/

    38 条回复    2026-03-13 15:41:01 +08:00
    since2021
        1
    since2021  
       3 月 10 日
    厉害~
    xiaosheng
       
    xiaosheng  
       3 月 10 日
    好奇具体用的哪一个 9B ,我见好多量化的
    xiaosheng
        3
    xiaosheng  
       3 月 10 日
    @YUX 看到了,LM 社区的..
    AoEiuV020JP
        4
    AoEiuV020JP  
       3 月 10 日
    登录失败, 第二次尝试就`too fast`,也想不起来第一次的报错了,
    YUX
        5
    YUX  
    OP
    PRO
       3 月 10 日
    @AoEiuV020JP 被玩坏了 等一下 我得介入看看
    YUX
        6
    YUX  
    OP
    PRO
       3 月 10 日
    @AoEiuV020JP 应该是 ip rate limit ,没有从 cf tunnel 拿真实 ip,所有人都是 cf 的 ip 导致的 现在 qwen 在修 哈哈哈哈
    YUX
        7
    YUX  
    OP
    PRO
       3 月 10 日
    @AoEiuV020JP 修好了
    meetthebest
        8
    meetthebest  
       3 月 10 日
    感觉输出好慢,让它写个推广页,写了好久;
    机子:M3 + 16GB
    YUX
        9
    YUX  
    OP
    PRO
       3 月 10 日
    @meetthebest 确实慢的要死 就这个网页 千问 24 小时连轴转写了三天多
    meetthebest
        10
    meetthebest  
       3 月 10 日
    啊这...看来只能玩玩了
    AzadCypress
        11
    AzadCypress  
       3 月 10 日
    很惊讶 9B 居然也能输出这么完整的项目了
    azhangbing
        12
    azhangbing  
       3 月 10 日 via iPhone
    m4 丐版 9b 4bit 只能跑到 20 token 1k 上下文 4k 只有 14
    YUX
        13
    YUX  
    OP
    PRO
       3 月 11 日
    @meetthebest 是的,或者做一些简单的日常工作接个啥的 正经写代码还是得用 opus
    YUX
        14
    YUX  
    OP
    PRO
       3 月 11 日
    @AzadCypress 还是要取决于其他模型的的指导文档的
    zsc8917zsc
        15
    zsc8917zsc  
       3 月 11 日
    用其他模型指导的话,为何不用其他模型直接写呢?
    ZxykM
        16
    ZxykM  
       3 月 11 日
    歪个楼,现在 cf tunnel 的速度怎么样?
    zhaoolee
        17
    zhaoolee  
       3 月 11 日
    圆角太大了,反而缺少了精致感,页面布局让信息密度也变低了
    nijux
        18
    nijux  
       3 月 11 日
    GitWatt
        19
    GitWatt  
       3 月 11 日
    惊讶!效果有点超出预期了
    myderr
        20
    myderr  
       3 月 11 日
    @YUX #9 用的什么 agent 呢,我想让他连轴转都不行
    YUX
        21
    YUX  
    OP
    PRO
       3 月 11 日
    @zsc8917zsc 为了测试 qwen3.5 9b 的 coding 能力 opus4.6 直接写显然是最高效的选择
    YUX
        22
    YUX  
    OP
    PRO
       3 月 11 日
    @myderr ohmyopencode /ulw-loop
    YUX
        23
    YUX  
    OP
    PRO
       3 月 11 日
    @ZxykM 没测 感觉还行吧 能用
    YUX
        24
    YUX  
    OP
    PRO
       3 月 11 日
    @nijux 一会试试
    GodIsJasonBourne
        25
    GodIsJasonBourne  
       3 月 11 日
    site dead: 无法访问此网站
    offgrid.ing 意外终止了连接。
    GodIsJasonBourne
        26
    GodIsJasonBourne  
       3 月 11 日
    back to life!
    GodIsJasonBourne
        27
    GodIsJasonBourne  
       3 月 11 日
    @YUX 2 小时修改一个 bug ,嗯,符合 AI 的工作效率预期,哈哈哈
    googlexyor
        28
    googlexyor  
       3 月 11 日
    配色有点像 claude 黄,不错
    GodIsJasonBourne
        29
    GodIsJasonBourne  
       3 月 11 日
    yourname#b935e85c 给你提了 2 个你可以不接受的建议
    @YUX
    GodIsJasonBourne
        30
    GodIsJasonBourne  
       3 月 11 日
    2020 款 m1 macbook air 16G 内存, 这个模型的资源占用是怎样的?恰好我也是同款 air
    lichdkimba
        31
    lichdkimba  
       3 月 11 日
    9B 模型也能写靠谱代码了?我记得以前部署了写文字都很垃圾啊
    YUX
        32
    YUX  
    OP
    PRO
       3 月 11 日
    @lichdkimba 非常考验提示词
    YUX
        33
    YUX  
    OP
    PRO
       3 月 11 日
    @googlexyor 特意强调不要那种 ai 蓝紫色
    shadowyw
        34
    shadowyw  
       3 月 11 日   1
    建议关注这个项目 https://github.com/jundot/omlx, 能充分发挥 mlx 系列模型的缓存机制, 加速本地 llm 编码
    kongkx
        35
    kongkx  
       3 月 11 日 via iPhone
    很好奇文档长什么样
    jukanntenn
        36
    jukanntenn  
       3 月 11 日
    @shadowyw 好像 op 推过这个项目,他现在应该部署的就是这个。
    4seasons
        37
    4seasons  
       3 月 12 日
    好奇工程文档是怎么写的
    stefwoo
        38
    stefwoo  
       3 月 13 日 via Android
    9b 已经这么好了,我是 3090 回家跑个 Jackrong/Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled 看看怎样
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     4589 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 79ms UTC 10:01 PVG 18:01 LAX 03:01 JFK 06:01
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86