OpenWrt 是一个专门面向嵌入式设备的 Linux 发行版。你可以将 OpenWrt 支持的型号的嵌入式设备，比如各种路由器上的系统，换成一个有更多可能性可以折腾的 Linux 系统。 OpenWrt 官方网站
这是一个创建于 196 天前的主题，其中的信息可能已经有所发展或是发生改变。
之前觉得旁路由有些多余，现在准备抛弃主路由了
目前使用 N4120 ，内存 8GB 作为主路由，这个配置应该也不算差
部署了太多的东西，经常会断流几秒钟，一断流就会影响到家里的所有设备
目前的想法是买一个 mac mini m4 32GB 作为旁路由和本地大模型服务器
1 、部署 ollama 32b 这个规格的大模型，并且部署 open webui 这类的交互界面
2 、虚拟机安装 openwrt 作为旁路由
3 、使用 docker 部署 home assistant 、adguard home 这类软件
4 、部署一个 nas ，但是目前没想好方案，是用虚拟机部署 truenas 这类还是轻量级的 filebrowser 这种
5 、安装 frpc 方便出门在外能访问家里的大模型（这个好像开销不大）
有没有大佬实操过，这些东西 32g 内存能跑起来吗？
目前使用 N4120 ，内存 8GB 作为主路由，这个配置应该也不算差
部署了太多的东西，经常会断流几秒钟，一断流就会影响到家里的所有设备
目前的想法是买一个 mac mini m4 32GB 作为旁路由和本地大模型服务器
1 、部署 ollama 32b 这个规格的大模型，并且部署 open webui 这类的交互界面
2 、虚拟机安装 openwrt 作为旁路由
3 、使用 docker 部署 home assistant 、adguard home 这类软件
4 、部署一个 nas ，但是目前没想好方案，是用虚拟机部署 truenas 这类还是轻量级的 filebrowser 这种
5 、安装 frpc 方便出门在外能访问家里的大模型（这个好像开销不大）
有没有大佬实操过，这些东西 32g 内存能跑起来吗？
 | 1 Vneix 196 天前 via Android 1.本地部署 32b 大模型是刚需吗？ 如果不是，买 api 或者用免费的在线服务可能更好。 2.喜欢折腾的话，推荐主传统硬路由+旁软路由的方案。 主硬路由保证家人/智能家居不断网，软路由作为旁路由接自己折腾的服务，比如 3 提到的。 3.略。 4.买品牌 NAS 做存储。 好处是外观好看、系统好用、现在有补贴价格比自组也贵不到哪去、有保修、有免费的远程技术支持。 软路由上需要访问 NAS 的程序远程挂载存储访问就行。 存储和折腾分离，这样折腾的机器崩了也不影响存储的数据。 5.同 1 。 以上只是个人意见，实际还是按照自己的喜好来。 |
 | 2 aqx 196 天前 via iPhone 主路由用 tplink 的我对你的帖子看看都费劲，好费脑子呀。 |
 | 3 szdosar 196 天前 via iPhone  2 确实，当动手力水平配不上雄心的时候，容易发生混乱的情况 |
 | 4 dengj3355 OP @Vneix 我主要是想着如果我想的这些可以 all in boom 的话，用 mac mini 是非常有性价比的方案，大模型也不是刚需，我合计了一下，如果买个群晖，入门级的 2000-3000 ，不如再加 3000 买个 32g 的 mac mini ，甚至不用 3000 ，国补+教育 32+256 只需要 5200 ，还能顺带部署大模型，和做旁路由，简直性价比高到炸了（当然前提是这么多要能跑起来） |
 | 5 datocp 196 天前 via Android 路由就去做路由该做的事， |
| 6 dengj3355 OP @szdosar 主要是跑了太多 docker ，理论上在掌控之中，但是理论就理论在没有理论，然后就想换设备，既然都换设备了为何不整个 nas 呢，既然整 nas 了，为什么非要整品牌 nas 呢？直接 all in boom 吧，既然都 all in boom 了，为什么不部署一个大模型呢？然后开始找机子，发现没有合适的，然后看了看手中的 macbook ，直接上京东看 mac mini |
 | 7 brcefy 196 天前 路由当好路由就行了，我用的 n3050 完全没问题，其他扔虚拟机 linux 里面就行 |
 | 8 totoro625 196 天前 坚持简洁至上 内存 8G 的主路由，只保留梯子和路由功能即可，任何乱七八糟的软件都不用安装，最大程度保证可靠性，最多加一个 adguard home ，然后设置每天凌晨重启一下 |
 | 9 v0rtix 196 天前  路由机只跑 openwrt+clash 网关+wg/ddns 用 lxc 容器 很稳 |
 | 10 YsHaNg 196 天前 为啥非要 mac mini 这并不是个好的服务器 各种服务公网访问开端口 nginx 反代 |
 | 11 conn457567 196 天前 via Android 我目前是主路由加支持 docker 的 nas 作为常在线的服务，mac 有需要才开机 |
 | 12 likelylee 196 天前 赞同楼上两位，我是 r5s 跑 openwrt ，启用了 openclash 翻墙、adguardhome 做 dns 和禁用广告、kms 来激活内网 windows 和 office 、ddns 到 cloudflare 解析、vpn 和 tailscale 都是用来回内网，剩下服务类的都在 nas 上 docker 部署。平时非常稳定，我可能想起来的时候会手工重启一次，通常两次想起来间隔都在 2 个月多吧。 |
 | 13 Yespeter 196 天前 主路由不要装太多东西，让它干该干的事情，我目前是一台 n100 8g 的 PVE ，装了 op 、黑群、两个 Adg lxc 容器，其余项目全跑在一台 64g 5500u 的 unraid 上，从未出现过断流等情况，另外用 mac 做服务器感觉太奢侈 |
 | 14 SakuraYuki 196 天前 我已经把 openwrt 优化掉了，现在是硬路由+mac mini 网关+n100 nas/服务器 |
 | 15 youthfire 196 天前 via iPhone 跑本地模型必要性需要考虑。我用的 M3 Max 96GB+mlx ，性能肯定比 32gb+ollama 好太多吧。实测别说 32b ，70b 的回答质量效果，尤其是速度比起 api 那是差太多了。 |
 | 16 vergilgao 196 天前 说说我的方案 N100 主路由 openwrt 只跑 homeproxy + msd_lite + nginx 这三个基本服务，然后新建一个 lxc 容器，配置为 rootless ，我选择的是 fedora 然后容器里面安装 podman ，通过 systemd + podman 来部署其他服务，比如 homeassistant mqtt z2m （这些都是用的 macvlan 模式） 然后还有一台独立的 i5-10400 装了 unraid 的 nas ，用于家庭影音和跑 PT 上传 |
 | 17 Greenm 196 天前 有没有想过不是 openwrt 的问题，而是你跑的其他太多容器和应用的问题呢？ 路由就该单纯做路由，甚至有条件的话存储和应用也应该分开，我这样做 openwrt 就没出过问题，当主路由跑起来稳定延迟低。 |
 | 18 lnbiuc 196 天前 @chenbin36255 请问左侧显示 IP 是怎么做到的 |
 | 19 rrubick 196 天前 我之前用 N1 刷了 openwrt 跑旁路由，又一个 N1 刷电视盒子，在电视上看 ytb 。 由于我手动指定节点，如果节点挂了的话，我还要登录去切换节点。我不在家家人就不会弄。 后来换了新电脑后，旧电脑就放家里了，再搭个 HDMI 连电视看，节点挂了随时换，就把俩 N1 都拆了 |
 | 20 jtshs256 196 天前 这确认是部署的服务导致的断流？先看看网卡是不是传奇断流王？ |
 | 21 2han9wen71an 196 天前 @lnbiuc 标签 |
 | 22 niubilewodev 196 天前 32G Mac Mini 跑 32b 的模型很吃力，个人觉得几乎不可用。 32G 只有 24G 的 VRAM ，模型加载完就要接近 20G ，可用上下文少的可怜。 而且 M4 的内存带宽，跑 32b ，预估不足 5 token/s 。 |
 | 23 laminux29 196 天前 11 代 i7 ，流量大了，OpenWRT 都扛不住。你用了 N4120 ，单核只有前者的 1/3 性能，多核只有前者的 1/10 。扛不住很正常。 N4120 这种低端机器，包括 N100 、J1900 等，只是垃圾佬与公众号喜欢鼓吹的低价小玩具。他们发文的思路是，低价，可以用。但好不好用，性能怎么样，他们只字不提，因为提了就没人点赞了。 就像 Deepseek 满血版，铺天盖地的 MacMini 512G 、x79 洋垃圾等等，都能跑，但你仔细看看这帮自媒体，有谁写了 tokens 生成速度。 |
 | 24 Feeling22 196 天前 路由器干路由器的活，openwrt 只保留必要的服务，所以设备通过交换机接入 openwrt 。 把各种乱七八糟的服务搞个小主机剥离出来，Mac Mini 也好、x86 小主机也罢 32G Mac Mini 实测跑 32b-4bit 量化模型基本算能用吧，不能更多了 |
 | 25 timeance 196 天前 旁路由不挺好的吗，你上面提到的这些服务都很适合放在旁边，例如 LLM 、home assistant 、adguard home |
 | 28 yaleyu 195 天前 和 openwrt 有毛线关系？ |
 | 30 SilentlyYc 195 天前 我用一个 N5105 做了个爱快做入户第一站，拨号，DHCP 都是他，然后再爱快里面开个虚拟机装 openwrt,只做梯子，然后后面接了一个硬路由，只做 AP 。然后需要梯子的设备网关指向 openwrt, 不需要的默认网关即可，这个在爱快里做静态 mac 就行了。然后再有个设备跑 linux ，我的所有服务都在这台机器里，这样既不影响家里人上网，也满足我自己的需求。 |
 | 31 chuxi 179 天前 当然是 OpenWRT 主路由，参考配置： https://github.com/9566618/shadowproxy/wiki 默认国内域名 ip 直接 bypass 家里两张 4090 的 AI 工作站都在吃灰，N4120 卡纯粹是因为没有配置好，个人 R2S 主路由+tplink wifi 稳定打王者 30ms 无压力 |
 | 32 Jacksu 174 天前 via iPhone 怎么断流的，会不会上你 CPU 太拉垮了，我也是 openwrt 主路由，n100+16G 内存，跑了 30 多个容器，从没断流影响家里网络过。 |
 | 33 adambob 150 天前 我用 openwrt 做主路由好多年了，没你说的那些情况，很稳定。 |
Select Language