答案就是没啥用，再高配上个 4090 顶天了。内存配到 200 多 g 顶天了。但是你想本地部署个最新的开源模型最新的 moe 别说放显存，内存都装不进去，估计还得丑陋的放硬盘 swap 。而自己有个啥 idea 想训练个模型验证想法更是别想了。也就打打游戏能行。

把 key 给我，3 天后用不完算我输

你要本地部署？那采购个几个 8 卡 A800 节点的钱应该没问题吧？你说的定制如果是 prompt 那问题不大，你要是指的是定制模型那请参考最近 deepseek 训练成本 278.8 万 H800 GPU 小时，另外能有 deepseek 实力和微调经验的人工费我都没给你算。

我真的觉得有时候用户不知道自己想要什么。要这要那的，丝毫不顾自己那点需求其实用不到也用不起。

@neteroster 是的，论文主要的亮点就是训练部分，不得不说还得是 MoE ，要是 dense 模型参数太大的话一张卡放不下数据交换的妈都不认识，根本没地应用这么多优化。只能送钱给老黄。

@mumbler 可题主问的是笔记本跑，那我就默认是个人用了。医疗数据应该是有业务用途的怎么也得买个 8 卡集群吧？

没人关注训练部分吗？看看原始论文，推理部分的优化似乎来自蒸馏自家的推理模型，auxilary loss 动态调度负载 + DualPipe 优化 pipeline bubbles + 根据通信做混合精度优化， 计算与通信的瓶颈的优化做到极致了。以至于训练成本只有 500 多万刀，和 o 家和 g 家比算是用乞丐的成本达成了至少也是不相上下的结果。要我说，closedai 不做人干脆把 gpu 匀给 deepseek ，可惜匀不得。

推荐就是老老实实的调 api ，别想本地跑啥模型，新发布的 deepseek v3 看了吧，这玩意主流的笔记本就是量化到 1bit 都加载不进内存。

技术没啥门槛，RAG+AI Agent+Promt ，国内主要是底模不行，要有个 sonnet 那样强大的底模才行。国内那些大公司还是少弄些开源刷榜的模型把，弄个强大闭源的底模比天天刷那些 ai 榜单强一万倍。

我用 cursor 写 rust ，感觉像个智障，天天编译器报错过不去，要不就是写的一坨，最后受不了还得我自己写。然后换个 js 项目，那叫一个流畅。看来配合 ai 写代码还得选个用的多的语言，这样他的数据集足够才不会太智障。

别整啥 ALL IN ONE, 别装啥虚拟化系统有啥不稳定的。路由这么重要的组件值得单独部署一个硬件。

image classification ，烂大街了已经。随便找个主流的模型训练下差不多行了。相比之下数据集反而比模型更有门槛

除了面试没有任何意义

泛函是分析学中的概念，而编程语言中的函数是 ml 和 pl 的概念，只分 first-order 和 higher-order 。且不说两者研究的内容牛头不对马嘴了，泛函是实值函数，而 pl 的对象大多是 most coutable 你要硬是把它套用到 pl 里那你确定 pl 的对象满足实数的要求吗？

尽管我也不认同学历卡门槛，但是学历问题不是歧视。对学历的要求来自于社会分工，来自于资本主义与工业化大生产对个人的筛选与规训。假如有一天在统计学意义上学历与资本回报率（而不是能力）负相关那么资就会毫不犹豫的雇佣低学历的人。

"window.commandCenter"

或者 apply_many f = iterate (. f) f