大模型主要瓶颈在内存访问速度，直接上 mac 然后 llama.cpp, 大于 13B 的也能玩
因为 13B 简单玩几次就腻烦了，参数越高性能越好

一般应用和业务运行在 docker 或 k8s 内，主系统升级不影响

全尺寸模型，也就是 gpu 内存要求很大微调成本很高。一般就租云服务器去练习。

企业微调要求全尺寸 nv gpu ，个人玩可以用量化模型。另外现在企业微调的效果并不是很好,包括 rag(提供上下文进行推理），所以现在大模型开始有点冷了，就看看谷歌出的模型如何了。

现在开源大模型除了企业研究外其他普通人一般就用来生成 s 文和 s 聊天，功能太弱，最大的那个 180b 刚出，看看有没人调教，我体验过基本超过 gpt3.5 但是没到 gpt4, 不知道是否有人能发挥出它的性能

要跑 llama213b 那么 13900+ddr5 也够了, llama.cpp 大概 1 秒 5token ，跟得上自己的速度。但是关键是现在没有 ai 应用场景，也就是除了 gpt4 场景外 其他的比较弱，如果你不喜欢玩 roleplay ，并且没有自己的 ai 想法，那么可能过段新鲜感时间后基本就不玩了

计算力上去后大模型主要跟内存速度有关，要跑大模型并且想简单，还是建议 mac + llama.cpp, 800gb/s 速度可以直接跑 falcon 180b (得 192g 内存版本的) 个人觉得这个模型虽然微调难度大，但微调结果超过 gpt3.5

硬件学习曲线高试错成本高，都找科班出身的

有 a100 之类的卡吗？搞上 5 个以上，然后上 vllm, 但是 10b 以下可用性太差，能满足功能要求吗？一般都是 13b 起步，如果 33b 发布那么更好建议是 33b

互联网挣钱的原理在于它与工业不同：
1. 工业贵的是机器，人是辅助机器的，所以重点是维护和升级机器，工人收入低，管理人员能够组织工人更好的利用机器价格会更高
2. 工业是生产实体的，需要耗费生产成本运输成本宣传成本等才能得到一点毛利率，在不知道市场真正需求容量前不敢大规模投入来摊薄成本来提高收入
互联网是反过来的，所以看互联网收入时不能把这些互联网的生产者跟工业时代的工人收入做对比

建议上 ddr5 ，看 llm 是下一个大风口，而内存越来越重要，上 ddr5 可以用得更久

@mgrxwl 没有嘲笑的意思，
人生经历的事情多后会发现，很多时候像我们这样的小民考虑问题时更多考虑到是我们要依靠组织的力量，而不是认为组织故意针对自己。
要针对自己的团体太多了，组织为了名声还不至于看上小民这点东西。
从这个观点出发看问题应该会效率更高。
就像说个人隐私的，例如个人密码聊天记录交易记录等，只要使用平台那么那个平台都会收集数据，还有网贷等等，个人完全无抵抗能力，只能希望组织去管理规范。

农村那么大地方那么多老人那点警力，只能希望自己不出事，真出了事有探头还不一定能够有警力去排查，没个探头那就听天由命了
看到说自己掏钱监控自己的就觉得好笑，个人在组织面前就是赤 luoluo 的 只是有没必要动用组织力量的问题 多一个探头也不会多什么东西

notion, 复制粘贴然后保持原链接。
看过一段时间后自己整理一下

c++开发效率低对开发人员要求高出错难以定位，在 AI 时代难有大作为
大家都在拼快速修改快速验证快速迭代，语言层面的事情越少越好，让开发者把重心放在业务层面的开发上
毕竟开发人员的时薪和抢占市场对效率要求可不低，

至于 C++能提高的那点性能，因为业务会快速修改，已经被业务开发和定位占用的时间给抵消并且变成负的了（维护代码对开发人员要求高）
现代 C++只适合写那些不经常改变，对性能要求高，并且有高额利润的东西，这些才能养得起高水平开发人员和维护团队，例如量化，或是游戏库等，市场还会收到 rust 的抢占，应该还是会减小。

“解释你的回答背后的原因。”让 ChatGPT 解释其思考过程可以帮助您更好地理解它是如何得出结论或解决方案的，还可以提供可能对您有用的额外上下文。 可以试试看

基本上是组要解散的意思，
如果公司先找你才是你要提升。因为公司能提前一个月得知负责人离职消息，然后会提前安排后备领导。这时如果觉得你合适那么会提前跟你聊，或是大领导提前安抚人心
如果都没有，一切无声无息那大概率是要解散