简单梳理一下 llm 开发的变和不变?这个对吗。 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
请不要在回答技术问题时复制粘贴 AI 生成的内容
YanSeven

简单梳理一下 llm 开发的变和不变?这个对吗。

  •  
  •   YanSeven 3 月 29 日 1337 次点击
    1. 大模型就是 CPU/GPU ,所有的一切都是围绕着 llm 的“智能”来的,所以 llm 大模型的架构、训练、推理的研发和优化是人上人,是软件工程新时代的核中核,一旦 llm 的智能停滞,一切都消散,属于金饭碗。

    2. 只要 llm 仍然是基于自然语言的,自然语言就是 0-1 比特流,是和 llm 交互的唯一入口,上下文窗口就相当于内存。内存和上下文窗口自然会不断发展和增长,但是任务和需求也会同步增长,上下文窗口大小和任务大小的矛盾将一直存在。所以,研究上下文工程的是银饭碗,包括压缩,检索,子代理编排等。

    3. llm 垂域应用,在有了智能和窗口管理,就可以面向各个垂直领域做改造适配来,这部分和业务以及领域知识强相关,垂域应用想要解决痛点,易于使用而不是流于 PPT 和 demo 还是不容易的,是真正落地的地方。属于铜饭碗。

    4. 工具,就算是多模态的大模型也不能直接吐出生成所有模态的数据来作为结果,那就真是造物主了,llm 仍然需要工具来做具体的事情,所以针对各种需求的旧工具改造,新工具创造仍然是持续的需求,但是鉴于工具由传统代码构建,而金饭碗和银饭碗的工作一定程度上已经可以批量生产工具来了,所以单纯的生产各种组件和工具会是一种流水线上的廉价”铁饭碗“。
    4 条回复    2026-03-30 21:44:31 +08:00
    privater
        1
    privater  
       3 月 30 日
    这类问题,丢在这里就是对遍地 chatbot 的不尊重...
    beyondstars
        2
    beyondstars  
       3 月 30 日
    感觉你这个发到奇思妙想节点更合适 [go/ideas]( go/ideas)
    coefu
        3
    coefu  
       3 月 30 日
    没有什么是不变的,都是变化的。没有什么金饭碗,银饭碗。

    LLM 的架构和能力一直再提升。

    比如 RAG 这种外围工程, 就有一个新的 MSA 架构,可以在 LLM 的 网络架构上重新设计一个模块,性能和功能都比 RAG 这种外围工程要好,以后做 RAG 的就会渐渐消失。

    比如 长程记忆,现在也是做外围工程,但是 当 Test-Time Training 这种范式,渐渐成熟之后,性能和功能都优于基于外围框架的 长程记忆,也会渐渐消失。

    也就可能 agentic 这块,还能有点存在价值,但是也是越做越少。

    现在的情况是,做外围工程的信息比 LLM 原生的进展 慢,有信息差,实际上当 LLM 的原生能力提升之后,会吞噬它周边的一些当前过渡阶段的工程实现。
    anivie
        4
    anivie  
       3 月 30 日
    感觉架构师会比现在的更夸张,算力荒会导致岗位始终能保持稀缺性
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     3007 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 34ms UTC 03:29 PVG 11:29 LAX 20:29 JFK 23:29
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86