请教一下大家,大语言模型在内部办公有什么落地场景? - V2EX
请不要在回答技术问题时复制粘贴 AI 生成的内容
afeiche

请教一下大家,大语言模型在内部办公有什么落地场景?

  •  
  •   afeiche Mar 15, 2024 6156 views
    This topic created in 804 days ago, the information mentioned may be changed or developed.

    最近又换了个组,搞大语言模型在内部办公的落地,前期其他人想了两个,一个是通过 RAG 把内部的文档喂给大模型,用于智能问答,另一个是代码助手,类似 copilot ,不知道是否又其他的思路,探讨探讨。

    Supplement 1    Mar 15, 2024
    是否有 agent 的落地场景?
    Supplement 2    Jul 26, 2024
    我们除了文档问答,最近在做会议纪要核查,不过效果一言难尽,也深刻体会到了啥叫 prompt 工程师
    51 replies    2024-07-29 09:57:12 +08:00
    afstyle
        1
    afstyle  
       Mar 15, 2024   1
    我司用来做翻译,机翻效果比用其他第三方接口稍微好一点
    assilzm
        2
    assilzm  
       Mar 15, 2024
    智能问答是最容易实现效果又最容易体现的。
    其他多就要根据自己的业务来了,搞点智能分析什么的
    Braisdom
        3
    Braisdom  
       Mar 15, 2024   3
    我的 Agile Query ( https://www.agiquery.com) 里用来做数据分析,哈哈
    weeei
        4
    weeei  
       Mar 15, 2024
    智能生成 SQL 查询?作用和代码助手一样。
    boringwheat
        5
    boringwheat  
       Mar 15, 2024
    最近在搞同样的事情,通过 RAG 做内部知识问答
    Braisdom
        6
    Braisdom  
       Mar 15, 2024
    @weeei 和助手不一样的,他生成的 SQL 还需要人修改,而 Agile Query 是直接出数据的,不需要人肉参与。
    noahlias
        7
    noahlias  
       Mar 15, 2024
    比如一个 idea 从想到到落地 可以让 ai 智能列出要做的 todo 事项
    supuwoerc
        8
    supuwoerc  
       Mar 15, 2024   1
    集成到 gitlab 的 cicd 场景,做代码润色和优化
    DigitalG
        9
    DigitalG  
       Mar 15, 2024
    问个问题,在文档和代码的话题上,RAG 或者 Copilot 如果出错(模型幻觉,不易被发现的那种)导致程序/业务出现问题,是怎么定义责任的?会影响用户使用的积极性吗
    hydyy
        10
    hydyy  
       Mar 15, 2024
    @Braisdom #3 怎么用呀?
    chiu
        11
    chiu  
       Mar 15, 2024
    微软在自家产品 Outlook, Edge, Teams, Word, Excel, Powerpoint 都集成了 Copilot, 直接用.
    cat
        12
    cat  
       Mar 15, 2024
    @Braisdom 这个是收费的吗,怎么部署啊
    Braisdom
        13
    Braisdom  
       Mar 15, 2024
    @hydyy 下周会发一个 Docker 版本和试用的 License ,如果想详细了解可以加我微信:braisdom
    Braisdom
        14
    Braisdom  
       Mar 15, 2024
    @cat 目前是收费的,等再晚点会发个社区版本,会有一些限制。
    afeiche
        15
    afeiche  
    OP
       Mar 15, 2024
    @chiu 国内肯定不能直接用啊,我们连 office 都不能用,只能用 wps
    Frankcox
        16
    Frankcox  
       Mar 15, 2024
    @supuwoerc 想请教下,ci 代码润色是处理 commit diff 的内容吗?没有上下文的话,效果好吗?
    fredweili
        17
    fredweili  
       Mar 15, 2024
    文档提问是在做的,路径比较简单
    afeiche
        18
    afeiche  
    OP
       Mar 15, 2024
    @afstyle 感觉也是条路
    luckypants123
        19
    luckypants123  
       Mar 15, 2024 via iPhone
    往黑暗一点的想,会被拿来当监工,员工聊天记录喂进去,问是在工作还是摸鱼。
    paiguli
        20
    paiguli  
       Mar 15, 2024
    @luckypants123 喂出一个桌面 AI 宠物是吧,平时就可以直接问他问题,然后他就监视你电脑运行了啥,然后总结个表给老板。自动生成日报,周报,月报。
    aleimu
        21
    aleimu  
       Mar 15, 2024
    去年就做了一些实践部署,做了一个内部 oncall 知识问答系统,就效果来看还是可以回答一些东西的,但领导并不认可,就算真的能节省人力,那意味着又要裁员了,最后也会作用到自己身上
    archxm
        22
    archxm  
       Mar 15, 2024
    雷声大雨点小,没卵用
    736531683
        23
    736531683  
       Mar 15, 2024
    喂内部教程,资料,你司难道没有运维和支持吗?都可以干掉了(辅助他们)
    chaos93
        24
    chaos93  
       Mar 15, 2024
    http://nb.chaos.mba/
    JuSH
        25
    JuSH  
       Mar 15, 2024
    去年公司研发部,想引进 360 大模型通过把设计相关技术标准喂进去形成一个可通过自然语言对话的设计助手,但是 360 公司自己先怂了,觉得无法做出我们想要的效果出来。
    mandex
        26
    mandex  
       Mar 15, 2024   3
    有种没需求就强行创造需求的感觉。
    chiu
        27
    chiu  
       Mar 15, 2024
    @afeiche #15
    我在国内, 公司也是买的全套微软企业版, 可以直接使用.
    Kumo31
        28
    Kumo31  
       Mar 15, 2024
    飞书的飞飞落地得挺好,每天自动基于聊天记录总结前一天工作内容和关键点、任务,群里一段时间没看的几百条讨论也能一键总结,还能以飞书文档作为知识库来问答。这种集成还是挺提高效率的,不过这个飞飞本身能力太弱,感觉里 GPT3.5 都还有差距,如果有 GPT4 的水平估计就很不错了
    Kumo31
        29
    Kumo31  
       Mar 15, 2024
    @Kumo31 还有和飞书妙计结合的会议纪要自动记录&总结,都挺实用
    xiaofan305
        30
    xiaofan305  
       Mar 15, 2024 via Android
    用来写文案。另一个 ai 相关应用就是生成配图了,比找图库方便些
    wildnode
        31
    wildnode  
       Mar 15, 2024
    @chaos93 是 GPT4 ,还是免费的??
    chaos93
        32
    chaos93  
       Mar 15, 2024
    @wildnode 你试试不就知道了
    chf007
        33
    chf007  
       Mar 15, 2024
    @DigitalG 肯定要人工 review 一下吧
    Eleutherios
        34
    Eleutherios  
       Mar 15, 2024
    稿件生成、审核
    zlblade
        35
    zlblade  
       Mar 15, 2024
    @afstyle 您好,可以请教下是用哪个模型做的吗?谢谢。
    wildnode
        36
    wildnode  
       Mar 15, 2024
    @chaos93 我的意思是我试了一下发现是 4 而且貌似还能免费用,太强了
    rm0gang0rf
        37
    rm0gang0rf  
       Mar 15, 2024
    条款, 合同, 挺好
    chaos93
        38
    chaos93  
       Mar 15, 2024
    @wildnode Oh oh oh 好的
    darkengine
        39
    darkengine  
       Mar 15, 2024
    用邮件、钉钉、企业微信的聊天去喂,然后出问题的时候可以问 AI 应该怎么巧妙的甩锅 = =#
    ysicing
        40
    ysicing  
       Mar 15, 2024
    @chaos93 抱歉!该站点已经被管理员停止运行,请联系管理员了解详情!
    chaos93
        41
    chaos93  
       Mar 16, 2024
    @ysicing 管我啥事
    daiaoqikk
        42
    daiaoqikk  
       May 22, 2024
    @boringwheat 好厚米,你们最近有什么成果吗?研究效果如何,可以探讨一下
    boringwheat
        43
    boringwheat  
       May 23, 2024
    @daiaoqikk 我们最终选择用阿里云的百炼平台来搭建了,通义千问+向量知识库;基本只要封装一个 web 端供调用就行了,做好内部文档的收集和上传
    daiaoqikk
        44
    daiaoqikk  
       May 31, 2024
    @boringwheat 是个不错的实现方式,现在使用效果怎么样呢?比如在准确性方面,回复速度方面。有什么你们觉得效果不太好的点吗?
    kanchi240
        45
    kanchi240  
       Jul 19, 2024
    @boringwheat 请问阿里云这个使用效果怎么样
    boringwheat
        46
    boringwheat  
       Jul 22, 2024
    @kanchi240 满足领导需求没问题,KPI 项目,挺方便的。确实也能解决相当一部分的搜索需求。
    kanchi240
        47
    kanchi240  
       Jul 22, 2024
    @boringwheat 收到,也让我研究这块,我看阿里云部署大模型那块收费还挺高了,好像部署上去,就算不使用也收费呐,公司也没预算,呵呵哒
    pigf
        48
    pigf  
       Jul 23, 2024
    @boringwheat #43 没有数据安全问题吗
    afeiche
        49
    afeiche  
    OP
       Jul 24, 2024
    我们除了文档问答,最近在做会议纪要核查,不过效果一言难尽,也深刻体会到了啥叫 prompt 工程师
    boringwheat
        50
    boringwheat  
       Jul 29, 2024
    @kanchi240 这就比较坑了,没预算自己搞我暂时没有好的思路
    boringwheat
        51
    boringwheat  
       Jul 29, 2024
    @pigf 让阿里云提供证明文件,我没法杜绝一切隐患,工作只要合理合规就行;
    About     Help     Advertise     Blog     API     FAQ     Solana     2526 Online   Highest 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 100ms UTC 16:01 PVG 00:01 LAX 09:01 JFK 12:01
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86