Light-GPT,私有化 AI 问答的 WEB 应用, Docker 镜像一键部署~ - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
afit
V2EX    分享创造

Light-GPT,私有化 AI 问答的 WEB 应用, Docker 镜像一键部署~

  •  
      afit 2023-03-19 16:31:01 +08:00 1887 次点击
    这是一个创建于 944 天前的主题,其中的信息可能已经有所发展或是发生改变。

    Light-GPT

    Light-GPT 是一个基于 GPT-3.5-Turbo 模型的交互式网站项目,使用 Next.js 框架构建, 使用 Vercel 云平台部署,是一个纯前端的轻量级应用。

    Github:https://github.com/riwigefi/light-gpt 演示站点:light-gpt.vercel.app

    功能

    1. 纯前端应用,基于 gpt-3.5-turbo 模型,使用 API KEY 在前端请求 Open AI 的对话接口,支持流式数据,页面以打字机效果显示机器人回复。
    2. 部署后,用户在前端页面设置自己 API KEY ,科学上网的情况下,问答速度会很快。用户设置的 API KEY 将保存在客户端,完全没有泄漏风险。
    3. 支持新的主题对话和查看历史主题对话。所有对话数据都存储在 浏览器的 IndexedDB 中,也就是说对话数据记录是保存在本地的,不会有数据泄漏风险
    4. 编程相关问题,AI 回复支持多种语法高亮,代码一键复制
    5. 对话支持图片导出,支持 pdf 导出
    6. 应用适配了 PC 和 Mobile ,方便使用
    7. DIY ,支持设置用户头像,ai 头像

    站点预览

    站点预览 001

    站点预览 002

    本地部署

    要在本地部署 Light-GPT ,按照以下步骤操作(需要 node16 及以上版本):

    1. 将项目下载到本地:
    git clone https://github.com/riwigefi/light-gpt.git 
    1. 进入项目目录并安装依赖项:
    cd light-gpt pnpm install 
    1. 启动应用程序:
    pnpm run dev 

    这样,项目就能在 http://localhost:3000 上预览了。在前端页面输入你的 API KEY ,就可以愉快对话了

    Vercel 线上部署

    1. 注册一个 Vercel 云平台部署账号,访问 https://vercel.com ,需要国外的手机验证码校验

    2. https://github.com/riwigefi/light-gpt 这个仓库 fork 到你的 github

    3. 登录 vercel 平台,点击Add New,选择 Project ,然后 import 刚刚 fork 的 github 项目,点击部署即可

    docker 本地部署

    上个帖子分享时,就有不少朋友使用了,一部分朋友建议做个 docker 镜像,本地部署更加便捷。所以这次也特地准备了 docker 镜像。

    docker pull whynotisme/light-gpt docker run -p 8080:80 whynotisme/light-gpt 

    写在最后

    上个帖子发在 V2EX ,介绍 light-gpt ,虽然是简单的 wraper 应用,v2ex 上也有不少类似的项目,但也有不少人给予了鼓励,感谢 v 友们的支持。所以在更新了一些新功能后,所以又来发了一下,如有打扰,还望见解。最后的最后,如果觉得我的项目不错,欢迎 star ,欢迎 fork 。

    8 条回复    2023-03-20 10:35:35 +08:00
    4BVL25L90W260T9U
        1
    4BVL25L90W260T9U  
       2023-03-19 16:53:36 +08:00   2
    我还以为自己的模型呢……
    afit
        2
    afit  
    OP
       2023-03-19 16:54:56 +08:00
    afit
        3
    afit  
    OP
       2023-03-19 16:56:48 +08:00
    @ospider 不好意思,标题误导了,我现在没法编辑帖子。。。
    kele999
        4
    kele999  
       2023-03-19 17:23:23 +08:00
    666
    ispinfx
        5
    ispinfx  
       2023-03-19 17:34:18 +08:00 via iPhone
    这一点都不 light…
    as9567585
        6
    as9567585  
       2023-03-20 01:21:38 +08:00
    百度用的是这个吗?
    afit
        7
    afit  
    OP
       2023-03-20 09:07:42 +08:00
    @as9567585 百度是自己的文心一言,我这个是 open ai gpt-3.5-turbo 的 wrapper ,核心问答功能是 open ai 提供的,就是使用 api key 的自建访问服务
    afit
        8
    afit  
    OP
       2023-03-20 10:35:35 +08:00
    @ispinfx 就是简单的封装,自己玩的,所以取名 light-gpt ,如有误导,说声抱歉
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     1335 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 25ms UTC 17:13 PVG 01:13 LAX 10:13 JFK 13:13
    Do have faith in what you're doing.
    ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86