jieee

我测试的 m4 max 配置满上下文内存占用 70G+，20t/s

太拉了，一直报错“活动太火爆，请稍候再试”

@lsl233 哈哈，我之前本地部署 8B 模型，做了一个 agent ，帮我管理内容，AI 自动提确内容持久化到数据库，然后自动去查询。其中就有记录和查询密码，AI 经常回答因为安全，不给查询或者存储。

好多在说汽车和纺织机的例子。
我认为有一个问题，LLM 是吃了互联网内容发展起来的，有点像教会徒弟饿死师傅

@OnePeace1
嗯，这是现在快速实现的功能。还预留了构建内部知识图谱、指标库、few shot 等模块。
等我这几个月下班后再完善一下。

@junjian2016 类似，我想做的是基于企业现状，理解已有数据，通过小模型微调和上下文工程成为数据开发者的辅助，不断演化，最后在主动数据治理和编写 SQL 达到一个很好的效果。

@hkiJava 嗯，首先初始化数据库，根据 schema 建立表、字段索引。后面查询的时候如果第一次使用列，还要再次对这个列的数据建立索引，但都是后台自动进行。现在前端还不完善，比如没有流式展示这些步骤信息，后面会继续优化