ahjiangwu

20 世纪 70 年代，工厂工人觉得未来机器将取代工人，那时候所有工人都将失业，因此大力排斥机器，然而事实告诉我们，机器化只会带来更多的就业，反而是那些不思进取，无法拥抱变化的工人会被淘汰

所以：程序员不会被替代，反而是不会应用的程序员会被替代

你的标题和描述的内容实际上是两个问题

1 、如果单存是想从 huggingface 下载模型可以参考：
https://huggingface.co/docs/hub/models-downloading
当然，魔搭上也可以下载： https://www.modelscope.cn/docs/%E6%A8%A1%E5%9E%8B%E7%9A%84%E4%B8%8B%E8%BD%BD
（#5 可以参考）

2 、如果是想用 java 调用模型，可以用 vllm 部署，vllm server 提供了 api 的调用方式，java 直接调用就可以了
也可以用 xinferrence ，部署起来会更方便一些

@yinmin 感谢分享
被甩锅倒是还好，用 8b 只是不太想申请太多硬件资源，关于代码作为数据的微调有没有实践经验可以分享一下

@liprais 倒不是组织任务，只是想探索性的尝试

@LuckyLauncher 是的，所以现在没有很好的思路，不知道该如何下手，按照我自己的理解，纯 rag 应该不咋样，代码库的向量化也不知该如何做

家人健康，财富自由

最欣赏：踏实做事的
最讨厌：能力不行，满嘴跑火车