carmark

万卡交付，即使给了架构图，网络设计规划，但是实施起来也是特别困难的，如何在短时间内将一个万卡机房部署+上架+调试好，这个是很考验的。所以极端时间交付，那么就是一个很大的壁垒。

kata container.

未来是否支持按秒计费？能否有个 GPU sandbox?类似 modal.com

@ryan4yin 所以总结下呢？ All in AI 的感觉？

SeaweedFS 主要还是图片或其他非经常修改的对象，如果经常更改，可能并不如 minio 功能完善。

8 台还是 8 张，节点内可以走 nvlink 或者 pcie ，节点间如果要低延时可以走 IB 或者 RoCE 。一般而言推理并不需要高带宽，但是需要低延迟的产品。所以如果是 8 台机器最好上 IB 或者 RoCE ，这个比以太网好太多，如果是单机八卡那么其实上 nvlink 意义不大，重点还是要用正经的推理引擎，ollama 的目标是为了能兼容多种硬件。

可以跟别人卷 mlsys

开发机，小模型（ CV ）推理。

@allegory BOSS 搜一下呢？这个主要是搞 RoCE 拥塞控制，各种监控，各种识别，然后与 nccl 协同。

当然还有比如新华三这种做 RoCE 协议开发的。