
已经是训练好的模型了,投入生产环境也很吃算力,一般的服务器没有独立显卡啊,难道只能跑 cpu 版本,cpu 速度很慢,没法用啊,或者给服务器搞一块强劲显卡?
1 ZRS Apr 9, 2020 配显卡或者专门做 Inference 的硬件,有不少做解决方案的公司 |
4 tomczhen Apr 9, 2020 via Android 老黄不让数据中心用游戏卡,捡二手专业卡真的性价比有点低,虚拟化也是一堆坑等着。 |
6 formaxin Apr 9, 2020 via Android cpu 慢那就只能上 gpu 了,nvidia-docker 蛮香的 |
7 formaxin Apr 9, 2020 via Android 再就是优化下模型,减枝蒸馏之类的 |
9 q428202849 Apr 15, 2020 独立显卡服务器了解一下 1 、I3-2100 8G 500G 5M 2IP GTX730 2G 显卡 2 、I5-3470 8G 1T 10M 2IP GTX730 2G 显卡 3 、I7-3770 8G 1T 10M 2IP GTX730 2G 显卡 |