
1 KagurazakaNyaa 2023-04-23 08:32:56 +08:00 显存太小了 |
2 murmur 2023-04-23 08:43:06 +08:00 差钱可以买魔改的 2080ti o 22g |
3 Breakwa2333 OP @XiLingHost 有些 GDDR6 的可以改显存(理论上和 2080TI 这种一样) |
4 bearqq 2023-04-23 08:46:21 +08:00 我一般用 3060 12g 训练,用 40hx 跑图 另外 40hx 跑图半精度速度巨慢。需要改代码,模型用半精度,运算用单精度,速度也是单精度的速度,相当于速度减半 理论上 40hx 训练是没问题的,8g 也基本够,训练时候计算也不是半精度 |
5 gam2046 2023-04-23 09:47:23 +08:00 @Breakwa2333 #2 理论上能改显存和实际上有人改显存是两回事。如果你有能力自己动手,那当然还是牛的,不然找不到人帮你改。 真想玩,我觉得普通人就两个路子 1 、咬咬牙,直接上 4090 ,相对来说性价比算是不错了。小模型基本都能吃下来 2 、洋垃圾 P40 ,主打的就是一个便宜+大显存,虽然速度差了点意思,但是大显存可以让你跑更多的模型 |
6 luny 2023-04-23 11:20:29 +08:00 动手力强的,可以看看 Tesla P4 这种算力卡,挺便宜,要解决散热问题 |
7 nightwitch 2023-04-23 11:27:00 +08:00 via Android 跑训练的基本都是生产力 /科研需求,这两个都对价格不敏感。 而且现在稍微跑个像样的模型基本都是四卡 or 八卡并联着跑,这种需求都是买现成的方案,自己组的话稳定性很难保证 |
8 qianxaingmoli 2023-04-23 11:33:32 +08:00 |
9 kloseWu 2023-04-24 10:23:30 +08:00 @qianxaingmoli 我也是 P40 ,请问怎么弄温控调速……另外风扇声音太大了有静音的找么…… |