服务器有 128GB 内存，如果不配 GPU 那大概能租$70/m 左右.
我现在手上有一个 Quadro RTX 4000 ，但是这卡只有 8G 显存跑不了什么 LLM 。而且由于电费很贵，每 100W TDP 成本提高$30 左右。所以我认为这张卡没什么用。
所以想问用什么 GPU 能最大化出租收益？
Select Language