sohk
V2EX  ›  服务器

公司有一台闲置的昇腾 300I 8GPU 的服务器,有什么好的用法呢

  •  
  •   sohk · 10h 26m ago via Android · 733 views

    有没有哪位兄弟觉得有用的,可以租用?有能有点收益就好了。现在是连机都不想开了,配置如下:

    昇腾 300iDUO_8 卡:

    CPU:2*Kunpeng 920_5250

    GPU:8*300 iduo pcie

    内存:32*32GB

    系统盘:2*480GB SATA

    数据盘:2*1.92TB NVMe

    网卡 1:2*10GE

    网卡 2:2*25GE(光口),支持 RoCEv2

    网卡 3:2*25GE(光口),支持 RoCEv2

    功率:满载 1880w

    尺寸:4U

    防火墙(20G):

    6 个 10GE ,4 个 GE 电口

    6 replies    2026-07-12 13:08:06 +08:00
    YAFEIML
        1
    YAFEIML  
       10h 20m ago
    有带宽和固定 IP 吗,有的用 lmstudio 部署些小模型,然后搭建个 sub2api 等网关出售,小模型也有一定的市场需求。
    sohk
        2
    sohk  
    OP
       10h 13m ago via Android
    小模型的需求很少吧?毕竟线上的那些小模型价格我看也很便宜的。
    Insolitude
        3
    Insolitude  
       9h 54m ago via Android
    跑点微调破限的模型给玩酒馆的?

    之前玩过微调的 gemma4 31b ,玩挺花的,可惜 agent 能力废了,没法搞个能涩涩的 assistant
    jacketma
        4
    jacketma  
       9h 42m ago
    这么豪啊,这套配置大几十万吧。OP 公司算力这么充裕吗,这机器都吃灰了?
    Maxwe11
        5
    Maxwe11  
       9h 33m ago
    gitee 模力方舟可以接入外部算力,然后在平台统一出售,可以当作是算力届的链家,因为现在有国内适配的需求,所以我看平台上昇腾的资源还挺紧张的,但是你这个资源不是很多,也不知道供应稳定度如何,如果是走正规化合作倒是可以去问问,好处是省心,缺点肯定是要被收佣,而且如果是非企业级合作,想把钱打到 op 个人账户的话,我不清楚能不能合作,可以找商务问问。
    sohk
        6
    sohk  
    OP
       9h 9m ago via Android
    好像说的有搞头哦。现在这个设备不能卖,因为是公司资产,但确实是闲置。如果能够租出去,挣点小钱,给佣金肯定是没问题的。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2957 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 35ms · UTC 14:17 · PVG 22:17 · LAX 07:17 · JFK 10:17
    ♥ Do have faith in what you're doing.