V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
ooocyh
V2EX  ›  问与答

请教各位大佬如何使用远程的 GPU 资源

  •  
  •   ooocyh · 191 天前 · 933 次点击
    这是一个创建于 191 天前的主题,其中的信息可能已经有所发展或是发生改变。

    家里有一台主机 A,具备 4070s window 系统的主机,现在想在与 A 不在一个局域网内的主机 B ,开发深度学习的模型,运用 A 的计算资源,想请教各位大佬有哪些相对简单的解决方案? 最好能够实现 B 主机开发,A 主机训练的模式。

    6 条回复    2024-06-13 08:46:42 +08:00
    Pteromyini
        1
    Pteromyini  
       191 天前
    组网+vsc 远程
    yuhr123
        2
    yuhr123  
       191 天前
    tailscale
    DesmondCobb
        3
    DesmondCobb  
       191 天前
    我目前是先组网,在主机 A 上起 Jupyter Lab ,然后主机 B 浏览器访问;有时候会在主机 B 上把调好的代码推到仓库(这样可以用熟悉的 IDE),远程到主机 A 拉下来再训练
    ak47947
        4
    ak47947  
       191 天前
    我现在也有一个朋友给的容器化的算力平台,只能跑 docker ,想跑大模型,还在研究怎么使用比较优雅
    ooocyh
        5
    ooocyh  
    OP
       189 天前
    @DesmondCobb 对网络不太理解,请教下大佬 组网实际是在做什么 可以理解为把两个公网上的主机拉到一个局域网中吗 一般是怎么实现的
    DesmondCobb
        6
    DesmondCobb  
       188 天前
    @ooocyh 是的,可以把两个主机放到同一个虚拟专用网里,也可以用转发等其他方式,最终目的是让主机 B 可以访问主机 A 即可;我现在是 SoftEther 和 OpenVPN 互为备份,楼上提到的 Tailscale 也是常用的虚拟专用网方案
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3638 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 04:18 · PVG 12:18 · LAX 20:18 · JFK 23:18
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.