This topic created in 664 days ago, the information mentioned may be changed or developed.
 |
1
xtreme1 Jul 26, 2024  1
exo https://github.com/exo-explore/exo + 192G MacStudio x2
|
 |
2
yinmin Jul 26, 2024
together 、fireworks 、openrouter 上都有已部署的 llama3.1 405B ，我用了感觉还不如 qwen2 72B ，根本没法和 gpt-4o 、claude 3.5 sonnet 比拼。
|
 |
4
antiblahblah Aug 2, 2024
@xtreme1 这个配置跑起来什么速度？多少个 token/秒？
|
|
5
antiblahblah Aug 24, 2024
@xtreme1 为什么要 x2 ？
|
Select Language