看了一下 ollama 或 unsloth 都不支持 mlx 模型 ，
我使用 lm studio ， 可以加载 qwen mlx ， 却不支持 gemma4 mlx 模型，
搜索说是不支持。那想问一下 gemma mlx 系列怎么正常使用。
我使用 lm studio ， 可以加载 qwen mlx ， 却不支持 gemma4 mlx 模型，
搜索说是不支持。那想问一下 gemma mlx 系列怎么正常使用。
 |
1
lihanst 1 天前
我试过可以呀，全程 codex 代劳，好像是得用 mlx-vlm 。
|
 |
2
paynezhuang 1 天前
我也用不了。我用的 gemma-4-31b-jang_4m-crack ，格式是 mlx
``` 🥲 Failed to load the model Failed to load model. Error when loading model: ValueError: Gemma 4 support is not ready yet, stay tuned! ``` |
 |
3
Hilalum 1 天前
omlx ，比其他体验都好，并且缓存在硬盘里，占内存少
|
 |
5
youthfire 1 天前
和 1 楼一样，用的 mlx-vlm
|
 |
6
my3157 1 天前 via Android
ollama 等这个 merge 吧 https://github.com/ollama/ollama/pull/15244
|
 |
7
emberzhang 1 天前
omlx 只能跑 -it 的 gemma4 啊，thinking 的会报错
|
 |
8
zyxk OP  lms 已经更新啦 |
|
9
zyxk OP 但是更新后还是不支持 gemmalmx
|
 |
10
lucifer9 1 天前
@paynezhuang #2 你下载这个 model 的地方没说要用 https://vmlx.net/吗
|
Select Language