Mistral Small Lässt sich nicht laden

#1
by Naguziel - opened

Hallo zusammen,

wenn ich dieses Modell in LM Studio laden möchte, bekomme ich folgende Fehlermeldung:

🥲 Das Modell konnte nicht geladen werden

Failed to load model

Error when loading model: ValueError: Model type mistral3 not supported.

Muss ich nur auf ein Update von LM Studio warten, oder liegt der Fehler bei mir?

Das Model in GGUF lässt sich problemlos betreiben, aber in MLX macht es leider dieses Problem.

Vielen Dank für die Hilfe!

Mit freundlichen Grüßen

Sven

MLX Community org

pip install mlx-vlm

Your need to confirm your account before you can post a new comment.

Sign up or log in to comment