万益资讯网

MacMiniM4 32G 运行 mlx-community/gemma-3-2

MacMiniM4 32G 运行 mlx-community/gemma-3-27b-it-4bit 的速度:

4.23 tok/sec

11.32s to first token AI创造营

现在 LMStudio 运行 mlx 版本还有 bug,没有图片时会循环输出。得等官方修。 ​​​

PS:图片是《绝望先生》,完全没有认出来。[允悲] ​​​