CPU3D3D、视频与音频的 AI 工具

Ollama v0.40.0 在 Apple Silicon 上默认将模型切换到 MLX

Ollama v0.40.0 已发布。主要变化:在 Apple Silicon 设备上,凡是运行时 MLX 支持其架构的模型,现在都会自动通过 MLX 启动。开发者给出的示例是 ollama pull qwen3.8 和 ollama run qwen3.8。在预发布期间,作者承诺会测试并加入更多模型。

这意味着什么

对于在搭载 M 系列芯片的 Mac 上运行模型的人来说,这是默认行为的改变:无需单独设置即可切换到 MLX。如果模型的架构受 MLX 支持,Ollama 会在加载时自行选择该运行时。开发者并未说明具体哪些架构已经纳入、哪些会在之后加入——发布说明中只提到,该列表会在预测试过程中逐步扩大。 那些在 Apple Silicon 上使用模型、并想了解在自己具体任务中性能和内存占用如何变化的人,值得关注这次更新。由于该版本被标记为 pre-release,其行为可能因构建版本而异。 关于本地运行神经网络的工具新闻,可在 CPU3D 动态中关注。
Ollama v0.40.0 在 Apple Silicon 上 默认自动选择 MLX 用户 Mac M 系列 命令 ollama run qwen3.8 启动模型 无需配置 加载 O Ollama v0.40.0 pre-release 检查架构 架构 支持 MLX? 列表持续增长 是 M MLX 运行时 自动选择 Apple Silicon 性能 内存、速度 取决于任务 否 R 普通 运行时 行为可能因版本而异——请关注 CPU3D 动态
该方法的原理。示意图根据这篇简讯绘制。

相关阅读