CPU3D3D、视频与音频的 AI 工具

whisper.cpp v1.9.4:支持 Windows on ARM 并将 ggml 更新至 0.23.0

whisper.cpp 运行工具发布了 v1.9.4 版本。在 GitHub 仓库中公布了变更:构建流水线新增了对 Windows on ARM 的支持,ggml 后端更新至 0.23.0 版本,修复了解码器的重复启动以及自动检测语言回调的调用顺序。

这意味着什么

对于在自己的机器上运行 whisper.cpp 的用户来说,本次发布带来了几项实际变化。Windows on ARM 的构建现已纳入发布流程——这涉及搭载 ARM 处理器并运行 Windows 的设备。ggml 更新至 0.23.0 涉及计算后端:在 Metal 中为 M3 Max 补充了缺失的调优,在 SYCL 中合并了 rms_norm+mul+add 和 add+add 的运算链,修复了 s390x 上 q5_1 量化中未初始化的变量。 将 encoder_begin_callback 的调用顺序调整到自动检测语言之前,可能会影响服务器模式:现在检测请求的响应会返回语言。在多次调用之间重新初始化解码器,消除了连续运行时的稳定性问题。开发者未说明本次发布对内存的要求或具体支持的模型。 关于 3D 和视频 AI 工具动态的链接:cpu3d.com/ainews
whisper.cpp v1.9.4:有哪些变化 Windows on ARM 发布流水线 中的构建 ggml 0.23.0 Metal:针对 M3 Max 的调优 SYCL:算子 融合 解码器 重新 初始化 语言回调 调用顺序 在检测之前 服务器模式 检测响应 返回语言 q5_1 量化 已修复 s390x 变量 v1.9.4 发布:解码器更稳定,平台支持更广
该方法的原理。示意图根据这篇简讯绘制。

相关阅读