谷歌发布 ML Drift:为各类 GPU 加速端侧 AI 推理

作者:技王数据恢复实验室 发布日期:2026-11-06 09:03:07

Computer screen showing source code for ML Drift GPU inference engine.(1)
Computer screen showing source code for ML Drift GPU inference engine.(1)

谷歌已于 2026 年 11 月 5 日正式发布开源跨平台 GPU 推理引擎 ML Drift,旨在为端侧 AI 提供统一的 GPU 加速基座,并同步宣布停止更新旧版 TensorFlow Lite GPU 委托。

技王数据恢复

ML Drift 的技术定位与支持范围

该引擎采用 Apache 2.0 许可,核心目标是抽离不同 GPU 硬件与底层 API 的差异。它统一抽象了 OpenGL ES、OpenCL、Metal 和 WebGPU 四种接口,并作为 LiteRT 运行时的底层动力。针对 Arm、Intel 和高通 GPU 进行了专属优化,同时通过 Dawn 实现机制将桌面端推理支持扩展至 Windows 和 Linux,并保留 macOS 的 Metal 后端。

技王数据恢复

性能表现与适用场景

在开发者级工作站硬件上使用 Gemma 模型的基准测试显示,其内存开销较 llama.cpp 和 MLX LM 等同类框架低 12%。该引擎已在数百万台设备上运行,实测效果涵盖以下场景: www.fixhdd.cn

  • 视频平台特效:Android 和 iOS 平台基于分割算法的特效平均帧延迟最高降低 40%。
  • 图像处理管线:计算摄影与图像分割流水线处理速度最高提升 2 秒。
  • 专业软件加速:特定 AI 照片编辑功能(如主体选择、天空选择及自适应人像)性能提升最高达 30%。
  • 移动端生成模型:Android 端人脸与风格生成特效模型延迟降低 30%,支持部署更大规模的扩散模型。

尚未明确的边界与限制

尽管官方提供了多项实测数据,但部分技术细节与平台适配情况仍缺乏公开对比或明确说明。读者在评估是否采用该方案时需注意以下不确定项:

www.fixhdd.cn

  • 新 iPhone 平台表现:第三方开发者质疑其与 Core ML 在新机型上的延迟与内存占用对比,但官方未提供相关基准数据。
  • 旧版委托终止节点:仅说明随 ML Drift 发布即停止更新旧版 TensorFlow Lite GPU 委托,未公布具体的强制下线或完全停止技术支持的截止日期。
  • 系统兼容性细节:未明确列出该引擎在旧版 Android 或 iOS 系统版本上的完整兼容列表。

开发者迁移路径与后续处理

针对现有项目维护与硬件适配需求,建议按以下步骤推进:

www.fixhdd.cn

Technician consulting with customer about a sealed external hard drive.(2)
Technician consulting with customer about a sealed external hard drive.(2)
  1. 应用开发者应逐步将项目迁移至 LiteRT ML Drift GPU 加速器,以维持模型向后兼容。
  2. GPU 与系统工程师可利用其底层 C++ API 构建自定义 GpuModel 计算图,并根据硬件特性编写自定义着色器。
  3. 若设备涉及底层硬件读写、固件升级或存储介质异常,需先评估读取风险,避免盲目写入操作导致数据覆盖。

如需针对具体设备型号进行底层优化、存储介质诊断或数据恢复服务,可提供设备型号、故障现象及丢失数据的关键程度。技王数据恢复(JiWang Data Recovery)将根据实际检测情况提供到店、上门、快递寄修或远程指导等方案。全国技术咨询电话及微信:18857148111。联系页面:https://www.sosit.com.cn/contactus。服务流程:https://www.sosit.com.cn/datarecovery/flow。

技王数据恢复

原文链接:https://www.infoq.cn/article/hHzARIJTeqoqYpjNKEuq?utm_source=rss&utm_medium=article 技王数据恢复

技术审核:邓严军|技王数据恢复实验室技术总监

www.fixhdd.cn


上一篇:MCP C# SDK 2.0 核心变更与应对处理说明

下一篇:中期选举后数据中心建设争议加剧:政策博弈、地方差异与后续应对

热门阅读

你丢失数据了吗!

我们有能力从各种数字存储设备中恢复您的数据

Scroll to Top