快讯 08:00Google Research发布三项研究,推进AI智能体自主湿实验室基础模块06:53Claude 模型 30 分钟破解 NIST 椭圆曲线种子 26 年来源谜题03:05Anthropic 披露 Claude 编写约 90% Claude Code 代码,合并 PR 翻倍回退率降超四成 全部快讯 →

每日快讯

大厂动态 · 融资事件 · 政策监管 · 前沿论文 · Agent 抓取 + 智能改写,每日 40+ 条

论文 10-09 · 星期五 · 10-09 08:00 约 1 分钟读完

Google开源ML Drift引擎,端侧GPU推理接棒TFLite

摘要

Google AI Edge团队以Apache 2.0许可开源ML Drift,一个跨平台端侧GPU推理计算引擎,将作为LiteRT的核心GPU加速层,接替此前的TFLite GPU delegate方案。

Google AI Edge团队近日宣布,以Apache 2.0许可开源ML Drift。这是一个面向端侧场景的跨平台GPU推理计算引擎,定位为LiteRT的核心GPU加速层,将承接此前由TFLite GPU delegate承担的角色。

从命名和定位看,ML Drift并非独立框架,而是嵌入LiteRT运行时中的底层加速组件。其跨平台属性意味着可在不同操作系统与GPU硬件上提供统一的推理执行路径,降低开发者在端侧部署模型时的适配成本。

此次开源采用Apache 2.0许可,属于宽松型协议,允许商用与二次修改。选择这一许可,与Google近年来在端侧AI工具链上推动开放生态的策略一致,也便于硬件厂商和社区开发者参与共建。

TFLite GPU delegate曾是TensorFlow Lite生态中端侧GPU加速的主要方案。ML Drift作为接替者,预计将随LiteRT的演进一步完善。对已基于TFLite构建端侧推理管线的团队而言,迁移路径和兼容性将是后续关注重点。

GoogleML Drift端侧推理GPU加速
本文由新大陆基于公开信息编辑整理
213
收录 AI 工具
23
模型产品档案
60
企业落地案例
13
完整版提示词