Meta开源8160亿参数多模态模型Muse Spark Open,可在双Mac Studio本地运行
摘要
Meta发布开放权重多模态模型Muse Spark Open,总参数8160亿、激活420亿,支持100万Token上下文。该模型基于苹果MLX框架优化,可运行于搭载M5 Ultra芯片的Mac Studio,两台顶配设备即可承载。模型已上线Hugging Face。
Meta于近日正式发布开放权重模型Muse Spark Open,并称其为当前美国最强的开放权重模型。该模型采用多模态架构,总参数量达到8160亿,推理时激活参数为420亿,上下文窗口支持100万Token。
在技术实现上,Muse Spark Open借助苹果最新版本的开源数组框架MLX,针对Apple Silicon的统一内存架构进行了专门优化。这意味着模型能够直接在搭载M5 Ultra芯片的Mac Studio上运行,而无需依赖传统数据中心级GPU集群。
硬件适配方面,M5 Ultra支持最高512GB内存容量。两台最高配置的Mac Studio组合后,可提供总计1TB的统一内存,足以完整容纳整个模型——相当于一台拥有1TB统一内存的计算机。这一方案为超大规模模型在本地环境部署提供了新的可能性。
目前,Muse Spark Open已在Hugging Face平台发布,开发者与研究者可获取其开放权重进行进一步探索与应用。
本文由新大陆基于公开信息编辑整理
信息来源:Solidot Solidot原文 ↗