园 新留园 海外华人的新闻与社区
论坛 信息技术 AI 动态 Meta 发布 Muse Spark Open:拥有 8160 亿参数的强大多模态模型,深度适配 Apple Silicon 架构

Meta 发布 Muse Spark Open:拥有 8160 亿参数的强大多模态模型,深度适配 Apple Silicon 架构

【核心提要】

  • Meta 正式发布 Muse Spark Open,号称是目前美国最强大的开放权重(Open-weight)多模态模型。
  • 该模型具备 8160 亿总参数量、420 亿激活参数,并支持高达 100 万 Token 的超长上下文窗口。
  • 模型深度优化了苹果 MLX 框架,可高效运行于搭载 M5 Ultra 芯片的高端 Mac Studio 设备上。

【正文报道】

Meta 近日正式发布了名为 Muse Spark Open 的多模态模型。官方表示,该模型是目前美国最强大的开放权重模型之一。Muse Spark Open 在架构设计上极具野心:它拥有高达 8160 亿的总参数量,但在实际运行中仅需激活 420 亿参数(采用混合专家模型 MoE 架构),在保证强大性能的同时兼顾了推理效率。此外,该模型支持高达 100 万 Token 的上下文窗口,能够处理极长篇幅的文本或复杂的跨模态信息。

在硬件适配方面,Muse Spark Open 展示了与苹果生态的高度协同。该模型利用了苹果最新的开源框架 MLX(Machine Learning for XML),专门针对 Apple Silicon 芯片的统一内存架构进行了深度优化。这种优化使得高性能 Mac 设备能够流畅运行如此庞大的模型。

具体到硬件配置,Muse Spark Open 能够完美适配搭载 M5 Ultra 芯片的 Mac Studio。由于 M5 Ultra 支持高达 512GB 的内存容量,两台最高配置的 Mac Studio 可以协同工作来承载整个模型的运算需求。在技术层面上,这两台机器的组合等同于一台拥有 1TB 统一内存的超级计算机。

目前,Muse Spark Open 已正式发布在 Hugging Face 平台上,供开发者和研究人员调用。Meta 此举不仅展示了其在多模态领域的技术实力,更通过对 Apple Silicon 生态的深度优化,为高端个人工作站提供了一种运行超大规模模型的可行路径。

【小编观点】
Meta 此次推出的 Muse Spark Open 展现了两个核心趋势:一是“大参数+高效激活”的 MoE 架构已成为高性能开源模型的标配;二是针对特定硬件生态(如 Apple Silicon)进行深度底层优化,是让超大规模模型走向“本地化运行”的关键路径。100 万 Token 的上下文支持配合苹果的高性能统一内存,将极大地提升专业创作者在本地设备上处理长文本和多模态数据的能力。

背景链接:

0 条回复

暂无回复,快来抢沙发吧!

  • 1 / 1 页
敬请注意:文中内容观点和各种评论不代表本网立场!若有违规侵权,请联系我们。