跳到正文

技术方向

端侧 AI 最新动态

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

2 条精选近 30 天 2 条共收录 3 条

更新

端侧 AI的精选

今天10月16日周五第 1–2 条
  1. TechCrunch · AI87

    Meta 发布开源权重模型 Muse Spark Open,支持 Mac 本地运行

    Meta 推出被称为美国最强大开源权重模型 Muse Spark Open,该模型拥有 8160 亿参数和 100 万 token 上下文窗口,原生支持多模态,专为复杂编码任务与智能体工作流设计。

    推荐理由:该模型参数与上下文规模巨大,且强调本地端侧部署能力,提供了评估其在 Mac 上运行复杂任务时的具体门槛参考。

  2. NVIDIA Blog75

    NVIDIA 发布 Nemotron 3.5 Super VL 与 Bolt 开源模型,覆盖数据中心到桌面智能体场景

    NVIDIA 发布 1200 亿参数的开源多模态模型 Nemotron 3.5 Super VL,主打智能体任务的高效推理,以及两款边缘模型 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB。

    推荐理由:NVIDIA 开源了 Nemotron 3.5 Super VL 和两款边缘模型,读者可据此了解不同算力场景下的智能体部署方案。