苹果发布自研核心AI框架，边缘计算全面落地（Core AI 框架与端侧推理）

苹果公布核心AI框架，实现大模型本地推理与数据隐私，支持多设备端运行与端到端开发工具链。

背景与要点

• 苹果推出核心 AI 框架，目标是在自研芯片上实现大模型本地推理，所有推理计算在设备端完成，用户数据不离开设备。
• 这意味着：
  • 服务器调用归零，隐私全面提升
  • Token/API 成本不再波动，账单更可控
  • Qwen、Mistral、SAM3 等模型可在 iPhone、iPad、Mac 甚至 Vision Pro 上运行
• 上手门槛极低，内存安全的 Swift API，模型预编译加载实现接近秒级响应。

快速示例

• 两行代码实现图像分割（ImageSegmenter）
  • let segmenter = try await ImageSegmenter(resourcesAt: sam3ModelURL)
  • let response = try await segmenter.segment(image: inputImage, prompt: "flower")

整体装备链（苹果

下载链接

GitHub：
https://github.com/apple/coreai-m模型