AI资讯

MacBook Pro 外接 iPhone 17 Pro Max 运行 AI 模型,预填充性能最高提升 44%

一名用户通过将 iPhone 17 Pro Max 外接至 MacBook Pro,并借助自制软件,使得 AI 模型的预填充性能最高提升了 44%。该方案利用了 M4 Pro 芯片和 A19 Pro GPU 的协同处理能力。

AI云图智寻编辑部2026-10-04 08:04
阅读时间:约 3 分钟访问0
MacBook Pro 外接 iPhone 17 Pro Max 运行 AI 模型,预填充性能最高提升 44%
近日,一名用户通过 USB-C 接口将 iPhone 17 Pro Max 外接至搭载 M4 Pro 芯片的 MacBook Pro 上,并使用自制软件,使 Qwen3.8-27B 人工智能模型的预填充性能最高提升了 44%。这一方案通过拆分计算任务,实现了 Mac 和 iPhone 的协同处理。

外接 iPhone 提升 AI 模型预填充速度

Reddit 用户“u/StayLameBro”通过将 iPhone 17 Pro Max 外接至 MacBook Pro,利用自制软件显著提升了 AI 模型的预填充性能。具体而言,MacBook Pro 负责处理每批 256 个 token 中的第 1 至 40 层,再将激活值数据流传输到手机端;与此同时,iPhone 利用 A19 Pro 的 GPU 运行第 41 至 64 层。在 16K 上下文长度下,单 token 写入耗时从 279 毫秒缩短至 176 毫秒。

不同上下文长度下的性能提升

根据测试结果,当上下文设为 8K 时,仅靠 Mac 本机的速度是每秒 132 个 token;外接 iPhone 之后达到每秒 177 个 token,性能提升 35%。当上下文设为 16K 时,速度从每秒 109 个 token 上涨至每秒 157 个 token,增幅高达 44%。而当上下文窗口设置为 32K 时,预填充速度从每秒 101 个 token 提升至每秒 130 个 token,性能改善 29%。这些数据显示,在不同上下文长度下,外接 iPhone 均能显著提升预填充速度。

方案的局限与未来潜力

尽管该方案在预填充方面表现出色,但仍存在一些局限。例如,在 64K 以内的场景中,文本生成的工作依旧全部交由 Mac 完成,手机并不会加速文本生成。此外,驱动 iPhone 18 Pro 以及 iPhone 18 Pro Max 的 A20 Pro 芯片有望提供更大的性能余量,其配备双 16 核神经网络引擎,数据吞吐能力甚至超过系统级芯片内置的 7 核 GPU。这套自制软件已开源,可以在 GitHub 上下载,项目名称叫作“backburner”。未来,类似方案可能进一步挖掘性能潜力,但也可能导致 iPhone 供货紧张。