近日，一款名为「Backburner」的工具在GitHub上公开，该工具能够将iPhone作为Mac的外置GPU使用，从而加速Mac上的本地AI处理。使用该工具需要在Mac和iPhone两端同时安装相应软件。
Backburner通过将部分AI推理处理和数据存储任务卸载到iPhone，实现性能提升。它利用iPhone内置的GPU和Neural Engine，与Mac进行分布式计算，既保证输出结果的准确性，又能加快处理速度并扩大上下文容量。
在处理提示词时，Backburner支持最大64k令牌的预加载。具体做法是将提示词分批处理，Mac负责第1至40层的计算，iPhone负责第41至64层的计算，采用流水线方式减少等待时间。以本地运行的Qwen3.8-27B IQ4_XS模型为例，处理16k至48k令牌时，预加载速度提升了29%至44%。
此外，Backburner还能将超出Mac内存容量的旧KV缓存转移到iPhone，从而支持更大的上下文。以配备24GB内存的Mac运行Qwen3.8-27B IQ4_XS为例，单机模式下8bit量化上下文最大支持64k令牌，而借助iPhone后可扩展至128k令牌。同时，iPhone还能根据Mac的请求执行注意力计算等任务。
为了进一步提升Mac单机运行速度，Backburner还集成了SME2单元的矩阵计算分布处理、DFlash2的推测解码以及SSD提示词缓存等优化技术。
该工具支持的设备为搭载Apple Silicon芯片的Mac和iPhone 15 Pro及以上机型。为了保证数据传输带宽，连接时需使用支持10Gbps的USB Type-C数据线。
在社交媒体上，有用户分享称，利用一条10Gbps的USB-C线将iPhone变成24GB内存MacBook的“副显卡”，运行本地Qwen 27B大模型，长文本处理速度提升超过40%。
