
tiny corp于4月1日宣布,其开发的驱动程序“TinyGPU”已获得Apple批准,使得搭载Apple Silicon的Mac能够使用外接GPU(eGPU)。
TinyGPU项目旨在让Apple Silicon Mac识别并利用eGPU,主要用于AI加速处理,而非传统的图形显示输出。
此次Apple批准TinyGPU,用户无需绕过系统完整性保护(SIP),只需在操作系统中完成驱动授权即可使用。Apple允许外接GPU连接至Apple Silicon Mac的举措较为罕见。据tiny corp报告,已成功通过eGPU运行包括Qwen 2.5 27B在内的AI模型。
使用TinyGPU需要macOS 12.1及以上版本,且支持USB4或Thunderbolt 3/4接口。同时,必须安装专用框架“tinygrad”。支持的GPU包括AMD RDNA3及以上型号和NVIDIA Ampere及以上型号。AMD GPU的编译器可直接运行,而NVIDIA GPU的编译器(NVCC)则需在Docker Desktop环境中执行。


