苹果公司近日在Jamf用户大会（JNUC）上展示了其各类产品的本地AI推理能力。活动中，苹果分享了一张详细的图表，涉及iPhone、iPad到Mac Studio等设备的性能对比，突出端侧AI处理的最大潜力。这项技术能够支持用户在设备上进行众多AI应用，包括语音助手Siri、文本编辑和图像处理等日常功能。以下是不同产品的主要参数和适用场景：
- iPhone/iPad：16 GB内存，带宽76 GB/s，支持最大140亿参数，用于轻量级AI任务。 - MacBook Air：32 GB内存，带宽153 GB/s，支持最大350亿参数，适合中等AI负载。 - Mac mini：64 GB内存，带宽307 GB/s，支持最大700亿参数，适合隐私敏感的任务。 - MacBook Pro：128 GB内存，带宽614 GB/s，支持最大1200亿参数，专业级别用于大型模型的处理。 - Mac Studio：512 GB内存，带宽1.2 TB/s，支持最高4800亿参数，适用于高强度的AI推理任务。 - Mac Studio集群：2 TB内存，带宽1.2 TB/s，支持最高1.6万亿参数，用于超大规模模型的本地训练与推理。
苹果的这些产品依托于统一内存架构，使得设备端能够高效执行大型模型的推理操作。设备的内存容量和带宽决定了可以支持的AI模型的复杂性，位置越高的设备在本地AI能力方面越强。
发表评论