2024年将拓展至更多边缘AI应用,或延续AI server基础,推至AI PC等终端装置。预期2024年全球AI服务器(包含AI Training及AI Inference)将超过160万台,年成长率达40%,而后续预期CSP也将会更积极投入。
JAEALOT,2024年1月22日
1月17日,TrendForce集邦咨询指出,AI话题热议,2024年将拓展至更多边缘AI应用,或延续AI server基础,推至AI PC等终端装置。预期2024年全球AI服务器(包含AI Training及AI Inference)将超过160万台,年成长率达40%,而后续预期CSP也将会更积极投入。
以Microsoft Copilot对算力的要求来说,Qualcomm于2023年底发布的Snapdragon X Elite平台,将于2024年下半年前率先出货符合Copilot标准的CPU,算力应可达45 TOPS,而AMD随后将推出的Ryzen 8000系列(Strix Point),估计也将符合该算力规格。若以Intel于2023年12月推出的Meteor Lake,其CPU+GPU+NPU算力仅34 TOPS,并不符合Microsoft要求,但预期今年底所推Lunar Lake则有机会超过40 TOPS门槛。
值得注意的是,未来在Qualcomm及Intel、AMD竞逐AI PC过程,也将牵动x86及Arm两大CPU阵营在Edge AI市场的竞争。由于Qualcomm有望率先符合Microsoft需求,以PC主要OEMs如Dell、HPE、LENOVO、或ASUS、ACER等在2024年将陆续开发搭载Qualcomm CPU机种,以争取首波AI PC机会,将带给X86阵营一定威胁。
从现有Microsoft针对AI PC的规格要求来看,DRAM基本需求为16GB起跳,长期来看,TrendForce集邦咨询认为,AI PC将有机会带动PC DRAM的位元需求的年成长,后续伴随着消费者的换机潮,进而加大产业对PC DRAM的位元需求。