当前位置：
  1. 首页
  2. AI 人工智能

浅谈为AI大算力而生的存算-体芯片

2023-12-06

甲子光年发布2023中国科技产业50条判断，存算一体为大模型时代AI计算注入颠覆性力量,浅谈为AI大算力而生的存算-体芯片 (https://ic.work/) AI 人工智能 第1张
甲子光年创始人&CEO张一甲在大会开幕式上发布了甲子智库趋势报告《致追风赶月的你：2023中国科技产业50条判断》。其中第17条判断指出，存算一体芯片可以打破存储墙、能耗墙，用架构创新赋能大模型时代AI计算。
亿铸科技作为一家致力于用存算一体架构设计AI大算力芯片的公司，被列为该报告中“新质生产力”的代表，并在大会上从AI算力芯片企业的角度分享了观点。
亿铸科技创始人、董事长兼CEO熊大鹏博士在《探索AI软硬件适配之路，共创算力服务新未来》圆桌论坛上表示：“大模型爆火之后，存算一体获得了更多的关注与机会，其原因之一是因为存算一体芯片的裸算力相比传统架构的AI芯片，能带来十倍以上的提升。”但存算一体的贡献并不只是提升AI芯片算力，它还解决了大模型时代AI计算的最大痛点——在巨大的模型参数量面前，数据搬运的带宽不够，也就是“存储墙”的问题。
传统架构的AI芯片在大模型计算中，每一次推理计算都需要搬运整个模型参数，大量的数据卡在传递系数的“读”上，还导致了“能耗墙”的问题。
而存算一体正是“解药”。熊大鹏博士介绍道：“存算一体不需要搬运参数，所以实际运算效率也会比传统架构好很多。再加上其裸算力的提升，可以说在大模型时代具有非常强的优势。
据国盛证券研究所预计，不考虑模型效率提升对算力需求的下降，也不考虑模型训练的标识符（token）的增长；,中性预期下，ChatGPT日活稳定在1亿人次左右、ChatGPT每3个月模型参数翻倍、同时假设全球市场将出现10个左右类似于ChatGPT的商用大模型，而比特币挖矿耗电量保持当前状态，则大约4年后，AIGC大模型耗电量将超过比特币挖矿耗电量。
乐观和悲观预期下，这一数字则分别为1.6年和7.5年。注意，此时只是考虑了类似于ChatGPT的商用大模型，而实际可能出现可能消耗更多算力的多模态商用大模型，如果考虑到这一点，AIGC耗电量的增长将会更快。”
所以实现高能效比的算力芯片成为国家重点关注的挑战。
2023年10月22日，在安徽省合肥市召开的第二十五届中国科协年会主论坛上，中国科协发布了2023重大科学问题、工程技术难题和产业技术问题。排在前沿科学问题第一位的就是：如何实现低能耗人工智能？,存算一体的AI芯片发展路径是目前可商业落地的最佳路径之一。
亿铸科技面向数据中心、云计算、中心侧服务器、自动驾驶及边缘计算等场景，将忆阻器ReRAM和存算一体架构相结合，借助全数字化技术路径应用创新、存算一体超异构系统级创新等多项创新优势，从根本上解决大模型快速发展所凸显的算力挑战，为AI大算力芯片发展打开了新通路。
未来，随着存算一体技术的不断发展，我们可以期待更多的创新和突破，在赋能AIGC应用实现与落地的同时，迎接绿色算力新未来。

文章推荐
Tags：

上一篇

下一篇

相关推荐