燧原科技与清程极智达成战略合作,共创行业新篇章。

2024-07-05

概要:燧原科技与清程极智签署战略合作,共同开发面向超万亿参数大模型和超大规模集群的高性能系统软件方案,以优化算法模型的智能化和场景泛化性,提升算力效率与性价比,推动人工智能与数字经济发展。

在2024年7月5日的上海,一场科技界的重磅合作正式拉开帷幕。燧原科技,这家在人工智能领域深耕多年的企业,与人工智能系统软件领域的佼佼者清程极智携手,共同签署了一份具有划时代意义的战略合作协议。他们的目标,是共同开发面向超万亿参数大模型和超大规模集群的高性能系统软件方案,为人工智能的发展注入新的活力。

随着人工智能大模型的快速发展,其模型参数的不断增长、语料库的日益庞大以及应用场景的广泛拓展,对人工智能的算力基础设施提出了前所未有的挑战。如何使超大规模集群既拥有高效能,又保持高性价比,成为摆在业界面前的一道难题。燧原科技与清程极智的合作,正是为了解答这一问题。

根据协议,双方将共同打造超大规模智算集群的训练方案,针对大模型的实际应用场景进行软硬协同的开发与优化。无论是基础大模型的预训练,还是行业大模型的微调,亦或是大模型推理部署,双方都将提供更高性能、更高效率、更高性价比的算力方案,满足多元化的算力需求。

此次合作并非偶然,而是双方长期技术合作的延续和深化。此前,燧原科技的新一代人工智能推理加速卡“燧原S60”与清程极智的高性能推理框架“FastDecode”已成功携手,共同研发出千亿参数规模大模型的高性能推理平台。该平台在不同场景下实现了显著的吞吐量提升,实测并发量更是达到了vLLM等开源框架的4倍,为降低算力使用成本提供了切实可行的技术产品方案。

燧原科技创始人、董事长、CEO赵立东表示:“随着大语言模型的迅猛发展,借助超大规模计算集群来运行复杂模型的需求日益迫切。清程极智的系统软件方案,能够显著提升大模型训练和推理的算力利用率,降低使用成本。我们与清程极智的合作,正是基于这一共同目标,通过创新的技术和优化的算法,共同打造高效、可扩展和稳定的系统软件解决方案,推动生成式人工智能的变革,助力中国数字经济的蓬勃发展。”

清程极智CEO汤雄超也对此次合作给予了高度评价:“燧原科技在本土人工智能算力产品及智算集群等方面能力卓越,而我司在分布式训练框架、高性能推理框架、算子优化、通信库优化等软件栈技术与产品方面拥有领先的研发能力。双方的合作将实现优势互补,在联合开发高性能推理软件栈、打造超大规模智算集群等方面具有巨大的协同潜力。我相信,随着合作的深入,我们将共同推动人工智能产业的发展,为构建新质生产力贡献力量。”

文章推荐

相关推荐