近日,AI异构算力软件Infra供应商中科加禾宣布完成数千万元Pre-A1轮融资,由北京市人工智能产业投资基金领投。
随着生成式AI的爆发,算力需求日益高涨,而供应链压力的持续加大推动了国产硬件的快速发展,形成了中国独有的异构硬件烟囱式隔离型软件生态。成立于2023年的中科加禾,聚焦编译技术,为助推跨越生态鸿沟实现国产算力及大模型的应用落地、加快国产芯片服务我国人工智能产业快速发展,着力打造通用化、低成本、高性能的基础软件工具链。
自成立以来,中科加禾已连续获得3轮融资,引入包括BV百度风投、晨山资本、元禾原点、国科创投、国中资本、南京显生、光合基金、天创资本、新尚资本、陆石投资、奇绩创坛等在内的业内顶级投资机构和产业资本。与此同时,中科加禾持续在产品、技术层面取得重大突破,得到核心产业伙伴、客户深度认可,保持并进一步扩大领先优势,加速构建中国人工智能产业的核心基础软件设施。
技术差异化优势显著,发布极致性能产品
与市场上大部分AI算力基础设施公司不同,中科加禾聚焦编译与AI优化技术,致力于为我国AI产业提供通用化、低成本、高性能的算力基础软件平台。中科加禾始终坚持通过标准化产品,弥合国产异构硬件生态与AI应用落地之间的鸿沟,打造屏蔽底层硬件差异的高性能中间层软件体系。
2024年7月20日,中科加禾正式发布了异构原生算力产品矩阵,其中包含异构原生推理引擎「SigInfer」、异构原生微调引擎「SigFT」、算子自动生成/转译工具「SigTrans」三款产品。这套算力工具能够兼容多种国产及海外AI芯片,为屏蔽芯片差异提供了高性能的统一接口,将大模型推理时延最高降低74倍,吞吐率最高提升3倍,能效比提升 1.46 倍,支持340B参数量的稠密大模型,以及640B的MoE大模型。
其中,「SigInfer」定位于跨平台、高性能的异构原生推理引擎,作为异构计算的技术底座,可以做到调用接口统一,平滑迁移业务应用,大幅降低企业使用成本。在调用多种不同算力的同时进行多层次深度优化,充分挖掘芯片算力的潜能。
高价值生态卡位与快速商业化落地
生成式AI时代,生态碎片化日益加重,带来开发成本增加、落地效率较低和兼容性较差等问题。中科加禾聚焦以编译技术为基础的异构算力软件生态,向业界提供了通用化、低成本、高性能的AI Infra工具链,补齐国产芯片产业生态体系中的关键欠缺环节,为算力使用方、提供方、运营方之间架起桥梁,推动异构原生AI算力的大规模应用和国产AI生态的蓬勃发展,凸显了重要的产业价值。截至目前,中科加禾已与数十家智算中心、芯片厂商、服务器厂商、运营商及头部互联网公司达成深度合作及产品级融合,实现了AI产业链全链路覆盖,打通了产业固有的烟囱式的孤岛体系生态,建立了国产异构「联合体CUDA」的生态雏形。
自产品发布以来,中科加禾凭借行业顶尖的性能表现和极强的通用性,收获数千万元商业订单及意向订单,客户包括国内头部芯片和服务器厂商、运营商、互联网大厂、智算中心等。公司商业化进展迅速,不仅得益于稀缺的技术能力,更源于统一AI中间层软件生态带来的AI落地效率升级势能。在帮助产业链各角色获得对标英伟达使用体验和效率的同时,中科加禾也实现了自身商业价值的快速释放。
顶级投资机构持续看好,产品技术团队获得全方位高度评价
北京市人工智能产业投资基金表示,AI基础设施软件平台在AI产业链中具有重要价值,在国产异构算力生态背景下,如何通过基础软件工具链的完善实现国产算力及大模型应用落地也成为了急需解决的「卡脖子」难题。中科加禾以中科院计算所作为技术源头,聚焦编译技术,核心团队具备20年以上的编译器开发经验,具备稀缺的技术能力、深厚的技术积累和差异化的产品定位。我们期待公司基于在异构原生推理引擎、AI异构编译套件等领域的关键创新突破,有效实现生态化的商业落地,加速国产AI产业链实现规模化应用。