7月2日,云天勵(lì)飛發(fā)布公告,公司與德元方惠簽署《關(guān)于AI算力運(yùn)營(yíng)項(xiàng)目的服務(wù)合同》,此前與德元方惠簽署的《AI 算力運(yùn)營(yíng)合作框架協(xié)議》正式落地。根據(jù)合同,云天勵(lì)飛將向德元方惠提供算力總規(guī)模模約 4000 PFLOPS 的 AI 訓(xùn)練及推理算力服務(wù)。合同服務(wù)期3年,累計(jì)總服務(wù)費(fèi)超16億元。

今年6月6日,云天勵(lì)飛已經(jīng)與德元方惠簽署《AI 算力運(yùn)營(yíng)合作框架協(xié)議》,就德元方惠向云天勵(lì)飛購(gòu)買 AI 訓(xùn)練及推理算力服務(wù)達(dá)成了框架安排并對(duì)雙方簽署正式合同的條件、核心交易要素及違約責(zé)任等事項(xiàng)進(jìn)行了約定,并約定德元方惠應(yīng)在于與其客戶簽署項(xiàng)目合同之日起 10 個(gè)工作日內(nèi),與云天勵(lì)飛完成正式合同的簽署。

本次雙方簽署服務(wù)合同,意味著此前簽署的框架協(xié)議正式落實(shí),奠定云天勵(lì)飛未來(lái)業(yè)績(jī)高速增長(zhǎng)基礎(chǔ),亦標(biāo)志著云天勵(lì)飛AI運(yùn)營(yíng)業(yè)務(wù)的一大突破。

將自研大模型經(jīng)驗(yàn)融入算力運(yùn)營(yíng)服務(wù)

大模型的蓬勃發(fā)展帶來(lái)了算力需求的激增。根據(jù)中信建投的測(cè)算,2023年-2027年,全球大模型訓(xùn)練端峰值算力需求量的年復(fù)合增長(zhǎng)率有望達(dá)到 78.0%,工信部數(shù)據(jù)顯示,截至2023年6月底,算力總規(guī)模達(dá)到197EFLOPS,算力總規(guī)模近五年年均增速近30%,存力總規(guī)模超過(guò)1080EB。

云天勵(lì)飛自主研發(fā)了千億級(jí)大模型“云天天書”,并在大模型的研發(fā)過(guò)程中積累了一系列算力調(diào)優(yōu)、提升模型訓(xùn)練效率的技術(shù)平臺(tái)和相應(yīng)工具,云天勵(lì)飛將上述技術(shù)沉淀運(yùn)用在 AI 算力服務(wù)中,可幫助客戶提升模型訓(xùn)練及算力利用效率,同時(shí),此次AI算力運(yùn)營(yíng)服務(wù)合同的簽訂也標(biāo)志著公司AI運(yùn)營(yíng)業(yè)務(wù)迎來(lái)新的重大突破。

此外,公司將持續(xù)投入自研大模型研發(fā)及優(yōu)化工作,預(yù)計(jì)將維持較高對(duì) AI 訓(xùn)練及推理異構(gòu)算力的需求,此次《服務(wù)合同》項(xiàng)下涉及對(duì)于高性能異構(gòu)算力的采購(gòu)未來(lái)亦可視需要作為云天勵(lì)飛大模型研發(fā)工作所需算力基礎(chǔ)的補(bǔ)充,支撐公司大模型技術(shù)的持續(xù)進(jìn)步。

提前布局推理算力

今年以來(lái),大模型全面進(jìn)入應(yīng)用落地階段,推理算力需求隨之不斷增長(zhǎng)。根據(jù)IDC數(shù)據(jù),預(yù)計(jì)到2026年中國(guó)數(shù)據(jù)中心用于推理的負(fù)載將達(dá)到62.2%。云天勵(lì)飛持續(xù)看好大模型進(jìn)入成熟商業(yè)化階段后推理需求的爆發(fā),并在推理算力領(lǐng)域進(jìn)行戰(zhàn)略部署。

相較于大模型訓(xùn)練算力的一次性開銷而言,推理算力需求將隨著模型使用時(shí)間和用戶量的增長(zhǎng)而快速增加,因此在大模型進(jìn)入成熟商業(yè)化階段之后將迎來(lái)需求爆發(fā)。云天勵(lì)飛所搭建超大規(guī)模異構(gòu)高性能算力集群將其自研推理卡與高性能訓(xùn)練算力相結(jié)合,為客戶提供高效的訓(xùn)推一體算力服務(wù),同時(shí)為自研推理卡落地打開場(chǎng)景觸角,搭建生態(tài),為大模型進(jìn)入成熟商業(yè)化階段后的推理需求爆發(fā)提前布局。

未來(lái),云天勵(lì)飛亦可在超大規(guī)模異構(gòu)高性能算力集群中,將自研推理卡與高性能訓(xùn)練算力相結(jié)合,為自研推理卡落地打開場(chǎng)景觸角,搭建生態(tài),為行業(yè)帶來(lái)更豐富的算力服務(wù)。

標(biāo)簽：