快科技5月19日消息,當(dāng)?shù)貢r(shí)間周四,Meta宣布,它正在研發(fā)首款專門(mén)用于運(yùn)行人工智能模型的定制芯片。
Meta并不像谷歌、微軟等科技巨頭從事銷(xiāo)售云計(jì)算服務(wù)的業(yè)務(wù),過(guò)去公司從未公開(kāi)談?wù)撈鋬?nèi)部數(shù)據(jù)中心芯片項(xiàng)目。但Meta高管稱,全球科技界都對(duì)此表現(xiàn)出興趣,所以有必要與外界溝通。
這款芯片名為“Meta訓(xùn)練和推理加速器”(Meta Training and Inference Accelerator,簡(jiǎn)稱“MTIA”),功耗僅為25瓦,遠(yuǎn)低于NVIDIA等廠商的芯片功耗。
據(jù)Meta介紹,首個(gè)MTIA芯片將專注于AI推理。Meta軟件工程師Joel Coburn表示,Meta最初考慮將GPU用于推理任務(wù),但后來(lái)發(fā)現(xiàn)GPU并不不太適合推理工作。
“GPU在真實(shí)模型應(yīng)用方面的效率仍然很低,而且部署起來(lái)成本高昂。”Meta軟件工程師Coburn表示,“這就是我們需要MTIA的原因。”
此外,Meta還介紹了一種稱作“可規(guī)模化視頻處理器”(MSVP)的芯片,可用于處理視頻并傳輸,同時(shí)降低能源需求,該公司稱,每天需要處理40億個(gè)視頻的任務(wù)。
標(biāo)簽: 數(shù)據(jù)中心芯片 科技巨頭 推理加速器