賈揚清:Groq的AI芯片不能平替英偉達,2月21日訊,財報發(fā)布前兩天,英偉達突然冒出來一個勁敵。一家名叫Groq的公司今天在AI圈內(nèi)刷屏,殺招就一個:快。不過,原Facebook人工智能科學家,原阿里技術副總裁賈揚清在推特上算了一筆賬,因為Groq小的可憐的內(nèi)存容量,在運行Llama-270b模型時,需要305張Groq卡才足夠,而用H100則只需要8張卡。從目前的價格來看,這意味著在同等吞吐量下,Groq的硬件成本是H100的40倍,能耗成本是10倍。
備注:數(shù)據(jù)僅供參考,不作為投資依據(jù)。
掃碼下載
免費看價格