壁仞科技張文:如何再降低大模型成本?,5月23日訊,在第四屆BEYOND國際科技創(chuàng)新博覽會上,壁仞科技創(chuàng)始人張文分享了自己對AI大模型的看法。張文表示,AI大模型的成本降低可以從三個方面,包括芯片、系統(tǒng)、集群能力三個維度,“芯片層面,過去訓(xùn)練一個AI大模型可能需要幾個月時間,現(xiàn)在隨著芯片算力增大,包括帶寬增加,可能縮短到幾個星期。系統(tǒng)維度,可能我們將來把CPU、GPU和DPU架構(gòu)融合起來,可以提高系統(tǒng)集群能力,現(xiàn)在集群做的越來越好,算力的效率也大幅提升。”
備注:數(shù)據(jù)僅供參考,不作為投資依據(jù)。
掃碼下載
免費看價格