贾扬清:Groq的AI芯片不能平替英伟达
繁简切换

FX168财经网>合作>正文

贾扬清:Groq的AI芯片不能平替英伟达

文 / 夏洛特 来源:第三方供稿

财报发布前两天,英伟达突然冒出来一个劲敌。一家名叫Groq的公司今天在AI圈内刷屏,杀招就一个:快。不过,原Facebook人工智能科学家,原阿里技术副总裁贾扬清在推特上算了一笔账,因为Groq小的可怜的内存容量,在运行Llama-2 70b模型时,需要305张Groq卡才足够,而用H100则只需要8张卡。从目前的价格来看,这意味着在同等吞吐量下,Groq的硬件成本是H100的40倍,能耗成本是10倍。
分享
掌握最新全球资讯,下载FX168财经APP

相关文章

48小时/周排行

最热文章