贾扬清：Groq的AI芯片不能平替英伟达

财报发布前两天，英伟达突然冒出来一个劲敌。一家名叫Groq的公司今天在AI圈内刷屏，杀招就一个：快。不过，原Facebook人工智能科学家，原阿里技术副总裁贾扬清在推特上算了一笔账，因为Groq小的可怜的内存容量，在运行Llama-2 70b模型时，需要305张Groq卡才足够，而用H100则只需要8张卡。从目前的价格来看，这意味着在同等吞吐量下，Groq的硬件成本是H100的40倍，能耗成本是10倍。