推理速度达英伟达GPU的10倍,刚获6.4亿美元融资的Groq是什么来头?

“行业观察者”是我们针对人工智能、XR、元宇宙和Web3等前沿科技而设立的专栏，主要分享这些领域中的新兴企业或者创业者们的故事。以快著称的AI芯片独角兽Groq，官宣融资6.4亿美元，最新估值也暴涨到28亿美元。短期内的迅速扩张，它是如何做到的？以下是我们的第22期内容，以下Enjoy。

8月5日，美国人工智能芯片初创公司Groq官宣获得6.4亿美元最新融资，公司估值也来到了28亿美元。

此轮融资由华尔街资管巨头贝莱德的BlackRock Private Equity Partners领投，思科的Cisco Investments和三星电子的Samsung Catalyst Fund也参与其中。Groq背后的技术创新实力和财力支持可见一斑。

01.1分钟项目速览

1.项目名称：Groq

2.成立时间：2016年

3.产品简介：

Groq推出的新型AI加速芯片LPU，专为大语言模型量身定制，具有高速推理性能。其芯片性能表现比常规的GPU和TPU提升10到100倍，推理速度达到了NVIDIA GPU的10倍。

4.创始人团队：

• Jonathan Ross：创始人兼CEO，谷歌TPU项目核心研发人员

• Yann LeCun：图灵奖得主、深度学习三巨头之一，担任技术顾问

5.融资情况：

• 2017年，Groq在成立初期获得了种子轮融资1030万美元；

• 2018年，Groq在A轮融资中筹集了5230万美元，由Social Capital领投；

• 2020年，Groq在B轮融资中筹集了1.5亿美元，由Tiger Global Management领投，参与者还包括D1 Capital Partners和The Spruce House Partnership；

• 2021年，Groq在C轮融资中筹集了3亿美元，由Tiger Global Management和D1 Capital Partners继续支持；

• Groq在最新一轮融资中筹集了6.4亿美元，由BlackRock Inc.基金领投，思科、三星跟投。

02.创新驱动的AI处理器先锋

Groq的创立过程可以被视为创新和技术突破的一个典范。

Ross在创办Groq之前，曾在谷歌担任工程师，负责推动深度学习和计算架构方面的研究。在谷歌工作期间，Ross发现传统计算架构在处理现代AI任务时存在显著的性能瓶颈，特别是在深度学习和大规模数据分析方面。

传统的CPU和GPU无法满足这些任务对并行计算和低延迟的高要求。这种认知促使Ross离开谷歌，创办一家专注于突破传统计算限制的公司——Groq。

Groq的创始团队在公司创立初期集中精力于硬件设计和技术研发。团队成员来自于高性能计算和半导体领域的顶尖人才，具备丰富的经验和技术背景。早期的工作包括处理器架构的设计、原型的开发以及性能测试。

Groq的技术理念围绕着一种创新的处理器架构展开，旨在提供比现有处理器更高的计算性能和效率。公司的目标是设计一种能够突破CPU和GPU限制的硬件平台，以满足AI和HPC领域对计算能力的不断增长的需求。

随着技术的成熟和市场需求的增加，Groq开始扩展其业务范围，进入了数据中心、云计算和边缘计算等领域。目前，该公司已与多个行业领先的技术合作伙伴建立了战略合作关系，推动其产品在全球范围内的应用。

03.重塑高性能计算

自创立以来，Groq凭借其突破性的技术和卓越的产品，迅速成为人工智能（AI）和高性能计算（HPC）领域的先锋。

Groq的技术核心在于其创新的处理器架构。与传统的CPU和GPU处理器不同，Groq的设计理念着眼于提升计算能力和效率，特别是针对现代AI和数据密集型应用的需求。

• 高度并行化设计：Groq的处理器架构采用了极高的并行化设计，集成了大量计算单元，能够同时处理大量的数据。这种设计不仅提升了计算能力，还降低了数据处理的延迟。

• 瑞士洛桑联邦理工学院开发了一种名为CARBonAra的新型人工智能（AI）驱动模型。该模型可以根据不同分子环境所施加限制的主链支架预测蛋白质序列，有望在蛋白质工程及包括医学和生物技术在内的多个领域带来重大进展。这一成果发表在最新一期《自然·通讯》杂志上。

• 灵活的配置选项：Groq提供了多种配置选项，允许用户根据具体应用需求调整计算资源。这种灵活性使得其处理器可以广泛应用于不同的计算场景，从数据中心到边缘计算环境。

Groq的AI加速器是其产品阵容中的核心组成部分，专为加速深度学习模型的训练和推理而设计。其优势主要体现在以下三个方面：

• 高吞吐量和低延迟：AI加速器通过提高处理能力和降低延迟，显著加快了机器学习模型的训练速度。这对于需要处理海量数据的应用，如图像识别和自然语言处理，尤其重要。

• 优化算法支持：Groq的加速器优化了各种机器学习算法，包括卷积神经网络（CNN）、循环神经网络（RNN）等。通过硬件层面的优化，加速器能够高效执行这些复杂的计算任务，提高模型的训练效率和推理性能。

• 扩展性和可配置性：加速器设计支持高扩展性，能够应对不同规模的数据处理任务。用户可以根据需要配置多个加速器，构建高性能计算集群，以满足大规模AI应用的需求。

凭借高度并行化的设计、优化的数据路径、以及强大的AI加速能力，Groq为数据中心、云计算和边缘计算等多个领域提供了卓越的技术支持。

随着技术的不断发展和产品的持续优化，Groq正在为现代计算需求提供前所未有的解决方案，推动计算科技向更高水平迈进。

作为AI芯片领域黑马的Groq，其LPU芯片的高速推理能力毋庸置疑。但随着公司估值的暴涨和市场的期待，Groq也在面临着一系列的挑战与问题。

04.挑战与机遇并存

首先便是LPU的容量问题，虽然在处理大语言模型时展现出了卓越的性能，但内存较小导致在实际部署时可能需要大量的硬件资源。

据分析，LPU在运行LLaMA 70B等大模型时，Groq的硬件需求和成本可能远高于预期，这无疑增加了公司在大规模部署时的经济压力。

其次，LPU的专用性虽然在特定任务上提供了优势，但也限制了其在更广泛AI任务中的应用。与GPU相比，LPU的通用性不足可能影响其在多样化AI场景中的竞争力。

作为初生产品与初创公司，Groq在技术成熟度、市场认可度以及生态系统建设方面还有很长的路要走。它需要不断优化产品，扩大研发团队，并与行业伙伴建立合作关系，以加速技术的商业化进程。

展望未来，Groq的发展机遇同样巨大。随着AI技术的不断进步和应用场景的拓展，相关企业对高效能AI芯片的需求日益增长。Groq若能有效解决成本和通用性问题，其LPU芯片有望在AI推理市场占据重要地位。

Groq公司计划到2025年3月底前推出10.8万个LPU，这一宏伟目标若能实现，将进一步巩固其在行业中的领导地位。Groq如何在激烈的市场竞争中不断突破自我，实现技术创新与商业成功的双重飞跃，值得我们持续关注。

参考链接：

1.https://groq.com/

2.https://www.reuters.com/technology/artificial-intelligence/ai-chip-startup-groq-valued-28-bln-after-latest-funding-round-2024-08-05/

3.https://techcrunch.com/2024/08/05/ai-chip-startup-groq-lands-640m-to-challenge-nvidia/

【声明】：未经允许严禁转载，如需转载请联系我们，文章版权和最终解释权归元宇宙之心所有。

来源：金色财经