OpenAI 与博通(Broadcom)联合发布了 OpenAI 的首款定制人工智能芯片,这款名为 Jalapeño 的处理器旨在提高 AI 模型的运行效率。随着 AI 计算需求的持续攀升,此举标志着 OpenAI 在掌控 ChatGPT 及其它产品底层基础设施方面迈入了新阶段。
亮点
- OpenAI 发布首款定制 AI 芯片 Jalapeño。
- 博通将为 OpenAI 制造该芯片。
- OpenAI 正致力于掌控更多 AI 基础设施。
本文翻译自原文。点击此处阅读由我们的通讯员撰写的原文.
OpenAI 进军芯片领域
该芯片将由博通制造,并由 OpenAI 用于“推理”——即在模型训练完成后向用户提供服务的过程。据 CNBC 报道,这意味着 Jalapeño 旨在处理 ChatGPT 回复、企业级工具及其他应用背后高昂且大量的计算工作。
OpenAI 总裁 Greg Brockman 表示,内部设计更多的技术栈将有助于公司以更高的效率提供更多智能服务,并扩大先进 AI 的普及范围。两家公司将这款新处理器描述为“智能处理器”,并称其为他们计划扩展的更广泛平台中的首款 AI 加速器。
博通股价在消息公布后上涨约 2%。通过帮助大型科技公司和前沿 AI 实验室设计定制芯片,这家芯片制造商已成为 AI 浪潮的主要受益者。
摆脱对英伟达的过度依赖
自 2022 年 ChatGPT 引发生成式 AI 热潮以来,OpenAI 一直是英伟达 GPU 的最大买家之一。虽然英伟达芯片在训练和运行先进模型中仍处于核心地位,但高昂的价格和有限的供应已促使各大 AI 公司寻求多元化选择。
OpenAI 此前已与亚马逊云服务(AWS)就 Trainium 芯片达成协议,并与 AMD 和 Cerebras Systems 展开合作。而与博通的合作则更进一步,因为它为 OpenAI 提供了针对其自身工作负载量身定制的芯片。
Jalapeño 芯片属于 ASIC(专用集成电路),这是一种为特定任务构建的处理器。虽然 ASIC 的灵活性不如通用 GPU,但在处理特定 AI 工作负载时,其成本更低、效率更高。该芯片最初专注于推理而非训练,预计将于今年晚些时候部署供客户使用。
基础设施竞赛升级
OpenAI 芯片的首次亮相意义重大,因为 AI 竞赛已不再仅仅局限于模型本身,还涉及芯片、电力、数据中心以及处理数十亿次 AI 请求的成本。
定制芯片有望帮助 OpenAI 逐步减少对 英伟达 的依赖,尽管这不会在一夜之间取代 GPU。该公司在努力降低推理成本并提高可靠性的同时,正在构建更广泛的供应商基础。对于博通而言,这笔交易巩固了其作为寻求定制硬件的 AI 公司首选合作伙伴的地位。
我们此前还报道了 OpenAI 完成了银行业最大的 AI 部署之一。
- Forex
- Crypto