OpenAI та Broadcom представляють перший ШІ-чип на тлі зростаючого попиту
OpenAI та Broadcom представили перший кастомний чип штучного інтелекту від OpenAI — процесор під назвою Jalapeño, розроблений для більш ефективного запуску ШІ-моделей. Цей крок знаменує новий етап у зусиллях OpenAI щодо контролю над інфраструктурою ChatGPT та інших продуктів на тлі зростаючого попиту на ШІ-обчислення.
Основні моменти
- OpenAI представила свій перший кастомний ШІ-чип Jalapeño.
- Broadcom виготовлятиме чип для OpenAI.
- OpenAI прагне посилити контроль над власною ШІ-інфраструктурою.
OpenAI виходить на ринок напівпровідників
Чип буде виготовлятися компанією Broadcom і використовуватися OpenAI для інференсу — процесу надання відповідей ШІ-моделями користувачам після їхнього навчання. На практиці це означає, що Jalapeño орієнтований на високовартісну та масштабну роботу, що стоїть за відповідями ChatGPT, корпоративними інструментами та іншими додатками, повідомляє CNBC.
Президент OpenAI Грег Брокман заявив, що розробка більшої частини технологічного стека всередині компанії допоможе надавати більше інтелектуальних послуг з вищою ефективністю та розширити доступ до передового ШІ. Компанії описали новий процесор як «Intelligence Processor» і перший ШІ-акселератор у межах ширшої платформи, яку вони планують розвивати.
Акції Broadcom зросли приблизно на 2% після оголошення. Виробник чипів став одним із головних бенефіціарів буму ШІ, допомагаючи великим технологічним компаніям та провідним ШІ-лабораторіям розробляти кастомні рішення.
Крок за межі Nvidia
OpenAI була одним із найбільших покупців GPU від Nvidia з моменту, коли ChatGPT спровокував бум генеративного ШІ у 2022 році. Чипи Nvidia залишаються ключовими для навчання та запуску передових моделей, проте високі ціни та обмежена пропозиція змусили великі ШІ-компанії диверсифікувати постачання.
OpenAI вже підписала угоди з Amazon Web Services щодо чипів Trainium, а також з Advanced Micro Devices та Cerebras Systems. Партнерство з Broadcom іде далі, оскільки воно дає OpenAI чип, спроектований під її власні робочі навантаження.
Чип Jalapeño — це ASIC, тип процесора, створений для конкретних завдань. ASIC менш гнучкі, ніж GPU загального призначення, але вони можуть бути дешевшими та ефективнішими при роботі з вузьким набором ШІ-завдань. Спочатку чип буде зосереджений на інференсі, а не на навчанні, а його розгортання для клієнтів очікується пізніше цього року.
Гонка інфраструктур поглиблюється
Дебют чипа OpenAI важливий, оскільки конкуренція в сфері ШІ більше не стосується лише моделей. Йдеться також про чипи, електроенергію, дата-центри та вартість обслуговування мільярдів ШІ-запитів.
Власний кремній може допомогти OpenAI з часом зменшити залежність від Nvidia, хоча він не замінить GPU миттєво. Компанія розбудовує ширшу базу постачальників, намагаючись зробити інференс дешевшим і надійнішим. Для Broadcom ця угода зміцнює позиції як пріоритетного партнера з розробки кастомних чипів для ШІ-компаній, яким потрібне обладнання, адаптоване під їхні власні системи.
Ми також повідомляли, що OpenAI завершила одне з найбільших впроваджень ШІ в банківському секторі.
Найсвіжіші новини Broadcom
- Forex
- Crypto