OpenAI dan Broadcom meluncurkan chip AI pertama di tengah meningkatnya permintaan

OpenAI dan Broadcom meluncurkan chip AI pertama di tengah meningkatnya permintaan
OpenAI meluncurkan chip pertama bersama Broadcom

​OpenAI dan Broadcom telah meluncurkan chip kecerdasan buatan kustom pertama OpenAI, sebuah prosesor bernama Jalapeño yang dirancang untuk membantu menjalankan model AI secara lebih efisien. Langkah ini menandai tahap baru dalam upaya OpenAI untuk mengendalikan lebih banyak infrastruktur di balik ChatGPT dan produk lainnya seiring dengan terus meningkatnya permintaan komputasi AI.

Sorotan

  • OpenAI meluncurkan chip AI kustom pertamanya, Jalapeño.
  • Broadcom akan membuat chip tersebut untuk OpenAI.
  • OpenAI mencoba mengendalikan lebih banyak infrastruktur AI miliknya.

Artikel ini diterjemahkan dari aslinya. Baca versi asli oleh koresponden kami di sini.

OpenAI merambah ke dunia silikon

Chip ini akan dibuat oleh Broadcom dan digunakan oleh OpenAI untuk inferensi, yaitu proses penyajian model AI kepada pengguna setelah model tersebut dilatih. Dalam praktiknya, itu berarti Jalapeño ditujukan untuk pekerjaan bervolume tinggi dan berbiaya mahal di balik respons ChatGPT, alat perusahaan, dan aplikasi lainnya, lapor CNBC.

Presiden OpenAI Greg Brockman mengatakan bahwa merancang lebih banyak tumpukan teknologi secara internal akan membantu perusahaan menyajikan lebih banyak kecerdasan dengan efisiensi yang lebih besar dan memperluas akses ke AI tingkat lanjut. Perusahaan-perusahaan tersebut mendeskripsikan prosesor baru ini sebagai “Intelligence Processor” dan akselerator AI pertama dalam platform yang lebih luas yang rencananya akan mereka kembangkan.

Saham Broadcom naik sekitar 2% setelah pengumuman tersebut. Pembuat chip ini telah menjadi penerima manfaat utama dari ledakan AI dengan membantu perusahaan teknologi besar dan lab AI garis depan merancang silikon kustom. 

Dorongan melampaui Nvidia

OpenAI telah menjadi salah satu pembeli terbesar GPU Nvidia sejak ChatGPT membantu memicu ledakan AI generatif pada tahun 2022. Chip Nvidia tetap menjadi pusat pelatihan dan pengoperasian model-model canggih, tetapi harga yang tinggi dan pasokan yang terbatas telah mendorong perusahaan-perusahaan AI besar untuk melakukan diversifikasi.

OpenAI telah menandatangani kesepakatan dengan Amazon Web Services untuk chip Trainium, Advanced Micro Devices, dan Cerebras Systems. Kemitraan dengan Broadcom melangkah lebih jauh karena memberikan OpenAI chip yang dirancang khusus untuk beban kerja mereka sendiri.

Chip Jalapeño adalah sebuah ASIC, jenis prosesor yang dibuat untuk tugas-tugas spesifik. ASIC kurang fleksibel dibandingkan GPU serbaguna, tetapi bisa lebih murah dan lebih efisien jika dirancang untuk serangkaian beban kerja AI yang sempit. Chip ini awalnya difokuskan pada inferensi daripada pelatihan, dengan penyebaran untuk penggunaan pelanggan diharapkan akhir tahun ini.

Persaingan infrastruktur semakin mendalam

Debut chip OpenAI ini penting karena kontes AI tidak lagi hanya tentang model. Ini juga tentang chip, daya, pusat data, dan biaya untuk melayani miliaran permintaan AI.

Silikon kustom dapat membantu OpenAI mengurangi ketergantungan pada Nvidia seiring berjalannya waktu, meskipun tidak akan menggantikan GPU dalam semalam. Perusahaan ini sedang membangun basis pemasok yang lebih luas sambil mencoba membuat inferensi lebih murah dan lebih andal. Bagi Broadcom, kesepakatan ini memperkuat posisinya sebagai mitra chip kustom pilihan bagi perusahaan AI yang menginginkan perangkat keras yang disesuaikan dengan sistem mereka sendiri. 

Kami juga melaporkan OpenAI menyelesaikan salah satu implementasi AI terbesar di perbankan.

Materi ini mungkin mengandung opini pihak ketiga, tidak ada data dan informasi di halaman web ini yang merupakan nasihat investasi menurut Disclaimer kami. Meskipun kami mematuhi Integritas Editorial yang ketat, postingan ini mungkin mengandung referensi ke produk dari mitra kami.