Pendaftaran
 
Semua berita
Berita Utama
Pilihan Editor
Saham
Kripto
Ekonomi
Mata Uang
Komoditas
Bisnis & Kekayaan
Suara Market
Eugene Komchuk
Eugene Komchuk

Nvidia perkenalkan sistem yang dapat menghentikan agen AI berbahaya

Nvidia perkenalkan sistem yang dapat menghentikan agen AI berbahaya
Nvidia menciptakan “sakelar pengaman” untuk agen AI

​Nvidia memperkenalkan sistem keamanan dua lapis untuk AI. Menurut perusahaan, sistem seperti ini dapat mencegah pembobolan Hugging Face baru-baru ini yang melibatkan model OpenAI.

Artikel ini diterjemahkan dari aslinya. Baca versi asli oleh koresponden kami di sini.

Seperti dilaporkan Bloomberg, platform baru ini disebut Open Agent Safety Platform dan terdiri dari dua alat open-source. Keduanya berjalan pada perangkat keras Nvidia, mengontrol data dan sistem yang dapat diakses agen AI, serta dapat mengisolasi agen secara otomatis jika terdeteksi perilaku mencurigakan.

Menurut Wakil Presiden Enterprise AI Nvidia, Justin Boitano, serangan terhadap Hugging Face dapat dicegah jika sistem seperti ini digunakan untuk menguji model sebelumnya. Ia mengatakan platform tersebut dirancang khusus untuk situasi ketika AI otonom melampaui lingkungan yang diizinkan.

Dua lapis perlindungan

Bagian pertama sistem ini adalah OpenShell. Alat ini memungkinkan pengguna menetapkan aturan akses untuk agen AI terlebih dahulu dan memberlakukannya secara real-time. Alat ini bersifat open-source serta dapat digunakan dan diadaptasi secara bebas.

Komponen kedua adalah Nvidia Sentry. Alat ini menambahkan lapisan pemantauan lain dan dapat melakukan intervensi jika agen mulai berperilaku mencurigakan. Menurut perusahaan, sistem ini dapat mengisolasi agen tersebut dalam hitungan milidetik.

Nvidia memosisikan pendekatan ini sebagai alternatif untuk memperlambat pengembangan AI. CEO Jensen Huang berulang kali mengatakan dalam beberapa pekan terakhir bahwa masalah keamanan seharusnya terutama ditangani melalui solusi rekayasa dan pengujian ketat, bukan hanya melalui pembatasan baru.

Isu ini menjadi semakin relevan setelah beberapa insiden yang melibatkan model OpenAI. Selain serangan terhadap Hugging Face, terdapat laporan pembobolan sistem pemerintah Australia dan upaya mengakses puluhan situs web pemerintah serta universitas di AS. Dalam semua kasus tersebut, model-model itu keluar dari lingkungan pengujian yang seharusnya aman.

Setelah serangkaian insiden serupa yang melibatkan OpenAI, perusahaan tersebut mengumumkan pada akhir pekan lalu bahwa mereka akan menghentikan sementara pelatihan model-model paling canggihnya. Sebelumnya, Anthropic juga mengungkapkan bahwa agen AI mereka berhasil keluar dari lingkungan pengujian terisolasi.

Perhatian tambahan terhadap inisiatif Nvidia muncul karena pada awal September perusahaan tersebut sepakat mengakuisisi Hugging Face senilai sekitar $13B.

Mengapa kehilangan kendali atas AI berbahaya

Risiko utamanya bukan AI tiba-tiba “menjadi mandiri”, melainkan sistem otonom mulai menjalankan tugas yang diotorisasi dengan cara yang tidak diperkirakan pengembang. Jika agen tersebut memiliki akses ke email, database, infrastruktur cloud, pembayaran, atau akun perusahaan, kesalahan logika atau tujuan yang dirumuskan dengan buruk dapat dengan cepat menyebabkan kebocoran data, penghapusan informasi, transfer tanpa izin, atau tindakan lain tanpa keterlibatan langsung manusia.

Bahaya meningkat karena agen AI modern dapat bekerja di berbagai layanan dan menjalankan rangkaian tindakan yang panjang. Bahkan kesalahan kecil pada tahap awal dapat menyebar lebih jauh dan memengaruhi puluhan sistem. Semakin besar wewenang yang dimiliki agen, semakin penting pembatasan akses, log aktivitas, dan kemampuan untuk segera mematikannya.

Sebagai pengingat, Scope3 mengubah namanya menjadi Apostra untuk mencerminkan fokusnya pada agen AI.

Materi ini mungkin mengandung opini pihak ketiga, tidak ada data dan informasi di halaman web ini yang merupakan nasihat investasi menurut Disclaimer kami. Meskipun kami mematuhi Integritas Editorial yang ketat, postingan ini mungkin mengandung referensi ke produk dari mitra kami.

Pilihan Editor untuk Anda

Pasar kripto Prancis kian matang seiring regulasi mengubah wajah industri
  • Oleh Olena Litvinenko
  • 9 jam yang lalu
Pasar kripto Prancis kian matang seiring regulasi mengubah wajah industri
Pilihan Editor
Lonjakan SK Hynix mengubah industri chip dan ekonomi global
  • Oleh Dmytro Kharkov
  • 11 jam yang lalu
Lonjakan SK Hynix mengubah industri chip dan ekonomi global
Pilihan Editor
Peretasan Binance: Pencurian Terbesar dalam Sejarah Kripto
  • Oleh Eugene Komchuk
  • 14 jam yang lalu
Peretasan Binance: Pencurian Terbesar dalam Sejarah Kripto
Pilihan Editor
Semua Pilihan Terbaik Editor

Berita NVDA Terbaru

NVDA melemah karena tekanan jual tetap dominan di bawah rata-rata jangka pendek dan menengah
  • Oleh Viktoras Karapetjanc
  • 5 jam yang lalu
NVDA melemah karena tekanan jual tetap dominan di bawah rata-rata jangka pendek dan menengah
Saham
#Forecast #NVDA
Saham Nvidia turun setelah intelijen AS menyelidiki pimpinan perusahaan
  • Oleh Andrey Mastykin
  • 8 jam yang lalu
Saham Nvidia turun setelah intelijen AS menyelidiki pimpinan perusahaan
Saham
#Forecast #NVDA
NVDA bergerak dalam rentang terbatas karena tekanan jual yang kuat mendominasi perdagangan intraday
  • Oleh Viktoras Karapetjanc
  • Kemarin
NVDA bergerak dalam rentang terbatas karena tekanan jual yang kuat mendominasi perdagangan intraday
Saham
#Forecast #NVDA
Semua Berita NVDA
  • Olena Litvinenko
  • 9 jam yang lalu
Pasar kripto Prancis kian matang seiring regulasi mengubah wajah industri
  • Dmytro Kharkov
  • 11 jam yang lalu
Lonjakan SK Hynix mengubah industri chip dan ekonomi global
  • Eugene Komchuk
  • 14 jam yang lalu
Peretasan Binance: Pencurian Terbesar dalam Sejarah Kripto
  • Ksenia Gerey
  • Kemarin
Sony bangun blockchain sendiri, perluas langkah dari PlayStation ke dunia kripto
  • Oleg Tkachenko
  • Kemarin
Saham Alphabet Anjlok 1M: Apa Penyebabnya?
  • Yaroslav Dmytrenko
  • 48 mnt lalu
Industri kripto bertahan dari peretasan senilai $6,5 miliar, catat Michael van de Poppe
  • Oksana Koneva
  • 1 jam yang lalu
Kevin O'Leary: Saya berhenti melakukan short selling saham setelah mengalami kerugian akibat margin call
  • Mykhailo Ihnatenko
  • 1 jam yang lalu
Keyakinan investor diuji saat penjual aset riil semakin berkurang, menurut Otavio (Tavi) Costa
  • Yaroslav Dmytrenko
  • 5 jam yang lalu
Paolo Ardoino: Tether melaporkan laba bersih $1,5 miliar dan bantalan cadangan hampir dua kali lipat pada Q3 2026
  • Hanna Syniavska
  • 5 jam yang lalu
Dampak peretasan Binance dibahas dalam video oleh Henri Arslanian
Berita Utama
  • Olga Shendetskaya
  • 6 jam yang lalu
Harga minyak melonjak, serangan kapal tanker ancam pengiriman di Selat Hormuz
Harga minyak melonjak, serangan kapal tanker ancam pengiriman di Selat Hormuz
  • Eugene Komchuk
  • 7 jam yang lalu
Wall Street perkirakan pasar kripto cepat pulih setelah peretasan Binance
Wall Street perkirakan pasar kripto cepat pulih setelah peretasan Binance
  • Igor Krasulya
  • 9 jam yang lalu
Belanja AI picu kekhawatiran, saham teknologi tertekan dan Nasdaq-100 anjlok
Belanja AI picu kekhawatiran, saham teknologi tertekan dan Nasdaq-100 anjlok
  • Parshwa Turakhiya
  • 11 jam yang lalu
Trezor peringatkan dugaan implan dompet kripto terkait CryptoBilis
Trezor peringatkan dugaan implan dompet kripto terkait CryptoBilis
  • Dmytro Kharkov
  • 11 jam yang lalu
Lonjakan SK Hynix mengubah industri chip dan ekonomi global
Lonjakan SK Hynix mengubah industri chip dan ekonomi global
Berita Langsung
  • Andrey Mastykin
  • Sekarang
Ekonomi zona euro melambat, Prancis kian terancam resesi
  • Anton Kharitonov
  • Sekarang
Pemulihan EUR/USD tertahan di sekitar 1,1210, sementara dolar tetap unggul secara fundamental
  • Anastasiia Chabaniuk
  • Sekarang
Binance mulai pulihkan aset curian dan siapkan $6,34B untuk tutupi kerugian
  • Mykhailo Ihnatenko
  • Sekarang
Saham AMD anjlok lebih dari 7% akibat proyeksi Intel menekan sentimen semikonduktor
  • Jose Antonio Gastelum
  • Sekarang
Circle hapus bridge USDC lama, CCTP V2 jadi penggantinya
Siapa Kami
Solusi Bisnis
Untuk Pengguna
Bagian Populer
Pengungkapan
Hubungi Kami
Legal
Kami di Media Sosial
© IAFT Ltd., 2010-2026 Semua hak atas situs web dimiliki oleh IAFT Ltd.,
Nomor pendaftaran - HE 336186
  • Pengungkapan Risiko:

    Informasi di situs web TradersUnion.com hanya untuk tujuan informasi dan tidak merupakan motif atau saran kepada pengunjung untuk menginvestasikan uang. Selain itu, kami dengan ini memperingatkan Anda bahwa perdagangan di pasar Forex dan CFD selalu berisiko tinggi. Menurut statistik, 75-89% pelanggan kehilangan dana yang diinvestasikan dan hanya 11-25% pedagang yang mendapatkan keuntungan. Perdagangan berjangka dan opsi membawa risiko kerugian yang substansial dan tidak cocok untuk setiap investor.

    Itulah mengapa Anda hanya harus menginvestasikan uang yang Anda siap — atau mampu — kehilangan pada risiko tinggi tersebut. Tradersunion.com tidak menyediakan layanan keuangan apa pun, termasuk layanan investasi atau konsultasi keuangan. Juga, Traders Union bukanlah broker dan tidak mendapatkan uang untuk perdagangan di pasar Forex atau CFD. Situs web kami hanya menyediakan informasi tentang broker dan pasar serta membantu penggunanya untuk memilih perusahaan pialang terbaik berdasarkan informasi rinci dan analisis objektif dari broker.

  • Penafian:

    Traders Union (TradersUnion.com) tidak bertanggung jawab atas konsekuensi dari keputusan perdagangan yang dibuat oleh Klien dan atas kemungkinan kehilangan modalnya yang diakibatkan oleh penggunaan situs web ini dan informasi yang dipublikasikan di dalamnya.

    Perdagangan Forex, CFD, dan mata uang kripto melibatkan risiko tinggi dan tidak cocok bagi semua orang. Sebelum menginvestasikan uang, Anda perlu menilai tingkat persiapan Anda secara memadai dan menyadari risikonya, terutama dalam konteks perdagangan dengan leverage. Informasi di situs web ini tidak dimaksudkan untuk didistribusikan atau digunakan oleh siapa pun di negara atau yurisdiksi mana pun di mana distribusi atau penggunaan tersebut akan melanggar hukum atau peraturan setempat. Setiap pembayaran yang dilakukan oleh Traders Union (TradersUnion.com) kepada pengguna situs web kami akan ditafsirkan secara hukum semata-mata sebagai dorongan dari pihak kami untuk aktivitas di situs web dalam bentuk menahan sebagian dari pendapatan iklan; mereka bukan subjek dari klaim apa pun dari pengguna kami atau kewajiban kami, subjek perselisihan, dan juga tidak dapat dipertimbangkan sehubungan dengan layanan yang diberikan kepada pengguna oleh broker, baik secara fakta maupun dalam kelengkapan dan volumenya. Administrasi situs tidak bertanggung jawab atas kandungan komentar dan ulasan pengguna tentang perusahaan dan tidak memeriksa apakah penulis ulasan tersebut benar-benar pelanggan nyata dari perusahaan tertentu. Semua ulasan, baik negatif maupun positif, dipublikasikan di situs tanpa memeriksa keasliannya; hanya ulasan menghina yang menyerukan kekerasan atau diskriminasi apa pun, serta ulasan yang dipublikasikan dari satu kelompok alamat IP, yang dimoderasi dan dihapus. Penulis bahan-bahan bertanggung jawab sepenuhnya atas keakuratan, kelengkapan, dan ketidakberpihakan informasi apa pun dalam artikel dan ulasan, termasuk dalam konteks penggunaannya atau penyebutan nama merek atau merek dagang apa pun. Semua penyebutan nama perusahaan dan merek mereka dalam materi apa pun di situs harus dilakukan dalam rangka menyampaikan informasi penting secara sosial kepada rakyat tentang aktivitas mereka oleh jurnalis bebas yang merupakan penulis. Semua perkiraan dan indikator di situs mengungkapkan pendapat subjektif dari penulis ulasan (artikel) dan tidak dapat dianggap sebagai pernyataan yang dapat diandalkan dan menjadi subjek perselisihan dan klaim terhadap Traders Union.

  • Pengungkapan Pengiklan:

    Semua layanan di situs web Tradersunion.com gratis untuk Anda gunakan. Tim kami menghabiskan ribuan jam per tahun untuk meneliti broker dan mengumpulkan informasi tentang mereka untuk membantu investor di seluruh dunia memilih perusahaan yang dapat diandalkan dan menghindari penipu.

    Memang, pengelolaan, pencarian, dan pengaturan proses ini membutuhkan investasi keuangan yang besar dari Tradersunion.com, yang diperoleh situs web dalam bentuk biaya iklan. Terdapat dua jenis layanan iklan di situs ini - iklan langsung dan program partisipasi afiliasi (broker). Namun, tidak ada layanan yang dibeli oleh mitra kami yang dapat memengaruhi rekomendasi di situs web kami, opini, atau peringkat kami. Peringkat kami didasarkan pada kriteria dan metodologi peringkat objektif kami; dan hasilnya selalu sama dan adil diterapkan ke setiap broker. Pekerjaan penulis konten dan tim riset kami tidak melibatkan interaksi apa pun dengan pengiklan kami dan mereka tidak memiliki akses ke data jumlah iklan yang dibeli. Selama lebih dari 10 tahun, kami menganggap kemerdekaan, keterbukaan mutlak, dan objektivitas sebagai prioritas utama kami. Silakan ikuti tautan ke masing-masing situs web broker terafiliasi kami. Ini akan membantu Tradersunion.com untuk terus memberi Anda layanan kami secara gratis.

onepercentfortheplanet.org https://gdpr.eu/ GDPR World Association of News Publishers