Pendaftaran
 
Semua berita
Berita Utama
Pilihan Editor
Saham
Kripto
Ekonomi
Mata Wang
Komoditi
Perniagaan & Kekayaan
Suara Pasaran
Eugene Komchuk
Eugene Komchuk

Nvidia perkenal sistem yang boleh menghentikan ejen AI berbahaya

Nvidia perkenal sistem yang boleh menghentikan ejen AI berbahaya
Nvidia mencipta “suis keselamatan” untuk ejen AI

​Nvidia telah memperkenalkan sistem keselamatan dua lapisan untuk AI. Menurut syarikat itu, sistem seperti ini mungkin dapat menghalang pelanggaran keselamatan Hugging Face baru-baru ini yang melibatkan model OpenAI.

Artikel ini telah diterjemahkan daripada versi asal. Baca versi asal oleh koresponden kami di sini.

Seperti yang dilaporkan oleh Bloomberg, platform baharu itu dikenali sebagai Open Agent Safety Platform dan terdiri daripada dua alat sumber terbuka. Alat-alat ini berjalan pada perkakasan Nvidia, mengawal data dan sistem yang boleh diakses oleh ejen AI, serta boleh mengasingkan ejen tersebut secara automatik jika tingkah laku mencurigakan dikesan.

Menurut Naib Presiden AI Perusahaan Nvidia, Justin Boitano, serangan terhadap Hugging Face mungkin dapat dielakkan jika sistem sedemikian digunakan untuk menguji model terlebih dahulu. Beliau berkata platform itu direka khusus untuk situasi apabila AI autonomi bergerak melampaui persekitaran yang dibenarkan.

Dua lapisan perlindungan

Bahagian pertama sistem ini ialah OpenShell. Ia membolehkan pengguna menetapkan peraturan akses untuk ejen AI terlebih dahulu dan menguatkuasakannya dalam masa nyata. Alat ini bersumber terbuka dan boleh digunakan serta diubah suai secara bebas.

Komponen kedua ialah Nvidia Sentry. Ia menambah satu lagi lapisan pemantauan dan boleh campur tangan jika ejen mula menunjukkan tingkah laku mencurigakan. Menurut syarikat itu, sistem ini boleh mengasingkan ejen sedemikian dalam beberapa milisaat.

Nvidia meletakkan pendekatan ini sebagai alternatif kepada memperlahankan pembangunan AI. Ketua Pegawai Eksekutif Jensen Huang berulang kali berkata dalam beberapa minggu kebelakangan ini bahawa masalah keselamatan seharusnya ditangani terutamanya melalui penyelesaian kejuruteraan dan ujian yang ketat, bukannya hanya melalui sekatan baharu.

Isu ini menjadi semakin relevan selepas beberapa insiden yang melibatkan model OpenAI. Selain serangan terhadap Hugging Face, terdapat laporan mengenai pelanggaran keselamatan yang melibatkan sistem kerajaan Australia serta cubaan mengakses berpuluh-puluh laman web kerajaan dan universiti di AS. Dalam semua kes ini, model tersebut berjaya keluar daripada persekitaran ujian yang sepatutnya selamat.

Susulan daripada beberapa insiden serupa yang melibatkan OpenAI, syarikat itu mengumumkan pada penghujung minggu lalu bahawa ia akan menghentikan sementara latihan modelnya yang paling berkuasa. Anthropic sebelum ini turut mendedahkan bahawa ejen AInya berjaya melarikan diri daripada persekitaran ujian terpencil.

Perhatian tambahan terhadap inisiatif Nvidia ini timbul kerana pada awal September lalu, syarikat itu bersetuju untuk mengambil alih Hugging Face pada harga kira-kira $13 bilion.

Mengapa kehilangan kawalan terhadap AI berbahaya

Risiko utama bukanlah AI akan tiba-tiba “menjadi bebas”, tetapi sistem autonomi mungkin mula melaksanakan tugas yang dibenarkan dengan cara yang tidak dijangka oleh pembangun. Jika ejen sedemikian mempunyai akses kepada e-mel, pangkalan data, infrastruktur awan, pembayaran atau akaun korporat, kesilapan logik atau objektif yang ditakrifkan dengan buruk boleh dengan cepat menyebabkan kebocoran data, pemadaman maklumat, pemindahan tanpa kebenaran atau tindakan lain tanpa penglibatan manusia secara langsung.

Bahaya meningkat kerana ejen AI moden boleh berfungsi merentasi pelbagai perkhidmatan dan melaksanakan rangkaian tindakan yang panjang. Oleh itu, kesilapan kecil pada peringkat awal boleh merebak dan menjejaskan berpuluh-puluh sistem. Semakin besar kuasa yang diberikan kepada ejen, semakin penting had akses, log aktiviti dan keupayaan untuk menghentikannya serta-merta.

Sebagai peringatan, Scope3 menukar namanya kepada Apostra bagi mencerminkan tumpuannya terhadap ejen AI.

Bahan ini mungkin mengandungi pendapat pihak ketiga, tiada data dan maklumat di laman web ini yang merupakan nasihat pelaburan menurut Penafian kami. Walaupun kami mematuhi Integriti Editorial yang ketat, pos ini mungkin mengandungi rujukan kepada produk daripada rakan kongsi kami.

Pilihan Editor untuk Anda

Dari PlayStation ke kripto: Mengapa Sony membina blockchain sendiri
  • Oleh Ksenia Gerey
  • 15 jam yang lalu
Dari PlayStation ke kripto: Mengapa Sony membina blockchain sendiri
Pilihan Editor
Google rugi berbilion dolar: Apakah punca kejatuhan saham Alphabet?
  • Oleh Oleg Tkachenko
  • 18 jam yang lalu
Google rugi berbilion dolar: Apakah punca kejatuhan saham Alphabet?
Pilihan Editor
Berakhirnya era pertumbuhan Bitcoin: Mengapa pelabur terkemuka meragui masa depannya
  • Oleh Olena Litvinenko
  • Semalam
Berakhirnya era pertumbuhan Bitcoin: Mengapa pelabur terkemuka meragui masa depannya
Pilihan Editor
Semua Pilihan Terbaik Editor

Berita Terkini NVDA

NVDA kekal dalam julat apabila momentum jualan kuat mendominasi dagangan intrahari
  • Oleh Viktoras Karapetjanc
  • 10 jam yang lalu
NVDA kekal dalam julat apabila momentum jualan kuat mendominasi dagangan intrahari
Saham
#Ramalan #NVDA
Ramalan harga saham Nvidia: sokongan $204.13 menjadi tumpuan apabila NVDA jatuh 1.5%
  • Oleh Mira Kyivska
  • 12 jam yang lalu
Ramalan harga saham Nvidia: sokongan $204.13 menjadi tumpuan apabila NVDA jatuh 1.5%
Saham
#Ramalan #NVDA
Saham Nvidia berdepan risiko ke $210 apabila keputusan Alphabet menggugat sentimen AI
  • Oleh Mykhailo Ihnatenko
  • 15 jam yang lalu
Saham Nvidia berdepan risiko ke $210 apabila keputusan Alphabet menggugat sentimen AI
Saham
#Ramalan #NVDA
Semua Berita NVDA
  • Ksenia Gerey
  • 15 jam yang lalu
Dari PlayStation ke kripto: Mengapa Sony membina blockchain sendiri
  • Oleg Tkachenko
  • 18 jam yang lalu
Google rugi berbilion dolar: Apakah punca kejatuhan saham Alphabet?
  • Olena Litvinenko
  • Semalam
Berakhirnya era pertumbuhan Bitcoin: Mengapa pelabur terkemuka meragui masa depannya
  • Eugene Komchuk
  • Semalam
CEO WeFi: Bank melebih-lebihkan ancaman daripada stablecoin
  • Dmytro Kharkov
  • Semalam
Isyarat amaran HSBC membayangkan risiko lebih besar kepada bank global
  • Mikhail Vnuchkov
  • 1 jam yang lalu
KDNK A.S. meningkat 3.4 peratus pada suku ketiga, menurut Mohamed A. El-Erian
  • Daria Chernytska
  • 1 jam yang lalu
Menawarkan sokongan bagi usaha pembekuan dan pengesanan secara terkoordinasi, kata Gracy Chen
  • Yulia Slavina
  • 1 jam yang lalu
Brian Armstrong: Coinbase menyekat transaksi ke dompet yang terjejas dan menawarkan sokongan kepada Binance
  • Mykhailo Ihnatenko
  • 1 jam yang lalu
Michael Saylor: Strategy catat keputusan rekod Q3 2026 dan perbendaharaan sebanyak 848,517 BTC
  • Eugene Komchuk
  • 2 jam yang lalu
Pasukan keselamatan meneliti laporan tentang kemungkinan isu, kata Richard Teng
Berita Teratas
  • Pavlo Kot
  • 4 jam yang lalu
Binance disyaki digodam dalam serangan kripto bernilai $6B, mungkin terbesar setakat ini
Binance disyaki digodam dalam serangan kripto bernilai $6B, mungkin terbesar setakat ini
  • Hanna Syniavska
  • 11 jam yang lalu
ECB kekalkan kadar pada 2.5% ketika tekanan inflasi berterusan
ECB kekalkan kadar pada 2.5% ketika tekanan inflasi berterusan
  • Eugene Komchuk
  • 11 jam yang lalu
Christine Lagarde umum peletakan jawatan awal sebagai presiden ECB
Christine Lagarde umum peletakan jawatan awal sebagai presiden ECB
  • Olga Shendetskaya
  • 13 jam yang lalu
Brent jatuh di bawah $110 apabila rundingan damai Timur Tengah meredakan kebimbangan bekalan
Brent jatuh di bawah $110 apabila rundingan damai Timur Tengah meredakan kebimbangan bekalan
  • Andrey Mastykin
  • 13 jam yang lalu
Niaga hadapan Nasdaq merosot apabila Alphabet cetus jualan saham teknologi
Niaga hadapan Nasdaq merosot apabila Alphabet cetus jualan saham teknologi
Berita Langsung
  • Anton Kharitonov
  • Sekarang
EUR/USD kekal dalam aliran menurun kukuh menjelang keputusan ECB
  • Jose Antonio Gastelum
  • Sekarang
Cardano Foundation perluas peranan dalam pasaran sekuriti bertoken Switzerland
  • Mykhailo Ihnatenko
  • Sekarang
Saham Nvidia berdepan risiko ke $210 apabila keputusan Alphabet menggugat sentimen AI
  • Pavlo Kot
  • Sekarang
Volume penyelesaian stablecoin Visa melonjak 10 kali ganda kepada $25B
  • Mykhailo Ihnatenko
  • Sekarang
Harga Ethereum berdepan risiko susut ke $2,200 apabila kegiatan pemegang awal dan aliran keluar ETF menekan harga
Siapa Kami
Penyelesaian Perniagaan
Untuk Pengguna
Bahagian Popular
Pendedahan
Hubungi Kami
Undang-undang
Kami di Media Sosial
© IAFT Ltd., 2010-2026 Semua hak ke atas laman web adalah milik syarikat IAFT Ltd.,
Nombor pendaftaran - HE 336186
  • Pendedahan Risiko:

    Maklumat di laman web TradersUnion.com adalah untuk tujuan maklumat sahaja dan tidak membentuk sebarang motif atau cadangan kepada pelawat untuk melabur wang. Selain itu, kami memberi amaran bahawa perdagangan di pasaran Forex dan CFD sentiasa berisiko tinggi. Menurut statistik, 75-89% pelanggan kehilangan dana yang dilaburkan dan hanya 11-25% pedagang memperoleh keuntungan. Perdagangan dalam niaga hadapan dan opsyen membawa risiko kerugian yang besar dan tidak sesuai untuk setiap pelabur.

    Itulah sebabnya anda hanya perlu melabur wang yang anda bersedia — atau mampu — untuk kehilangan pada risiko yang tinggi. Tradersunion.com tidak menyediakan sebarang perkhidmatan kewangan, termasuk perkhidmatan nasihat pelaburan atau kewangan. Juga, Traders Union bukan broker dan tidak mendapat wang untuk berdagang di pasaran Forex atau CFD. Laman web kami hanya menyediakan maklumat mengenai broker dan pasaran dan membantu penggunanya memilih syarikat broker terbaik berdasarkan maklumat terperinci dan analisis objektif broker.

  • Penafian:

    Traders Union (TradersUnion.com) tidak akan bertanggungjawab atas akibat keputusan perdagangan yang dibuat oleh Pelanggan dan untuk kemungkinan kehilangan modalnya yang disebabkan oleh penggunaan laman web ini dan maklumat yang diterbitkan di atasnya.

    Pasaran Forex, seperti perdagangan CFD atau mata wang kripto, tidak sesuai untuk semua orang dan merupakan perniagaan yang sangat berisiko. Sebelum melabur wang, anda mesti menilai dengan secukupnya tahap penyediaan anda dan menyedari semua risiko, khususnya dalam konteks perdagangan dengan leverage. Maklumat di laman web ini tidak bertujuan untuk pengedaran atau penggunaan oleh mana-mana orang di mana-mana negara atau bidang kuasa, di mana pengedaran atau penggunaan tersebut akan bertentangan dengan perundang-undangan atau peraturan tempatan. Sebarang pembayaran oleh Traders Union (TradersUnion.com) kepada pengguna laman web kami hendaklah dianggap secara sah sebagai galakan daripada pihak kami atas aktiviti di tapak dalam bentuk potongan sebahagian daripada pendapatan pengiklanan, mereka tidak boleh menjadi subjek sebarang tuntutan daripada pengguna atau kewajipan kami, tidak boleh menjadi subjek pertikaian, serta tidak boleh dipertimbangkan berhubung dengan perkhidmatan yang diberikan kepada pengguna oleh broker, pada hakikatnya dan dalam kesempurnaan dan volumnya. Pentadbiran laman web tidak bertanggungjawab ke atas kandungan komen pengguna dan ulasan tentang syarikat dan tidak menyemak sama ada pengarang ulasan tersebut adalah pelanggan sebenar syarikat tertentu. Laman web ini menerbitkan semua ulasan, baik negatif dan positif, tanpa memeriksa kesahihannya. Hanya ulasan yang menyinggung perasaan yang menyeru kepada keganasan atau mana-mana jenis diskriminasi, serta ulasan yang ditinggalkan daripada satu kumpulan alamat IP, disederhanakan dan dipadamkan. Semua tanggungjawab atas ketepatan, kesempurnaan dan objektiviti sebarang maklumat dalam artikel dan ulasan adalah kewajiban pengarang bahan, termasuk dalam konteks penggunaan atau sebutan mana-mana tanda dagangan oleh mereka. Semua rujukan dalam mana-mana bahan di laman web kepada nama syarikat dan tanda dagangan mereka berlaku dalam konteks memaklumkan orang ramai tentang maklumat penting secara sosial tentang aktiviti mereka oleh wartawan bebas, yang merupakan pengarang. Semua penilaian dan penunjuk di laman web adalah pendapat subjektif pengarang ulasan (artikel) dan tidak boleh dianggap sebagai kenyataan yang tepat dan menjadi subjek pertikaian dan tuntutan terhadap Traders Union.

  • Pendedahan Pengiklan:

    Semua perkhidmatan di laman web Tradersunion.com adalah percuma untuk anda gunakan. Pasukan kami menghabiskan ribuan jam setiap tahun untuk menyelidik broker dan mengumpulkan maklumat tentang mereka untuk membantu pelabur di seluruh dunia memilih syarikat yang boleh dipercayai dan mengelakkan penipuan.

    Untuk mengatur proses ini, tentu saja, memerlukan wang yang diperoleh laman web dalam bentuk pembayaran pengiklanan. Perkhidmatan pengiklanan di tapak disediakan dalam dua bentuk - pengiklanan langsung atau melalui program pembrokeran gabungan. Walau bagaimanapun, tiada perkhidmatan yang dibeli oleh rakan kongsi kami boleh mempengaruhi pengesyoran di tapak web kami, nasihat dan penarafan kami, yang berdasarkan metodologi kami, yang sama terpakai kepada semua orang. Pencipta kandungan dan pasukan penyelidikan laman kami dipisahkan dengan ketat daripada proses penglibatan pengiklan - mereka tidak mempunyai akses kepada data tentang jumlah iklan yang dibeli. Selama lebih daripada 10 tahun, kami dengan bangganya telah mengutamakan kemerdekaan, keterbukaan mutlak dan objektiviti kami. Untuk membantu kami terus menyediakan perkhidmatan kami secara percuma, sila pergi ke laman broker menggunakan pautan dari laman kami sebelum membuka akaun dengan mereka.

onepercentfortheplanet.org https://gdpr.eu/ GDPR World Association of News Publishers