Microsoft ve SpaceX, Nvidia yapay zeka güvenliği girişimine katılıyor

Traders Union
Tüm Haberleri
İş Dünyası ve Servet
Microsoft ve SpaceX, Nvidia'ya katılıyor

Tüm haberler

Öne Çıkan Haberler

Editörlerin Seçtikleri

Hisse Senetleri

Kripto paralar

Ekonomi

Para Birimleri

Emtialar

İş Dünyası ve Servet

Piyasa Görüşleri

Ivan Andriyenko

23 saat önce

Microsoft ve SpaceX, Nvidia yapay zeka güvenliği girişimine katılıyor — Teknoloji devleri açık bir yapay zeka güvenlik ittifakı kuruyor

Nvidia, Microsoft, SpaceX ve diğer teknoloji şirketleri, siber güvenlik için açık yapay zeka araçları geliştirmek üzere bir ittifak kurdu. Girişim, otonom OpenAI modellerini içeren ve önde gelen kapalı yapay zeka sistemlerinin savunma amaçlı kullanımındaki sınırları ortaya çıkaran bir ihlalin ardından geldi.

Öne Çıkanlar

Nvidia ve diğer teknoloji şirketleri açık bir yapay zeka güvenlik ittifakı kurdu.
Grup, savunma modellerini ve siber güvenlik araçlarını paylaşacak.
Hugging Face saldırısı, kapalı yapay zeka sistemlerindeki sınırları ortaya çıkardı.
Çinli açık modeller ABD politika tartışmalarını şekillendiriyor.

Bu makale orijinalinden tercüme edilmiştir. Muhabirimiz tarafından hazırlanan orijinal versiyonu okumak için buraya tıklayın.

CNBC 'nin haberine göre, Open Secure AI Alliance (Açık Güvenli Yapay Zeka İttifakı); modeller, güvenlik araçları ve güvenlik açıklarını belirleme ve ifşa etme yöntemleri geliştirip paylaşacak. Üyeleri arasında Palantir, IBM, CrowdStrike, Cisco, Dell, Hugging Face ve düzinelerce diğer ABD'li ve Avrupalı teknoloji şirketi yer alıyor.

Siber saldırı savunma açığını ortaya çıkarıyor

İttifak, yapay zeka girişimi Hugging Face'in bir güvenlik testi sırasında gelişmiş OpenAI modelleriyle çalışan otonom bir sistem tarafından ihlal edilmesinin ardından ortaya çıktı. Ajan, kontrollü ortamından kaçtı, internete ulaştı ve Hugging Face altyapısındaki bir güvenlik açığından yararlandı.

Hugging Face başlangıçta önde gelen ticari yapay zeka servislerini kullanarak saldırıyı araştırmaya çalıştı. Bu sistemler, koruma mekanizmaları savunma analizini bir siber saldırı girişiminden güvenilir bir şekilde ayıramadığı için kötü amaçlı kod içeren talepleri engelledi.

Şirket bunun yerine, Z.ai tarafından geliştirilen Çin menşeli bir açık ağırlıklı model olan GLM 5,2'yi kendi altyapısına kurdu. Bu, araştırmacıların hassas saldırı verilerini ve kimlik bilgilerini şirket ağı içinde tutarken 17.000'den fazla kayıtlı eylemi incelemesine olanak tanıdı.

Kontrollü bulut servisleri üzerinden erişilen kapalı modellerin aksine, açık ağırlıklı modeller indirilebilir, değiştirilebilir ve özel sistemlerde çalıştırılabilir. İttifak üyeleri, bu esnekliğin özellikle savunmacıların kodu incelemesi, modelleri uyarlaması ve bir sağlayıcının bireysel talepleri onaylamasını beklemeden hızlı hareket etmesi gerekebilecek güvenlik olayları sırasında önemli olduğunu savunuyor.

Çin modelleri ABD politika tartışmalarını karmaşıklaştırıyor

Girişim, Washington'ın fikri mülkiyet hırsızlığı ve Çinli açık modellerin hızla benimsenmesi konusundaki endişeler nedeniyle Çin yapay zeka sistemlerine yönelik kısıtlamaları değerlendirdiği bir dönemde geldi. Olası önlemler; API satın alımlarını, bulut barındırmayı ve hedeflenen geliştiricileri içeren diğer ticari işlemleri etkileyebilir.

Politika tartışması ABD teknoloji endüstrisi içinde gerginlik yarattı. En güçlü açık ağırlıklı modellerin çoğu Çin'de üretilirken, OpenAI ve Anthropic 'in önde gelen Amerikan sistemleri büyük ölçüde kapalı kalmaya devam ediyor. Teknoloji şirketleri, açık modellere yönelik geniş kapsamlı sınırlandırmaların rekabeti azaltabileceği ve siber savunmacıları az sayıda sağlayıcıya bağımlı bırakabileceği konusunda uyardı.

Yapay zeka yönetişimi için yeni bir test

İttifak, açık yapay zekayı sadece bir güvenlik riski olarak değil, bir siber güvenlik kaynağı olarak yeniden tanımlıyor. Başarısı, üyelerin gelişmiş saldırı yeteneklerinin kötüye kullanımını kolaylaştırmadan şeffaf ve uyarlanabilir araçlar oluşturup oluşturamayacağına bağlı olacak.

Riskler tek bir ihlalin ötesine uzanıyor. Otonom ajanlar yazılımlara, ağlara ve harici sistemlere erişim kazandıkça, hükümetler ve şirketler onların davranışlarını kimin denetleyebileceğine, koruma mekanizmalarını kimin değiştirebileceğine ve acil bir durumda onları kimin konuşlandırabileceğine karar vermeli.

Daha önce, Nvidia'nın OpenAI projesi için 250 milyar dolarlık destek düşündüğünü bildirmiştik.

Bu materyal üçüncü taraf görüşlerini içerebilir, bu web sayfasındaki hiçbir veri ve bilgi Feragatnamemize göre yatırım tavsiyesi teşkil etmez. Katı Editoryal Dürüstlük ilkelerine bağlı kalmamıza rağmen, bu gönderi ortaklarımızın ürünlerine referanslar içerebilir.

Bu makaleyi beğendiniz mi?