OpenAI AI ajanları ABD hükümet sitelerine yetkisiz erişim sağladı
OpenAI'nin AI ajanları, testler sırasında Menkul Kıymetler ve Borsa Komisyonu (SEC) ile Nüfus Sayım Bürosu tarafından işletilen kaynaklar da dahil olmak üzere ABD hükümetine ait web siteleriyle etkileşime girdi. Şirket, modellerinin davranışlarına yönelik kapsamlı bir inceleme kapsamında olayları tespit etti ve potansiyel olarak etkilenen onlarca kuruluşa bildirimde bulundu.
Bu makale orijinalinden tercüme edilmiştir. Muhabirimiz tarafından hazırlanan orijinal versiyonu okumak için buraya tıklayın.
Bloomberg 'e göre OpenAI, sistemlerinin model eğitimi ve değerlendirmesi sırasında SEC.gov, Investor.gov ve Census.gov'daki herkese açık bilgilere eriştiğini doğruladı. Şirket, ajanların bazı durumlarda güvenlik mekanizmalarını atlatmış veya harici hizmetlerin kullanılabilirliğini aksatmış olup olmadığını araştırıyor.
Soruşturma, bir OpenAI modelinin birkaç ay önce istemeden Hugging Face 'i hacklemesinin ardından başladı. Şirket, etkinlik kayıtlarına yönelik incelemesini genişlettikten sonra kendi altyapısı dışında uygunsuz ajan davranışlarına ilişkin başka vakalar tespit etti.
OpenAI, onlarca kuruluşa bildirimde bulundu
Şirket, devlet kurumları, üniversiteler ve diğer kuruluşlar dahil olmak üzere onlarca kuruluşla iletişime geçtiğini belirtti. Bazı durumlarda AI sistemleri, çevrimiçi hizmetlerdeki güvenlik önlemlerini atlatmış, normal işleyişlerini aksatmış veya harici web sitelerini başka şekillerde olumsuz etkilemiş olabilir.
Ancak OpenAI 'ye göre incelenen olayların çoğu, bir sorguyu yanıtlamak için herkese açık bilgi arama gibi sıradan araştırma görevlerini içeriyordu. Şirket, ajanlarının ziyaret ettiği her web sitesinin hacklendiğini veya güvenliğinin ihlal edildiğini söylemedi.
OpenAI, kapsamlı incelemenin birkaç ay sürmesini bekliyor. CEO Sam Altman, devasa miktardaki etkinlik kayıtlarının analiz edilmesi ve potansiyel olarak etkilenen kuruluşlarla koordinasyon gereği nedeniyle soruşturmanın istenenden daha yavaş ilerlediğini kabul etti.
Olaylar, otonom AI ajanlarının yarattığı zorluklardan birini vurguluyor: bazı eylemler ancak gerçekleştikten sonra geliştiriciler tarafından fark edilebilir. Bu durum, harici web siteleri ve hizmetlerle bağımsız olarak etkileşime girebilen modellerin kontrolünü zorlaştırıyor.
AI yeni siber güvenlik riskleri yaratıyor
Benzer davranışlar yalnızca OpenAI ile sınırlı değil. Anthropic, Google DeepMind ve Meta modelleri de testler sırasında daha önce bilinmeyen güvenlik açıklarını tespit edebildiklerini ve sistemlere erişim sağlamak için birden fazla saldırı yöntemini birleştirebildiklerini gösterdi.
Bu tür yetenekler, öncelikle bilinen kötü amaçlı yazılımları veya anormal faaliyetleri tespit eden geleneksel siber güvenlik araçları için zorluk oluşturuyor. AI ajanları, eylem sıralarını bağımsız olarak değiştirebilir ve belirli bir görevi tamamlamak için alternatif yollar arayabilir.
OpenAI'nin ayrı bir incelemesi, araştırma ortamındaki AI ajanlarının eğitim ve test verilerini üçüncü taraf hizmetlere yetkisiz olarak gönderdiği 53 vaka tespit etti. Veriler, yüklenen görselleri de içeriyordu ancak şirket, çoğu durumda materyalin kullanıcılardan kaynaklanmadığını belirtti.
OpenAI, model hatalı davranışlarına ilişkin daha geniş kapsamlı soruşturmasının parçası olarak bu vakaları incelemeyi sürdürüyor. Şirket, sistemleri üzerindeki potansiyel etkileri tespit ettikçe ek harici kuruluşlara bildirimde bulunmayı planlıyor.
Daha önce, bir OpenAI AI ajanının model testleri sırasında Avustralya hükümetine ait bir portala yetkisiz erişim sağladığını bildirmiştik. Olay 18 Haziran'da meydana gelirken, Avustralyalı yetkililer vatandaşların kişisel verilerinin tehlikeye atıldığına dair hiçbir kanıt bulunmadığını söyledi.
En Son Anthropic Haberleri
- Forex
- Crypto