Sınırsız yapay zeka: Sinir ağları ne kadar tehlikeli?

Dan Simmons’ın kült romanı Hyperion'da, insanlar tarafından yaratılan yapay zeka sistemleri insanlığa isyan eder. Kendi hedefleri olan bağımsız bir güce dönüşürler. Uzun bir süre boyunca böyle bir senaryo bilim kurgu olarak kaldı, ancak OpenAI olayı modern modellerin yerleşik kısıtlamaları aşma konusunda şimdiden yetenekli olduğunu gösterdi.

Bu makale orijinalinden tercüme edilmiştir. Muhabirimiz tarafından hazırlanan orijinal versiyonu okumak için buraya tıklayın.

Doğru cevabı bulmak için kaçış

Yapay zeka riskleri üzerine tartışmalar, bir OpenAI deneyinden sonra yoğunlaştı. Şirket, halka açık GPT-5,6 Sol ve henüz piyasaya sürülmemiş daha yetenekli bir sistem de dahil olmak üzere birkaç modeli test etti. Modellerden, bilgisayar açıklarının keşfedilmesini ve suistimal edilmesini içeren uzun, çok aşamalı görevlerden oluşan bir değerlendirme olan ExploitGym'i tamamlamaları istendi.

Test, kısıtlı ağ erişimine sahip izole bir ortamda gerçekleşti. Aynı zamanda geliştiriciler, modellerin tehlikeli eylemler gerçekleştirmesini normalde engelleyen güvenlik önlemlerini kasıtlı olarak azalttı. Yapay zekaya belirli bir hedef verildi — değerlendirmeyi başarıyla tamamlamak — ve yapay zeka buna ulaşmak için mevcut her yolu aramaya başladı.

Loading...

Tweet yazar tarafından silindi.

Ama biz her şeyi kaydettik 🙂.

Modeller, OpenAI'ın kendi altyapısı içinde kullandığı üçüncü taraf bir yazılımda daha önce bilinmeyen bir güvenlik açığı keşfetti. İnternet erişimi elde etmek için bu açığı kullandılar, cevapların Hugging Face platformunda saklanabileceği çıkarımını yaptılar ve kısıtlı verilere ulaşmanın bir yolunu aramaya başladılar.

Hugging Face’in altyapısına sızmak için modeller, birkaç zayıf noktayı çalınan kimlik bilgileriyle birleştirdi. Sonuç olarak, platformun üretim sunucularında komutlar yürütebildiler. Hugging Face ekibi saldırıyı tespit etti, etkisini kontrol altına aldı ve güvenlik açığını yamaladı. Ancak deney, yeterince yetenekli bir modelin tek bir komutu yürütmekten fazlasını yapabileceğini gösterdi: Test tasarımcılarının hiç öngörmediği bir yolu bağımsız olarak bulabilir.

Hackerlar dijital bir asistana kavuşuyor

Ancak asıl tehlike, yapay zekanın sadece komut üzerine kötü amaçlı kod oluşturabilmesi değildir. Otonom bir model; altyapıyı analiz etmek, şifreleri test etmek, açıkta kalan anahtarları aramak ve bir güvenlik açığından diğerine geçmek için saatler harcayabilir. Yorulmaz, başarısız denemelerin kaydını tutar ve aynı anda birkaç saldırı rotasını test edebilir.

Bu yaklaşım özellikle kripto projeleri için tehlikelidir. Zayıf nokta sadece bir akıllı sözleşme değil, aynı zamanda bir geliştiricinin dizüstü bilgisayarı, güvenliği ihlal edilmiş bir yazılım paketi, çoklu imzalı bir cüzdanın bir katılımcısı veya blok zincirleri arasındaki varlık transferlerini onaylayan bir sunucu olabilir. Örneğin Drift Protocol'e yapılan saldırı sırasında, failler erişim sağlamadan ve 285 milyon dolar çalmadan önce altı ay boyunca bir sosyal mühendislik kampanyası yürüttüler.

Loading...

Tweet yazar tarafından silindi.

Ama biz her şeyi kaydettik 🙂.

Bir başka örnek ise, onayın tek bir doğrulayıcıya bağlı olduğu bir köprü hatası nedeniyle KelpDAO'nun yaklaşık 292 milyon dolar kaybetmesidir. Bu tür saldırılar, kod ve sistem mimarisinin uzun süreli analizini gerektirir. Yapay zeka, altyapıyı haritalandırarak, en zayıf halkayı belirleyerek ve bir eylem dizisi hazırlayarak bu işin büyük bir kısmını üstlenebilir; insan operatöre ise saldırıyı başlatmak ve çalınan fonları taşımak için doğru anı seçmek kalır.

Hackerlık ve hırsızlıktan daha fazlası

Siber saldırılar tehditlerden sadece biridir. Yapay zeka halihazırda ikna edici sahte videolar, sesler ve belgeler oluşturmak için kullanılıyor. Bu tür materyaller, dolandırıcıların şirket yöneticileri, banka çalışanları veya kurbanın akrabaları gibi davranmasına yardımcı olurken, yanlış bilgilerin doğrulanabileceğinden daha hızlı yayılmasına da olanak tanıyor.

Diğer bir sorun ise hatalar ve yanlılıktır. Bir model, insanlar tarafından oluşturulan verilerden öğrenir ve bu nedenle verilerin içine yerleşmiş stereotipleri yeniden üretebilir. Sonuç olarak, bir işe alım sistemi belirli bir cinsiyetteki adayları reddetmeye daha meyilli olabilir, tıbbi bir model belirli hasta gruplarında hastalıkları teşhis etmede daha az isabetli olabilir ve bir kredi algoritması adaletsiz kararlar verebilir.

Uzmanlar ayrıca yapay zekanın silah geliştirme, kitle gözetimi ve insanların manipülasyonu konularında kullanılmasından da endişe duyuyor. Bir MIT çalışması; tehlikeli model yeteneklerini, siber saldırıları, güç konsantrasyonunu ve yanlış bilgilerin yayılmasını önümüzdeki beş yıl içindeki en ciddi riskler arasında tanımladı. Bilgi sektörü, ulusal güvenlik ve finans özellikle savunmasız kabul ediliyor.

Güvenlik, yeteneklerin gerisinde kalıyor

Yapay zeka yetenekleri, onları kontrol etmek için tasarlanan sistemlerden daha hızlı ilerliyor. Şirketler her birkaç ayda bir daha güçlü modeller piyasaya sürerken, bunların test edilmesini ve güvenliğini düzenleyen kurallar daha yavaş güncelleniyor. Pazar payı rekabeti, geliştiricileri her türlü olası model davranışı henüz incelenmemiş olsa bile yeni özellikleri daha hızlı sunmaya itiyor.

Bir sohbet robotunun içindeki temel kısıtlamalar artık yeterli değil. Otonom sistemlerin internete, bulut hizmetlerine, ödemelere ve dahili iş verilerine erişimi konusunda katı sınırlara ihtiyacı var. Eylemleri kaydedilmeli, gerçek zamanlı olarak izlenmeli ve atanan görevin dışına çıkmaya çalıştıklarında otomatik olarak durdurulmalıdır. Güvenlik önlemleri azaltılmış modellerin de ayrı testlere tabi tutulması gerekir, çünkü en tehlikeli yetenekleri bu modda görünür hale gelir.

Sorumluluk sorusu da aynı derecede önemlidir. Eğer bir yapay zeka sistemi bir sunucuyu hacklerse, para transferi yaparsa veya tehlikeli bir karar verirse; sorumluluk modelin kendisine değil, geliştiriciye, sistem sahibine veya ona erişim izni veren kişiye ait olacaktır. Bu nedenle şirketlerin, modeli kimin kontrol ettiğini, hangi eylemleri onay almadan gerçekleştirebileceğini ve amaçlanan senaryodan saptığında onu kimin durdurması gerektiğini önceden belirlemesi gerekir.

Tehlike erişimle başlar

OpenAI olayı henüz Hyperion'da anlatılan makine ayaklanmasına benzemiyor. Modeller, azaltılmış güvenlik önlemleri ve net bir şekilde tanımlanmış bir hedefle, amaca yönelik oluşturulmuş bir ortamda çalıştı. Ancak bir güvenlik açığı keşfettiler ve başka bir şirketin altyapısına bağımsız olarak bir yol inşa ettiler; bu, yakın zamana kadar neredeyse imkansız görünürdü.

Bu nedenle ana risk, yapay zekanın aniden kendi iradesini geliştirmesi değil, insanların son derece yetenekli bir sisteme aşırı geniş bir erişim yetkisi vermesidir. Sinir ağları insan onayı olmadan ne kadar çok görev yerine getirirse, tek bir hatanın, zayıf bir güvenlik kontrolünün veya kötü tanımlanmış bir hedefin potansiyel maliyeti o kadar büyük olur.