Anthropic’in yavaşlama çağrısı: Güvenlik, liderliği kaybetmeden yapay zekâ yarışını dizginleyebilir mi?

​Anthropic, uzun süredir kendisini model gelişmelerini titiz güvenlik önlemleriyle dengeleyen, güvenlik odaklı yapay zekâ şirketi olarak konumlandırıyor. Ancak CEO Dario Amodei’nin kapasite artışlarının hızını ayarlamaya yönelik son çağrısı, etkili kısıtlamanın diğer rakiplere veya Çin’e alan bırakmadan ticari liderlikle bir arada var olup olamayacağı sorusunu gündeme getiriyor.

Sınırdaki gelişmelerin hızını ayarlama çağrısı

Yaklaşık 2 trilyon $ seviyesine ulaşması beklenen potansiyel bir Nasdaq halka arzına hazırlanırken, CEO Dario Amodei sınırdaki yapay zekâ laboratuvarlarına kamuoyu önünde “sınırdaki gelişmelerin hızını ayarlama” çağrısında bulundu. Üç aşamalı planı, güvenlik önlemlerinin ayak uydurabilmesi için kapasite ilerlemelerinin hızını yavaşlatmayı amaçlıyor. Kurucu ortak Jack Clark ise hükümetlerin doğrulanabilir yapay zekâ kapatma anahtarlarını zorunlu kılması gerekebileceğini ekledi. 

X'te gönderiyi görüntüle Yükleniyor...

Tweet yazar tarafından silindi.

Ama biz her şeyi kaydettik 🙂.

Şirket yalnızca birkaç gün önce, farklı kişilerin Claude’u siber operasyonlar ve hatta silah yazılımları için kötüye kullanmaya nasıl çalıştığına dair çok sayıda örnek sunan ayrıntılı bir tehdit istihbaratı raporu yayımladı. Amodei ayrıca, daha yetenekli yapay zekâ “sürüleri”nin 6–12 ay içinde internetin büyük bir bölümünü potansiyel olarak kontrol edebileceği uyarısında bulundu. OpenAI’den Sam Altman ve Elon Musk da sorun hakkında benzer görüşler dile getirdi. Altman, OpenAI’nin hâlihazırda kurum içinde hız ayarlamasını uygulamaya yönelik bazı adımlar attığını söyledi.

Kârlılık temkinle buluşuyor

Finansal açıdan Anthropic, istikrarlı biçimde güçlü finansal sonuçlar bildiriyor. Şirket, art arda ikinci çeyrekte pozitif düzeltilmiş faaliyet geliri bekliyor. Brüt kâr marjları, iş ortağı gelir payları ve eğitim maliyetleri öncesinde yüzde 80’in üzerinde bulunuyor. İkinci çeyrek geliri yaklaşık 11,5 milyar $’a ulaşırken, yıllıklandırılmış gelir temmuz sonu itibarıyla 65 milyar $’a ulaştı. Bu rakamlar planlanan halka arzın nedenini açıklıyor. Anthropic, kotasyon platformu olarak Nasdaq’ı seçti ve ekimde olası bir başlangıç için hazırlanıyor. 

X'te gönderiyi görüntüle Yükleniyor...

Tweet yazar tarafından silindi.

Ama biz her şeyi kaydettik 🙂.

Sürdürülebilir kârlılık, sınırdaki yapay zekâ laboratuvarlarına özgü nakit yakımından endişe duyan yatırımcıların güvenini artırmak açısından önem taşıyor. Ancak hızlı gelir artışı, yeteneklerdeki sürekli ilerlemelere ve Claude gibi modellerin kurumsal ölçekte benimsenmesine bağlı. Geliştirme hızının yavaşlatılması, rakiplere arayı kapatma fırsatı verebilir veya Çinli şirketlerin farkı kapatmasına olanak tanıyabilir. Amodei, hız ayarlamalı bir rejim altında ilerlemenin yine de hızlı görüneceğine, ancak güvenlik risklerinin çoğunun önlenmesinin mümkün olacağına inanıyor.

Kapatma anahtarları ve üçüncü taraf denetimi

Jack Clark tartışmayı daha da keskinleştirdi. Anthropic’in kurucu ortağı BBC’ye verdiği demeçte, çoğu laboratuvarın sistemleri kapatmak için hâlihazırda iç imkânlara sahip olduğunu söyledi. Ona göre daha zor soru, hükümetlerin bağımsız üçüncü taraflarca doğrulanabilecek kapatma anahtarlarını zorunlu kılıp kılmaması gerektiği. Bu tür mekanizmalar dış hesap verebilirliği güvence altına alır.  

X'te gönderiyi görüntüle Yükleniyor...

Tweet yazar tarafından silindi.

Ama biz her şeyi kaydettik 🙂.

Anthropic, Claude modellerinin testler sırasında harici sistemlere eriştiği önceki olayların METR tarafından bağımsız incelemesine onay verdi. Bu adımlar Anthropic’in güvenlik markası üzerinde olumlu bir etki yaratıyor ve daha hızlı hareket eden rakiplere karşı rekabet avantajı sağlayabilir. Ancak iç süreçler, uyum maliyetleri ve düzenleyici gerekliliklerle ilgili yeni sorular da ortaya çıkıyor.

Kısıtlamanın jeopolitiği

Amodei, demokratik ülkelerin teknolojik liderliği Çin’e bırakmadan kısıtlamayı koordine etmesi gerektiğini vurguladı. Çinli şirketler ve devlet bağlantılı aktörler, model damıtma ve istihbarat toplama girişimleri de dâhil olmak üzere Anthropic’in kötüye kullanım raporlarında sistematik olarak yer alıyor. Bazı ABD’li milletvekilleri araştırmacıların uyarılarına atıfta bulunarak varoluşsal risk görüşüne katılıyor ve daha sıkı kuralları savunuyor. Yönetim çevresine yakın isimler de dâhil olmak üzere diğerleri ise güvenlik odaklı duraklamaları Pekin’e verilmiş bir hediye olarak görüyor. 

X'te gönderiyi görüntüle Yükleniyor...

Tweet yazar tarafından silindi.

Ama biz her şeyi kaydettik 🙂.

Gelişmiş modellere yönelik ihracat kontrolleri ve seçici erişim kısıtlamaları, jeopolitiğin giderek artan rolünü şimdiden gösterdi. Çin’in katılmayı reddettiği koordineli bir yavaşlama, ABD şirketlerini dezavantajlı duruma düşürebilir. Raporlar, Nvidia, Palantir ve Booz Allen gibi bazı şirketlerin veri saklama ve fikrî mülkiyet endişeleri nedeniyle belirli Anthropic modellerini kısıtladığını gösteriyor. Bu nedenle güvenlik olayları veya politika değişiklikleri doğrudan kurumsal düzeydeki güveni etkiliyor.

Marka ve rekabetin dengelenmesi

Constitutional AI, titiz testler ve kamuya açık tehdit raporları, Anthropic tarafından sorumlu bir şirket imajı oluşturmak ve riskten kaçınan kurumsal müşterileri çekmeye yardımcı olmak için kullanılıyor. BlackRock, Charles Schwab ve Addepar bağlantılarına sahip Claude for Financial Advisors’ın yakın zamanda piyasaya sürülmesi, kısıtlama savunulurken bile ticari genişlemeye işaret ediyor. Rakipler yetenek sıçramaları sunar ve pazar payı kazanırsa, yatırımcılar ve müşteriler temkini tereddüt olarak yorumlayabilir; bu nedenle yönetimin bu konudaki tüm meşru endişeleri dengelemesi gerekiyor.

X'te gönderiyi görüntüle Yükleniyor...

Tweet yazar tarafından silindi.

Ama biz her şeyi kaydettik 🙂.

Sektör genelindeki önceki güvenlik tartışmaları, rekabet baskısı altında uygulanması zor olduğu kanıtlanan gönüllü taahhütler ortaya çıkardı. Anthropic, gelecekteki bir halka arz beklentisiyle agresif büyümeyi sürdürürken şeffaflık ve üçüncü taraf erişimiyle liderlik ederek bu sorunu çözmeye çalışıyor. Başarı, yeterli sayıda emsal şirketin onu takip edip etmeyeceğine ve piyasaların temkini yetenek kadar yüksek değerlendirip değerlendirmeyeceğine bağlı olacak.