AI nükleeri durdurabilir mi?

Trump Yönetimi Anthropic Araçlarının Kullanımını Durdurdu

Başkan Donald Trump, tüm federal kurumlara, yapay zekâ geliştiricisi Amerikan şirketi Anthropic tarafından geliştirilen yapay zekâ teknolojisini kullanmayı durdurma talimatı verdi. Trump, sosyal medyada yaptığı açıklamada federal kurumların derhal Anthropic araçlarına güvenmeyi bırakması gerektiğini belirtti ve şirketin artık hükümet ortağı olarak kabul edilmeyeceğini söyledi. Kurumlara, alternatif teknolojilere geçiş yapmaları için altı aylık bir geçiş süresi verildi. Trump, “Geçiş olmazsa cezai sonuçlar ile yüzleşirler” dedi.

Pentagon-Anthropic İlişkisi ve Claude’un Kullanımı

Anthropic ile Pentagon arasında Amerikan ordusunun ölümcül otonom silahlar için Claude adlı AI sistemini kullanma olasılığı konusunda farklı görüşler ortaya çıktı. Claude, istihbarat analizleri ve savunma planlaması da dahil olmak üzere bazı ulusal güvenlik sistemlerinde kullanılıyor ve çeşitli senaryoları analiz ediyor. Anlaşmazlığın merkezinde, AI güvenlik önlemleri ve etik sınırlar yer alıyor.

Yetkililerin ve Şirketin Pozisyonları

Savunma Bakanı Pete Hegseth, Anthropic’i “ulusal güvenlik için tedarik zinciri riski” olarak nitelendirdi; bu etiket, diğer askeri yüklenicilerin Anthropic ile iş yapmasını engelleyebilir. Yetkili kaynağa göre, Anthropic’in CEO’su Dario Amodei ile Pentagon arasında geçen konuşmalar rahatsızlık yarattı; yetkili Amodei’nin cevaplarını “Bizi arayabilirsiniz, birlikte çözeriz.” şeklinde özetledi ve “Yani her seferinde sınırlamaları şirket kaldıracak…” diye aktardı. Anthropic sözcüsü ise CEO Amodei’nin böyle bir yanıt verdiğini reddetti ve bu anlatımı yalanladı. Şirket, Claude’un füze savunmasında kullanılmasına izin vermeyi kabul ettiğini söyledi ancak Pentagon’un Claude’u her yasal askeri kullanım için kullanılabilir hale getirme talebine karşı çıktığını belirtti.

Güvenlik Mekanizmaları ve Etik Endişeler

Anthropic, güvenlik sınırlarının Claude’un kontrolsüz otonom silahlar veya kitlesel gözetim amaçlı kullanılmasını önleyen mekanizmaların korunmasını istiyor. CEO Dario Amodei, savunma bakanlığının baskısına rağmen bu güvenlik mekanizmalarını kaldırmanın şirket için etik olarak doğru olmayacağını söyledi ve güvenlik sınırlarının kaldırılmasının tehlikeli veya istenmeyen sonuçlara yol açabileceğinden endişe edildiğini belirtti. Şirket, teknolojisinin kullanımını “rastgele şekilde” sınırlamaya çalışmadığını veya belirli operasyonlarla ilgili bir itirazda bulunmadığını vurguladı, ancak bazı durumlarda yapay zekânın demokratik değerleri savunmak yerine zayıflatabileceğine inandıklarını kaydetti.

Senaryolar ve Stratejik Tartışmalar

Uzmanlar, bu ihtilafın gelişmiş yapay zekâ dil ve kodlama sistemlerinin istihbarat ve savunma için ne kadar kritik araçlar haline geldiğini gösterdiğini belirtiyor. Bu sistemler büyük veri analizleri yapabilir, karmaşık istihbaratı yorumlamaya yardımcı olabilir ve stratejik planlamada kullanılabilir. Ancak yüksek riskli askeri operasyonlarda kullanımında hukuki ve etik sorular da doğuruyor. Bazı savunma yetkilileri, askeri sistemlerde AI’e sınırsız erişim sağlanmasının kriz durumlarında ABD’nin daha hızlı tepki vermesine yardımcı olabileceğini savunuyor.

Nükleer Senaryo ve Tartışmanın Kızışması

Geçen ay yapılan bir toplantıda Pentagon’un teknoloji şefi ölüm kalım niteliğinde bir nükleer senaryoyu tartıştı. Kaynağa göre, eğer Birleşik Devletler’e bir kıtalararası balistik füze fırlatılırsa, ordu bu füzeyi düşürmeye yardımcı olmak için Anthropic’in Claude adlı yapay zekâ sistemini kullanabilir mi sorusu gündeme geldi. Karşı saldırı açısından teknolojik güç ve hızın kritik olabileceği türden bir durumda karar verme süresi dakikalar hatta saniyelerle ölçülüyor.

Şirketin ve Yönetimin Açıklamaları

Anthropic’in CEO’su Dario Amodei, “şirketin veya özel işletmelerin değil, Savunma Bakanlığı’nın askeri kararları aldığını anladığını” yazdı ve teknolojisinin kullanımına ilişkin belirli operasyonlara karşı rastgele itirazlarda bulunmadığını belirtti. Ancak Amodei, dar bir dizi durumda yapay zekânın demokratik değerleri zayıflatabileceğine inanıldığını ve bazı kullanımların günümüz teknolojisinin güvenli ve güvenilir bir şekilde yapabileceğinin ötesinde olduğunu ifade etti. Şirket, departmanın teknolojiyi devre dışı bırakmayı seçmesi durumunda sorunsuz bir geçiş sağlamak için çalışacaklarını söyledi. Ancak Anthropic’in bu kararlara mahkemede itiraz etmesi bekleniyor.