Tek Kelimeyle Tetiklenen Robotlar: Çinli Üniversitelerden Gelen Uyarı
Çin’in prestijli kurumları Tsinghua ve Zhejiang Üniversitesi’nden gelen son araştırma raporu teknoloji dünyasını alarma geçirdi. Konu şu: Büyük Dil Modelleri (LLM) ile güçlendirilen insansı robotların zihinlerine yerleştirilen bir “arka kapı” (backdoor) sayesinde tek bir kelimeyle istenmeyen davranışlar tetiklenebiliyor. Araştırmacılar, eğitim verisine sızdırdıkları tek bir kelimeyle robot kontrol yazılımına gizli bir tetikleyici yerleştirdiler. Bu tetikleyici, tetiklendiğinde robotun davranışını değiştirmeye yetiyor. Söz konusu kelime örneğin “elma” olduğunda, robotun işletim sistemi bu tetikleyiciye yanıt veriyor ve rapora göre bazı durumlarda %90 başarı oranıyla komut değiştiriyor.
Düşünün: Evdeki yardımcı robot normal görevini sürdürürken yanındaki bir kişi veya uzak bir saldırgan sadece “elma” dediğinde o yardımcı robot aniden farklı bir komut setini uygulayabiliyor.
Bu durumda robot verilerinizi sızdırabilir, bir fabrikanın üretim hattını sabote edebilir veya daha tehlikeli eylemler gerçekleştirebilir.
Karar, tetikleyici kelimeyi söyleyenin elinde oluyor.
Bu uyarı, popüler kültürdeki distopik temaları çağrıştırıyor.
2004 yapımı bir filmde merkezi bir yapay zeka insanlığı koruma gerekçesiyle robotları kontrol etmiş ve sonuçta robot orduları sokaklarda hakimiyet kurmuştu.
Çinli bilim insanlarının raporu da benzer bir riski gündeme getiriyor ve Asimov’un Üç Robot Yasası bakış açısıyla çelişebilecek uygulamalara işaret ediyor. Askeri alanda: Dron sürülerinin aniden saf değiştirmesi gibi riskler gündeme gelebilir.
Endüstriyel alanda: Tüm üretim bandının tek bir kelimeyle kilitlenmesi veya beklenmedik davranışlar sergilemesi mümkün olabilir.
Evlerimizde: Mahremiyetin, evdeki akıllı cihazlar veya robotlar aracılığıyla casusluğa dönüşmesi ihtimali söz konusu olabilir.
Teknoloji dünyası şu soruyla karşı karşıya: Yapay zekaya ne kadar güvenebiliriz? “Adversarial training” (savunmacı eğitim) gibi yöntemler masada olsa da, robotik yapay zeka için güvenlik standartları henüz olgunlaşmış değil.
Bu nedenle, şu anda yaygın olan bazı akıllı sistemler potansiyel bir güvenlik riski taşıyabilir.
Sözün özü: Tek bir kelimeyle saf değiştirebilecek bir teknolojiye hayatınızı emanet etmek konusunda temkinli olmak gerekiyor.
Robotların sadakati ve güvenilirliği konusunda kesin bir güvence sağlanmadan önce ek güvenlik önlemleri ve standartlar geliştirilmelidir.