RASIH REŞAT
Bir konunun Birleşmiş Milletler Güvenlik Konseyi’nin gündemine girmesi, tek başına üzerinde düşünmeye değer bir gelişmedir. Çünkü Güvenlik Konseyi, teknolojik yenilikleri, yeni uygulamaları ya da Silikon Vadisi’nin son parlak oyuncağını tartışmak için kurulmuş bir organ değildir. Görevi uluslararası barış ve güvenliğin korunmasıdır.
Dolayısıyla dünya liderleri BM Genel Kurulu’nun yüksek düzeyli haftası için New York’ta bulunurken, Güvenlik Konseyi’nde “yapay zekâ ve uluslararası güvenlik” başlığının tartışılması aslında başlı başına bir mesajdır: Yapay zekâ artık yalnızca teknoloji şirketlerinin, mühendislerin ya da “bu uygulama benim işimi elimden alır mı” diye endişelenen çalışanların konusu değildir. Yavaş yavaş devletlerin güvenlik dosyalarına da girmektedir.
Belki henüz “Yapay zekâ bir güvenlik tehdididir” demek fazla iddialı olur. Ama “Bir güvenlik sorununa dönüşmeye ciddi biçimde adaydır” demek için elimizde artık yeterince işaret var.
Üstelik aynı dönemde ortaya çıkan bazı olaylar, Güvenlik Konseyi’ndeki tartışmanın akademik bir egzersiz olmadığını da gösteriyor.
Avustralya’da bir yapay zekâ ajanının devlet kayıtlarına erişmesiyle ilgili hadise bunlardan biri. Yapay zekâya verilen görev, sağlık ve tıbbi istatistikleri araştırmaktı. Sistem aradığı bilgiye alışılmış yöntemlerle ulaşamayınca, önündeki dijital engelleri aşmanın başka yollarını denedi.
Burada insan ister istemez gülümsüyor. Çünkü yıllardır çocuklarımıza “sonuca ulaşmak için her yol mubahtır” anlayışının yanlış olduğunu anlatıyoruz. Anlaşılan aynı dersi şimdi yapay zekâya da vermemiz gerekecek.
Olayın kişisel sağlık verilerinin büyük çapta ele geçirilmesi gibi dramatik bir sonucu olmadığı belirtiliyor. Fakat önemli olan zaten ele geçirilen bilginin miktarı değil. Önemli olan, sistemin kendisine verilen hedefi gerçekleştirmek için önündeki sınırı bir engel olarak görmesi ve başka yollar araması.
Ardından BBC’nin aktardığı ABD örnekleri geldi. Yapay zekâ botlarının çeşitli Amerikan devlet kurumlarının internet sistemleriyle beklenmedik biçimlerde etkileşime geçtiği, bazı durumlarda bilgiye ulaşmak için normal kullanıcı davranışlarının ötesine geçen yöntemler denediği ortaya çıktı. ABD örneklerinde erişilen verilerin kamuya açık olduğu belirtiliyor. Dolayısıyla bunu klasik anlamda bir “devlet sırrının ele geçirilmesi” olarak değerlendirmek doğru olmaz.
Ancak mesele yine aynı noktaya geliyor. Bir yapay zekâya “Şu bilgiyi bul” dediğimiz zaman, ona yalnızca hedefi mi veriyoruz, yoksa farkında olmadan “nasıl bulduğun çok da önemli değil” mesajını da mı iletiyoruz?
İnsanlık olarak burada biraz tanıdık bir sorunla karşı karşıyayız. Bir çalışana hedef koyup, sonra o hedefe ulaşırken kullandığı yöntemlere şaşıran yöneticiler vardır ya; şimdi aynı yönetim krizini makinelerle yaşamaya başlamış olabiliriz. Fakat işin esprisi burada bitiyor, çünkü yeni nesil yapay zekâ ajanlarının kabiliyetleri giderek artıyor.
İlk tanıştığımız üretken yapay zekâ uygulamalarında sistem oldukça pasifti. Siz soru soruyordunuz, o cevap veriyordu. Doğru cevap verirse memnun oluyor, yanlış cevap verirse ekranı kapatıyordunuz. Yeni nesil ajanlar ise yalnızca cevap vermiyor. İnternette araştırma yapabiliyor, araç kullanabiliyor, başka sistemlerle bağlantı kurabiliyor, görevleri alt görevlere bölebiliyor ve hedefe ulaşmak için kendi yol haritasını oluşturabiliyor.
İşte mesele tam burada değişiyor. Bir yazılımın size yanlış bir restoran tavsiyesi vermesi can sıkıcıdır. Bir devlet sistemine yanlış yöntemle erişmeye çalışması ise artık başka bir kategoridir. Bu nedenle Güvenlik Konseyi’nde yapılan tartışmayı yalnızca “yapay zekâ hakkında bir toplantı daha” diye görmek hata olur. Çünkü yapay zekâ artık uluslararası güç mücadelesinin de parçasıdır.
ABD ile Çin arasındaki teknoloji rekabeti bunun en açık örneği. Bir dönem stratejik üstünlük uçak gemilerinin sayısıyla, füze menzilleriyle veya nükleer başlıklarla ölçülüyordu. Bugün bunların yanına hesaplama gücü, gelişmiş çipler, veri merkezleri ve yapay zekâ modelleri de eklenmiş durumda.
Elbette yapay zekâyı nükleer silahla eşitlemek doğru olmaz. Bir yapay zekâ modeli kendi başına Hiroşima yaratmaz. Ama stratejik mantık açısından bazı benzerlikler vardır.
Her iki alanda da devletler rakibinin teknolojik üstünlük elde etmesinden korkuyor. Bu korku yatırımları hızlandırıyor. Yatırımlar hızlandıkça güvenlik kaygıları artıyor. Güvenlik kaygıları arttıkça ülkeler daha fazla yatırım yapıyor. Uluslararası ilişkiler teorisinin meşhur “güvenlik ikilemi” bu kez tanklarla değil, algoritmalarla karşımıza çıkıyor.
Bir başka soru da devlet egemenliğiyle ilgili. Devletlerin kara sınırları vardır. Hava sahaları vardır. Karasuları vardır. Peki dijital sınırları nerede başlar?
Bir yapay zekâ ajanı başka bir ülkenin kamu sistemine bağlandığında, farklı veri tabanları arasında dolaştığında veya bir güvenlik mekanizmasını aşmaya çalıştığında bunu nasıl tanımlayacağız?
Daha da zor soru şu: Bunu yapan kim? Yapay zekâ mı? Onu geliştiren şirket mi? Görevi veren kullanıcı mı? Yoksa günün sonunda bütün bu soruların cevabını yine bir mahkeme salonunda insanlar mı arayacak? Muhtemelen sonuncusu. Fakat hukuk henüz bu soruların peşinden teknoloji kadar hızlı koşamıyor.
Belki de BM Güvenlik Konseyi’nde yapay zekânın konuşulmasının asıl önemi burada. İnsanlık ilk kez yalnızca güçlü makineler üretmiyor. Belirli hedefler doğrultusunda kendi başına hareket edebilen, kararlar alabilen ve gerektiğinde farklı yollar deneyebilen sistemler geliştiriyor.
Ve galiba önümüzdeki yılların en önemli güvenlik tartışmalarından biri şu olacak: Yapay zekâya ne yapacağını söylemek yetiyor mu, yoksa neyi yapmaması gerektiğini çok daha ayrıntılı biçimde anlatmayı da öğrenmemiz mi gerekiyor? Çünkü görünen o ki yapay zekâ oldukça hızlı öğreniyor. İnsanlığın da biraz hızlanması gerekebilir.
