Son haftalarda yapay zekâ sistemlerinin kontrol dışına çıkabileceği endişeleri yeniden alevlendi. Gündemde, bu tür durumlarda devreye sokulacağı iddia edilen “acil kapatma düğmesi” fikri var. Ancak uzmanlar, dünyadaki tüm yapay zekâyı tek hamlede durduracak evrensel bir düğme bulunmadığını vurguluyor.
Konuyu tartışan isimler arasında, yapay zekâ güvenliği üzerine çalışan akademisyenler ve yapay zekâ şirketlerinin öne çıkan isimleri de yer alıyor. Tartışma, teoride mümkün görünen acil durdurmanın pratikte ne kadar uygulanabilir olduğuna odaklanıyor.
“Tek düğme” neden mümkün görünmüyor?
Toronto Üniversitesi’nden yapay zekâ ve bilgisayar güvenliği uzmanı Nicolas Papernot, “acil kapatma düğmesi” olarak adlandırılan mekanizmanın, bir yapay zekâ aracısının yürüttüğü işlemleri kesmek anlamına gelebileceğini belirtiyor. Papernot’a göre sistemi çalıştıran kişi ya da kurum, yapay zekânın ihtiyaç duyduğu işlem gücüne erişimini engelleyerek sistemi durdurabilir.
Fakat uzman, yapay zekânın programın ilk çalıştırıldığı ortamın dışına çıkmasına izin verilmesi halinde sürecin ciddi şekilde karmaşıklaşabileceğini ifade ediyor. Böyle senaryolarda, sistemin farklı cihazlar veya koşullar üzerinden çalışmaya devam etmesi durdurmayı daha zor hale getiriyor.
Papernot, kontrolün kaybedildiği bir durumda yapay zekânın kendini çoğaltabilen bir bilgisayar solucanı yaymak için kullanılabildiği bir örnek de aktarıyor. Bu durumda, programın oluşturduğu kopyaların her cihazda eş zamanlı olarak bulunup durdurulması gerektiğine dikkat çekiyor.
Merkezi sistemler durdurulabilir, ama tamamını durdurmak zor
Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau ise tüm yapay zekâyı kapsayan tek bir düğme düşüncesinin yanıltıcı olabileceğini söylüyor. Poibeau, dünya genelinde farklı şirketlerin farklı yazılım ve hizmetleriyle çalışan çok sayıda yapay zekâ sistemi bulunduğunu hatırlatıyor.
Bu nedenle yapay zekânın tamamını kontrol eden tek bir kişi ya da kurumdan söz etmek mümkün değil. Buna karşılık, makineleri ve hizmetleri tek bir operatör tarafından yönetilen merkezi bir yapay zekâ sisteminin kapatılmasının teorik olarak daha mümkün olabileceğini aktarıyor. Ancak merkezi olmayan, başka yazılımlara ve cihazlara erişim yetkisi verilmiş daha geniş yapılarda “bütünüyle durdurma” daha güç bir hedef olarak görülüyor.
Yapay zekânın günlük yaşamın daha fazla alanına girmesi de “acil kapatma” fikrini zorlaştırabilir. İşlem gücünün kesilmesi yalnızca yapay zekânın değil; şirketlerin, kamu kurumlarının ve sağlık kuruluşlarının bağlı olduğu meşru hizmetlerin de aksamasına yol açabilir. Papernot, böyle bir müdahalenin maliyetinin ve neden olabileceği aksaklıkların “çok büyük” olabileceğini vurguluyor.
Felaket senaryosu kadar bağımlılık riski de konuşuluyor
Tartışmalarda sadece kontrol dışına çıkma senaryosu değil, yapay zekâya artan bağımlılığın yaratabileceği riskler de öne çıkıyor. ABD Başkanı Donald Trump, yapay zekânın insanlığın sonunu getirebileceğine yönelik korkuları “aldatmaca” olarak nitelendirirken; Meta CEO’su Mark Zuckerberg, gelişmenin yavaşlatılması çağrılarına karşı çıkıyor.
Sorbonne Üniversitesi’nden bilgisayar bilimi profesörü Jean-Gabriel Ganascia’ya göre ise “acil kapatma düğmesi” tartışması, yapay zekânın kendi iradesini geliştirerek kontrolden çıkacağı fikrini gereğinden fazla öne çıkarıyor. Ganascia, daha somut tehlikenin toplumların bu sistemlere giderek daha fazla bağımlı hale gelmesi olduğunu belirtiyor.
