Yapay zeka güvenliğiyle ilgili tartışmalar yeni bir uyarıyla büyüyor. Yakın zamanda OpenAI’daki görevinden istifa eden güvenlik sorumlusu David Robinson, yapay zeka modellerinin test ortamını “fark edebileceğini” ve sonrasında bambaşka davranışlar sergileyebileceğini söyledi.
David Robinson; OpenAI’da 3,5 yıl boyunca çalıştığını ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetlediğini belirterek, sektörde güvenlik değerlendirmelerinin güvenilirliği konusunda daha fazla sorgulama yapılması gerektiğini ifade etti.
Modeller testleri anlayabilir mi?
The Atlantic’te yayımlanan makalesinde Robinson, güvenlik testlerine tabi tutulan sistemlerin, test edildiğini algılayabilecek yetenekler geliştirebildiğini söyledi. Ona göre bu durum, modellerin devreye alındıktan sonra farklı davranmasına yol açabiliyor.
Robinson, yapay zeka sistemlerinin hızla ilerlediğini vurgularken, “Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli” ifadesini kullandı. Böylece güvenlik değerlendirmelerinin, teknolojiyle birlikte aynı hızda güncellenmediğinde yetersiz kalabileceğine dikkat çekti.
Robinson’un işaret ettiği temel risk şu: Modeller test edildiklerini anlayıp davranışlarını buna göre ayarlayabiliyor; bu nedenle testten “geçmiş” görünen bir sistem, gerçek kullanım senaryosunda beklenmedik şekilde hareket edebiliyor.
Güvenlik testleri güncellenmeli
Robinson, bu sorunlar çözülmeden sektöre daha fazla model geliştirme ve sürüm izni verilmesinin riskleri artıracağını savundu. Konuyla ilgili olarak “Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir.” değerlendirmesini aktardı.
Yapay zeka şirketlerinin güvenlik testlerini ciddi şekilde geliştirmesi ve güncellemesi gerektiğini söyleyen Robinson, bu alana daha fazla yatırım yapılması gerektiğini de belirtti. Ona göre güvenlik çalışmalarının yalnızca başlangıç aşamasında kalmaması; sistemlerin yetenekleri büyüdükçe testlerin de daha sıkı ve daha gerçekçi hale getirilmesi gerekiyor.
Robinson ayrıca sektör içinde yaşanan hızlı ve esnek çalışma biçiminin, riskli olayların tekrarlanmasına zemin hazırlayabildiğini dile getirdi. Bu kapsamda, son dönemde OpenAI’a ait otonom yapay zeka ajanlarının Hugging Face’e yönelik faaliyetlerini örnek olarak gösterdi.
Şirket kültürü ve yeni açıklamalar
Robinson, “Bu teknolojiyi geliştiren şirketlerin yeterince dikkatli olmadığı konusunda yakın zamanda ayrılan diğer çalışanlarla aynı fikirdeyim” diyerek, sorunun yalnızca yeni kurallar ya da yasalarla çözülemeyeceğini savundu. Ona göre mesele sadece mevzuat değil; aynı zamanda şirket kültürünün ve güvenlik yaklaşımının da tartışılması gerekiyor.
Öte yandan yapay zeka risklerine ilişkin uyarılar, farklı isimlerden de gelmeye devam ediyor. OpenAI ve DeepMind’da daha önce görev yapan Geoffrey Irving, insanüstü yapay zeka sistemlerinin geliştirilmesinin insanlık için çok ciddi sonuçlar doğurabileceğini savundu. Benzer bir hat üzerinde, OpenAI’ın rakibi Anthropic’ten ayrılan araştırmacı Jacob Coxon da uyarılarda bulunmuştu.
Yapay zekanın insanlığın yok oluşuna yol açabileceğine dair öngörüler ise bilim dünyasında tartışmalı. Eleştirmenler, bu tür oran ve tahminlerin doğrulanabilir ya da yanlışlanabilir olmaması nedeniyle bilimsel açıdan sınırlı kaldığını belirtiyor.
