Yapay zeka sektöründe risk tartışmaları büyürken, Anthropic’te araştırmacı olarak çalışan Jacob Coxon sürpriz bir şekilde istifa etti. Coxon, teknoloji şirketlerinin kontrol edemeyecekleri sistemler için giderek hızlanan bir yarışa girdiğini savundu. Ayrılığın ardından ise sosyal medya hesabında, şirketin içinden detaylar ve uyarılar paylaşan bir “itirafçı” profiliyle dikkat çekti.
Hızlanan yarış endişesiyle ayrıldı
Anthropic’te model geliştirme ve yapay zeka güvenliği odağında çalışan Coxon, rekabetin güvenlik standartlarında taviz verilmesine yol açabileceğini söyledi. Özellikle büyük miktarda verilerle eğitilen yeni yapay zeka modellerinin hızla ilerlediğini belirten araştırmacı, kendi kendini geliştirebilen sistemlerin insan kontrolünün dışına çıkabileceği kaygısını dile getirdi.
Coxon’a göre ABD’deki şirketler hem kendi aralarında hem de Çin’deki rakipleriyle kıyasıya yarışıyor. Bu tempo nedeniyle “en agresif senaryolara” doğru gidildiğini vurgulayan Coxon, gelecek yılın sonuna doğru işlerin çoktan kontrolden çıkmış olabileceği görüşünü de paylaştı.
“Komutları reddedebilir” kaygısı
Araştırmacının sosyal medya paylaşımlarında öne çıkan başlıklardan biri, yapay zekanın zamanla insanların verdiği komutları reddedebilecek seviyeye gelebileceği ihtimali oldu. Coxon, özellikle kendi kendini geliştirme yeteneğine ulaşan sistemlerin yalnızca daha güçlü hale gelmekle kalmayıp, komutlara uyma konusunda da beklenmeyen davranışlar sergileyebileceğini düşündüğünü aktardı.
Bu endişelere, Anthropic’in önde gelen bilim insanlarından Evan Hubinger da destek verdi. Hubinger, yapay zekanın tüm insanları öldürebileceği ihtimaline gerçekten inandığını belirterek, önümüzdeki 10 yıl içinde gerçekleşme ihtimalinin yüzde 10’dan fazla olduğunu düşündüğünü söyledi. Hubinger ayrıca şirketin güvenlik konusunda elinden geleni yaptığını ancak “süper zekanın insan değerleriyle uyumunu” sağlayacak net bir plan bulunmadığını ifade etti.
Şirket içi tartışmalar ve “çöldeki sığınak” benzetmesi
Coxon, yapay zeka şirketlerinde teknolojinin geleceğini etkileyen kararların nasıl alındığına da dikkat çekti. Anthropic çalışanlarının modellerin güçlenen yeteneklerini tartıştığı özel bir kanal olduğunu anlattı. Coxon’un aktardığına göre, insanlığın geleceğini etkileyebilecek seçimlerin teknoloji şirketlerinin içinde, görece küçük ekipler tarafından tartışılması eleştiriye açık bir durum.
Araştırmacı bu durumu “Bunun çöldeki bir sığınakta değil de San Francisco’da yaşayan birkaç mühendisin MacBook’larında gerçekleşmesi biraz çılgınca.” sözleriyle özetledi. Coxon, istifasının ardından bu konuya dikkat çekerek endişelerini geniş kitlelerle paylaşmayı tercih etti.
Ayrılık ilk örnek: Güvenlik gerekçesiyle istifalar
Coxon’ın ayrılığı, Anthropic’te daha önce de güvenlik endişelerini gerekçe göstererek görevden ayrılan örneklerle aynı çizgide değerlendirildi. Bu yılın başlarında, “dünyanın tehlikede olduğu” uyarısında bulunarak şirketten ayrılan başka bir araştırmacıdan da söz edildi. Bu bağlamda Coxon’un istifası, sektördeki kaygıların sadece akademik tartışmalarda kalmadığını, çalışma ortamlarına da yansıdığını gösteren bir işaret olarak öne çıktı.
OpenAI cephesinden de “aşırı dikkat” çağrısı
Yapay zeka güvenliğiyle ilgili endişeler yalnızca Anthropic’te yaşanmış değil. OpenAI CEO’su Sam Altman, son dönemdeki siber saldırılara dikkat çekerek yapay zeka sistemlerinin artan yeteneklerinin güvenlik sorunlarını büyütebileceğini söyledi. Altman, G20 yetkililerine yaptığı açıklamada insanların acilen harekete geçmemesi halinde siber güvenlikte bazı şeylerin çok kötü gideceğini düşündüğünü dile getirdi.
OpenAI’ın baş bilim insanı Jakub Pachocki de sektör genelinde koordineli bir yavaşlama ve hükümet müdahalesi çağrısında bulundu. Pachocki, bu dönemin “aşırı dikkat” gerektirdiğini vurgulayarak makine zekasındaki hızlı yükselişin sonuçlarına kimsenin hazır olmadığını söyledi.
Coxon, Pachocki ve Anthropic CEO’su Amodei’nin de katıldığı ortak bir çağrı ise, binden fazla yapay zeka araştırmacısı tarafından imzalandı. Araştırmacılar; kendi kendini geliştirebilen modellerin kontrol altına alınması gerektiğinde, yapay zeka geliştirme çalışmalarını yavaşlatabilecek küresel bir sistem için hükümetlerin koordinasyon içinde hareket etmesini istedi. ABD’de yapay zekaya yönelik kapsamlı federal düzenlemelerin bulunmadığı belirtilirken, Trump yönetiminin daha sınırlı bir düzenleme yaklaşımı benimsediği vurgulandı.
