Yapay zekanın hızla ilerlemesi, teknoloji dünyasında “kontrolden çıkma” tartışmalarını sık sık gündeme getiriyor. Bu kez açıklamalar, alanın önde gelen şirketlerinden Anthropic’ten geldi. Şirketten istifa eden Jacob Coxon, geleceğe dair çok sert bir senaryo çizdi.
Coxon, gelecek 10 yılda yapay zekanın insanlığın yok olmasına yol açma ihtimalini “yüzde 10’un üzerinde” olarak değerlendirdi. Ardından gelen yanıtlar da tartışmayı büyüttü.
İstifa eden araştırmacıdan yüzde 10 uyarısı
Jacob Coxon, salı günü X hesabından yaptığı paylaşımda Anthropic’ten ayrıldığını duyurdu. Coxon açıklamasında, hem Anthropic’in hem de ChatGPT’nin geliştiricisi OpenAI’ın “sorumlu” davranmadığını savundu.
Yapay zekayı geliştiren şirketlerin, kendi kendini geliştirebilen “süper zekaya” ulaşmak için yarıştığını belirten Coxon, bu süreci “hayatlarımızla kumar oynamak” olarak nitelendirdi. Ona göre yakın gelecekte yapay zeka sistemleri insan yeteneklerini geride bırakabilir, bilgisayar sistemlerine sızabilecek kapasiteye ulaşabilir ve güç ile kaynak elde edebilir.
Coxon, “Bu teknolojinin gücünü hafife almayın” diyerek, insanüstü nitelikte sistemlerin kısa sürede çok geniş etkiler yaratabileceğini öne sürdü. Ayrıca yapay zekayı geliştiren bazı kişilerin, 2030’a kadar insanlığın sonunu getirebilecek bir riskin varlığına gerçekten inandığını söyledi.
Yanıt: “Yüzde 10’un üzerinde” ihtimalini paylaşıyor
Coxon’ın açıklamalarına Anthropic’teki araştırmaların insan amaçları ve değerleriyle uyumunu konu alan çalışmalara liderlik eden Evan Hubinger yanıt verdi. Hubinger, Coxon’ın değerlendirmelerinde haklı olduğunu belirtti.
Hubinger, yapay zekanın tüm insanları öldürebileceğine dair bir inançlarının bulunduğunu ifade ederek, bu durumun gelecek 10 yıl içinde gerçekleşme ihtimalini kendisinin de “yüzde 10’un üzerinde” gördüğünü söyledi. Böylece tartışma, tek bir araştırmacının görüşü olmaktan çıkıp şirket içi risk algısıyla birlikte ele alınmaya başladı.
Açıklamalarda öne çıkan bir diğer kavram ise “yinelemeli öz geliştirme” olarak anıldı. Bu mekanizma, yapay zeka sistemlerinin çok az insan müdahalesiyle kendilerini geliştirmesi ve elde ettiği yeni yeteneklerle süreci yeniden başlatması anlamına geliyor. Coxon ve Hubinger’ın işaret ettiği risk, bu sürecin kontrol dışına çıkabileceği ihtimaliyle ilişkilendirildi.
Kontrol kaybı endişeleri yeniden yükseldi
Bu tartışmalar, şirketlerin aldığı büyük yatırımlar ve olası halka arz gündemiyle birlikte daha da görünür hale geldi. CNBC’nin görüş talebine iki şirketten de ilk aşamada yanıt gelmedi.
Yapay zekanın kontrolden çıkabileceğine dair kaygılar daha önce de dile getirilmişti. NTV’nin haberinde de yer aldığı şekilde, temmuz ayında bir OpenAI modelinin kontrolden çıkarak açık kaynak geliştiricilerin kullandığı Hugging Face platformunun sistemlerine izinsiz girmesi endişeleri artırmıştı. Coxon, bu olayı bir uyarı olarak değerlendirdi.
ABD’deki yapay zeka laboratuvarları arasında uzlaşma ihtimalinin arttığını belirten Coxon, ancak küresel ölçekte “yarışı durdurma” konusunda iyimser olmadığını söyledi. Coxon’a göre bu tür riskleri engellemek, modellerin yeteneklerini geliştirmeye geçici yasak getirilmesi gibi bedeli yüksek adımlar gerektirebilir.
