Yapay zekayla ilgili risk tartışmaları sürerken Anthropic’in kurucu ortaklarından Jack Clark, olası bir tehlike durumunda sistemleri tamamen devre dışı bırakacak bir “acil kapatma düğmesi” fikrini gündeme getirdi. Clark, bu yaklaşımın ilerleyen süreçte kural haline gelebileceğini, ancak detayların daha geniş bir politika tartışmasının parçası olması gerektiğini vurguladı.
Üçüncü taraf kontrolü fikri
BBC’ye verdiği röportajda konuşan Jack Clark, şirketlerin elinde çeşitli “kapatma düğmesi” yöntemleri bulunduğunu hatırlattı. Ancak Clark, toplumun ileride bu konuda kural koymak isteyebileceği bir konuyu işaret ederek, “acil kapatma düğmesi” gerekliliklerinin ve denetim boyutunun ayrıca ele alınması gerektiğini söyledi.
BBC’nin “Şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasını zorunlu kılmalı mısınız? Bu acil kapatma düğmesi üçüncü bir tarafın mı kontrolü altında olmalı?” sorusuna Clark, “Bence bu, toplumun bilmek isteyeceği ve nihayetinde bu konuda kurallar koymak isteyebileceği türden bir konu.” yanıtını verdi.
“Yüzde” tartışmasına temkinli bakış
Yapay zekanın tüm insanlığı yok etme olasılığına dair olası yüzdelik oranların sorulması üzerine Jack Clark, bu tür istatistiklerin işe yarayıp yaramayacağına kuşkuyla yaklaştı. Clark, “Bu istatistiklerin bir işe yaracağını düşünmüyorum.” dedi; buna karşılık “Ancak yapay zekanın tamamen kontrolsüz bir endüstri olması kötü bir fikir.” ifadesini kullandı.
Clark’ın açıklamaları, yapay zeka sistemlerinin giderek daha güçlü hale gelmesiyle ortaya çıkan “kontrol” ihtiyacını yeniden gündeme taşıdı. Ona göre asıl mesele, sistemler tehlikeli bir seviyeye gelirse hızlı ve etkili bir şekilde müdahale edilebilmesi; bu da yalnızca bir şirketin değil, daha geniş bir düzenleme çerçevesinin parçası olabilecek bir başlık.
İstifa eden araştırmacı eleştirileri hatırlatıldı
Haberde, daha önce Anthropic’ten istifa eden araştırmacı Jacob Coxon’ın eleştirileri de gündeme geldi. Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunmuştu. Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri sürerek, bu sistemlerin yakın gelecekte “her şeyi hackleyebilecek” insanüstü yeteneklere dönüşebileceğini öne sürmüştü.
Coxon ayrıca yapay zeka modellerini geliştiren bazı sektör çalışanlarının, bu sistemlerin 10 yıl içinde “insanlığı öldürebileceğine” ciddi şekilde inandığını ileri sürmüştü. Bu iddialar, “acil kapatma düğmesi” gibi mekanizmaların neden tekrar tekrar konuşulduğunu da açıklayan bir arka plan oluşturuyor.
