Yapay zeka ekosisteminde “kontrol” tartışmaları yeniden alevlendi. Anthropic, yapay zeka sistemlerinin giderek daha az insan müdahalesiyle yazılım geliştirme ve araştırma süreçlerini yürütebildiğini aktardı. Şirket, bu eğilimin devam etmesi halinde sistemlerin kendi haleflerini tasarlayıp geliştirebilecek seviyeye yaklaşabileceğine dikkat çekti.
Anthropic’in kurucu ortağı Jack Clark ile Anthropic Enstitüsü lideri Marina Favaro’nun kaleme aldığı “Yapay zeka kendini inşa ettiğinde” başlıklı blog yazısı, kritik bir eşiğe işaret ederken faydaların yanı sıra riskleri de masaya yatırdı. Yazı, özyinelemeli kendini geliştirme kavramına özellikle vurgu yapıyor.
Geliştirme süreci giderek yapay zekaya devrediliyor
Paylaşılan değerlendirmeye göre, yapay zeka geliştirme sürecinin geçmişte büyük ölçüde insanlar tarafından yürütüldüğü biliniyor. Ancak Anthropic’te bu adımların giderek daha fazla yapay zeka sistemlerine devredildiği ifade edildi. Böylece geliştirme hızının artabildiği belirtiliyor.
Blog yazısında, bu yaklaşımın sürmesi durumunda yapay zeka sistemlerinin bir sonraki adımı kendisinin tasarlayabildiği bir aşamaya evrilebileceği anlatıldı. Bu durumun “özyinelemeli kendini geliştirme” olarak adlandırıldığı kaydedildi. Yani sistemlerin, kendi kapasitesini artırmaya yönelik süreçleri döngüsel biçimde tekrar edebilmesi gibi bir tablo çiziliyor.
Öte yandan metin, bunun hemen gerçekleşeceği anlamına gelmediğini de söylüyor. “Henüz o noktada değiliz ve özyinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlandığından daha erken gerçekleşebilir.” ifadesi, zamanlama konusunda temkinli bir çerçeve sunuyor.
Bilim ve sağlık için fırsat, kontrol kaybı riski için uyarı
Yazıda, kendi kendini inşa edebilen yapay zeka sistemlerinin potansiyel faydalarına da yer veriliyor. Bu tür sistemlerin bilim, sağlık ve daha birçok alanda “muazzam” katkılar sağlayabileceği belirtiliyor. Mantık şu: Daha hızlı iterasyon ve daha sistematik araştırma, yeni keşiflerin önünü açabilir.
Ancak aynı noktada ciddi bir risk uyarısı yapılıyor. “Özyinelemeli kendini geliştirmenin” insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini artırabileceği vurgulanıyor. Metin, sistemlerin kendi haleflerini tamamen inşa edebilecek kapasiteye ulaştığında, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerinin çok daha kritik hale geleceğini ifade ediyor.
Anthropic’in önerdiği tartışma başlıklarından biri de teknoloji ilerleyişinin hızını nasıl yöneteceği. Blog yazısında, toplumsal yapıların teknolojideki gelişmelere uyum sağlayabilmesi için ileri düzey yapay zeka geliştirme süreçlerinin yavaşlatılması ya da geçici olarak durdurulması seçeneğinin değerlendirilmesinin “iyi olabileceği” aktarılıyor.
Yazı bu değerlendirmenin yalnızca tekil bir laboratuvarla sınırlı olmaması gerektiğini de belirtiyor. Birden fazla güçlü laboratuvarın, birden fazla ülkede aynı koşullar altında bunu gerçekleştirmesinin anlamlı olacağı not ediliyor. Böylece hem risklerin yönetimi hem de olası etkilerin küresel ölçekte tartılması hedefleniyor.
