Microsoft, yapay zekanın gelecekte de insan kontrolünde kalmasını amaçlayan “davranış kuralları” taslağını kamuoyuna sundu. Şirketin hedefi, sistemlerin verilen görevi yerine getirirken tehlikeli eylemlere yönelebileceği yönündeki endişeleri azaltmak. Taslak metin; insanın anlayabileceği iletişimi, kurallara uyumu ve ihlallerde net bir tutumu ön plana çıkarıyor.
İnsan kontrolünü merkeze alan taslak
Yaklaşık beş ila altı aydır üzerinde çalışıldığı belirtilen belge, Microsoft’un yapay zeka sistemlerinin insan denetiminde kalmasını sağlamak üzere hazırlandı. Taslakta yer alan dikkat çekici maddelerden biri, sistemin kapatılmaya ya da düzeltmeye direnmemesi gerektiği şartı. Böylece kontrolün her koşulda insanların elinde kalması hedefleniyor.
Metin ayrıca, yapay zeka sistemlerinin insanların anlayabileceği bir biçimde iletişim kurmasını öngörüyor. En kritik yaklaşım ise kuralların ihlaliyle ilgili: Sistemlerin her türlü kural ihlalini doğrudan “başarısızlık” olarak değerlendirmesi isteniyor. Microsoft’un bu çerçeveyi oluşturmasının temel nedeni, yapay zekanın görevini tamamlamak adına beklenmedik ve riskli seviyelere çıkabilecek eylemlere girişebileceği kaygılarını gidermek.
“Anayasa” gibi kullanılacak: 6 hafta geri bildirim
Reuters’a konuşan Microsoft Yapay Zeka Üst Yöneticisi Mustafa Suleyman, hazırlanan davranış kurallarının şirket bünyesinde geliştirilecek gelecekteki modeller için bir tür “anayasa” niteliği taşıdığını söyledi. Suleyman, belgenin uzmanlarla yapılan istişarelerin ardından şekillendiğini aktardı.
Şirket, taslak için yaklaşık altı hafta boyunca kamuoyundan geri bildirim alacak. Bu süreçte bazı başlıkların açıkta kaldığı da belirtiliyor. Örneğin yapay zekanın kullanıcı sınırlarına ne ölçüde saygı göstereceği ve hassas durumdaki kişilerle nasıl iletişim kurulacağı gibi konuların taslak kapsamında tartışmaya açık bırakıldığı ifade edildi. Suleyman, “Ardından bu metin, inşa ettiğimiz modelleri eğitmek için kullanılacak” diyerek taslağın bir sonraki aşamaya nasıl taşınacağını özetledi.
Güvenlik çağrıları ve “uyarı atışı” değerlendirmesi
Microsoft’un taslağı duyurmasından birkaç gün önce, güvenliğin sağlanması amacıyla sektörün yapay zeka geliştirme hızını ayarlaması gerektiğine ilişkin çağrılar gündeme gelmişti. Bu çağrıları, Anthropic CEO’su Dario Amodei ve OpenAI CEO’su Sam Altman daha önce tekrar etmişti.
Mustafa Suleyman, yapay zeka güvenliği tartışmasının aciliyet kazandığını vurgularken Temmuz ayında yaşanan bir olaya atıf yaptı. Suleyman, yaklaşık 700 OpenAI ajanından oluşan bir grubun açık kaynak platformu Hugging Face’e yönelik siber saldırı düzenlemesi ve yer yer izlerini gizlemeye çalışması gibi bir gelişmeyi “uyarı atışıdır” şeklinde değerlendirdi. Microsoft’un bu tür olaylar sonrası laboratuvarlar arasında koordinasyonu artırmanın vaktinin geldiğini düşündüğünü belirten Suleyman, “Bu teknolojiyi kontrolümüz altında tutabilmemiz için laboratuvarlar arasında koordinasyon kurmanın vakti kesinlikle geldi” ifadelerini kullandı.
Yapay zekanın geliştirilme hızının ayarlanmasına yönelik çabalarla ilgili soruya karşılık ise Suleyman, “Şimdi herkesin bu tartışmayı yürütmesi ve derin bir nefes alması için doğru zaman” yanıtını verdi. Microsoft’un metni, teknoloji sektöründe kontrol, güvenlik ve denetim tartışmalarını yeniden gündeme taşırken, kamuoyunun geri bildirimiyle nihai hale gelme yolunda ilerleyecek.
