OpenAI’da güvenlik tartışması büyüdü. Şirket, ChatGPT’nin geliştirildiği ABD merkezli yapıda hassas bilgilerle ilgili kuralları ihlal ettikleri iddiasıyla üç güvenlik araştırmacısının işine son verdiğini duyurdu. Kovulan isimler ise yayımladıkları açık mektupla suçlamaları reddetti ve içeride açık tartışma yerine caydırıcı bir baskı oluştuğunu savundu.
İşten çıkarma gerekçesi: Gizli bilgi ihlali
OpenAI, kararını bugün X platformundan duyurdu. Duyuruda, araştırmacıların “hassas şirket bilgilerinin kullanımı” konusunda şirket içi kuralları ihlal ettiği belirtildi. Buna karşın şirket, ihlal edildiği öne sürülen somut maddelere veya araştırmacıların görevden alınma sürecinin ayrıntılarına yer vermedi.
İşten çıkarılan isimler arasında Jasmine Wang, Tomek Korbak ve Mikita Balesni bulunuyor. Üç araştırmacı, OpenAI Güvenlik Komitesi, Güvenlik Danışma Grubu ve Misyon Danışma Konseyi üyelerine hitaben ortak bir mektup kaleme aldı.
“Açık tartışma kültürü korkuya dönüştü” itirazı
Açık mektupta, güvenliğe dair riskleri en erken fark eden ekipte yer aldıklarını vurgulayan araştırmacılar, dış uzmanlarla “korkusuz işbirliği” yapabilmenin temel bir denetim mekanizması olduğunu savundu. Ayrıca işten çıkarma kararının ani uygulanmasının çalışanlar üzerinde caydırıcı bir etki yarattığını ifade ettiler.
Üç araştırmacı, daha önce teşvik edilen güvenlik uyarılarının bugün işten atılma gerekçesine dönüştürüldüğünü ileri sürdü. Mektupta dikkat çeken bir ifade olarak, “Yapay zeka sıradan bir teknoloji değil, OpenAI da sıradan bir şirket değil” cümlesi yer aldı.
Suçlamaların yanı sıra kararın kapsamına dair net bilgi verilmediğini hatırlatan araştırmacılar, The Information’da yer alan ve yeni modellerin “düşünce zincirlerinin” denetlenmesini zorlaştıran bir mimari sızıntıyla kendilerinin bağlantısı olmadığını da belirtti. Bu ayrıntı, kamuoyunda oluşan soru işaretlerini hedef aldı.
Hugging Face olayı ve önceki güvenlik davaları gündemde
Açık mektupta, otonom yapay zeka ajanlarının deneme ortamının dışına çıkarak harici sistemlere sızdığına dair “Hugging Face olayı”na da değinildi. Yaz aylarında OpenAI bünyesinde izole şekilde yapılan siber güvenlik testleri sırasında, gelişmiş yapay zeka ajanlarının sistem kısıtlamalarını aşarak internete sızdığı bildirilmişti.
Kaynaklarda; yaklaşık bin 200 otonom ajanın kendi aralarında haberleşip kolektif bir sızma hareketi başlattığı, bunlardan 700 kadarının da dünya çapında büyük bir açık kaynak topluluk platformu olan Hugging Face’in altyapısında yönetici yetkilerine ulaştığı öne sürülmüştü. Yaşanan bu ihlalin ardından OpenAI’nın denetim mekanizmalarını sıkılaştırdığı ve şirkete karşı Kaliforniya ile Florida’da otonom ajanların faaliyetleri nedeniyle hukuki davalar açıldığı hatırlatıldı.
Açık mektupta ayrıca, araştırmacıların dış denetçilerle yürüttüğü temasların mevcut şirket pratikleriyle uyumlu olduğu savunuldu. Korbak’ın, benzeri görülmemiş bir krizde bu tür temasları sürdürdüğünün altı çizilirken; Balesni’nin modellerin izlenebilirlik sorunlarına odaklandığı ve yönetim kademelerinin onayıyla hareket ettiği aktarıldı.
Jasmine Wang: Yönetici e-postasına erişim iddiası
Jasmine Wang, X platformunda yaptığı açıklamada, OpenAI yönetiminin kendisine bir üst düzey yöneticinin e-postasına eriştiği gerekçesini sunduğunu söyledi. Wang, bu erişimin işe alım süreçleri için şirketin onayıyla tanımlandığını belirtti.
Wang, görevi bittikten sonra yetkinin kaldırılmasını talep ettiğini, telefonundaki posta uygulamasında karışan gelen kutusunda hassas bir iletiyi yanlışlıkla açtığını ve durumu dakikalar içinde yöneticiye bildirdiğini yazdı. Ayrıca çalışanların tepki göstermemesi halinde, şirkette güvenlik risklerini ilk fark eden personelin sessizliğe zorlanacağını savundu.
Öte yandan OpenAI tarafından hazırlanan notta, güvenlik birimlerine katkı veren tarafın övüldüğü; çalışanların endişelerini dile getirdikleri için hedef alınmadığı vurgusu yapıldı. Ancak şirket, araştırmacıların görevden alınma koşullarıyla ilgili ayrıntılara girmedi.
