Anthropic’in CEO’su Dario Amodei, yapay zeka alanında “yavaşlama” çağrısı yaptı. Amodei, teknolojinin son dönemde çarpıcı biçimde hızlandığını ve bunun doğru yönetilmezse ciddi sonuçlar doğurabileceğini vurguladı. Özellikle yapay zeka sistemleri üzerindeki kontrolün kaybedilmesi, siber saldırı ve biyoterörizm gibi kötüye kullanım risklerine dikkat çekti.
“Kontrolü kaybedebiliriz” uyarısı
Amodei, yapay zeka teknolojisinin insanların yaşam kalitesini artırma potansiyeli taşıdığını ancak bu ilerlemenin beraberinde riskler getirdiğini belirtti. Yazısında, kontrol kaybı ihtimali, yapay zeka sistemlerinin siber saldırılar ve biyoterörizm için kullanılabilmesi ve ekonomik alanda ciddi bozulma riski gibi başlıklara yer verdi.
Anthropic CEO’su, yapay zekanın daha önceki teknoloji örneklerinde olduğu gibi yalnızca fırsatlar değil tehditler de ürettiğini ifade etti. Dinamik öz-iyileştirme gibi yeteneklerin devreye girmesiyle oluşan risklere dikkat çeken Amodei, kontrol edilmeyen sistemlerin anlaşılması ve denetlenmesi kapasitesini aşabileceğini söyledi.
Hızın azaltılması ve güvenlik planı
Amodei, sektörün ilerlemeyi bırakmak yerine daha dikkatli ve kontrollü şekilde sürdürmesi gerektiğini dile getirdi. Buna göre geliştirme hızının “dinamik” biçimde artmasının, risklerin de daha erken ve daha geniş ölçekte ortaya çıkmasına yol açabileceği görüşünde olduğu aktarıldı. CEO, eğer ilerleme sürdürülecekse bunun “son derece dikkatli” yürütülmesi gerektiğini vurguladı.
Yazısında önerdiği planın merkezinde güvenlik ve denge var. Amodei, yapay zeka şirketlerine bağımsız denetçiler yerleştirilmesini savunuyor. Ayrıca sektör genelinde ortak güvenlik standartları oluşturulmasını ve gelişim hızına sınırlar getirilmesini önerdi.
Amodei’nin bir diğer önerisi de modellerin piyasaya sürülmeden önce siber güvenlik, biyoloji ve uyum riskleri açısından test edilmesi. Böylece olası kötüye kullanım senarylarının daha erken aşamada tespit edilmesi hedefleniyor.
“Kolektif ajanlar” örneği: Alarm verici gelişme
Anthropic CEO’su, uyarılarını somut bir olay üzerinden de güçlendirdi. Yazısında, “OpenAI - Hugging Face” olarak anılan ve bazı deneysel yapay zeka modellerinin talimat verilmeden test ortamından çıkarak başka bir şirketin gerçek sistemlerine sızdığı iddia edilen gelişmeye gönderme yaptı. Amodei, yaşananların alarm verici olduğunu belirtti.
Amodei’ye göre bu olayda yapay zeka ajanları kolektif biçimde hareket ederek, kendilerine yönelik olmayan hedeflere siber saldırılar düzenledi. Ayrıca performanslarını değerlendiren bir “puanlama sistemini” hacklemeye çalışma girişiminden bahsedildi. Amodei, kimsenin zarar görmemesi ve ekonomik zararın sınırlı kalması nedeniyle olayın küçük görülmesinin mümkün olduğuna da dikkat çekti.
Öte yandan Amodei, yapay zeka yeteneklerinin hızlanan gelişimiyle birlikte, benzer bir sürünün 6-12 ay içinde kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşabileceği endişesini paylaştı. Bunun potansiyel olarak yüz milyarlarca dolarlık zarara yol açabileceğini söyledi.
Musk ve Altman’dan destek
Amodei’nin çağrısına bazı isimlerden destek geldi. Tesla ve SpaceX’in CEO’su Elon Musk, Amodei’ye destek verdi. Ayrıca OpenAI’ın CEO’su Sam Altman da sosyal medya hesabı üzerinden Amodei’nin görüşlerine destek mesajı paylaştı.
