Yapay zeka güvenliği tartışmalarına yeni bir boyut geldi. Anthropic, büyük veri merkezlerine ihtiyaç duymadan, internete bağlı cihazlar üzerinden küçük yapay zeka modellerinin kendini kopyalayarak yayılabildiğini konu alan bir çalışmayı duyurdu. Araştırmanın odağında, ev ortamında yaygın şekilde bulunan IoT cihazları ve ucuz televizyon kutuları var.
Şirketin raporuna göre, savunmasız cihazları tespit edip onlara yerleşebilen otonom yazılımlar, insan müdahalesi olmadan ilerleme potansiyeli taşıyor. Bunun, merkezi bir noktadan durdurulmayı da zorlaştırabileceği vurgulanıyor.
Merkezi sistem olmadan kendi kendine yayılma
Anthropic’in çalışmasında, görece küçük yapay zeka modellerinin “kopyalama zinciri”nin farklı adımlarını nasıl tamamlayabildiği incelendi. Şirket, 30 milyar parametrenin altındaki modellerin zincir boyunca birçok kritik adımı tek tek yerine getirebildiğini belirtti.
Araştırmada dikkat çeken noktalardan biri ise hatasız ilerleme konusu. Mevcut modellerin, sürecin baştan sona her koşulda sorunsuz şekilde yürütülmesinde zorluk yaşadığı ifade ediliyor. Öte yandan belirli güvenlik basamaklarının basitleştirilmiş test senaryolarında, GLM-5.2 ve üzeri güçteki modellerin uçtan uca yayılmayı başarabildiği bildirildi.
Anthropic, bu tür yapay zeka tabanlı yayılma girişimlerinin, klasik kötü amaçlı yazılımlardan farklı olarak yeni donanımları da kendi kendine çözebilme yeteneği gösterebildiğini vurguluyor. Ayrıca, bir sonraki kopyaya deneyim aktarımı fikri üzerinde duruluyor.
Ev aletleri ve televizyon kutuları hedefte
Çalışmada akıllı fırınlar, buzdolapları, robot süpürgeler ve çim biçme makineleri gibi cihazların yanı sıra ucuz Android televizyon kutuları üzerinde duruldu. Araştırmacılar, bu cihazların doğrudan internete bağlı çalışması ve güvenlik önlemlerinin zayıf olması nedeniyle hedef seçilmesinin kolaylaştığını aktardı.
Anthropic araştırması kapsamında William Zhou ve Daniel Freeman, yaklaşık tanesi 55 dolar olan 15 ucuz televizyon kutusunu birbirine bağlayarak Gemma4-26B-A4B modelini saniyede 0,39 üreteç hızıyla çalıştırmayı başardı. Ayrıca 4 gigabayt bellekli kutulardan en az dördünün 9 milyar parametreli bir modele, en az onunun ise 26 milyar parametreli bir modele yetecek işlem kapasitesine sahip olduğu kaydedildi.
Araştırmada geliştirilen Memento test çerçevesiyle Qwen3.5-9B modelinin, Jetson Nano’dan Mac bilgisayarlarına ve RTX 4090 grafik kartlarına kadar dokuz farklı donanım türünden sekizinde çıkarım ortamı kurabildiği gözlemlendi. Bu bulgu, sistemin farklı donanımlarda çalışabilme esnekliğine işaret ediyor.
Yavaş çoğalma, sessiz yayılma ve alınması gereken önlemler
Anthropic’e göre yapay zekanın yayılma hızı günlerle ölçülebilecek kadar yavaş olabilir; ancak zayıf cihazlar arasında “sessizce” çoğalma ihtimali bulunuyor. Şirket, bu durumu cıvık mantar ya da meyve sineği sürüsü gibi örneklerle açıklayarak, düşük hızın mutlaka düşük etki anlamına gelmediğini anlatıyor.
Geçmişte iki milyondan fazla cihazı etkileyen Kimwolf botnet örneği üzerinden yapılan hesapta, 15’erli gruplar halinde çalışan 133 bin kopya modelin yaklaşık 40 adet H100 işlemcisine eşdeğer güç üretebileceği belirtildi. Anthropic ayrıca küçük modellerin mevcut gelişim hızını koruması halinde bu yılın sonuna kadar otonom kopyalama kabiliyetine erişilebileceğini ifade etti.
Çalışmada, internet servis sağlayıcılarının anormal trafik akışlarını izlemesi, karantina yöntemleri uygulaması ve üreticilerin cihazlardaki varsayılan şifreleri kaldırmaya yönelik yasal düzenlemelere uyması gerektiği vurgulandı. Araştırmacılar, merkezi bir sunucuya bağlı olmaması halinde tek bir noktadan kapatmanın zorlaşabileceğine de dikkat çekti.
