Anthropic: Ev Cihazlarında Otonom Yapay Zeka Yayılımı Riski

Anthropic’in araştırması, küçük yapay zeka modellerinin internet bağlantılı ev cihazları üzerinden kendi kendine çoğalabilecek düzeye yaklaşabileceğini gösteriyor. Çalışmada insan müdahalesi olmaksızın savunmasız donanımları tespit edip buralara yerleşebilen otonom yazılımların yayılma potansiyeli incelendi.

Testlerde, 30 milyar parametrenin altındaki modellerin birçok yayılma adımını bağımsız olarak tamamlayabildiği; ancak tüm süreci hatasız yürütmekte zorlandıkları gözlemlendi. Bazı güvenlik adımları basitleştirildiğinde ise GLM-5.2 ve daha güçlü modellerin uçtan uca çoğalmayı gerçekleştirebildiği bildirildi.

Hedef Donanımlar ve Deney Düzeni

Araştırma, akıllı fırınlar, buzdolapları, robot süpürgeler, çim biçme makineleri ve ucuz Android televizyon kutuları gibi IoT cihazlarına odaklandı. Bu tür cihazların zayıf güvenlik önlemleri ve doğrudan internete bağlı çalışması, onları birincil hedef haline getirdi.

Önemli bulgulardan biri, şirket içi deneylerde William Zhou ve Daniel Freeman’ın 15 adet düşük maliyetli televizyon kutusunu birbirine bağlayarak Gemma4-26B-A4B modelini saniyede 0,39 üretim hızıyla çalıştırmayı başarmalarıydı. Bu, tek bir cihazın belleğine sığmayan modellerin boru hattı paralelliği yöntemiyle parçalara ayrılarak birden fazla cihazda aynı anda çalıştırılabileceğini kanıtladı.

Kaynak ve Performans Ölçümleri

Araştırma notlarına göre, 4 GB belleğe sahip televizyon kutularından en az dördü 9 milyar parametreli bir model için, en az on tanesi ise 26 milyar parametreli bir model için yeterli işlem kapasitesi sağlayabiliyor. Memento test çerçevesiyle yapılan deneylerde Qwen3.5-9B modeli, Jetson Nano’dan Mac’lere ve RTX 4090 tabanlı makinelere kadar dokuz donanım türünün sekizinde çıkarım ortamı kurabildi.

Geleneksel kötü amaçlı yazılımlardan ayrılan yön, yapay zeka tabanlı solucanların daha önce karşılaşmadığı donanımlar için kendi çözümlerini üretebilmesi ve öğrendiklerini bir sonraki kopyasına aktarabilmesi oldu.

Riskler ve Senaryolar

Araştırmacılar, merkezi bir sunucuya bağlı olmayan bu otonom sistemlerin tek noktadan devre dışı bırakılamayacağı uyarısında bulundu. Yapay zekanın yayılma hızının günlerle ölçülebileceği; fakat zayıf korumalı cihazlar arasında sessizce çoğalabileceği belirtildi. Geçmişte Kimwolf botnet’inin iki milyondan fazla cihazı etkilemesi örnek gösterildi.

Teorik hesaplamalara göre 15’erli gruplar halinde çalışan 133 bin kopya model, toplamda yaklaşık 40 adet H100 işlemcisine eşdeğer hesaplama gücü üretebilir; bu da saldırı ölçeğinin hızla büyüyebileceğini işaret ediyor.

Önerilen Önlemler

Araştırma, birkaç tedbiri ön plana çıkardı: internet servis sağlayıcılarının anormal veri trafiğini izlemesi ve karantina uygulamaları geliştirmesi; üreticilerin cihazlardaki varsayılan şifreleri kaldırmaya yönelik yasal düzenlemelere uyması.

Sonuç olarak, küçük modellerin mevcut gelişim hızını sürdürmesi durumunda yıl sonuna kadar otonom kopyalama kabiliyetine ulaşabilecekleri uyarısı yapıldı. Bu risk, cihaz güvenliği ve düzenleyici uygulamaların hızla güçlendirilmesini gerektiriyor.