Yapay zekâ şirketi Anthropic’in araştırmacıları, internete bağlı akıllı cihazların yeni bir siber tehditle karşı karşıya kalabileceği uyarısında bulundu. Şirketin “Frontier Red Team” ekibine göre, küçük yapay zekâ modelleri kısa süre içinde bu cihazlarda kendini kopyalayabilecek ve yayılabilecek yeteneğe ulaşabilir. Araştırma 12 Ekim’de yayımlandı.
Tehdit nedir?
Araştırmanın konusu “yapay zekâ solucanı” denen bir tür zararlı yazılım. Klasik solucanlar kendini bir cihazdan diğerine kopyalayarak yayılıyor. Yapay zekâ solucanında ise yazılımın kendisi, ele geçirdiği cihazda çalışan küçük bir yapay zekâ modeli olacak. Böylece saldırganın merkezi bir sunucuya ya da veri merkezine ihtiyacı kalmayacak. Anthropic’e göre bu yapı, kapatılacak merkezi bir noktası olmadığı için engellenmesi zor bir tehdit oluşturabilir.
Eski nesil saldırılarda, örneğin 2016'daki Mirai solucanında, zararlı yazılım cihazları genellikle fabrika şifrelerini deneyerek ele geçiriyordu. Anthropic’e göre yapay zekâ destekli bir solucan, tanımadığı bir cihazın nasıl çalıştığını da kendi başına çözebilir. Klasik botnetler ise belirli cihaz türleri için yazılıyor.
Deneylerde neler yapıldı?
Araştırmacılar yaklaşık 55 dolardan toplam 15 adet markasız Android TV kutusu satın aldı. Bu cihazlara bölünen 26 milyar parametreli açık ağırlıklı bir yapay zekâ modeli saniyede 0,39 “token” hızıyla çalıştı. Bu hız bir sohbet botu için çok yavaş, ancak acelesi olmayan bir yazılım için yeterli sayılıyor.
Ekibin diğer bulguları şöyle:
- 9 milyar parametreli bir model, denenen 9 donanım türünün 8'inde yapay zekâ çalıştırmayı başardı. Bunlar arasında küçük geliştirici kartlarından Mac bilgisayarlara kadar farklı cihazlar vardı.
- Sekiz sanal Android cihazdan oluşan kapalı bir ağda tam kopyalama döngüsü test edildi. Cihazlara girme adımı kasıtlı olarak çok basit tutuldu. Test edilen açık ağırlıklı modeller arasında yalnızca GLM-5.2 bu döngüyü tamamladı ve beş denemenin dördünde sekiz cihazın tamamına ulaştı.
- 30 milyar parametre ve altındaki modeller bugün bu adımların birçoğunu tek tek yapabiliyor, ama adımları birbirine bağlarken hata yapıyor.
“Birkaç ay” ne anlama geliyor?
Anthropic, küçük modeller geçmişteki hızla gelişmeye devam ederse bu yıl sonuna kadar GLM-5.2'nin seviyesine ulaşabileceğini öngörüyor. Şirket bunun ardından, küçük modellerin kendi başına çalışan kopyalayıcılar haline gelebileceğini belirtiyor.
Araştırmacılar yayılmanın hızlı olmayacağını da söylüyor. Yapılan hesaba göre, Kimwolf gibi 2 milyondan fazla cihazı ele geçiren bir botnetin her 15 cihazında bir kopya çalışsa, yaklaşık 133 bin kopya oluşabilir. Bunların toplam işlem gücü en fazla yaklaşık 40 adet Nvidia H100 yongasına denk gelir ve her kopyalama bir günden uzun sürer. Yani sistem “yavaş ve dağıtık” bir yapıda kalır.
Bu bir tahmin
Anthropic ve konuyu inceleyen teknoloji yayınları ortak bir noktaya dikkat çekiyor: Bugün gerçek dünyada kendi kendine yayılan bir yapay zekâ solucanı yok. Araştırma, böyle bir yazılımın ön koşullarından birini, yani yapay zekânın tanımadığı bir donanımda çalışmasını test ediyor. Şirket, sonuçları gerçek dünyadaki başarı için bir üst sınır olarak görüyor. Çünkü deneylerde cihazlara girme adımı basit tutuldu, ayrıca küçük modellerin kandırma (oltalama) gibi sosyal mühendislik testlerindeki başarısı zayıf kaldı.
Bütün cihazlar da risk altında değil. Bazı akıllı cihazların depolama ve işlem gücü, yapay zekâ modeli çalıştırmak için hiçbir şekilde yeterli değil. Araştırmacılar ayrıca gelecekteki yapay zekâ botnetlerinin yalnızca akıllı cihazlarla sınırlı kalmayacağını, model kopyalamanın saldırganın yöntemlerinden yalnızca biri olacağını belirtiyor.
Savunmanın avantajları
Anthropic savunma tarafının da bazı avantajları olduğunu söylüyor:
- Cihazlar arasında büyük model dosyalarının aktarılması ve normalde birbiriyle konuşmayan cihazlar arasında sürekli veri trafiği, internet servis sağlayıcılarının izlemesinde dikkat çeker.
- Üreticilerin fabrika şifrelerini kaldırarak daha güvenli varsayılan ayarlara geçmesi, hedef alınabilecek cihaz sayısını azaltır.
Uzmanlardan karışık tepkiler
ABD’deki Louisville Üniversitesi’nden yapay zekâ ve siber güvenlik uzmanı Roman Yampolskiy, bulguları önemli bir gelişme olarak değerlendirdi. Teknoloji topluluklarında konunun yorumlanışı da bölünmüş durumda. Bir kesim araştırmayı olağan bir güvenlik testi olarak görürken, bir kısmı bunun açık kaynaklı modellere karşı bir zemin hazırlayabileceğini ileri sürüyor. Gerçek kötü amaçlı yazılım riskinin ise mevcut suç örgütlerinden geldiği de savunuluyor.
Kullanıcılar ne yapabilir?
Anthropic’in raporu bireysel kullanıcılar için özel bir kılavuz sunmuyor. Bununla birlikte siber güvenlik uzmanlarının akıllı cihazlar için önerdiği genel önlemler geçerliliğini koruyor: Cihazların varsayılan şifrelerini değiştirmek, üretici güncellemelerini yüklemek, markasız ve güncelleme desteği olmayan ürünlerden kaçınmak, kullanılmayan cihazları ağdan çıkarmak ve akıllı cihazları ev ağında ayrı bir misafir ağına bağlamak.
