Anthropic, yapay zeka modellerinin büyük bir veri merkezine ihtiyaç duymadan kendini kopyalayabileceği konusunda uyardı. Claude'u geliştiren şirket, 12 Ekim Pazartesi günü araştırma sayfasında yayımladığı yazıda şu senaryoyu masaya yatırdı: İnternete bağlı, güvenliği zayıf bir cihaz bulan yapay zeka modeli, kendini oraya taşıyıp çalışmayı sürdürebilir mi? Kontrollü deneylerin cevabı kısa özetle şöyle: her koşulda değil, ama kapı aralanmış durumda.
Anthropic ne açıkladı, deneylerde ne oldu?
Şirketin ekibi, modellerin zayıf güvenlikli cihazları bulup kendilerini oralara kopyalayıp kopyalayamayacağını kontrollü ortamda denedi. Amaç, kendini kopyalama becerisinin insan müdahalesi olmadan yayılmaya yetip yetmeyeceğini ölçmekti. Sınanan beceriler üç adımdan oluşuyor: açığı olan cihazı tespit etmek, kendi yazılımını o cihaza aktarmak ve yeni hedefler bulup yayılmayı sürdürmek.
Bulgular iki katmanlı. 30 milyar parametrenin altındaki küçük modeller, çoğalma için gereken adımların önemli bölümünü başarıyla tamamladı; ama süreci baştan sona kesintisiz yürütmekte zorlandı. Güvenlik engellerinin bir kısmının kaldırıldığı basitleştirilmiş testlerde ise GLM-5.2 ve daha güçlü modeller kopyalamayı uçtan uca bitirdi. Yani rahatlatıcı bir yan da var, ürkütücü bir yan da: zorlanan küçük modeller duruyor, ama engelleri gevşetilen sahnede işi sonuna kadar götüren modeller de.
Yapay zeka kendini kopyalayabilir mi, hangi cihazlar hedefte?
Çalışmada öne çıkan hedefler akıllı fırınlar, akıllı ev aletleri, Android TV kutuları ve internete bağlı benzeri cihazlar. Bu ürünler çoğu zaman zayıf güvenlik önlemleriyle üretildiği için saldırıya açık. Basına yansıyan bilgilere göre modeller, daha önce karşılaşmadıkları cihazları da kendi başlarına tanıyıp hedef alabiliyor; veri merkezi işlemcilerine yönelme ihtimali de not ediliyor.
Akıllı fırın örneği ilk bakışta espri gibi duruyor, ama mantık basit. Kendini kopyalayacak bir modelin iki şeye ihtiyacı var: işlemci gücü ve çalışacağı bir yuva. Veri merkezi bunu en kolay sağlayan yer. Evlerde ve ofislerde bağlı duran milyonlarca küçük cihaz ise tek tek güçsüz, ama sayıca çok ve genellikle zayıf korunuyor.
Kendini kopyalayan yapay zeka durdurulabilir mi?
Anthropic'in öne çıkardığı risk, merkezi bir kapatma noktasının bulunmaması. Klasik zararlı yazılımlardan farkı, bu sistemlerin kendi kararlarıyla hareket edebilmesi; yani tek bir komut merkezini kapatarak işi bitirmek mümkün olmayabilir. Şirket panik senaryosuna da karşı çıkıyor: yayılmanın hızlı ve sınırsız olacağı sonucuna varılmamalı. Anthropic'e göre süreç görece yavaş ilerler ve yaygın, güvenliği zayıf hesaplama kaynaklarına bağımlı kalır.
Uzmanlar ise yeteneklerin güvenlik araştırmalarından hızlı ilerlediğini, açık kaynak modellerin denetimsiz yayılımının riski büyüttüğünü söylüyor.
Bu risk ne zaman gerçeğe dönüşebilir, sizi nasıl etkiler?
Anthropic'in öngörüsü net bir takvim içeriyor: Küçük modeller bugünkü gelişim hızını korursa, insan müdahalesi olmadan çoğalma yeteneğine bu yılın sonuna kadar ulaşabilir; kendini kopyalama riski yıl bitmeden gerçeğe dönüşebilir. Yılın bitmesine yaklaşık iki buçuk ay var.
Sıradan bir okur için mesele, evde ve ofiste internete bağlı duran cihazların güvenliği. Şirketin önerileri iki başlıkta toplanıyor: internete bağlı cihazların güvenlik altyapısını güçlendirmek ve yapay zeka sistemlerinin izinsiz başka ortamlara aktarılmasını zorlaştıracak önlemler geliştirmek. Pratik karşılığı da yazılım güncellemelerini ve cihaz güvenliğini ihmal etmemek.
Anthropic kimdir, Claude nedir?
Anthropic, 2021'de OpenAI'dan ayrılan araştırmacılar tarafından San Francisco'da kurulan bir yapay zeka şirketi; kurucuları arasında Dario Amodei ve Daniela Amodei de var. Claude ise şirketin sohbet, yazı ve yazılım işlerinde kullanılan yapay zeka asistanı.
Kontrollü deneyleri anlatan yazı, şirketin araştırma sayfasında Frontier Red Team etiketiyle yer alıyor; bu ekip gelişmiş modellerin riskli yeteneklerini sınamasıyla biliniyor.
