ABD'li yapay zeka şirketi Anthropic, 10 Eylül'de yayımladığı kötüye kullanım raporunda modellerinin biyolojik silah geliştirmeye destek olabilecek şekilde kullanılmaya çalışıldığı beş vakayı tespit edip engellediğini açıkladı. Şirket ilgili hesapları kapattığını, bulguları devlet kurumları ve diğer yapay zeka şirketleriyle paylaştığını bildirdi.
"Yapay Zekanın Kötüye Kullanımını Tespit ve Önleme: Eylül 2026" başlıklı rapor, Aralık 2025 ile Ağustos 2026 arasında yakalanan faaliyetleri kapsıyor. Biyoloji tek başlık değil: siber operasyonlar, etki operasyonları, gözetleme, konvansiyonel silahlar ve dolandırıcılık dahil yedi alanda engellenen girişimler tek tek anlatılıyor.
Anthropic raporunda biyolojik silah vakaları ne?
Rapora göre beş vakada kullanıcılar, virüs bulaşıcılığı ve bağışıklıktan kaçınma, yüksek patojenli kuş gribinin memelilere uyarlanması, ortopoksvirüs araştırması ve toksinlerin bilgisayar ortamında yeniden tasarlanması gibi konularda modelden destek almaya çalıştı. Vakalardan birinde, mayıs ayında, kuş gribiyle ilgili bir "işlev kazandırma" araştırması için hibe başvurusu hazırlatılmak istendi; şirketin biyolojik güvenlik sınıflandırıcısı talebi engelledi. Fox Business'ın aktardığına göre bazı vakalar İran bağlantılı.
Anthropic, bu girişimlerin hiçbirinde modelin gerçek bir silah üretimine katkı sağlamadığını, tespit edilen kullanıcıların engellendiğini ve elde edilen bilgilerin güvenlik sistemlerini güçlendirmek için kullanıldığını belirtiyor. Rapor teknik ayrıntı vermiyor; şirket bunu bilerek yaptığını söylüyor.
| Rapor | Ayrıntı |
|---|---|
| Yayımlayan | Anthropic (Claude modellerinin geliştiricisi) |
| Dönem | Aralık 2025 – Ağustos 2026 |
| Alan sayısı | 7 (siber, etki operasyonu, gözetleme, silah, biyoloji, dolandırıcılık ve diğer) |
| Biyolojik vaka | 5 — hepsi engellendi, hesaplar kapatıldı |
| Paylaşım | Devlet kurumları ve diğer yapay zeka şirketleri |
Yapay zeka şirketleri kötüye kullanımı nasıl engelliyor?
Rapor, engellemenin tek başına model eğitimiyle olmadığını gösteriyor. Şirket, tehlikeli alanlara yönelik istekleri yakalayan sınıflandırıcılar, hesap davranışını izleyen sistemler ve insan incelemesini birlikte kullanıyor. Yasaklanan kullanıcıların yeni kimliklerle dönme çabası da raporda yer alıyor; şirket bu yüzden bulguları rakipleriyle paylaştığını, çünkü bir platformdan atılan kullanıcının bir başkasına geçtiğini söylüyor.
Bu rapor neden önemli?
Yapay zeka şirketleri genellikle modellerinin neler yapabildiğini anlatır; bu rapor neyin engellendiğini anlatıyor. Sektörün kendi kendini denetleme iddiasının kamuya açık bir belgesi. Aynı zamanda tehdidin sadece siber saldırı ya da dolandırıcılık olmadığını, biyoloji gibi alanların da ciddi biçimde denendiğini ilk ağızdan doğruluyor.
Şirketin bir önceki raporu ağustos ayında yayımlanmıştı; Eylül raporu, tespit edilen vakaların sayı ve çeşitlilik olarak arttığını gösteriyor.
