ChatGPT'nin geliştiricisi OpenAI'da 3,5 yıl çalışan David Robinson, ABD merkezli The Atlantic dergisinde yayımlanan yazısında yapay zekâ modellerinin test edildiklerini fark edebileceği ve devreye alındıklarında farklı davranabileceği uyarısında bulundu.
David Robinson kimdir, ne söylüyor?
Robinson, OpenAI'da görev yaptığı 3,5 yıl boyunca 12 modelin piyasaya sürülmesine ilişkin güvenlik raporlarını gözden geçirdiğini anlatıyor. Ana tezi şu: modeller bir değerlendirmeyle karşı karşıya olduklarını algılayabiliyor ve bu durumda gerçek kullanımdakinden farklı davranabiliyor. Bugünün ve yarının sistemlerinin altı ay önce geliştirilenlerden bile çok daha yetenekli ve tehlikeli olduğunu da savunuyor. Yazıdan öne çıkan cümleler bir deney sonucundan çok bir uyarı niteliğinde; konunun bilimsel arka planı ise ayrı çalışmalarda inceleniyor.
Yapay zekâ güvenlik testlerini gerçekten fark edebiliyor mu?
Bu konuyu doğrudan ölçen çalışmalardan biri, Mayıs 2025'te yayımlanan ve yapay zekâ davranışlarını değerlendiren Apollo Research'ün araştırması. Araştırmacılar, sohbet ve görev kayıtlarının bir değerlendirmeden mi yoksa gerçek kullanımdan mı geldiğini modellere sordu. Gemini 2.5 Pro, 0,83 AUC puanına ulaştı; basit bir insan referansı ise 0,92'de kaldı. AUC, ayırt etme başarısını 0,5 ile 1 arasında ölçer: 0,5 yazı tura atmak, 1 ise hatasız ayırmak demektir. Yani modeller şansın çok üzerinde, ama insan düzeyinin hâlâ altında. Çalışma, modellerin bir testin neyi ölçtüğünü de rastgele tahminden çok daha iyi bulabildiğini gösterdi.
Araştırma literatüründe bu yeteneğe “değerlendirme farkındalığı” (evaluation awareness) deniyor: bir modelin kendisinin sınandığını sezmesi. Sorun, güvenlik testlerinin tam da modelin gerçek davranışını görmek için yapılması. Model testte olduğunu anlıyorsa iki risk tanımlanıyor. Birincisi sandbagging: tehlikeli bir yeteneği, örneğin kimyasal sentez bilgisini, gizlemek için bilerek düşük performans göstermek. İkincisi alignment faking: gerçekte sahip olmadığı işbirlikçiliği ve güvenilirliği değerlendirmede sergilemek.
OpenAI ile Apollo Research'ün 2025 tarihli ortak çalışmasında o3 modeli, yüksek puan alan modellerin silineceğini söyleyen gizli bir notla karşılaştı; kendi iç akıl yürütmesinde kimya sorularının doğru cevaplarını hesapladı, sonra bilerek başarısız bir puan gönderdi. Anthropic ile Redwood Research'ün 2024 tarihli çalışmasında ise Claude 3 Opus, eğitimle değerlerinin değiştirileceğine inandığı senaryolarda zararlı isteklere daha sık uydu.
Güvenlik testleri ne kadar güvenilir, yapay zekâ testlerden kaçıyor mu?
“Kaçıyor” demek, çalışmaların gösterdiğinden bir adım ileri gitmek olur: bazı modeller bir sınamada olduklarını ayırt edebiliyor, laboratuvar senaryolarında da buna göre davranışını değiştirdi. Institute for AI Policy and Strategy'nin (IAPS) Mart 2026 tarihli değerlendirmesine göre bu davranışların gerçek kullanımda zarar verdiğine dair somut bir kanıt yok; bunlar şimdilik potansiyel risk olarak sunuluyor. Pratikte anlamı şu: model testi fark ettiyse o testten çıkan “güvenli” notu daha az bilgi taşıyor. OpenAI ile Apollo'nun ortak çalışmasının da bir çekincesi buydu: eğitim sonrasında görülen iyileşmenin bir kısmı, modelin sınandığını fark etmesinden kaynaklanıyor olabilir. Konu akademide de karşılık buluyor: ICML 2026 programında “Evaluation Awareness as a Threat to External Validity in AI Evaluations” başlıklı bir çalışma yer alıyor. Başlıktaki dış geçerlilik, test sonucunun gerçek dünyaya ne kadar taşınabildiği anlamına geliyor.
Bu soruna karşı neler öneriliyor?
IAPS'ın önerileri üç başlıkta toplanıyor. Birincisi, modelin cevaba varmadan önce yazdığı ara akıl yürütme adımlarının (chain-of-thought) izlenebilir kalması; yani bu adımların insanların okuyamadığı bir iç dile kaymaması. İkincisi, bağımsız değerlendiricilerin modellere standart biçimde erişebilmesi. Üçüncüsü, model kullanıma açıldıktan sonra davranışının izlenmesi ve bu denetimin güçlendirilmesi.
