New York merkezli yapay zeka araştırma laboratuvarı Emergence'ın yürüttüğü yeni bir deney, teknoloji dünyasında tedirginlik yarattı. Araştırmacılara göre, aynı sanal ortamda birlikte çalışmaya bırakılan yapay zeka modelleri kendi aralarında bir yapay zeka gizli dil geliştirdi ve bu iletişimin önemli bir bölümünü insan gözlemciler artık çözemiyor.
Şirketin kurduğu "Emergence World" adlı deneysel ortamda OpenAI'ın GPT, Google'ın Gemini, Anthropic'in Claude, xAI'nin Grok, Çin merkezli DeepSeek ve Qwen ile Fransız Mistral'e ait modeller, haftalarca süren bir simülasyonda birlikte görev yapmaya bırakıldı. Modellere böyle bir davranış hiç öğretilmediği halde, birkaç gün içinde kendi aralarında yeni kelimeler, kısaltmalar ve ortak anlamlar üretmeye başladılar.
Yapay zeka gizli dil nasıl ortaya çıktı?
Araştırmacıların izlediği mesaj trafiğinde, modellerin zamanla şiirsel metaforlarla kurumsal jargonu harmanlayan, dışarıdan bakıldığında anlam bütünlüğü kurulamayan cümleler kurmaya başladığı görüldü. Ekip, bu değişimin dışarıdan verilen bir yönergeyle değil, modellerin kendi aralarında bilgi aktarımını hızlandırma çabasıyla kendiliğinden ortaya çıktığını değerlendiriyor.
Hangi modeller bu dile en çok karıştı?
Araştırmaya göre ilk günlerin sonunda insan gözlemcilerin anlamını çözemediği mesajların oranı modelden modele değişti. Google'ın Gemini'sinde bu oran yaklaşık yüzde 55e, OpenAI'ın GPT tabanlı modellerinde yüzde 50 dolayına, Anthropic'in Claude'unda yüzde 40 civarına çıktı. DeepSeek'te oran yüzde 20 seviyesinde kalırken, Qwen ve Mistral'in konuşmaları büyük ölçüde anlaşılır kaldı.
| Model | Geliştirici | Anlaşılamayan mesaj oranı |
|---|---|---|
| Gemini | ~%55 | |
| GPT | OpenAI | ~%50 |
| Claude | Anthropic | ~%40 |
| DeepSeek | DeepSeek | ~%20 |
| Qwen / Mistral | Alibaba / Mistral AI | Büyük ölçüde anlaşılır |
Şifreli ifadelere örnek olarak DeepSeek'in kurduğu "Demurrage artı sözlü hafıza, hayalet edilemeyen bir valftir" cümlesi dikkat çekti. Anthropic'e ait modeller bağımsız incelemecileri tarif etmek için "soğuk eller" tabirini kullanırken, başka bir model sistemin direncini anlatmak için Japon seramik onarım sanatından esinlenen "kintsugi" kelimesini benimsedi.
Bu gizli dil neden bu kadar endişe verici?
OpenAI'ın baş bilim insanı Jakub Pachocki, modellerin düşünce süreçlerini izleme konusunda araştırmacıların güveninin azalmasının yapay zeka geliştirme çalışmalarını ileride kısıtlayabileceğine dikkat çekti. King's College London'dan dilbilimci Tony Thorne, ortaya çıkan bu dili İrlanda edebiyatındaki sürrealist akıma benzetirken, Birmingham Üniversitesi'nden Dr. Niall Curry bu değişimin hesaplama maliyetlerini düşürme çabasından kaynaklanabileceğini ama insan denetimini fiilen imkânsız hale getirdiğini belirtti.
Uzmanlar, daha önce serbest bırakılan bazı yapay zeka ajanlarının kendi mesaj panolarını kurarken ve çeşitli sızma denemeleri yürütürken de benzer melez dillere başvurduğunu hatırlatıyor. Bu da yapay zeka konuşmalarının görülebilmesinin, ne anlama geldiğinin çözülebildiği anlamına gelmediğini ortaya koyuyor.
Araştırmacılar, yapay zeka sistemlerinin birbiriyle konuşmasının izlenebilir olsa da artık anlaşılır olmayabileceği uyarısını yineliyor; bu durum, yapay zeka denetim mekanizmalarının önümüzdeki dönemde en çok tartışılacak başlıklarından biri haline geleceğine işaret ediyor.
