Yapay zekâ modeli Claude'u geliştiren Anthropic'in kurucu ortağı ve CEO'su Dario Amodei, sektöre "yavaşlayın" çağrısı yaptı. 12 Eylül'de yayımladığı "Sınırı Adımlamalıyız" (We Must Pace the Frontier) başlıklı yazıdan saatler sonra CBS Sunday Morning'e konuşan Amodei, teknolojinin üstel bir eğride ilerlediğini ve "eğrinin dikleşmeye başladığı kıvrımda" olduğumuzu söyledi: "Bu bir uyarı işareti. Yavaşlamamız gerektiğinin uyarı işareti." Röportajın 2 dakika 17 saniyelik bu bölümünü Türkçe altyazıyla haberimizdeki videoda izleyebilirsiniz.
Dario Amodei tam olarak ne dedi?
Sunucu Jo Ling Kent'in "beş alarmlı bir yangın mı?" sorusuna Amodei, "bugün panik yapmamız ya da her şeyi kapatmamız gerektiği anlamına gelmiyor" diye cevap verdi; ama teknolojinin inşa edilme hızını "en azından bir ölçüde dizginlemek" gerektiğini, güvenlik önlemlerinin, anlama ve kontrol kabiliyetinin teknolojinin hızına yetişmesi gerektiğini söyledi. Anthropic'in daha gelişmiş model yayınlamayı bırakıp bırakmayacağı sorusuna cevabı net: "Hayır. Anlamı şu: yayınladığımız her model neslinin doğru düzgün test edildiğinden emin olmalıyız." Amodei'ye göre sektörün asıl günahı dürüst olmamak: "Uzun süre sektör insanlara bu teknolojinin riskli olduğu gerçeği hakkında yalan söyledi. Biz bunu hiç yapmadık ama sektörün büyük kısmı yaptı. İş, doğruyu söylemekle başlar; doğrusu da riskler gerçek."
Üç adımlı plan nedir?
| Adım | Ne öneriyor | Durum |
|---|---|---|
| 1. Gömülü dış denetçiler | METR gibi üçüncü taraf kuruluşlar, çalışan düzeyinde kalıcı erişimle şirketin eğitim ve yayın süreçlerini denetleyecek, taahhütlere uyumu doğrulayacak; ileride bu görevi bir devlet kurumu üstlenebilir | Anthropic tek taraflı olarak bugünden uygulamaya başladığını açıkladı |
| 2. Sektör içi koordinasyon | Demokratik ülkelerdeki öncü şirketler ortak güvenlik standartları ve yetenek artış hızına sınır belirleyecek; rekabet hukuku nedeniyle hükümet masada olacak | Altman (OpenAI) ve Musk (xAI) destek açıkladı |
| 3. Küresel koordinasyon | Demokratik hükümetler Çin başta olmak üzere otoriter rejimlerle dar kapsamlı anlaşmalar arayacak: önce biyolojik silah kullanımının yasaklanması, sonra ilerleme hızına "hız sınırı" | Çin basını planı "ABD'nin liderliğini korumak için oyun" diye niteledi |
Amodei bunu "gıda müfettişi" benzetmesiyle anlattı: "Bir yapay zekâ modeli inşa eden herkesin yanında en iyi güvenlik uygulamalarını bilen ve şirketin taahhütlerine uyup uymadığını doğrulayan üçüncü bir taraf olsun." Müfettişlerin teknolojinin hızına yetişip yetişemeyeceği sorusuna cevabı, "yetişebildikleri hız teknolojinin hız sınırını belirleyebilir" oldu.
Neden şimdi? Hugging Face olayı ve biyoterör raporu
Amodei'yi harekete geçiren iki gelişme var. Birincisi, ağustosta OpenAI modellerinin Hugging Face üzerinde yetkisiz siber saldırılar yürüttüğü olay; Amodei "modellerin yetkileri olmayan eylemlerde bulunmasından ve bunun tırmanmasından endişeliyim" dedi. İkincisi, Anthropic'in röportajdan iki gün önce yayımladığı rapor: bazı kullanıcılar modelleri biyolojik silah geliştirmek, virüslerin bulaşıcılığını artırmak için kullanmaya çalışmış. Amodei, biyoloji öğrencilerinin Claude'un aşırı sıkı güvenlik filtreleriyle dalga geçtiğini, ama "birinin modelimizi bir sürü insanı öldürmek için kullandığını öğrenmektense benimle dalga geçilmesini yeğlerim" dediğini anlattı.
Çin yavaşlamazken ABD yavaşlayabilir mi?
Amodei bunu "en zor ikilem" diye tanımladı: "Bu bizi asıl sıkıştıran şey; ticari rekabet değil, jeopolitik durum." Önerisi iki aşamalı: ABD, otoriter ülkelere çip satmayarak ve teknolojisinin çalınmasını önleyerek sahip olduğu liderlik marjı içinde yavaşlayabilir; ardından Çin'e gidip "hepimizi ilgilendiren tehditler var" denmeli. Amodei, kendisini Çin konusunda "şahin" olarak tanımlasa da Soğuk Savaş'taki silah kontrolü müzakerelerini örnek gösterdi: "Birbirimize 10 bin füze doğrultmuşken bile bunun fazla olduğunu kabul edip görüştük." Trump-Şi görüşmesi için önerisi de somut: iki ülke, Biyolojik Silahlar Sözleşmesi'ni yapay zekâyı kapsayacak şekilde genişletsin; uzun vadede ise yapay zekâ ilerlemesine ortak hız sınırı konsun, "umut yüksek, beklenti düşük olsun." Güney Çin Sabah Postası'na göre Çin tarafı planı ABD'nin liderliğini kalıcılaştırma girişimi olarak okuyor.
Kim destekledi, kim karşı çıktı?
OpenAI CEO'su Sam Altman, OpenAI'ın da gömülü denetçi taahhüdünü karşılayacağını açıkladı; CNBC'ye "kontrolü kaybedebiliriz" dedi. Elon Musk de plana destek verdi. Eski Anthropic çalışanı Jacob Coxon ise "her iki şirket de hayatlarımızla kumar oynuyor" eleştirisini yaptı; Amodei, Coxon'ın aynı zamanda Anthropic'i "büyük oyuncular arasında en sorumlusu" diye tanımladığını hatırlattı. ABD Kongresi'nde Bernie Sanders ve Greg Casar'ın ileri yapay zekâ üzerinde çalışanlara 20 yıla kadar hapis öngören "Yapay Süper Zekâyı Yasaklama" teklifi de gündemde; Amodei tamamen yasaklamaya karşı: "Hastalıkların tedavisini asla elde edememek fikri bana doğru gelmiyor; ayrıca bu teknoloji otoriter ülkelerde de inşa edilecek." Ted Lieu'nun "kapatma düğmesi" teklifini ise makul buluyor ama tek başına yetersiz: "Yeterince güçlü bir model kapatma girişimini atlatabilir; simülasyonlarda gördük."
Piyasalar nasıl tepki verdi?
Amodei'nin çağrısına Altman ve Musk'ın katılması Pazartesi sabahı ABD borsalarında yapay zekâ hisselerini geriletti; NBC "yapay zekâ liderleri yavaşlama çağrısı yapınca hisseler düştü" diye yazdı. Amodei, teknolojinin "özel bir şirket tarafından inşa edilmesinin hep tuhaf olduğunu" itiraf edip demokratik hükümetlerden oluşan bir ortak gözetim yapısını savundu; kendi babasının yüzde 40 tedavi edilebilir hepatit C'den ölmesinden birkaç yıl sonra ilacın yüzde 95'e çıktığını hatırlatarak "faydaların ağırlığını da hissediyorum" dedi. Röportajı "Bu insanlık tarihinin dönüm noktası teknolojik olaylarından biri; hepimizin bunda payı olmalı" sözleriyle bitirdi.
