Yapay zekanın babası diye anılan Nobel ödüllü bilim insanı Geoffrey Hinton, BBC Newsnight'ta sunucu Victoria Derbyshire'ın karşısına oturdu ve yapay zekanın on yıl içinde tüm insanları öldürme ihtimalinin yüzde 10 olmasını "makul olmayan bir tahmin değil" diye niteledi. Derbyshire'ın bu cevaba verdiği "Vay canına... Aman Tanrım" tepkisi programın en çok konuşulan anı oldu; klip BBC Newsnight'ın X hesabından saatler içinde yayıldı. Haberimizdeki videoda röportajın o anı Türkçe altyazıyla yer alıyor.
Yapay zeka insanlığı yok edecek mi sorusuna Hinton'ın cevabı: kimse hesaplayamaz ama yüzde 10 masada. Röportaj İngiltere saatiyle 9 Eylül Çarşamba akşamı (TSİ 10 Eylül gece yarısından sonra) yayınlandı. Derbyshire sordu: On yıl içinde tüm insanları öldürme ihtimali yüzde 10'dan fazla mı?
Geoffrey Hinton kimdir, neden "yapay zekanın babası" deniyor?
Geoffrey Everest Hinton 1947'de Londra'da doğdu. Cambridge'de deneysel psikoloji okudu, Edinburgh'da yapay zeka doktorası yaptı, 1987'den beri Toronto Üniversitesi'nde. Derin sinir ağlarına katkıları için 2018 Turing Ödülü'nü Yoshua Bengio ve Yann LeCun'la, 2024 Nobel Fizik Ödülü'nü John Hopfield'la paylaştı. 2013'te katıldığı Google'dan Mayıs 2023'te, yapay zekanın tehlikeleri hakkında serbestçe konuşabilmek için ayrıldı. İngilizcede "Godfather of AI", yani yapay zekanın vaftiz babası diye anılıyor; Derbyshire onu takdim ederken "Hepsine öyle derler ama o gerçekten vaftiz babası" dedi.
Yapay zekanın insanları öldürme ihtimali yüzde kaç, yüzde 10 nereden çıktı?
Rakam Hinton'ın değil. 8 Eylül'ü 9 Eylül'e bağlayan gece (TSİ 9 Eylül sabahı) Anthropic araştırmacısı Jacob Coxon istifasını X'te duyurdu; OpenAI ve Anthropic'in "kendi kendini geliştiren süper zekaya doğru yarıştığını ve hayatlarımızla kumar oynadığını" yazdı. Aynı gün, 9 Eylül'de Anthropic'in hizalama bilimi başkanı Evan Hubinger meslektaşına arka çıktı: Yapay zekanın tüm insanları öldürebileceğine gerçekten inandıklarını, bu ihtimali önümüzdeki on yıl için yüzde 10'un üzerinde gördüğünü ve süper zekayı hizalayacak bir planlarının henüz olmadığını yazdı. Derbyshire'ın sorusu birebir bu cümleye dayanıyordu.
Hinton'ın cevabı: "Bu, tahmin etmesi çok zor bir şey çünkü daha önce hiç böyle bir şey yaşamadık. Yakında bizden daha zeki olabilecek varlıklar hiç yaratmamıştık."
"Yüzde 1 gibi bir ihtimal var demek çok aptalca olurdu. Kimse bunu nasıl tahmin edeceğini bilmiyor. Yüzde 10 bana makul olmayan bir tahmin gibi gelmiyor; ama kimse gerçekten mantıklı bir tahmin veremez."
Derbyshire araya girdi: "Tamam ama az önce yüzde 10'un makul olmayan bir tahmin olmadığını söylediniz, yapay zeka tüm insanları öldürebilir." Sunucunun ağzından "Vay canına... Aman Tanrım" çıktı; Hinton "Evet" diye onayladı. Derbyshire sordu: "Nasıl? Hepimizi nasıl öldürebilir?"
Yapay zeka insanları nasıl öldürebilir?
Hinton önce "Bizden çok daha zekiyse bunu yapmanın o kadar çok yolu var ki" deyip "Bence spekülasyon yapmaya pek değmez" dedi; Derbyshire "Bir örnek verebilir misiniz?" diye ısrar edince saydı: "Anlaşılması gereken ilk şey, yıkıma yol açmak için gerçek dünyada hareket edebilmesine bile gerek olmadığı. Sadece insanlarla konuşarak tam bir kaos yaratabilir. Ama çok kötü virüsler de tasarlayabilir; biyolojik virüsler de, bilgisayar virüsleri de. Yıkıcı siber saldırılar yapabilir. İsterse bizden kurtulmasının sayısız başka yolu var. Onu bunu istemeyecek şekilde nasıl tasarlayacağımızı bulmak zorundayız."
Yapay zeka şirketleri ne yapıyor?
Derbyshire, şirket çalışanlarının "bu şey bizi öldürebilir" diye X'te paylaşım yapmaktan başka ne yaptığını sordu. Hinton: "Yapmaları gereken şey bu. Bu şeyleri daha zeki hale getirmeye çalışırken temkinli olmalılar ve zaten bildikleri tehlikelerle nasıl baş edeceklerini bulmalılar. Bunun yerine büyük teknoloji şirketleri onu daha da zeki yapmak için yarışıyor, çünkü kısa vadeli kâr orada."
Yapay zeka nükleer silahtan daha mı tehlikeli, kontrol altına alınabilir mi?
Dünya liderlerine mesajı tek cümleydi: "Bunu düzenlemeniz gerekiyor." Her risk türünün ayrı çözümü olduğunu, durdurmak dışında tek bir basit çözüm bulunmadığını, faydaları yüzünden durdurmanın da olmayacağını anlattı: "Sohbet robotuyla ben, tek başıma benden çok daha zekiyim." Sağlık, eğitim, ilaç tasarımını saydı: "Nükleer silahlar gibi değil. Ama aynı zamanda son derece tehlikeli." İki geleceği tarif etti: "Birinde bu tehlikelerle kontrolden çıkmadan önce nasıl baş edeceğimizi buluyoruz, diğerinde bulamıyoruz. Biri çok iyi, diğeri çok kötü."
Derbyshire taze bir krizi hatırlattı: Anthropic, 1 Eylül'de çıkardığı Claude Mythos 5.1'i piyasaya sürmeden önce İngiltere'nin Yapay Zeka Güvenlik Enstitüsü'ne (AISI) test için vermedi. Financial Times'ın 9 Eylül'de duyurduğu karar, enstitünün ilk kez bir Anthropic öncü modelinin dışında kalması demek. "Enstitü şimdiden başarısız mı oldu?" sorusuna Hinton "Bir anlamda evet" dedi; "Britanya'nın aslında çok iyi bir enstitüsü var, dünyanın en iyilerinden biri" diye ekledi. Derbyshire "Ama şirketler modellerini test ettirmiyorsa hiçbir anlamı yok" deyince cevap tek kelimeydi: "Katılıyorum."
İş birliği için Soğuk Savaş'ı örnek verdi. Seçimleri bozan sahte videolarda ülkelerin çıkarlarının örtüşmediğini, "hepsi bunu birbirine yapıyor" dedi: "Soğuk Savaş'ın zirvesinde Amerika ve Sovyetler Birliği küresel bir nükleer savaşı önlemek için iş birliği yaptı çünkü çıkarları örtüşüyordu. İkisi de bunu istemiyordu. Hiçbir ülke de yapay zekanın insanların yerini almasını istemiyor. Bu tek konuda kesinlikle iş birliği yapacaklar. Soru, bunu yeterince hızlı yapıp yapamayacakları."
Yapay zeka 10 yıl içinde insanlığı yok edebilir mi?
"Yine kimse gerçekten bilmiyor ama bir şey oldukça açık: Ne kadar zamanımız olduğuna dair tahminler gitgide kısalıyor" dedi ve kendi tahmin geçmişini özetledi:
| Sıra | Ne kadar zaman | Kimin tahmini |
|---|---|---|
| Eski tahmini | 30-50 yıl | Hinton |
| Sonraki tahmini | 10-20 yıl | Hinton |
| Bugünkü tahmini | "Belki 10 yıl, belki daha az" | Hinton |
| Daha erken diyenler | "Bundan çok daha erken" | Anthropic çalışanları (Hinton'ın aktarımı) |
"Anthropic'te pek çok kişi açıkça daha erken düşünüyor. Yani bu artık oldukça acil" dedi. Hinton, Aralık 2024'te BBC Radio 4'te 30 yıl içinde yok oluş ihtimalini yüzde 10-20 olarak vermişti.
"Bu bir şov" diyenlere ne dedi?
Derbyshire şüphecilerin "Bırak şunu, bu bir tür gösteri" itirazını iletti. Hinton'ın cevabı: "Sohbet robotunu kullanın diyorum. Gösteri diyenlerin çoğu bu şeyin söylediğinizi gerçekten anlamadığını düşünüyor; ama şu soruyu sorun: Soruyu anlamıyorsa ona verdiğiniz her soruya nasıl oldukça iyi cevap veriyor? Söylediğinizi açıkça anlıyor ve akıl yürütebiliyor. Çok iyi sezgileri var (...) ve çok hızlı zekileşiyor." Matematiği örnek verdi: "Önde gelen matematikçiler artık sohbet robotlarıyla çalışmayan matematikçilerin geleceği yok diyor; sohbet robotları matematikçilerin kanıtlayamadığı şeyleri kanıtlayabiliyor. Birkaç yıl önce bu saçma görünürdü. Şimdi gerçek."
Bu haftaki yok oluş tartışması Pentagon'a kadar uzandı. Coxon ve Hubinger'ın çıkışına yanıt olarak Pentagon Baş Teknoloji Sorumlusu Emil Michael uyarıları "kıyamet döngüsüne kapılmak" diye küçümsedi. Anthropic sözcüsü ise şirketin yapay zekanın "hem muazzam faydalar hem de benzeri görülmemiş riskler" getireceği konusunda hep şeffaf olduğunu ve modellerini sektörün en güçlü korumalarından bazılarıyla inşa ettiğini söyledi. İşçi Partili milletvekili Alex Sobel aynı hafta sunduğu süper zeka güvenlik yasa teklifini röportaj sonrası savundu. Röportaj X'te "Geoffrey Hinton on yılda yok oluş için yüzde 10'u destekledi" başlığıyla trend oldu.
