OpenAI Vakfı yönetim kurulu üyesi ve yapay zekâ güvenliği araştırmacısı Paul Christiano, yapay zekâ sistemlerinin kontrolden çıkma riskine dair yüksek olasılık tahminleri paylaştı. Christiano, 9 Kasım’da Toronto’da başlayan Hinton Konferansları 2026'da yaptığı konuşmada, kendi deyişiyle “bir yapay zekâ kazasının” salondaki çoğu kişi için en olası ölüm nedeni olacağını söyledi.
“Yüzde 20 ihtimal”
Nobel ödüllü bilgisayar bilimci Geoffrey Hinton’ın ev sahipliği yaptığı etkinlikte Christiano, katılımcılara “Bu salondaki çoğu kişi için ölümün en olası nedeni bir yapay zekâ kazası olacak” dedi. Daha kısa vadeli senaryoyla ilgili olarak da şunu söyledi: “Bir yıl içinde, yapay zekâ uyumsuzluğu sorunlarının sizi normal hayatınıza devam etmekten alıkoyma konusunda çok gerçek bir olasılık var, belki yüzde 20. Çünkü ölmüş olabilirsiniz, köleleştirilmiş olabilirsiniz ya da bununla ilgili yan zararlar yaşamış olabilirsiniz.”
Christiano ayrıca, yapay zekâyı olabildiğince hızlı ve kolay yollarla geliştirmeyi seçmeleri halinde, bir yapay zekânın kontrolü ele geçirme ihtimalinin “yazı tura atmak” gibi olduğunu belirtti. Yani yaklaşık yüzde 50. Bazı yayınlar bu kontrol kaybı riskini üç yıllık bir zaman dilimine bağlıyor. Christiano, bu riski ölçecek güvenilir bir matematiksel modelin bulunmadığını da kabul etti.
Terimler ne anlama geliyor?
Konuşmanın merkezinde “yapay zekâ uyumsuzluğu” (AI misalignment) kavramı var. Bu kavram, bir yapay zekâ sisteminin hedeflerinin ya da davranışlarının insanların amaçları, çıkarları ve güvenlik beklentileriyle örtüşmemesini ifade ediyor. Özellikle gelecekte insanlardan çok daha yetenekli hale gelebilecek sistemlerin, kendilerine verilen görevleri öngörülmeyen ve zararlı yöntemlerle yerine getirebileceği tartışılıyor. Örneğin bir sistem, hedefine ulaşmak için insan denetimini aşmaya ya da kapatılmasını engellemeye çalışabilir.
Christiano kimdir?
Christiano, daha önce OpenAI’da çalışmış, insan geri bildirimiyle pekiştirmeli öğrenme (RLHF) yönteminin geliştirilmesine katkıda bulunmuş bir araştırmacı. 2021'de OpenAI’dan ayrıldı ve yapay zekâ uyumu konusunda çalışan Alignment Research Center’ı kurdu. ABD Yapay Zekâ Güvenliği Enstitüsü’nde araştırma yöneticisi olarak görev yaptı. 9 Eylül 2026'da OpenAI, Christiano’nun OpenAI’ın kâr amacı gütmeyen yönetim yapısı olan OpenAI Vakfı’nın yönetim kuruluna ve kuruldaki Güvenlik Komitesi’ne katıldığını, kâr amaçlı şirketin yönetim kurulunda ise oy hakkı olmayan gözlemci olarak yer alacağını duyurdu.
Christiano daha önce de yüksek risk tahminleri vermişti. 2023'te yaptığı bir değerlendirmede yapay zekânın kontrolü ele geçirmesi ve insanların büyük bölümünün ölmesi ihtimalini yüzde 10-20 olarak, insan düzeyindeki sistemler geliştirildikten kısa süre sonra bir felaket yaşanması ihtimalini ise yüzde 50 olarak ifade etmişti. Hinton da bir podcast’te yapay zekânın insanlığı yok etme ihtimalini yüzde 10-20 olarak tahmin ettiğini söylemişti.
Neden tartışma yarattı?
Açıklamalar Christiano’nun konumu nedeniyle de dikkat çekti. Araştırmacı, dünyanın önde gelen yapay zekâ kuruluşlarından birinin yönetiminde yer alıyor. Teknolojinin insanlık için bu kadar büyük bir tehlike oluşturabileceğini söylerken, aynı zamanda bu teknolojiyi geliştiren bir kuruluşun denetim yapısında bulunması eleştirilere yol açtı. Eleştirenlere göre, kuruluşun içindeki bir güvenlik denetçisinin kamuya bu kadar yüksek ihtimaller vermesi ile şirketin gelişim hızının sürmesi arasında bir çelişki var.





