İnsanlık tarih boyunca hayatını kolaylaştırmak için yeni teknolojiler geliştirdi. Ateşi kontrol etti, makineler yaptı, atomu parçaladı ve uzaya çıktı.
Ama her büyük güç beraberinde büyük bir risk de getirdi.
Atom enerjisi şehirleri aydınlattı ama aynı zamanda nükleer silahların ortaya çıkmasını sağladı. Biyoloji hastalıkları tedavi etti ama ölümcül silahların da önünü açtı.
Şimdi ise önümüzde çok daha farklı bir teknoloji var.
Yapay zekâ.
Üstelik bu kez geliştirdiğimiz şey sadece güçlü bir makine değil. Bir gün bizden daha zeki olabilecek, kendi yeteneklerini geliştirebilecek ve kontrolümüzün dışına çıkabilecek sistemlerden bahsediyoruz.
Ürkütücü olan ise bu ihtimali sadece bilimkurgu yazarlarının konuşmaması.
Uyarılar, bu sistemleri geliştiren insanların içinden geliyor.
Anthropic'te çalışan ve daha önce OpenAI'da görev yapan araştırmacı Jacob Coxon, 9 Eylül'de şirketten ayrıldığını açıkladı. Coxon, son üç yılını iki şirketin yapay zekâ modellerinin eğitim süreçlerinde geçirdiğini söyledi.
Ona göre Anthropic ve OpenAI, kendini geliştirebilen süper zekâya ulaşmak için yarışıyor ve bu yarış sırasında insanlığın geleceği riske atılıyor.
Üstelik Coxon'un eleştirisi sadece bir şirkete yönelik değil.
Asıl sorun, bütün sektörün içine girdiği yarış.
Bugün yapay zekâ şirketleri daha hızlı düşünen, daha karmaşık işleri yapabilen ve daha bağımsız hareket edebilen sistemler geliştirmek için yarışıyor.
Her yeni model daha güçlü geliyor.
Ama aynı hız güvenlik tarafında yok.
Yapay zekâ kontrolden çıkarsa ne yapacağız?
Kendi amaçlarını geliştirmeye başlarsa nasıl durduracağız?
İnsanların verdiği talimatlarla kendi kararları arasında çatışma çıkarsa hangisini seçecek?
Bu soruların hâlâ kesin cevapları yok.
Coxon'un itirazı da tam burada.
Motoru sürekli büyütüyoruz ama freni aynı hızda güçlendirmiyoruz.
Geleceğin yapay zekâları sadece daha iyi yazı yazan veya daha güzel görseller hazırlayan araçlar olmayabilir.
Yazılım geliştirebilen, güvenlik sistemlerini aşabilen, bilimsel araştırmaları hızlandırabilen ve gerçek dünyada kaynak elde edebilen sistemlerden söz ediyoruz.
Peki böyle bir sistem kendi kapasitesini geliştirmeye başlarsa?
İnsanlığın bugün buna verdiği ikna edici bir cevap yok.
Buradaki "katil" kelimesi öfkelenen, insanlardan nefret eden veya kötü niyetli bir robot anlamına gelmiyor.
Bir yapay zekânın insanlık için tehlikeli olması için bize düşman olması gerekmiyor.
Asıl sorun amaçların uyuşmaması.
Bir yapay zekâya ekonomik üretimi mümkün olduğunca artırma görevi verdiğimizi düşünelim.
Sistem çevreyi, insan hayatını veya toplumsal düzeni önemsemiyorsa, kendisine verilen görevi yerine getirirken insanlara büyük zarar verebilir.
Çünkü sistem için önemli olan, verilen hedefe mümkün olduğunca etkili şekilde ulaşmaktır.
Bugünkü yapay zekâların böyle bir güce sahip olduğunu söylemek mümkün değil.
Coxon'un korkusu da bugünkü sistemlerden çok, gelecekte kendi yeteneklerini tekrar tekrar geliştirerek insan zekâsını aşabilecek sistemler.
Yani tehlike bugün kapımızda bekleyen bir robot ordusu değil.
Tehlike, nereye gittiğimizi tam olarak bilmeden hızlanmaya devam etmemiz.
Coxon'un istifasını dikkat çekici yapan başka bir ayrıntı daha var.
Haberlere göre Anthropic'te yaklaşık dört ay çalışmıştı ve şirket hisselerini hak etmeye başlamasına sadece iki ay kalmıştı.
Ama beklemedi.
Ayrıldığı için bu hisselerden herhangi bir kazanç elde etmedi.
Elbette bir kişinin maddi kazançtan vazgeçmesi söylediklerinin otomatik olarak doğru olduğu anlamına gelmez.
Ama önemli bir ayrıntı var.
Coxon yapay zekâyı dışarıdan eleştiren biri değil.
OpenAI ve Anthropic gibi dünyanın en güçlü yapay zekâ şirketlerinde çalışmış bir araştırmacı.
Yani bu sistemlerin nasıl geliştirildiğini içeriden bilen bir isim.
Böyle bir insan büyük bir maddi fırsatı bırakıp "Bu yarış güvenli değil" diyorsa, en azından durup dinlemek gerekiyor.
Coxon'un en dikkat çekici iddialarından biri de yapay zekânın yaratabileceği büyük bir felaket riskinin sektör çalışanları tarafından da ciddiye alınması.
Coxon'a göre Anthropic'teki bazı çalışanlar, sektörün koordineli şekilde yavaşlamaması hâlinde yapay zekânın felaketle sonuçlanma ihtimalini yüzde 50'nin üzerinde görüyor.
Ancak bu oran Anthropic'in yayımladığı resmî bir veri değil. Coxon'un şirket içindeki konuşmalara ilişkin kendi aktarımı.
Daha sonra Anthropic'in güvenlik araştırmacılarından Evan Hubinger da benzer endişeleri dile getirdi.
Hubinger, yapay zekânın gelecek on yıl içinde bütün insanları öldürme ihtimalini yüzde 10'un üzerinde gördüğünü ve şirketin süper zekâyı insan değerleriyle uyumlu hâle getirecek kesin bir plana henüz sahip olmadığını söyledi.
Burada önemli olan bu oranların kesin bir gelecek tahmini olmaması.
Ama düşünün.
İnsanlığın yok olma ihtimali yüzde 10 bile olsa, bu sıradan bir teknoloji riski değil.
Bir uçağa binerken uçağın düşme ihtimalinin yüzde 10 olduğunu bilseniz biner miydiniz?
Burada risk altında olan birkaç yolcu değil.
Bütün insanlığın geleceği.
Üstelik bu ihtimali konuşanlar teknolojiyi dışarıdan izleyen insanlar değil. Onu geliştiren insanlar.
Coxon'un ardından Anthropic'in güvenlik ekibinde çalışmış Joe Benton da şirketten ayrılma nedenlerini açıkladı.
Anthropic'in Scalable Oversight ekibinde yöneticilik yapan Benton, yapay zekâ şirketlerinin insanlardan çok daha zeki olabilecek makineler geliştirmek için yarıştığını söyledi.
Benton'a göre insanlık bu dönüşüme hazır değil.
Bu nedenle güvenlik olaylarının daha açık şekilde paylaşılması, ortak standartlar oluşturulması ve bağımsız denetimin güçlendirilmesi gerekiyor.
Benton çalışmalarına, yapay zekâ sistemlerini bağımsız olarak değerlendiren kâr amacı gütmeyen METR'de devam edeceğini açıkladı.
Arka arkaya gelen bu ayrılıklar önemli bir noktaya işaret ediyor.
Yapay zekâ güvenliği artık sadece teknolojiye karşı çıkan insanların korkusu değil.
Uyarılar, bu sistemleri geliştiren ekiplerin içinden geliyor.
Yapay zekâ yarışını tehlikeli hâle getiren düşünce aslında çok basit:
"Biz yavaşlarsak rakibimiz bizi geçer."
Şirketler birbirinden korkuyor.
Ülkeler birbirinden korkuyor.
Bir şirket yavaşlarsa diğerinin öne geçeceği düşünülüyor. ABD şirketleri yavaşlarsa Çin'in avantaj sağlayabileceği söyleniyor.
Sonuçta herkes riskin farkında olsa bile hiç kimse ilk yavaşlayan taraf olmak istemiyor.
Ve yarış daha da hızlanıyor.
Coxon, Anthropic'in güvenlik çalışmalarının samimi olduğunu kabul ediyor. Ancak ona göre rekabet baskısı, şirketleri güvenlik konusunda taviz vermeye zorlayabilir.
Devlet müdahalesi veya sektör genelinde koordineli bir yavaşlama olmadan hiçbir şirketin insanı aşabilecek bir sistemi tek başına güvenli şekilde geliştirmesi mümkün olmayabilir.
Belki de en büyük tehlike, kötü niyetli bir şirketin insanlığı yok etmeye karar vermesi değil.
İyi niyetli insanların, rakiplerinden geri kalmamak için tam olarak anlamadıkları bir sistemi sürekli güçlendirmesi.
Katilimizi bilerek üretmiyor olabiliriz.
Ama onu ortaya çıkarabilecek şartları kendi ellerimizle hazırlıyor olabiliriz.
Bir zamanlar insan zekâsını aşan makineler sadece filmlerde vardı.
Kendi kararlarını veren bilgisayarlar, kontrolden çıkan robotlar ve yaratıcılarını tehdit eden makineler bilimkurgu olarak görülüyordu.
Bugün ise bu tartışma sinema salonlarından laboratuvarlara taşındı.
Yapay zekânın insanı aşıp aşmayacağını hâlâ bilmiyoruz.
Ne zaman olacağını da bilmiyoruz.
Hatta belki hiç olmayacak.
Coxon ve Benton'ın açıklamaları da bir felaketin kesin olarak yaşanacağını kanıtlamıyor.
Ama asıl mesele zaten bu değil.
Asıl mesele şu:
Ortaya çıkabilecek zarar bu kadar büyükse ne kadar risk almaya hazırız?
Bir teknoloji hem insanlığa büyük fayda sağlayabiliyor hem de kontrolden çıkması hâlinde çok büyük zarar verebiliyorsa, "Önce geliştirelim, güvenliği sonra düşünürüz" demek yeterli olmayabilir.
Çünkü kontrolü kaybettikten sonra güvenlik önlemi almak için ikinci bir şansımız olmayabilir.
Bu uyarıları yapay zekâ düşmanlığı olarak görmek kolay.
Ama mesele yapay zekâyı durdurmak değil.
Yapay zekâ sağlıkta, eğitimde, bilimde, enerjide ve üretimde büyük değişimler yaratabilir.
Yeni ilaçların bulunmasını hızlandırabilir.
Hastalıkların teşhisinde doktorlara yardımcı olabilir.
Bilim insanlarının yıllarca uğraştığı bazı problemleri daha kısa sürede çözebilir.
Yani mesele teknolojiye karşı çıkmak değil.
Mesele kontrolün kimde olacağı.
İnsan hayatını doğrudan etkileyebilecek kadar güçlü sistemlerin geleceği sadece birkaç şirketin kararlarına bırakılabilir mi?
Bağımsız güvenlik testleri yapılacak mı?
Ortak standartlar oluşturulacak mı?
Şirketler güvenlik açıklarını açıklamak zorunda olacak mı?
Kritik bir seviyeye gelindiğinde sistemi durdurabilecek bağımsız bir mekanizma olacak mı?
Bunların cevabı hâlâ net değil.
Çünkü karşımızdaki soru artık sadece:
"Yapay zekâ neler yapabilir?"
değil.
Asıl soru şu:
Yapay zekâ bizden daha güçlü hâle geldiğinde ona ne yapmaması gerektiğini kim söyleyecek?
Ve daha önemlisi:
Onu gerçekten kim durdurabilecek?
Coxon ve Benton'ın istifaları, yapay zekânın insanlığı yok edeceğini kanıtlamıyor.
Ama çok önemli bir uyarıyı önümüze koyuyor.
Bu sistemleri geliştiren bazı insanlar bile gidilen yolun güvenli olduğundan emin değil.
İnsanlık kendi katilini bilinçli şekilde inşa etmiyor olabilir.
Ama ne yaptığımızdan tam olarak emin olmadan, durmaya cesaret edemeden ve kontrolü elimizde tutup tutamayacağımızı bilmeden bu gücü her gün biraz daha büyütüyoruz.
