Eski Anthropic araştırmacısı Coxon BBC'ye konuştu: 'Yapay zeka çalışanları insanlığın geleceği konusunda gerçekten endişeli'

Yapay zeka şirketi Anthropic'ten ayrılan araştırmacı Jacob Coxon BBC'ye konuştu. Bu teknoloji üzerinde çalışan kişilerin, teknolojinin ilerleme hızından ve insanlığın geleceğinden "gerçekten korktuklarını" söyledi."Eğer mevcut ilerleme hızını yavaşlatmazsak yakın gelecekte hepimizin ölebileceğine dair güçlü bir ihtimal var" dedi.Jacob Coxon'ın günler önce yayımladığı ve yapay zekanın tehlikeleri hakkında bilgiler içeren istifası tüm dünyada popüler olmuştu.27 yaşındaki gencin eski patronu, Anthropic'in başkanı Dario Amodei de yakın zamanda yapay zeka geliştirme çalışmalarının yavaşlatılması çağrısında bulundu.Ancak bazıları bu çağrının ardındaki motivasyonları sorguluyor.Rakip iki yapay zeka şirketinin patronları, OpenAI'den Sam Altman ve xAI'den Elon Musk, Amodei'nin sektör genelinde yavaşlama önerisine katıldıklarını söylediler. Amodei 12 Eylül Cumartesi günü yazdığı bir makalede, teknolojinin geliştirilmesinin tartışma konusu olmadığını, ancak bununla ilişkili risklerin "ciddi" olduğunu ve şirketlere ve hükümetlere bu riskleri gidermek için zaman tanınması gerektiğini belirtti.Anthropic'e katılmadan önce OpenAI'da çalışan Coxon, yavaşlama önerisini memnuniyetle karşıladı ancak "uluslararası ölçekte bir yarıştan" kaçınmak için bunun Çin ile koordineli bir şekilde yapılması gerektiğini söyledi.Coxon BBC'den Laura Kuenssberg'e "Bu şirketlerde çalışan insanlar, düzenleme talep ederken tamamen ciddiler çünkü kendilerini bir yarışın içinde sıkışmış buluyorlar. ve bu yarışın sonuçlarından korkuyorlar" dedi.Coxon'a göre, cevaplanması en zor soru, yapay zeka kıyametinin nasıl bir şey olacağıydı.Amodei'nin açıklamalarında belirtilen risklerden biri, süper bilgisayar gibi davranabilmesi ve interneti ele geçirebilmesiydi.Coxon, bu senaryonun altı ay ila bir yıl içinde gerçekçi olabileceğini söyledi.Coxon'ın ayrılışına yanıt olarak, Anthropic sözcüsü BBC News'e şunları söyledi: "Yapay zekanın hem muazzam faydalar hem de benzeri görülmemiş riskler getireceği konusunda her zaman şeffaf olduk."Bu riskleri gidermek için, sektördeki en güçlü güvenlik önlemlerine sahip modeller geliştirmeye devam ediyoruz."Şirket sözcüsü, firmanın yapay zeka modellerinin nasıl çalıştığını incelemede öncü olduğunu da sözlerine ekledi. Bu modellerin geliştirilmesinden kaynaklanan riskleri azaltmaya yönelik bir çerçeve yayımlayan ilk firma olduklarını ve ayrıca modellerini "agresif bir şekilde" test edip bulgularını yayımlayarak incelemeye yardımcı olduklarını ve "yapay zeka uyumsuzluğu" olaylarını önlediklerini belirtti."Bu çalışma aynı zamanda, güçlü modelleri nasıl piyasaya süreceğimiz konusunda sektörün yasal ve doğrulanabilir bir işbirliği yöntemini benimsemesinin dünyaya fayda sağlayacağına inanmamızın da nedenidir" dediler.Coxon, meslektaşlarının tehlikenin önümüzdeki iki yıl içinde bile ortaya çıkabileceğinden endişe duyduğunu söyledi. Yapay zeka şirketlerindeki çalışanların "hayatlarıyla ne yapacaklarını planladıklarını ve işlerinin etkilerini düşündüklerini", bazılarının ise "yapay zekanın hızlı ilerlemesinin sonucu olarak ortaya çıkacak istikrarsızlıktan çok korktukları için bir yerlerde arazi satın almayı düşündüklerini" söyledi. "Teknoloji üzerinde çalışırken bunu her gün akıllarında tutuyorlar."Ancak Coxon, yapay zekanın geleceği konusunda bir miktar iyimserliğe sahipti ve BBC'ye yaptığı konuşmada, teknolojiyi araştıran kişilerin "hastalıkları çözmek ve herkesin hayatını iyileştirmek" gibi olumlu yönleri "gerçekten görmek istediklerini" söyledi.Coxon'ın sosyal medya paylaşımından bu yana sektördeki birçok kişi de endişelerini dile getirdi; bunların arasında Anthropic'ten Evan Hubinger de bulunuyor.Hubinger önümüzdeki 10 yıl içinde "tüm insanları öldürme" ihtimalinin %10'dan fazla olduğuna inandığını söyledi.Nobel ödüllü ve "yapay zekanın babası" olarak bilinen Geoffrey Hinton, 11 Eylül'de BBC'ye yaptığı açıklamada, yapay zekanın tüm insanları yok etme olasılığının %10 olmasının "makul olmayan bir ihtimal olmadığını" söyledi.Bu arada, yapay zeka güvenliği firması Faculty'nin CEO'su Marc Warner, BBC'nin The World This Weekend programına yaptığı konuşmada, yapay zekanın tüm insanları öldürme olasılığını "kesin olarak belirlemenin son derece zor" olduğunu söyledi."Ancak bu kişilerin söylediklerinde çok samimi olduklarını kabul etmek önemli" diye ekledi ve yapay zekayla ilgili risklerin yıllardır birçok yapay zeka şirketinin yöneticisi tarafından dile getirildiğini belirtti.Anthropic'in danışmanı olan eski İngiltere Başbakanı Rishi Sunak, Sunday Times'da yazdığı bir makalede, genel olarak iyimser olmasına rağmen yapay zekanın insanlık için oluşturduğu risklerden endişe duyduğunu belirtti.Ancak bazı sektör temsilcileri, yorumların abartılı olduğunu veya sansasyon yaratmak amacıyla yapılmış olabileceğini öne sürdüler.Yapay zeka platformu Hugging Face'in CEO'su Clement Delangue sosyal medyada şunları söyledi: "Üzgünüm ama Jacob'a [Coxon] yapay zekanın yok olma riski hakkında soru sormak, klimacınıza iklim değişikliği hakkında soru sormak gibidir. Bunun mutlaka ilgisiz veya yanlış olduğunu söylemiyorum ama olayları doğru perspektiften ele alalım."Ancak Amodei'nin makalesi yayımlandıktan sonra Delangue, Anthropic patronunun önerdiği potansiyel çözümlerin bir parçası olmaya yardımcı olmayı teklif etti.Grindr CEO'su George Arison, BBC'ye verdiği demeçte benzer görüşleri dile getirerek Anthropic ve diğerlerinin açıklamalarının yatırımcı desteğini artırmak için yapıldığını öne sürdü."Çünkü bu değerlemeleri haklı çıkarmanın tek yolu, 'Her sektörü ve her işi ele geçireceğim ve tüm bu işleri yapay zekam yapacak' iddiasında bulunmaktır" dedi.Yapay zeka çip üreticisi Nvidia'nın patronu Jensen Huang da geçen hafta yatırım bankası Goldman Sachs'ın ev sahipliği yaptığı bir konferansta Coxon'ın yorumlarını ele aldı. Huang, bu yorumların doğru olmadığını söyleyerek reddetti.Bu arada, ABD Başkanı Donald Trump 13 Eylül'de gazetecilere verdiği demeçte, ABD'nin "yapay zekada Çin'in önünde olduğunu" söyledi. "Ve açıkçası, bunu böyle sürdürmek istiyorum. Çünkü yapay zekada kim kazanırsa o kazanır" dedi.Diğer eleştirmenler ise Anthropic'in rekabeti engellemek için düzenleyici bir baskı başlatmaya çalıştığını söylüyor.Anthropic'in, potansiyel olarak rekor kıracak bir halka arz için hazırlık yaptığı ve bu sayede insanların şirket hisselerini satın almasına olanak tanıyacağı bildiriliyorlar. Son olarak 852 milyar dolar değer biçilen OpenAI'ın da aynı şeyi yapması bekleniyordu, ancak OpenAI'ın CEO'su Altman 11 Eylül Cuma günü yaptığı açıklamada yapay zeka güvenliği endişelerini gerekçe göstererek bunun bu yıl gerçekleşmeyeceğini söyledi.Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. .