Yapay zekâda güvenlik tartışması büyüyor: OpenAI CEO’su, “Dünya korkmakta haklı” dedi

(ANKARA) - Anthropic CEO'su Dario Amodei'nin gelişmiş yapay zeka (AI) modellerinin geliştirilme hızının düşürülmesi çağrısının ardından yapay zekanın kontrol edilemez hale gelebileceğine ilişkin tartışma büyüyor. Google DeepMind'dan Demis Hassabis ve Elon Musk, Amodei'nin açıklamalarına destek verirken, OpenAI CEO'su Sam Altman son açıklamasında, yapay zekanın yaratabileceği riskler konusunda "Dünya korkmakta haklı" dedi, ancak teknoloji şirketlerinin güvenliği sağlayacağı konusunda kamuoyunun sektöre güvenmesi gerektiğini söyledi.

Anthropic CEO'su Dario Amodei'nin gelişmiş yapay zeka modellerinin geliştirilme hızının düşürülmesi çağrısının ardından teknoloji devleri arasında yapay zekanın kontrol edilebilirliğine ilişkin tartışma büyüyor.

OpenAI CEO'su Sam Altman, San Francisco'da düzenlenen Salesforce konferansında, yapay zekanın hızla gelişen kabiliyetlerinin yarattığı endişeler hakkında, "Bunun ne kadar yanlış gidebileceğini hayal etmek artık eskisi kadar zor değil. Bence dünya bundan korkmakta haklı" dedi. Bununla birlikte Altman, yapay zeka şirketlerinin teknolojiyi güvenli biçimde geliştirebileceğine de güvendiğini söyledi.

Altman, "Dünya, doğru olanı yapacağımız konusunda bize güvenmeli. Çünkü bunun büyüklüğünün farkındayız" ifadelerini kullandı. Altman, güvenlik çalışmalarını yapay zekanın gelişen kabiliyetlerinin önünde tutacaklarını, bunu sağlayamamaları halinde ise geliştirme hızını düşüreceklerini veya çalışmaları durduracaklarını ifade etti.

TAR I ŞMAY I AMODEI'N İ N ÇAĞR I S I ALEVLEND İ RD İ

Tartışma Anthropic CEO'su Dario Amodei'nin hafta sonu yayımladığı ve yapay zeka şirketlerine teknolojinin gelişim hızını düşürme çağrısı yaptığı yazının ardından büyüdü.

Amodei, güvenlik önlemlerinin teknolojik ilerlemeye yetişebilmesi için en gelişmiş modellerin kabiliyetlerindeki artış hızının düşürülmesi çağrısında bulundu. Şirketlere bağımsız güvenlik değerlendiricisi taraflar yerleştirilmesi, önde gelen yapay zeka şirketlerinin ortak güvenlik standartları belirlemesi ve risklerin azaltılması için uluslararası işbirliğine gidilmesini önerdi.

Çağrı, normalde yapay zeka yarışında birbirleriyle rekabet eden sektörün önde gelen isimlerinden destek gördü. Altman, Google DeepMind'dan Demis Hassabis ve Elon Musk, Amodei'nin yaklaşımını destekledi. Musk, Amodei'nin açıklamasına kısa bir yanıt vererek, "Dario haklı" dedi.

TRUMP 'TAN TEKNOLOJİ DEVLERİNİN GÖRÜŞLERİNE TEPKİ

Teknoloji sektöründeki çağrılara en sert karşı çıkışlardan biri ise ABD Başkanı Donald Trump'tan geldi. Trump, yapay zekanın "dünyayı ele geçireceği ve insanlığı yok edeceği" yönündeki endişeleri "aldatmaca" olarak nitelendirdi. Yapay zeka ve veri merkezlerine karşı "hasta bir komplo" yürütüldüğünü öne süren Trump, sektör üzerindeki yeni kısıtlamaların ABD'nin Çin karşısındaki rekabet gücünü zayıflatabileceğini savundu. "Yapay zekayı kim kazanırsa, kazanır" diyen Trump, yeni güvenlik düzenlemelerine ihtiyaç olmadığını ve mevcut cezai ve düzenleyici yetkilerin yeterli olduğunu ileri sürdü.

NVIDIA CEO'SU HUANG: "YEN İ YASALARA İHTİ YAC IMI Z YOK"

Nvidia CEO'su Jensen Huang da yapay zekanın geliştirilmesinin yavaşlatılmasına karşı çıkan isimler arasında yer aldı. Huang, "Yeni yasalara veya düzenlemelere ihtiyacımız yok" diyerek yapay zeka güvenliğinin esas olarak bir "mühendislik problemi" olduğunu savundu.

Şirketlerin mümkün olduğunca hızlı ilerlemesi gerektiğini belirten Huang, ancak geliştirdiği sistem üzerinde kontrolünü kaybettiğini değerlendiren şirketlerin ürünü piyasaya sürmemesi gerektiğini söyledi.

YAPAY ZEKA ŞİRKETLERİ KENDİ DENETİMLERİNİ KENDİLERİ Mİ YAPACAK?

Tartışmanın bir diğer ayağını ise yapay zeka şirketlerinin kendi güvenlik kurallarını belirlemesinin yeterli olup olmadığı oluşturuyor. Altman, şirketlerin güvenlik konusunda büyük ölçüde kendi kendilerini denetleyebileceklerini savunurken, Anthropic'in kurucularından Jack Clark, yapay zekanın "tamamen düzenlenmemiş bir sektör" olarak bırakılmasının "çok büyük risklerle zar atmak" anlamına geleceğini söyledi.

ABD Senatörü Bernie Sanders da yapay zekanın geleceğine ilişkin kararların Elon Musk, Meta CEO'su Mark Zuckerberg ve Amazon'un kurucusu Jeff Bezos gibi "dünyanın en zengin birkaç kişisinin" elinde olmaması gerektiğini savundu. Sanders, "Yapay zeka konusunda kararları bu ülkenin halkı vermeli, yalnızca bir avuç oligark değil" dedi. Trump'ın eski başstratejisti Steve Bannon da teknoloji şirketlerinin kendi kendilerini denetlemesine karşı çıktı.

Buna karşılık Meta CEO'su Mark Zuckerberg, yapay zeka laboratuvarlarının güvenliği sağlamak için hem imkana hem de ekonomik teşvike sahip olduğunu belirterek, güvenliğe önem vermeyen şirketlerin geride kalacağını savundu.