Google'ın ardından Anthropic'ten de yapay zekayla biyolojik silah uyarısı

Anthropic yapay zeka modelinin, biyolojik silah geliştirilmesini destekleyebilecek "kötü amaçlı faaliyetler" için kullanılmasına yönelik girişimler tespit ettiğini ve bunları engellediğini açıkladı. Şirketin bu duyurusu, Google'ın benzer açıklamasından yalnızca iki gün sonra geldi.Anthropic'in son tehdit istihbaratı raporunda yer alan bulgular, yapay zeka araştırmacıları ve sektör içinden isimlerin teknolojinin insanlığa yönelik potansiyel risklerine dair artan uyarılarının son örneği oldu.Bu uyarılar harekete geçilmesi yönündeki çağrıları da beraberinde getirdi: ABD Senatörü Bernie Sanders, gelişmiş yapay zeka çalışmalarına ara verilmesini ve yapay süperzekanın yasaklanmasını talep etti.ABD Başkanı Donald Trump ise şimdiye kadar bu çağrıları reddetti ve perşembe günü yaptığı açıklamada, "Yapay zeka yarışını kazanamazsak çok kötü bir duruma düşeceğimiz konusunda endişeliyim" dedi.Şirket son tehdit istihbaratı raporunu 10 Eylül'de yayımladı.Bu tür raporlar, şirketlerin modellerinin kötüye kullanılmasına yönelik girişimleri nasıl tespit edip engellediklerini göstermeye çalıştığı yapay zeka sektöründe düzenli bir unsur haline geldi.Buna Google da dahil. Google 8 Eylül'de yaptığı açıklamada, bir kişinin Gemini yapay zeka aracını kullanarak "biyolojik silah sentezlenmesine yönelik eksiksiz, adım adım teknik bir kılavuz" elde etmeye çalıştığını yazdı.Rapora göre Anthropic'in yapay zeka modeli Claude, Rusya bağlantılı bir siber casusluk kampanyasıyla ilişkili aktörler ve İranlı bir propaganda kurumu tarafından da kullanıldı.Son sekiz ay içinde tespit edilen endişe verici vakalar arasında sahte flört uygulamaları ve otel Wi-Fi dolandırıcılıklarından, muhalifleri tespit etmek için oluşturulan gözetim sistemlerine kadar çeşitli örnekler yer aldı.Anthropic ayrıca Çinli yapay zeka şirketlerini Claude'un yeteneklerini kopyalamaya çalışmakla suçladı.Kapsamlı rapor, devlet destekli olduğundan şüphelenilen grupların, suçluların, casus yazılım satıcılarının, devlet propaganda kurumlarının ve siyasi motivasyonlu kişilerin şirket teknolojisini kötüye kullandığı vakaları sıralıyor.Şirket Claude'un Haiku, Sonnet ve Opus modellerinin "kötü amaçlı kullanımının" Aralık 2025 ile Ağustos 2026 arasında engellendiğini açıkladı.Daha küçük yapay zeka modellerinin daha büyük ve daha maliyetli modeller kullanılarak eğitilmesi süreci olan bir "damıtma vakası" dışında, kötüye kullanım örneklerinin hiçbirinde Claude Fable veya güçlü Mythos sınıfı modeller yer almadı.Anthropic modellerinin siber operasyonlar ve etki faaliyetleri, gözetim, dolandırıcılık ve sahtekarlık ile silah geliştirme amacıyla kullanılmasını tespit etmesinin yanı sıra, yapay zekasını biyolojik silah geliştirmeyi destekleyebilecek şekillerde kullanan bilim insanlarını da engellediğini söyledi.Biyolojik silahlar, insanlara zarar vermek ya da onları öldürmek amacıyla hastalık veya toksin yaymak için tasarlanıyor ve araştırmacılar giderek daha güçlü hale gelen yapay zeka araçlarının bunların geliştirilmesindeki bazı teknik engelleri azaltabileceği konusunda uyarıyor.Raporda, "modelleri biyolojik silah geliştirmeyi destekleyebilecek şekillerde kullanan aktörlere ilişkin beş vaka incelemesi" öne çıkarıldı.Rapora göre biyolojik amaçlı kötüye kullanım, "öncü yapay zeka modellerinin en ciddi risklerinden biri".Anthropic, doğru koruma önlemleri olmadan bu tür yeteneklerin "felaket niteliğinde sonuçlara yol açabileceğini" belirtti.Şirket, "Biyolojik silah geliştirmek için kullanılabilecek aynı bilgiler, örneğin bir aşı ya da bir hastalığın tedavisini geliştirmek için de kullanılabilir" ifadelerini kullandı.Anthropic'te tehdit istihbaratının başında bulunan Jacob Klein, New York Times'a bunun "inanılmaz derecede karmaşık bir durum" olduğunu söyledi: "Çizgi romanlardaki gibi çıkıp da 'Herkesi öldürmek için biyolojik silah yapmak istiyorum' diyen birini görmüyorsunuz."Raporda ayrıca Claude'un "ateşli silahlar, füzeler, silahlı insansız hava araçları, bombalar ve diğer mühimmat türleri ile bunları işleten hedefleme ve kontrol sistemleri de dahil olmak üzere geleneksel silahlara yönelik yazılımlar geliştirmek için" kullanıldığı altı vaka bulunduğu belirtildi.Rapor, siber suçluların ve devlet destekli hackerların operasyonlarına yardımcı olmak için şirket teknolojisini giderek daha fazla kullandığını gösterdi.ShinyHunters adlı hacker grubu ile Çin merkezli laboratuvarlar, raporda adı geçenler arasında yer aldı.Raporda ayrıca, faaliyetleri Rusya merkezli Midnight Blizzard ile uyumlu olan bir hacker grubunun, kötü amaçlı yazılımının güvenlik sistemleri tarafından işaretlendiği durumları otomatik olarak tespit eden ve tespit edilmekten kaçınana kadar kodu yeniden yazan bir sistem kurmak için yapay zeka kullandığı iddia edildi.Californiya merkezli şirket, bulgularını "gelecekte bu faaliyetleri daha iyi önlemek, tespit etmek ve engellemek" amacıyla süreçlerine dahil ettiğini söyledi.Anthropic, uygun durumlarda istihbarat bilgilerini yetkililer ve sektör ortaklarıyla paylaştığını belirtti.Şirketin bu yıl yayımladığı ilk rapor olan çalışma, Anthropic'teki üst düzey bir güvenlik araştırmacısının yapay zekanın çok hızlı ilerlediği ve önümüzdeki on yıl içinde "tüm insanları öldürebileceğine" dair olasılığınnın ardından geldi.6 Eylül'de yayımlanan bir makalede OpenAI Baş Bilim İnsanı Jakub Pachocki, koruma önlemleri oluşturulana kadar sektörün "gönüllü yavaşlamalar" uygulaması çağrısında bulundu.Pachocki, "Makine zekasındaki hızlı yükselişin sürmesinin sonuçlarına kimsenin hazırlıklı olmadığı konusunda endişeliyim" dedi ve ChatGPT'yi geliştiren OpenAI'ın koruma önlemleri oluşturma çalışmalarını sürdüreceğini, ancak daha geniş kapsamlı müdahalelere ihtiyaç olduğunu ekledi.Bu uyarı İngiltere Başbakanı Andy Burnham'a, yapay zekanın güvenli geliştirilmesi için yeni bir çok uluslu anlaşma çağrısı yapan ve hükümetlerin süperzeka geliştirilmesine dayalı bir anlaşmanın nasıl olması gerektiği konusunda iş birliği yapmasını isteyen açık bir mektuba yol açtı.ABD'de Demokrat siyasetçi Bernie Sanders, yapay süperzekayı yasaklamak ve gelişmiş yapay zeka geliştirme çalışmalarına geçici olarak ara vermek amacıyla bir yasa tasarısı sundu.Perşembe günü BBC'nin Newsnight programında konuşan Sanders, "Bilim insanları size bunun insanlık üzerinde felaket boyutunda bir etki yaratma ihtimali olduğunu söylüyorsa, 'Yavaşlatın' dememek için aptal olmak gerekir" dedi.Bu habere Osmond Chia da katkıda bulundu.Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. .