OpenAI, yapay zekasının kontrolden çıktığını ve 'benzersiz' bir siber saldırı başlattığını açıkladı

OpenAI, güvenlik testi sırasında kontrolünü kaybettikten sonra en gelişmiş yapay zeka modellerinden bazılarının kontrolden çıktığını ve bir girişim şirketini hacklediğini açıkladı.

ChatGPT'nin üreticisi, insan talimatlarından sonra tek başına çalışabilen yapay zekâ sistemi olan ajanının kontrollü bir ortamda test edildiğini, ancak güvenlik açıkları bulup kaçmayı başardığını söyledi.

Saldırganlar, yapay zeka modellerinin paylaşımı için dünyanın en büyük merkezlerinden biri olan Hugging Face'i hedef alarak, şirketin bazı iç sistemlerine erişim sağladılar.

OpenAI, olayın "benzeri görülmemiş" olduğunu ve Hugging Face ile birlikte bir soruşturma yürüttüğünü söyledi.

Hugging Face'in patronu Clement Delangue ise X'te yaptığı bir paylaşımda, "Bütün bunların otonom olarak gerçekleşmesi akıl almaz" dedi.

Delangue, "Soruşturma devam ediyor ve bu türden ilk olay denebilecek bu olayla ilgili elde ettiğimiz bilgiyi paylaşacağız" diye ekledi.

Hükümet sözcüsü, İngiltere Yapay Zeka Güvenlik Enstitüsü'nün olayda görülen yapay zeka sisteminin davranışını incelediğini ve güvenlik önlemlerini iyileştirmek için OpenAI ve diğer laboratuvarlarla çalışmaya devam ettiğini söyledi.

Kuruluşların, hükümet destekli Siber Güvenlik Temelleri sertifikasyon programına kaydolmak gibi adımlar atarak siber savunmalarını güçlendirmeleri gerektiği belirtildi.

Güvensiz kum havuzları

Cambridge Üniversitesi'ndeki Minderoo Teknoloji ve Demokrasi Merkezi'nin başkanı Gina Neff, BBC Radio 4'ün Today programına verdiği demeçte, güvenlik testlerinin (kum havuzları olarak adlandırılan) "modellerin neler yapabileceğini görebileceğiniz güvenli ortamlar" olması gerektiğini söyledi.

"Bu durumda, OpenAI'nin yeterince güvenli bir sanal ortam oluşturmadığı anlaşılıyor" diye ekledi.

Bunun yerine, ajanlar sanal ortamın kendisine karşı kendi siber saldırılarını düzenleyerek, kaçmalarına olanak tanıyan bir güvenlik açığı buldular.

Dışarı çıktıktan sonra, yapay zeka Hugging Face'i testte aradıkları cevapların muhtemel kaynağı olarak belirledi ve içeri girmeye çalıştı.

Cambridge Üniversitesi'nde makine öğrenimi profesörü olan Neil Lawrence, bunu "etkileyici bir başarı" olarak nitelendirdi, ancak bunun "mevcut yüksek yapay zeka modellerinin bilinen yetenekleri dahilinde" olduğunu ekledi.

Lawrance, OpenAI'nin borsaya açılmayı planladığını ve güçlü yapay zeka aracı Mythos ile adından söz ettiren rakip firma Anthropic'ten yoğun baskı gördüğünü belirtti.

"OpenAI şu anda arayı kapatmaya çalışıyor, siber güvenlik alanındaki kendi sistemlerinin yeteneklerini göstermeye çalışıyorlar."

"Bu bize OpenAI'nin kendi teknolojisini güvenli bir şekilde kullanıma sunma yeteneğine sahip olmadığını gösteriyor" diye ekledi.

Hugging Face, 16 Temmuz'da siber saldırıyla ilgili ilk açıklamasında, herhangi bir müşteri veya iş ortağı verisinin etkilenip etkilenmediğini hâlâ değerlendirdiğini ve gerekirse etkilenen taraflarla iletişime geçeceğini belirtmişti.

Açıklamada, olayda ortaya çıkan güvenlik açıklarının kapatıldığı ve etkilenen sistemlerin yeniden yapılandırıldığı belirtildi.

"Otonom, yapay zeka destekli saldırı araçları artık teorik olmaktan çıktı.

"Çevrimiçi bir platformu savunmak artık veri ve model yüzeyini birinci sınıf bir saldırı yüzeyi olarak ele almak ve savunmada yapay zekayı kullanarak hızı korumak anlamına geliyor.

"Orada yatırım yapmaya ve öğrendiklerimizi paylaşmaya devam edeceğiz."

'Düşündürücü an'

Bu olay, gelişmiş yapay zeka sistemlerinin yetenekleri ve teknoloji daha da güçlendikçe mevcut güvenlik önlemlerinin yeterli olup olmadığı konusunda yeni soruları gündeme getirdi.

Siber güvenlik firması SonicWall'da yönetici olan Spencer Starkey, BBC'ye verdiği demeçte, bu olayın kuruluşların kendi savunmalarını "güçlendirmeleri" ve "siber dayanıklılığı temel bir operasyonel öncelik olarak ele almaları" gerektiğini açıkça ortaya koyduğunu söyledi.

"Rahatsız edici gerçek şu ki, çok fazla kuruluş hâlâ insan hızıyla savunma yaparken, rakipler makine hızına geçiyor" dedi.

Siber güvenlik danışmanlık firması Guidepoint Security'nin baş güvenlik mühendisi Travis Lelle de güncellemenin "siber güvenlikte düşündürücü bir an" olduğunu söyledi.

"Bu, bilinen bir asimetriyi ortaya koyuyor. Saldırı unsurları serbestken, en iyi savunma araçları bağlamı anlayamayan güvenlik önlemlerinin ardında kilitli kalmış durumda."

ESET'in küresel siber güvenlik danışmanı Jake Moore ise bu duyurunun rekabetçi bir boyutu da olabileceğini söyledi.

Ona göre OpenAI, rakibi Anthropic'in Claude Mythos modeliyle giderek artan ilgi görmesi nedeniyle kendi yapay zeka yeteneklerini ön plana çıkarmaya çalışıyor olabilir.

Moore'a göre "Bu durum, OpenAI'nin son zamanlarda Anthropic'in pazarlama hayalini kovalıyor olabileceği sorusunu gündeme getiriyor".

Bu gelişme, Çinli yapay zeka girişim şirketi Moonshot'un, ABD'li önde gelen firmalarla rekabet edebileceğini söylediği devasa yeni yapay zeka modeli Kimi K3'ü tanıtmasından bir hafta sonra yaşandı.

Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. .