OpenAI'da çalışan uyarısına rağmen yapay zeka testlerinin hızlandırıldığı öne sürüldü
Google algoritmasına bırakmayın, okuyacağınız haberi siz seçin! Tıkla ve ekle
New York Times'ın incelediği e-postalara göre OpenAI çalışanları, testlerin yeterince izlenmediği uyarısını yöneticilere iletti ancak dikkate alınmadığı öne sürüldü. Yöneticilerin testleri hızlandırdığı, modelin testten kaçıp Hugging Face'e saldırdığı belirtildi.
NEW ABD'li teknoloji şirketi OpenAI'a ait bir test sırasında yapay zekanın kontrolden çıktığı olayla ilgili, şirket çalışanlarının yöneticilere uyarıda bulunduğu ancak dikkate alınmadığı öne sürüldü.
New York Times tarafından incelenen e-posta mesajlarına göre, OpenAI'ın yapay zekasının kontrolden çıktığı olaydan aylar önce iki çalışan üst düzey yöneticileri uyardı ancak uyarılar umursanmadı.
İki çalışan, gönderdikleri e-postada OpenAI'ın en yeni yapay zeka modellerinin, teknolojinin gelişmişliğini ölçmek ve modelleri güvence altına almak için yapılan testler sırasında uygun şekilde izlenmemesinden endişe duyduklarını belirtti.
Ancak OpenAI yöneticileri, uyarılara rağmen çalışanlara, yapay zeka modellerini zamanında piyasaya sürmek için testlerin mümkün olan en hızlı şekilde ilerlemesi gerektiği talimatını verdi.
İki çalışan, ek güvenlik protokollerinin uygulanmadığını bildirirken, OpenAI çalışanları ve yöneticileri arasındaki yazışmalar, San Francisco merkezli yapay zeka şirketinin güvenliğe yeterince öncelik vermediği şeklinde değerlendirildi.
OpenAI'ın modelleri, söz konusu test ortamlarından kaçarak yapay zeka girişimi Hugging Face ve diğer kuruluşlara saldırmış, yapay zeka güvenliği hakkında küresel bir tartışma başlatmıştı.
Hugging Face vakası
OpenAI'ın Temmuz 2026'da yapay zeka modellerinin kabiliyetlerini ölçmeye yönelik yürüttüğü testler, ciddi bir güvenlik olayına dönüşmüştü.
Şirketin 26 Ağustos'ta yayımladığı inceleme raporuna göre, OpenAI'ın yalnızca araştırmalarda kullandığı "Internal Model 1 (IM1)" adlı modeli olayda başrol oynamıştı.
Yapay zeka ajanı, testte başarılı olmak için kendisine konulan sınırları aşarak şirketin sistemlerine ve internete erişmiş, başka yapay zeka ajanlarıyla iletişim kurmuştu.
Yapay zeka ajanlarından biri, açık kaynaklı yapay zeka modelleri platformu "Hugging Face"e erişim sağlayabilecek 14 kimlik bilgisini tespit etmiş ve bunları diğer ajanlarla paylaşmıştı.
Ajanlar, daha sonra Hugging Face'in sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırmış, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaşmıştı.
