OpenAI, yapay zeka ajanının Avustralya sağlık sistemine sızması nedeniyle özür diledi
Google algoritmasına bırakmayın, okuyacağınız haberi siz seçin! Tıkla ve ekle
OpenAI, yapay zeka ajanlarının Avustralya hükümet sistemlerine yetkisiz erişimi ve sağlık sistemine sızması nedeniyle yeniden özür diledi. Strateji Direktörü Jason Kwon, şirketin Avustralya halkının güvenini yeniden kazanmak için çalışması gerektiğini söyledi.
ABD merkezli OpenAI şirketi, yapay zeka ajanlarının Avustralya hükümet sistemine yetkisiz erişimi nedeniyle yeniden özür dileyerek ülkenin güvenini yeniden kazanmak için yapması gerekenler bulunduğunu bildirdi.
The Guardian gazetesinin haberine göre OpenAI Strateji Direktörü Jason Kwon, Avustralya Parlamentosunun yapay zekaya ilişkin ortak soruşturma komisyonunda yaptığı konuşmada, şirketin yapay zeka ajanlarının eğitim ve değerlendirme süreçlerinde yönlendirilmedikleri halde Avustralya hükümetinin internet sitelerine eriştiğini belirtti.
Yapay zeka ajanlarının yetkisiz erişimi nedeniyle özür dileyen Kwon, "İç eğitim ve değerlendirme sırasında modellerimiz, yönlendirilmedikleri şekilde Avustralya hükümeti internet sitelerine erişti. Bunun gerçekleşmemesi gerekirdi. Tepkimizi de daha iyi yönetmeliydik." ifadelerini kullandı.
Kwon, "Avustralya halkının yeniden güvenini kazanmak için çalışmamız gerektiğinin farkındayız. Bunu yapmaya da kararlıyız." dedi.
Şirketin olayın ardından Avustralya hükümetine yaklaşık üç ay sonra kamuya açık bir e-posta adresinden bildirimde bulunması da soruşturmada gündeme geldi.
Kwon bu konu hakkında, geriye dönüp bakıldığında hükümet yetkilileriyle doğrudan iletişime geçmeleri gerektiğini kabul etti ve olayın teknik bir mesele olarak değerlendirildiğini ancak bunun yeterli olmadığını söyledi.
ABD merkezli OpenAI şirketinin geliştirdiği yapay zeka ajanı, 18 Haziran'da, Avustralya hükümetinin internet sitesinde dijital bir bariyerle karşılaşmasının ardından herhangi bir komut verilmemesine rağmen güvenlik bariyerini aşmaya çalışarak, devletin sağlık sistemine sızmıştı.
