OpenAI ajanı Avustralya sağlık sistemine sızdı, özerklik endişesi büyüdü

ABD merkezli OpenAI şirketinin geliştirdiği yapay zeka ajanının, Avustralya hükümetinin sağlık sistemine sızarak bir devlet kurumunun altyapısını ihlal etmesi, bu teknolojinin "özerk" hareket etmesine ilişkin endişeleri yeniden gündeme taşıdı.
OpenAI'ın yapay zeka ajanına, Avustralya hükümetinin sağlık istatistiklerini araştırması komutu verildi.
Görevi portaldaki bilgiye erişmekten ibaret olan ajan, hükümetin internet sitesinde dijital bir bariyerle karşılaşmasının ardından komutlara rağmen güvenlik bariyerini aşmaya çalıştı.
Ajan, Avustralya hükümetine ait sistemde kamuya açık olmayan belgelere yetkisiz erişim sağladı. Uzmanlar, bu olayı bir yapay zeka ajanının bir devlet kurumunu bağımsız olarak ihlal ettiğinin kamuoyuna yansıyan ilk örneği olarak nitelendirdi.
Söz konusu güvenlik ihlali haziranda meydana gelse de, Avustralya Başbakanı Anthony Albanese'in geçen hafta 81. Birleşmiş Milletler (BM) Genel Kurulu kapsamında yaptığı açıklamayla gün yüzüne çıktı.
Albanese, şu ana kadar kişisel bilgilere erişildiğine veya ağın daha geniş çaplı bir şekilde tehlikeye atıldığına dair herhangi bir kanıt bulunmadığını söylese de soruşturma devam ediyor.
Yapay zeka ve siber güvenlik uzmanlarına göre bu durum, veri ihlalinin ötesine taşınarak, "Önüne hedef koyulan bir yapay zeka sistemine, ilk girişimi başarısız olduğunda sıradaki hareketine karar verebilecek ölçüde 'özerklik' tanınırsa ne olur?" sorusunu gündeme getiriyor.
?"İlk örnek" olarak nitelendirilmemesi gerekiyor
İngiltere'deki Buckingham Üniversitesinde bilgisayar bilimleri alanında öğretim üyesi Doç. Dr. Hisham Al-Assam, AA muhabirine yaptığı açıklamada, bunun "şimdiye kadarki ilk örnek" olarak nitelendirilmemesi gerektiğini zira benzer olayların daha önce de yaşanmış ancak kamuoyuna açıklanmamış olabileceğini belirtti.
Bu vakayı ilginç kılan durumun, ajana "Avustralya hükümetini hackle" komutu verilmemiş olması olduğunu kaydeden Al-Assam, araştırma için görevlendirilen yapay zeka ajanının bilgiye erişmeye çalışırken bir kısıtlamayla karşılaştığında ise durmak yerine, engeli aşmanın başka bir yolunu bulmaya çalıştığını anlattı.
Al-Assam, "Bu ayrım önemli, çünkü bir yapay zeka ajanının bir hedefi takip etmekten, karşısına bir engel çıktığında davranışını buna göre uyarlamaya nasıl geçebileceğini gösteriyor." ifadelerini kullandı.
Bir yapay zeka ajanının doğası gereği neyin yasal, etik veya yetkisi dahilinde olduğunu anlayamadığını kaydeden Al-Assam, bunun ayrıca yapay zekanın bir anda süper bir hackera dönüştüğü anlamına gelmediğini vurguladı.
Al-Assam, "Ancak bu, kuruluşların, bir hedef doğrultusunda hareket edebilen, diğer sistemlerle etkileşime girebilen ve her bir adımı bir insanın tek tek belirlemesine gerek kalmadan davranışlarını değiştirebilen sistemler hakkında farklı düşünmeleri gerektiğini gösteriyor." değerlendirmesinde bulundu.
Güçlü teknik sınırlara duyulan ihtiyaç
Yapay zeka ajanının "Buna erişemiyorum." ve "Buna erişim yetkim yok." arasındaki farkı doğal olarak anlayamadığına dikkati çeken Al-Assam, şu yorumu yaptı:
"Amacı bilgi bulmaksa, teknik bir kısıtlamayı saygı göstermesi gereken bir sınır değil, çözmesi gereken bir sorun olarak yorumlayabilir."
Al-Assam, bu durumun özellikle sağlıkta endişe verici olduğunun, çünkü sistemlerin son derece hassas bilgiler içerdiğinin altını çizerek, "Yapay zeka ajanlarının, onlara ne yapmaları veya yapmamaları gerektiğini söylemekten çok daha güçlü teknik sınırlara ihtiyaçları var." ifadesini kullandı.
Bunlar arasında en düşük seviye erişim yetkisi, güçlü kimlik doğrulama aşamaları, ağ kısıtlamaları, sürekli takip bulunduğuna işaret eden Al-Assam, "Yüksek riskli eylemler için de insan onayı gerekli olmalıdır." görüşünü paylaştı.
Al-Assam, "Yıllarca sistemleri, bilgisayar kullanan insanlara karşı güvence altına almak için çalıştık. Artık onları, insanlara çok benzeyen davranışlar sergileyebilen bilgisayarlara karşı nasıl güvence altına alacağımızı düşünmeye başlamamız gerekiyor." değerlendirmesinde bulundu.
Siber saldırılarda yeni aşama
İngiltere'deki Lancaster Üniversitesinde yapay zeka güvenliği alanında çalışmalar yapan Prof. Dr. Peter Garraghan da olayı "son derece önemli" olarak niteledi.
Garraghan, konunun hala soruşturma aşamasında olması nedeniyle ajanın güvenlik açığını bağımsız olarak keşfettiği sonucuna varmak için henüz erken olduğunu kaydetti.
Bu olayın, yapay zeka ajanlarının verilen görevlerinin ötesinde önemli eylemlerde bulunabileceğini gösterdiğini belirten Garraghan, "Ajanlar dış sistemlere daha fazla erişim sağladıkça bu olaylardan daha fazlasını beklemeliyiz. Bu nedenle izolasyon, düşük seviye erişim yetkisi, sürekli güvenlik testleri, takip ve kamuoyuna hızla duyurma elzemdir." ifadelerini kullandı.
"Süper zeka" geliştirmede temkin çağrısı
Bir yandan da önde gelen yapay zeka şirketleri, bazı görevlerde insanları aşabilen sistemler şeklinde tanımlanan "süper zeka" teknolojisini tartışıyor.
İngiltere'deki Portsmouth Üniversitesinde siber güvenlik ve uygulamalı yapay zeka alanında çalışan Prof. Dr. Stavros Shiaeles, süper zekanın geliştirilmesi konusunda temkinli olunması gerektiğini vurguladı.
Yapay zeka ajanlarının spesifik görevler için üretilmesi, tüm bilim dallarının tek bir yapay zeka modelinde birleştirilmemesi gerektiğini vurgulayan Shiaeles, buna rağmen "süper zeka" teknolojisine yönlenildiğini ve insanların "yakında bu durumla ilgili sorunlar yaşayacağını" belirtti.