Kaspersky araştırması finans sektöründe gölge yapay zeka riskini ortaya koydu

Kaspersky, bankacılık, finansal hizmetler ve sigortacılık sektöründeki (BFSI) kuruluşların yapay zeka araçlarını kullanması ve şirketlerin maruz kaldığı yapay zeka destekli siber saldırılara ilişkin yürüttüğü araştırmayı paylaştı.

Şirketten yapılan açıklamaya göre, finans sektörü yapay zekayı kullanmaya genel piyasa ortalamasından daha açık bir yaklaşım sergiliyor ve siber tehditlere karşı birçok sektörden daha güçlü bir koruma sağlıyor. Ancak sektör bu alanda da güvenlik açıklarıyla karşılaşıyor. Kaspersky İç Araştırma Merkezi, bu kapsamda küresel araştırma yürüttü.

Yapay zeka, finans kuruluşlarına daha hızlı analiz, daha isabetli kararlar ve daha verimli operasyonlar vadediyor.

Kaspersky'nin küresel araştırmasına göre, finans sektöründeki kuruluşlar, veri analizi (yüzde 59'a karşı yüzde 54) ve proje yönetimi (yüzde 54'e karşı yüzde 49) alanlarında yapay zeka kullanmaya genel piyasa ortalamasına kıyasla daha yatkın bulunuyor.

Bu alanlarda yapay zeka, işlemleri doğrudan gerçekleştirmek yerine karar alma süreçlerini destekliyor. Bu nedenle hatalı bir çıktı, doğrudan finansal kayıptan çok zaman kaybına yol açabiliyor.

Yapay zekaya açılan kapı giderek genişliyor. Kaspersky'nin araştırması, BFSI sektöründeki kuruluşların yapay zeka kullanımını artırmayı planlama olasılığının da genel piyasa ortalamasının üzerinde olduğunu ortaya koyuyor.

Kuruluşların yüzde 19'u harici yapay zeka araçlarını, yüzde 8'i ise kurum içi araçları daha fazla kullanmayı planlıyor. Piyasa genelinde bu oranlar sırasıyla yüzde 15 ve yüzde 7 seviyesinde bulunuyor. Aradaki farklar sınırlı olsa da finans sektörü, yapay zekayı operasyonlarının kalıcı bir parçası olarak görüyor.

Kimlik avı ve fidye yazılımları, finans sektörünün karşı karşıya olduğu başlıca siber tehditler arasında yer almaya devam ediyor. Yapay zeka saldırganların ikna edici mesajlar oluşturmasını, sesleri taklit etmesini ve sahte belgeler hazırlamasını daha hızlı ve düşük maliyetli hale getirerek bu tehditlerin tespit edilmesini zorlaştırıyor.

Yapay zeka, saldırganların hedeflerine yönelik daha hassas saldırılar düzenlemesine de olanak tanıyor.

Kaspersky'nin Güvenlik Bülteni'nde yer alan bilgilere göre, yapay zeka hedeflerin davranışlarını modellemek, daha ikna edici tuzaklar hazırlamak ve altyapıları manuel yöntemlerle mümkün olamayacak hız ve ölçekte araştırmak için kullanılıyor. Bu durum, hedefli dolandırıcılık girişimlerinin, sosyal mühendislik saldırılarının ve piyasa manipülasyonu girişimlerinin artmasına katkıda bulunuyor.

Finans kuruluşları açısından bu gelişmeler, riskleri daha da artırıyor. Meşru iletişimleri gelişmiş dolandırıcılık girişimlerinden ayırt etmek giderek zorlaşıyor. Bunun pratikteki karşılığı ise finans sektörünü zaten tehdit eden saldırıların başarıya ulaşma olasılığının artması. Teknik güvenlik önlemleri önemli bir koruma sağlasa da gerçeğe oldukça benzeyen sahte içeriklerin insanlar tarafından da fark edilmesi gerekiyor. Bu da bizi bir sonraki soruna getiriyor.

Yapay zeka kullanımındaki en büyük risklerden bazıları dış saldırganlardan değil, çalışanların ChatGPT veya DeepSeek gibi üçüncü taraf araçları kurumlarının onayı olmadan kullanmasından doğuyor. Bu durum "shadow AI" olarak tanımlanıyor.

Verilerin onaylanmamış araçlarla paylaşılması ciddi sonuçlar doğurabiliyor

Kaspersky'nin araştırmasına göre BFSI sektöründeki katılımcıların yüzde 37'si, kurumlarında bu tür kullanımları yaygın bir riskli davranış olarak değerlendiriyor. Piyasa genelinde bu oran yüzde 30 olarak dikkati çekiyor. Hassas müşteri bilgilerini ve finansal kayıtları işleyen kuruluşlar açısından verilerin onaylanmamış araçlarla paylaşılması, özellikle ciddi sonuçlar doğurabiliyor.

Geleneksel güvenlik kontrolleri, bu tür veri sızıntılarını her zaman önleyemiyor. Bir çalışan gizli bilgileri herkese açık bir yapay zeka sohbet robotuna yapıştırdığında veriler, geleneksel bir güvenlik uyarısını tetiklemeden kurumun denetimi altındaki ortamın dışına çıkabiliyor.

Araştırma bulguları bu endişeyi destekliyor. BFSI sektöründeki katılımcıların yüzde 85'i yapay zekayla ilişkili risklerin farkında olduğunu belirtirken yüzde 9'u bu risklerin hiçbir şekilde ortadan kaldırılamayacağını düşünüyor.

Bu veriler, risklerin farkında olmakla onları uygulamada yönetebilmek arasında bir boşluk bulunduğuna işaret ediyor. Farkındalık önemli olsa da yapay zeka kullanımına ilişkin açık kuralların, onaylı araçlara erişimin ve çalışanların bu teknolojileri nasıl kullandığını izlemeye yönelik yeterli görünürlüğün yerini tutamıyor. Finans kuruluşları açısından tehditleri kurumun dışında tutmanın yolu, güvenli yapay zeka kullanımını riskli kestirme yollardan daha kolay ve uygulanabilir hale getirmekten geçiyor.

BFSI sektöründeki kuruluşların yalnızca yüzde 23'ü programlama alanında yapay zeka kullanıyor. Piyasa genelinde bu oran yüzde 34 olarak öne çıkıyor. Bu da yapay zeka kullanımının öne çıktığı alanlardan birinde 11 yüzde puanlık bir fark anlamına geliyor.

Veriler, finans kuruluşlarının programlama alanında yapay zekayı neden daha az kullandığını kesin olarak ortaya koymuyor. Bununla birlikte sonuçlar, hataların ciddi sonuçlar doğurabileceği bir sektöre işaret ediyor. Yapay zeka analiz, planlama ve karar alma süreçlerinde yardımcı olarak memnuniyetle karşılanabilir; ancak kritik sistemlerin geliştirilmesinde kullanılması daha sıkı güvenlik önlemleri gerektiriyor.

Finans kuruluşları yapay zeka kullanımını yaygınlaştırırken yalnızca dış saldırganlardan kaynaklanan tehditleri değil, teknolojinin kurum içinde kullanım biçiminden doğan riskleri de yönetmek zorunda bulunuyor.

Yapay zeka destekli güvenlik araçları, şüpheli faaliyetlerin tespit edilmesine, farklı sistemlerden gelen sinyallerin ilişkilendirilmesine, uyarıların önceliklendirilmesine ve olay incelemelerinin hızlandırılmasına yardımcı olabiliyor.

Yapay zeka, sağlam bir güvenlik altyapısına ve deneyimli analistlere duyulan ihtiyacı ortadan kaldırmıyor. Bu teknolojinin asıl katkısı, güvenlik ekiplerinin daha verimli çalışmasına ve giderek karmaşıklaşan tehditlere daha hızlı yanıt vermesine yardımcı olmak.

Finans kuruluşları yerleşik güvenlik önlemlerine yatırım yapmayı sürdürüyor

Araştırma bulguları bir arada değerlendirildiğinde finans sektörünün siber güvenliğe güçlü bir odaklanmayı sürdürürken yapay zeka kullanımını da yaygınlaştırdığı görülüyor. Finans kuruluşları yapay zeka kullanımını artırmayı planlıyor ve yerleşik güvenlik önlemlerine yatırım yapmayı sürdürüyor.

Çalışan davranışlarından ve yapay zeka sistemlerinin kendisinden kaynaklanan riskler ek kontroller gerektiriyor.

Yapay zeka yönetişimi ve siber güvenlik, aynı stratejinin birbirini tamamlayan iki unsuru olarak ele alınmalı. Amaç, yenilikçiliği desteklerken verileri, sistemleri ve kritik kararları korumak.

"Yapay zeka ajanları için de açık kurallar belirlenmeli"

Açıklamada görüşlerine yer verilen Kaspersky Yapay Zeka Teknolojileri Araştırma Merkezi Grup Yöneticisi Vladislav Tushkanov, finans şirketlerinin bilinçli bir sınır çizdiğini belirtti.

Yapay zeka analiz ve planlama süreçlerini hızlandırdığı alanlarda memnuniyetle karşılanırken kritik sistemleri çalıştıran kodların geliştirilmesinde daha temkinli yaklaşıldığını aktaran Tushkanov, "Büyük dil modellerinin (LLM) kullanımına izin verilen durumlarda, gölge yapay zekanın (onaylanmamış yapay zeka araçlarının kontrolsüz ve izlenmeyen kullanımının) yayılmasını önlemek için kullanım koşullarını, yetki kapsamını ve hangi düzeyde yalıtım uygulanacağını belirleyen politikalar oluşturulmalı ve bu politikaların uygulanması sağlanmalı. Onaylanmamış araçlar güvenlik incelemesine alınmalı veya onaylı alternatiflerle değiştirilmeli. Yapay zeka ajanları için de açık kurallar belirlenmeli, izinleri sınırlandırılmalı ve insan denetimi sağlanmalı." ifadelerini kullandı.