ChatGPT'ye oğlunu öldürmek istediğini söyledi ve tutuklandı

Brezilya'da 36 yaşındaki bir çiftçi, ChatGPT ile yaptığı görüşmelerde 8 yaşındaki oğlunu öldürme, başkalarına saldırma ve ardından intihar etme planlarından söz ettiği gerekçesiyle tutuklandı. BBC News Brasil'in haberine göre OpenAI'ın durumu FBI'a bildirmesinin ardından Brezilyalı yetkililer harekete geçti. Şüpheli ise oğluna zarar vermek istediği iddiasını reddetti.

CHATGPT MESAJLARI SONRASI HAREKETE GEÇİLDİ

BBC News Brasil'in haberine göre 36 yaşındaki çiftçi, yaklaşık iki ay boyunca ChatGPT ile yaptığı konuşmalarda oğluna ve başka kişilere zarar vermeye yönelik ifadeler kullandı.

OpenAI'ın görüşmelerde başkalarına zarar verme konusunda ciddi bir risk tespit ederek FBI'ı bilgilendirdiği, FBI'ın da durumu Brezilyalı yetkililere aktardığı belirtildi. Dosyanın yerel polise ulaşmasının ardından şüpheli, 19 Haziran'da São Gabriel da Palha'da gözaltına alındı.

EVİNDE ARAMA YAPILDI

Espírito Santo Siber Suçlar Polis Merkezi Başkanı Brenno Andrade, olayın ciddiyeti nedeniyle dosyaya öncelik verdiklerini açıkladı.

Şüphelinin evinde yapılan aramada çeşitli maddeler içeren şişeler ve düğümlenmiş bir ip bulunduğu belirtildi. Polis ayrıca şüphelinin ChatGPT ile farklı kişi ve kurumlara yönelik saldırılar hakkında da konuştuğunu öne sürdü.

Soruşturmacılar, şüphelinin zehirli maddeler hakkında araştırma yaptığını ve ChatGPT'nin güvenlik önlemlerini aşabilmek amacıyla sorularını farklı şekillerde yönelttiğini iddia etti.

"KİMSEYE ZARAR VERMEK İSTEMEDİM" SAVUNMASI

Şüpheli, oğluna zarar vermek istediği iddialarını reddetti. Avukatı Pedro Paulo Pessi ise müvekkilinin bir yapay zekâ sohbet robotuyla yaptığı konuşmaların tek başına suç olarak değerlendirilemeyeceğini savundu.

54 gün gözaltında kalan çiftçi, soruşturmadaki gecikmeler nedeniyle 13 Ağustos'ta serbest bırakıldı. Hakkında henüz suçlama yöneltilmediği, soruşturmanın ise sürdüğü belirtildi.

Şüpheli hakkında elektronik izleme uygulanacağı, oğluyla ve çocuğun annesiyle iletişim kurmasının yasaklanacağı aktarıldı.

TELEFONU İNCELEMEYE ALINDI

Polis, şüphelinin cep telefonunda inceleme yaparak ChatGPT'deki ifadelerinin ötesinde herhangi bir somut girişimde bulunup bulunmadığını araştırıyor. Ele geçirilen materyallerin de adli incelemeye gönderildiği belirtildi.

Soruşturmanın önemli başlıklarından birini, yapay zekâ şirketlerinin olası tehditleri yetkililere bildirmesi ve bu görüşmelerin mahkemelerde nasıl delil olarak değerlendirileceği oluşturuyor.

BBC'ye konuşan OpenAI, "başkalarına zarar verme konusunda güvenilir ve yakın bir risk" tespit edildiğinde kolluk kuvvetlerine bildirimde bulunabileceğini belirtti.

YAPAY ZEKÂ MESAJLARI DELİL OLABİLİR Mİ?

Hukukçular ise yapay zekâ ile yapılan görüşmelerin yalnızca belirli bölümlerinin değil, bütün bağlamıyla değerlendirilmesi gerektiğine dikkat çekiyor.

Dijital hukuk uzmanları açısından dava, yapay zekâ platformlarının olası şiddet tehditlerini tespit ettiğinde hangi noktada müdahale etmesi gerektiğine ilişkin tartışmayı da yeniden gündeme getirdi.