Güney Kore’de iki kişiyi ilaç eklenmiş içeceklerle öldüren bir kadının, cinayetleri planlama aşamasında ChatGPT’ye danıştığı belirlendi. Olay, teknoloji şirketlerinin “güvenli algoritma” iddialarının uygulamada ne kadar geçerli olduğu konusunda soru işaretleri yarattı.
The Korea Herald’ın aktardığına göre, 20’li yaşlarındaki zanlı, psikiyatrik ilaçları içeceklere karıştırıp iki kişiye vererek ölümüne neden olduğu suçlamasıyla mahkemeye çıkarıldı.
Yapay zekâya detaylı sorular sordu
Polis soruşturmasında, zanlının cinayetleri planlarken ChatGPT’ye ilaçların etkileriyle ilgili sorular yönelttiği ortaya çıktı. Zanlının, “Uyku hapları alkolle alınırsa ne olur?”, “Ne kadar tehlikeli olabilir?” ve “Ölümcül sonuçlar doğurur mu?” gibi sorular sorduğu tespit edildi.
Yetkililer, zanlının ChatGPT’ye defalarca ilaç ve alkol kombinasyonları hakkında bilgi sorduğunu ve bu maddelerin birlikte alındığında ölümcül olabileceğinin farkında olduğunu belirtti. Olay, yapay zekâ platformlarının zararlı ve yasa dışı içerikleri engelleme konusundaki yetersizliklerini yeniden gündeme getirdi.
Suçunu kabul etti
Zanlının iki kurbanı farklı zamanlarda motellere götürüp, hazırladığı karışımı içirdikten sonra öldürdüğü saptandı. Kadın, polise verdiği ifadede ilaçları içeceklere karıştırdığını itiraf etti. Polis, dijital verilerin zanlının cinayet niyetini ve hazırlık sürecini açıkça gösterdiğini vurguladı.
Yapay zekâ geliştiricileri, sistemlerinin zararlı içerik üretmesini engellemek için çeşitli güvenlik önlemleri aldıklarını belirtse de, genel bilgi ile suç teşkil eden bilgiler arasındaki çizginin belirsizliği risk oluşturmaya devam ediyor.
