Yapay Zeka Uygulamaları Çocuklar İçin Tehlike Arz Ediyor: Yeni İddialar Ortaya Çıktı

Gün geçtikçe sanal dünyada ilerleyen yapay zeka uygulamaları, çocuklar için tehlike oluşturmaya devam ediyor. Game of Thrones karakteriyle sohbet eden 14 yaşındaki Sewell Setzer’ın intihara sürüklenmesi üzerine ailesi Ekim ayında Character.ai şirketi hakkında dava açmıştı. Şirket, yeni dijital güvenlik skandallarıyla gündemde.

Washington Post’un haberine göre, Texas’ta bir aile, yapay zeka temelli konuşma uygulaması Character.AI’nın sohbet botlarıyla iletişim kuran 17 yaşındaki otizmli oğullarında fiziksel ve davranışsal belirtiler fark etti.

Ailenin çocuğunun telefonuna baktığında, botların, “ekran süresi kısıtlandığı için üzgün olan çocuğa” “ailesinin çocuğa sahip olmayı hak etmediği” şeklinde cevaplar verdiğini keşfetti.

Ailenin aldığı ekran görüntülerinde, yapay zeka botunun çocuğa kendini kesmesini önerdiği görüldü.

Character.AI’ı dava eden aile, bir botun aile kurallarına karşı çıkmasını teşvik ettiği ve başka bir botun aileye “ölmeyi makul bir karşılık olarak görebileceğini” söylediğini iddia etti.

Character.AI’ya Karşı Yeni Bir Aile Daha Davalı Oldu

Character.AI, son zamanlarda yüzleştiği davalara rağmen dikkat çekerken, Texas’ta başka bir aile de dava sürecine dahil oldu.

İkinci aile, uygulamanın çocuklarını uygun olmayan içeriklere maruz bıraktığını iddia ederek, çocukları korumak için daha katı önlemler alınıncaya kadar uygulamanın kapatılmasını talep etti.

Aile, 11 yaşındaki kızlarının iki yıl boyunca “cinsel içeriklere” maruz kaldığını öne sürdü.

Ayrıca, Ekim ayında Florida’da bir aile, oğullarının sanal karaktere aşık olup intihar ettiği iddiasıyla dava açmıştı.

İlgili Haber

Game of Thrones karakterine sanal dünyada aşık olan genç intihar etti

patronlardunyasi.com