Bugün yayınlanan bir haber Simsimi isimli uygulama üzerinden çocukların istismar mesajları aldığını gündeme getirdi.
Filmi başa sarıp, biraz örneklere dikkat çekip çözüm önerisiyle final yapalım.İnternetin ilk yıllarından beri tartışılan bir konu bu teknolojinin çocuk istismarı için bir tehlike oluşturabileceği yönündeydi. Çocuk istismarına aynı zamanda intihara yönlendirme olarak da bakabilirsiniz. Mavi Balina vakasında bu ikisi arasındaki yakınlık görülmüştü.
İnternet ve özgürlükler konusunda yoğun emek veren “Siber Anarşist” grupların dahi en büyük endişelerinden biri bu özgürlüğün çocuk istismarcılarına da kapı aralayabileceğiydi. 1992’den itibaren olan e-posta yazışmalarına buradan bakabilirsiniz.
Bu tartışma bir yandan devam ederken bazı yaşanan vakalar da insanların dikkatini çekmeye başladı. Önce daha yakın tarihten vakalara değinelim sonra derinlemesine bakalım. Yakın tarihte malum sosyal ağların gelişimiyle ilk tedbir 13 yaşından küçük çocukların sosyal ağları kullanmaması oldu. Üye kaydı esnasında bu konuda hassasiyet gösterildi. Fakat yaşını değiştiren kullanıcılardan dolayı özellikle Instagram tekrar bu sorunla yüzleşince Instagram kelime bazlı engellemelerle de daha sıkı tedbirler aldı.
Fakat Twitter, Telegram gibi platformlar bu konuda yeterince çevik olamadı. Hatta Twitter geçtiğimi yıl bunla ilgili bir ceza aldı. Telegram ile ilgili de 2019 yılında Hindistan önemli bir çalışma yaptı ve bir sürü sayfayı yasaklattı.
Fakat sorun sadece sosyal ağlarla ilgili değil. Daha internetin erken zamanlarında Second Life isimli oyun devreye girince ilk gündeme gelen çocuk istismarı konusu oldu. Hatta akademisyenler bunla ilgili makale dahi yayınladı.
Yine Sosyal Ağlar Tarihi kitabını yazarken denk geldiğim örneklerden biri Japonya’daki bir sosyal medya platformlarunda 18 yaşından küçüklere mesaj atılmasının kapatılmasıydı.
Bunlar sorunlar.
Şimdi internet mekanizmasının genel yapısını konuşup sonra çözüm kısmına geçelim.
İnternet her ne kadar sonsuz karmaşıklıkta görünse de aslında bazı kilit noktalar üzerinde var olur. Bu noktaları dikkatli şekilde anlarsanız problemlerini de çözebilirsiniz. Örneğin Simsimi tarzı bir oyundaki akışı ele alalım.
Bu sisteme öyle bir noktadan müdahale etmeliyiz ki, sadece çocuk istismarını engelleyelim. Bunu adım adım yapacağız. İlk başta Reklam’a kadar olan kısma odaklanalım.
Burada ciddi bir filtreleme yapıldı. Fakat diyelim ki yine kaçak var, devam edelim. İkinci aşamada pazar yeri eğer çocuklar arası sohbetler yapay zeka tarafından denetlenmiyor ve filtreleme arama ve reklam algoritmasında uygulamayı geri planda bırakacağını belirtir.
Burada finansal zarara uğrayan oyun şirket hızlı bir şekilde bu eklentiyi yapar. Diyelim ki tüm bunlara rağmen sohbet alanı açıldı ve istismara yönelik bir şey gerçekleşti. Yapay zekadan da bir şekilde kaçırıldı. Mesaja basılıp rapor edildiğinde yapay zeka eğitim kümesi içine eklenir ve potansiyel bir sonraki tehdit için yine bloke süreci olur.
Diyelim ki ne pazar yeri ne de uygulama bunları kabul etmiyor. Bu durumda çocuk istismarına yönelik içeriklerin raporlanması durumunda ilgili pazar yerinin tedbir alması, uygulamaya akıllı işaretler eklemesi bunların olmaması durumunda pazar yerindeki uygulamanın tıpkı diğer çocuk istismarı içeriği olan siteler gibi düşünülerek link bazlı erişim engeli alması gerçekleşir.
Aslında bu sorunu çözmek bu kadar basit. Sadece tüm paydaşlar arası yakın bir işbirliği gerekiyor. İnterneti önümüzde bekleyen ve intihar salgınları çıkarabilecek ana tehlike ise FBI’ın uyarı yaptığı ve derin webde filizlenen fakat yüzeydeki webe de sıçrayan deepfake ile istismar içerikleri oluşturulması. Bu konunun nasıl çözülebileceğine de bir sonraki blog yazısında yer verelim.
Yorumlar kapatıldı.