Bir bilgisayar bilimi öğrencisine göre iOS 14'ün yerleşik pornografik içerik engelleyicisi, "Asyalı" kelimesini içeren aramaları engelliyor.
Bu, yetişkinlere uygun içerik filtreleri etkinleştirilirse "Asya yemeği" veya "Asya ülkeleri" aramalarının engellendiği anlamına gelir. "Siyah", "beyaz", "Arap", "Fransız" ve diğer ulusal veya ırksal tanımlayıcılar gibi arama terimleri için benzer bloklar mevcut değildir.
Indiana'daki Purdue Üniversitesi'nde bilgisayar bilimi öğrencisi olan Steven Shen, Twitter'daki trendi kaydetti.
Shen, "iOS'ta Ekran Süresi->İçerik Kısıtlamaları altında 'Yetişkin Web Sitesini Sınırla'yı açarsanız, Safari 'asya' kelimesini içeren herhangi bir web sitesi URL'sini engeller" diye yazdı. “Cidden, git dene, inanılmaz. Uzun zaman önce bir geri bildirimde bulundum. Hiçbirşey değişmedi."
Benzer, isteğe bağlı bir yetişkin içerik engelleyici Mac'te mevcuttur. Bununla birlikte, Apple'ın masaüstü donanımında, içerik engelleyici etkinleştirildikten sonra "Asyalı" kelimesi aranabilir durumda kalır.
Steven Shen（沈畅）
@Stevenpatates
1.5K
814
İnsan hatası olma ihtimali yok
ile yapılan bir röportajda Bağımsız, Shen söyledi bloğun insan kodlu olması pek olası değildi. Bunun yerine, büyük olasılıkla pornografik aramalarla sıklıkla ilişkilendirilen kelimeleri keşfeden bir yapay zekadır. Bu amaçla, iOS içerik engelleyici "genç", "amatör" ve "olgun" gibi terimleri de susturur. Bu, yetişkinlere uygun içeriğin dışında meşru kullanımları olmasına rağmen.
Apple'ın rakipleri, yapay zeka söz konusu olduğunda da bu tür zorluklarla karşı karşıya. Örneğin Google, görüntü sınıflandırma algoritmalarıyla ilgili sorunlarla karşılaştı. Siyah insanların goriller olarak yanlış tanımlanmış fotoğrafları. Bu arada Microsoft, çevrimiçi kullanıcıların hızlı bir şekilde "eğitilmiş" bir şekilde davranması için Tay adlı bir sohbet botu başlattı. ırksal olarak duyarsız bir şekilde.
Shen haklıysa, Apple bir insan kodlayıcıyı engellenen terimlerin bir listesini bulması için görevlendirmedi. Her şey, daha geniş ayrımcı toplumsal eğilimleri ve tutumları yansıttığı iddia edilebilecek veri kümesi korelasyonları üzerinde yapılır. (Bu konuyla ilgileniyorsanız, gerçekten okumanızı tavsiye ederim. Baskı Algoritmaları Safiya Noble tarafından.)
Apple CEO'su Tim Cook sık sık ırkçılığa karşı konuşuyor ve çeşitliliğin önemi hakkında. Bu iOS aksaklığı tespit edilip kamuoyuna duyurulduğundan, kısa sürede ortadan kaldırılacak gibi görünüyor. Yine de, yapay zeka söz konusu olduğunda en iyi uygulamalar hakkında bir derstir.
