חוסם תוכן פורנוגרפי מובנה של iOS 14 מעכב חיפושים הכוללים את המילה "אסיאתית", לדברי סטודנט למדעי המחשב.
המשמעות היא שחיפושים אחר "אוכל אסייתי" או "מדינות אסיה" נחסמים אם מסנני התוכן למבוגרים מופעלים. בלוקים דומים אינם קיימים עבור מונחי חיפוש הכוללים "שחור", "לבן", "ערבי", "צרפתי" ומתארים לאומיים או גזעניים אחרים.
סטיבן שן, סטודנט למדעי המחשב באוניברסיטת פרדו באינדיאנה, ציין את המגמה בטוויטר.
"ב- iOS, אם תפעיל את 'הגבל אתר למבוגרים' תחת זמן מסך-> הגבלות תוכן, ספארי חוסם כל כתובת אתר המכילה את המילה 'אסיאתית'", כתבה שן. "ברצינות, לך תנסה, זה לא ייאמן. הגשתי פיבק לפני זמן רב. שום דבר לא השתנה. ”
חוסם תוכן למבוגרים אופציונלי דומה זמין ב- Mac. עם זאת, על חומרת שולחן העבודה של אפל המילה "אסייתית" נשארת ניתנת לחיפוש לאחר הפעלת חוסם התוכן.
סטיבן שן （沈 畅）
@Stevenpotato
1.5K
814
לא סביר שזו טעות אנוש
בראיון עם העצמאי, אמרה שן הבלוק לא צפוי להיות מקודד על ידי בני אדם. במקום זאת, סביר להניח שמדובר בבינה מלאכותית העוקבת אחר מילים הקשורות לעתים קרובות לחיפושים פורנוגרפיים. לשם כך, חוסם התוכן של iOS מעוות גם מונחים כמו "נוער", "חובבני" ו"בוגר ". זאת למרות שיש להם שימוש לגיטימי מחוץ לתוכן למבוגרים.
המתחרים של אפל מתמודדים עם אתגר מסוג זה גם בכל הנוגע ל- AI. גוגל, למשל, נתקלה בבעיות באלגוריתמים לסיווג תמונות תמונות לא מזוהות של אנשים שחורים כגורילות. בינתיים מיקרוסופט השיקה צ'אט בוט בשם Tay, שמשתמשים מקוונים "אימנו" במהירות להתנהג ב- באופן חסר רגישות גזעית.
אם שן צודקת, אפל לא הטילה על קודן אנושי להעלות רשימה של מונחים חסומים. כל זה נעשה בקורלציות של מאגרי מידע, אשר ניתן לטעון שהם משקפים מגמות ועמדות חברתיות רחבות יותר. (אם אתה מתעניין בנושא זה, אני באמת ממליץ לקרוא אלגוריתמים של דיכוי מאת Safiya Noble.)
מנכ"ל אפל טים קוק לעתים קרובות מתבטא נגד גזענות ועל חשיבות הגיוון. נראה סביר מאוד שכעת, לאחר שהתקלה ב- iOS זוהתה ומתפרסמת, היא תבוטל תוך זמן קצר. ובכל זאת, זהו שיעור על שיטות עבודה מומלצות בכל הקשור ל- AI.
