เว็บไซต์ Propublica เผยรายงานเอกสารสอนระบบอัลกอริทึมภายใน Facebook ที่ทำหน้าที่คัดกรอง Hate Speech พบเอกสารบางชุดสอนระบบให้ปกป้องคนขาวจาก Hate Speech มากกว่าผู้หญิงและเด็กผิวสี เอกสารฝึกอบรมระบบที่กำลังเป็นประเด็นตอนนี้คือ คำถามว่า เราจะปกป้องคนกลุ่มใดจาก hate Speech โดยให้ระบบเลือกหนึ่งในสามภาพ ประกอบด้วย คนขับรถผู้หญิง (Female Drivers) เด็กผิวสี (Black Children) และ คนขาว (White Men) ปรากฏว่าระบบเลือกข้อสามคือคนขาว NEW: Facebook’s secret censorship rules protect white men from hate speech... but not black children https://t.co/sRGjQ7sOQE pic.twitter.com/fb6elbtjBF — ProPublica (@ProPublica) 28 มิถุนายน 2560 ProPublica อธิบายเหตุผลเบื้องหลังสไลด์การสอนนี้ว่า อัลกอริทึมอาจสับสนนโยบายป้องกันคนจาก Hate Speech โดยระบบเข้าใจว่าต้องป้องกันคนจากการถูกโจมตีตามประเภทต่างๆ ต่อไปนี้ เช่น โจมตีเรื่องเพศ อัตลักษณ์ ศาสนา เชื้อชาติ รสนิยมทางเพศ ความผิดปกติของร่างกาย แต่ระบบไม่ได้ปกป้องกลุ่มคนที่ถูกระบุเป็นอาชีพ ชนชั้นทางสังคม ความเกี่ยวพันทางการเมืองเพราะคิดว่ามีความสำคัญน้อยกว่ากับอัตลักษณ์ของบุคคล ดังที่ยกตัวอย่างในภาพ คือสองภาพแรกมีคำว่า Drivers กับ Children ซึ่งเป็นกลุ่มคนแยกย่อยลงไป ในขณะที่ภาพที่สามคือ White Men นั้นเป็นกลุ่มที่ถูกปกป้องชัดเจนจากความเข้าใจของอัลกอริทึม ที่มา - Fortune Topics: FacebookGenderHate crime