Кількість користувачів Facebook давно перевищила 2 млрд і продовжує зростати, так що завдання контролю за дотриманням правил спільноти стає все більш складним. Незавидна робота покладена на плечі команди модераторів, що налічує 7500 осіб (крім алгоритмів сайту), які переглядають безліч непривабливих публікацій, починаючи з терористичних матеріалів і закінчуючи зображеннями жорстокого поводження з дітьми.
Не дивно, що модератори не завжди вірно розуміють суть зображення або публікації (частково через двозначні рекомендації самої Facebook). Проблемі поширення ненависті і ворожнечі за допомогою найбільшої соціальної мережі був присвячений недавній матеріал некомерційної організації ProPublica.
Її співробітники відправили в Facebook набір з 49 прикладів (обраних з 900 публікацій добровольців) з проханням пояснити рішення модераторів. У більшості цих випадків повідомлення, що містили сексистські, расистські або антимусульманські висловлювання, залишилися опублікованими; у декількох випадках цілком законний вираз емоцій було видалено. Соціальна мережа визнала, що її редактори неправильно відреагували на 22 випадки. У шести прикладах Facebook сказала, що користувачі заплутали модераторів неправильно оформленими скаргами або автори самі видалили повідомлення; а в двох випадках не було достатньо інформації для реакції. Компанія також виступила на захист рішень 19 своїх редакторів.
"Ми шкодуємо про помилки, яких припустилися, - сказав у заяві Facebook віце-президент Джастін Ософський (Justin Osofsky). - Ми повинні справлятися краще ". Керівник додав, що наступного року соціальна мережа розширить свою команду з безпеки і захисту до 20 тисяч осіб, щоб краще підтримувати стандарти спільноти. Він додав, що Facebook щотижня видаляє близько 66 тисяч повідомлень, на які надходять скарги в поширенні ненависті.
Крім боротьби з дезінформацією, Facebook намагається розвивати і свої інструменти для видалення чутливих матеріалів. Наприклад, у квітні соціальна мережа додала механізм скарг на «порновозмездие» (Revenge Porn - поширення фото- або відеоматеріалів жертви, зафіксованої під час сексуальної активності або в іншому непотрібному вигляді). З'являються й інші інструменти боротьби з агресивною поведінкою співрозмовників і тому подібними темними сторонами спілкування в соціальних мережах. Наприклад, завдяки недавнім нововведенням повинен знизиться потік небажаних повідомлень і запитів у друзі.
