Алгоритмы Facebook пропускают более 90% проблемного контента

[VAOZ]

Издание The Wall Street Journal (WSJ) опубликовало новое исследование, в котором говорится, что искусственный интеллект, на который топ-менеджеры Facebook возлагали надежды в борьбе с «опасным контентом» не оправдывает ожиданий.

Согласно внутренним документам компании, с которыми ознакомились в WSJ, искусственный интеллект не может распознать видеозаписи со стрельбой, сделанные от первого лица, и расистские высказывания.

В течение нескольких недель исследователи Facebook также были озадачены тем, что ИИ не мог найти разницу между петушиными боями и автокатастрофами, отмечает WSJ.

Без особого успеха проходить и борьба с разжиганием ненависти. Когда алгоритмы Facebook не уверены, что контент нарушает правила, чтобы удалить его, материал реже показывается пользователям – но аккаунты, которые разместили этот контент, остаются безнаказанными.

"Проблема в том, что у нас нет и, вероятно, никогда не будет модели, которая охватывала бы даже большую часть вредного контента, особенно в чувствительных областях», – писал в одной из заметок старший инженер Facebook в середине 2019 года. По его оценке, автоматизированные системы компании удаляют посты, которые составляет всего лишь 2% всех просмотров, связанных с разжиганием ненависти. Он констатировал, что если не произойдет серьезных изменений в стратегии, то соцсети будет трудно улучшить этот показатель выше 10-20% в краткосрочной и среднесрочной перспективе.

К аналогичному выводу пришли в марте этого года другие сотрудники Facebook. Алгоритмы удаляют посты, которые составляют 3-5% просмотров, связанных с разжиганием ненависти, и 0,6% всего контента, который нарушает правила соцсети, подчеркивали они.

Статистика, представленная во внутренних документах, контрастирует с тем, что говорят насчет успехов искусственного интеллекта топ-менеджеры Facebook. Так, основатель Марк Цукерберг заявлял, что «коэффициент упреждающего обнаружения» достиг почти 98%.

Напомним, вокруг Facebook этой осенью разгорелся очередной скандал. Причиной стало расследование WSJ, которое было основано на внутренних документах компании. Так, согласно одной из публикаций газеты, платформа признает вредоносное влияние принадлежащей ей Instagram на подростковую аудиторию, а публично его преуменьшает.