Как передает Ru.shafaqna.com, алгоритмы соцсети Facebook (запрещен в РФ, принадлежит компании Meta, признанной в России экстремистской) разжигают ненависть и способствуют распространению насилия, жертвами которого становятся мирные жители в африканских странах.
Об этом говорится в статье GFCN с комментариями эксперта организации, исследователя, аналитика в области геополитики и кибербезопасности Анны Андерсен.
В материале исследуется обострение противоречий вокруг эфиопского региона Тыграй в 2020 году. «Масштабы провалов модерации Facebook в Африке задокументированы весьма подробно. К декабрю 2020 года, с началом конфликта в Тыграе, посты, разжигающие этническое насилие, оставались в сети месяцами. К ним относились публикации, напрямую связанные с реальным кровопролитием, как, например, в случае убийства ювелира-тыграйца в Гондэре, которого выволокли из его мастерской после того, как активисты в Facebook призвали «очистить» район от его «рода». В последующем судебном иске утверждалось, что модерация контента Facebook в Африке совершенно неадекватна, а штат сотрудников для работы с морфологически сложными языками, такими как амхарский, оромо и тигринья, сильно недоукомплектован», — указано в тексте.
По оценке аналитика, эфиопский случай доказывает, что централизованные модели модерации, экспортируемые Кремниевой долиной, «не способны понимать местные реалии». «Платформы в значительной степени полагаются на автоматизированные системы, обученные преимущественно на англоязычных данных, что приводит к глубокой «лингвистической слепоте». Подобно тому, как гигантам социальных сетей не хватает модераторов для менее распространенных европейских языков, они оказались совершенно не готовы к работе с африканскими языками», — замечает Андерсен.
«В Африке та же система работает в режиме полного безразличия, т. е. алгоритм попросту не оснащен для распознавания косвенных речевых импликатур (Gricean conversational implicature) в амхарском или тигринья. Разрыв между буквальным и прагматическим смыслом — там, где по сути и живет ненависть, — для машины невидим, — подчеркивает эксперт. — Даже когда нанимаются живые модераторы, они, как правило, сосредоточены в глобальных центрах и обучены применять универсальные, стерилизованные политики контента, которые отражают гегемонию западной власти и лишены жизненно важного контекста, что фактически заставляет замолкать тех, кто находится в опасности».
«Подобные паттерны систематически ускользают от поверхностной модерации. Автоматизированные системы обнаружения, сопоставляющие ключевые слова, полностью пропустят эти прагматические конструкции, а живые модераторы без глубокого культурного интеллекта не увидят нарушений правил, поскольку буквальный смысл не содержит явных угроз», — констатируется в материале.
Заключение авторов исследования
Авторы приходят к заключению, что в настоящее время граждане во всем мире «сталкиваются с двойной угрозой: деспотичной, превентивной цензурой гиперрегулируемой, централизованной цифровой сферы на Западе и беспрепятственным распространением реального насилия в развивающихся регионах, подогреваемым алгоритмами, которые не понимают, что говорится — и что остается несказанным».
