Ошибка автоматической модерации привела пользователей Tumblr в панику

Подробности

В среду автоматизированная система заблокировала на Tumblr аккаунты «Sub-200», некоторые из которых были отмечены по ошибке.

Пользователи Tumblr в среду оказались в замешательстве после того, как в тот же день автоматическая система заблокировала десятки аккаунтов. Многочисленные пользователи связались с The Verge по поводу инцидента, заявив, что волна запретов непропорционально сильно затронула аккаунты пользователей, которые идентифицируют себя как трансженщины, многим из которых не было указано конкретной причины, по которой их аккаунты были закрыты. На скриншотах электронного письма, полученного некоторыми пользователями с уведомлением о бане, говорится: "Это действие было предпринято в результате внутреннего отчета. Для идентификации спорного контента могли быть использованы автоматизированные средства".

Ченда Нгак, руководитель отдела коммуникаций материнской компании Tumblr Automattic, подтвердила запреты в заявлении для The Verge, но сказала, что многие из них были ошибочными и были отменены. "Мы постоянно работаем над поддержанием работоспособности платформы и адаптируем наши системы, чтобы предотвратить распространение вреда злоумышленниками. В этом процессе наша автоматизированная система неправильно пометила нескольких пользователей, включая, помимо прочего, членов транс-сообщества. Мы отключили эту систему и восстановили этих пользователей, пока мы ее улучшаем. Мы искренне приносим извинения всем, кого затронула эта ошибка".

Волна банов в среду пришла всего через день после того, как Tumblr отменил спорное изменение в своей системе реблоггинга в начале этой недели, что вызвало возмущение многих пользователей платформы. Некоторые из пользователей, связавшихся с The Verge, предположили, что баны могли быть ответом на сообщения, выражающие несогласие с изменением, но Нгак заявил, что «сообщения об удалении учетных записей не связаны с недавним обсуждением релогов». Нгак также добавил, что «нет никаких доказательств того, что транс-пользователи составляли непропорционально большую долю среди затронутых аккаунтов (менее 200).

Тем не менее, несколько пользователей, связавшихся с The Verge, выразили обеспокоенность по поводу проблем с модерацией на Tumblr, некоторые из которых, в частности, касались транс-пользователей. В 2024 году генеральный директор Automattic Мэтт Малленвег публично поссорился с пользователем Tumblr, который назывался «предстроген» и идентифицировал себя как трансгендер. Предстроген поделилась разочарованными сообщениями о бездействии Tumblr в ответ на предполагаемое преследование, с которым она столкнулась, что в конечном итоге привело к тому, что она написала, что надеется, что генеральный директор Tumblr «умрет вечно мучительной смертью, связанной с автомобилем, покрытым молотками, который взрывается несколько раз, и молотки летят повсюду». Аккаунт Predstrogen на Tumblr впоследствии был заблокирован, но спор продолжился на других социальных платформах, где Малленвег поделился деталями личного аккаунта, включая названия побочных блогов Predstrogen на Tumblr.