В то время как текущие инструменты для преследования, такие как блокирование пользователей или фильтрация более аккуратных слов могут помочь, большое плохое обращение онлайн столь тонкое, что один только алгоритм не мог бы взять на различных сигналах.Но что, если люди могли бы на самом деле усилить своих друзей, чтобы помочь смягчить их счета и оградить их от оскорбительных сообщений?Команда из Лаборатории Информатики и Искусственного интеллекта MIT (CSAIL) использование, которые приближаются с «Squadbox», новый краудсорсинговый инструмент, который позволяет людям, которые были целями преследования скоординировать «команды» друзей, чтобы отфильтровать сообщения и поддержать их во время нападений.Команда взяла интервью у ряда ученых, активистов и лиц YouTube, и нашла, что многие люди, которых преследуют на электронной почте, полагаются на друзей и семью, чтобы оградить себя от оскорбительных сообщений.
Преподаватель ведущего автора и MIT Дэвид Каргер говорит, что Скуэдбокс стремится делать этот так называемый «сорсинг друга» более эффективным и меньше работы для ее модераторов.«Если Вы просто даете модераторам ключи к своему ящику входящих сообщений, как модератор знает, когда там электронная почта должна уменьшиться, и какая электронная почта была уже обработана другими модераторами?» говорит Каргер. «Squadbox позволяет пользователям настраивать, как входящая электронная почта обработана, divvying работа, чтобы удостовериться, что нет никакого дублирования усилия».
Каргер написал новую работу со студенткой доктора философии Эми Чжан и бывшим студентом MIT и действующим разработчиком программного обеспечения Кэйтлином Мэхэром. Команда представит работу в апреле над Конференцией ШИ ACM по Человеческим факторам в Вычислении Систем в Монреале, Канада.«Поставленное друзьями» замедление
Со Скуэдбоксом «владелец» команды может настроить фильтры, чтобы автоматически отправить поступающее содержание его трубопроводу замедления. Как только электронная почта прибывает, модератор решает, какие электронные письма – преследование, и который может быть отправлен назад ящику входящих сообщений человека.Например, скажем, журналистка хочет иметь общественный адрес электронной почты, чтобы получить подсказки новостей, но страхи, имеющие один из-за того, как часто ее преследуют люди, которые не соглашаются с ее сообщением. Она могла создать счет Squadbox с двумя близкими коллегами как модераторы, и затем использовать ее счет где угодно, она хочет разделить свой адрес электронной почты.
Любое электронное письмо, которое она получает по тому адресу, проходит ее команду сначала.«Предыдущие решения зависели полностью от автоматизированных методов или чрезмерно зависели от социальных решений как простое предоставление сведений об аккаунте другу», говорит Клиффорд Лампе, преподаватель информации в Мичиганском университете. «Эта линия работы помогает предоставить карту для одного гибридного решения преследования, которое увеличивает человеческую поддержку с инструментами значащим способом».
В то время как команда планирует расширить возможности Squadbox работать с платформами социальных сетей, они говорят, что электронная почта – особенно полезная система для изучения преследования.«Что интересно об электронной почте, то, что она не отсутствует в открытую как Твиттер или Facebook», говорит Каргер. «Это означает, что harassers может чувствовать меньше ответственности, потому что их комментарии не общественные».
Squadbox также позволяет пользователям создать «белые списки» и «черные списки» отправителей, электронные письма которых будут автоматически одобрены или отклонены без замедления. Пользователи могут также дезактивировать и повторно активировать систему, прочитать очки на токсичности сообщений, и даже ответить на harassers.«Преследование – неотъемлемо лишающий сил опыт, и предоставление вариантов оставшихся в живых позволяет им пятиться в контроль», говорит Эмили Мей, соучредитель и исполнительный директор глобальной инициативы антипреследования Hollaback! «Squadbox разработан к не, только напоминают людям, что у них есть сообщество вокруг них, но активировать то сообщество от их имени».
Команда оценила Squadbox на пяти парах друзей и нашла, что использование друзей помогло со страхами перед частной жизнью и допускало более сделанные на заказ решения для жертв. Однако пользователи все еще волновались, что друг мог бы быть чувствительным, чтобы замедлить время отклика, и что система могла также «распространять» бремя. Команда заявляет, что наличие многократных модераторов могло потенциально помочь этой проблеме.«Squadbox предлагает материальную систему поддержки людей, которых преследуют онлайн при помощи других людей», говорит май. «Мы должны отложить оставшихся в живых в контроле и создать сообщества, достаточно сильные, чтобы объявить: это не Интернет, который мы хотим.
Это не мир, который мы хотим. И мы не собираемся поддерживать его больше».Примечание редактора: Для получения дополнительной информации о «Squadbox: Борьба с Преследованием Онлайн, используя Замедление Friendsourced», см.: https://www.csail.mit.edu/research/squadbox-combating-online-harassment-using-friendsourced-moderation