Jigsaw: API-антитоксин Perspective обрабатывает 500 млн запросов в сутки

Структурное подразделение Google — компания Jigsaw — объявляет о том, что ИПП для снижения токсичности Perspective ежесуточно обрабатывает 500 млн запросов

Компания публикует третье издание исследовательского журнала The Current, в котором рассматриваются вопросы, связанные с токсичностью в Интернете и ролью искусственного интеллекта в стимулировании здорового общения

НЬЮ-ЙОРК, 8 февраля 2021 г. /PRNewswire/ — Сегодня компания Jigsaw, являющаяся структурным подразделением Google и занимающаяся прогнозированием возникающих цифровых угроз и разработкой средств противодействия им, объявила о том, что бесплатный ИПП Perspective с открытым исходным кодом, использующий машинное обучение для выявления токсичных комментариев, в настоящее время ежесуточно обрабатывает 500 миллионов запросов, существенно снижая токсичность и повышая качество общения в сети. В опубликованном сегодня третьем выпуске исследовательского онлайн-журнала The Current подробно рассказывается о постоянной и наносящей ущерб проблеме токсичности сетевых ресурсов и роли, которую могут играть в ее снижении такие инструменты машинного обучения как Perspective.

ИПП Perspective, появившийся в 2017 году для борьбы с токсичностью и проявлениями враждебности в сетевом общении, оценивает комментарии на основе их субъективно воспринимаемого влияния на ход обсуждения и позволяет платформам держать открытыми разделы комментариев для ведения увлекательных и продуктивных бесед.

«Токсичность в Интернете является крупномасштабной проблемой, которая оказывает несоразмерное влияние на обособленные социальные группы, создает угрозу независимой журналистике и сужает свободу самовыражения мнений и пространство для здорового общения, — считает глава компании Jigsaw Джаред Коэн (Jared Cohen). — По наблюдениям наших партнеров, Perspective значительно снижает токсичность на их платформах, позволяя им обеспечивать своим пользователям более безопасные пространства для обмена идеями. Мы серьезно настроены на сотрудничество с нашими партнерами и академическими учреждениями в целях непрерывного обучения и переобучения наших моделей для дальнейшего повышения качества их работы по выявлению токсичности и минимизации проявлений необъективности в поддержку более здорового общения».

Компания Jigsaw формировала Perspective с использованием моделей, разработанных совместно с подразделением Counter Abuse Technology («Технологии противодействия злоупотреблениям») компании Google, и теперь он расширяет возможности самых различных платформ в плане создания безопасного пространства для диалога посредством многоцелевого использования:   

Обратная связь с комментаторами: Perspective может направлять отзывы комментаторам в отношении потенциального уровня субъективно ощущаемой токсичности их контента в режиме реального времени, что обеспечивает существенные результаты:

• Coral by Vox Media — выдающаяся платформа для комментариев, используемая средствами массовой информации по всему миру — пользуется этой функцией с целью предоставления рецензентам возможности менять свои формулировки перед публикацией. В результате контролируемого исследования при участии McClatchy было установлено, что 40% пользователей меняли свои комментарии при получении таких отзывов.
• OpenWeb — ведущая платформа для привлечения аудитории, принимающая 100 миллионов активных пользователей в месяц — запустила эту функцию после того, как в результате исследования OpenWeb, проведенного в рамках расширенного исследования Jigsaw, выяснилось, что из всех рецензентов, редактировавших материалы на своем языке, 44,7% заменяли или удаляли оскорбительные слова, а 7,6% решили полностью переписать свои комментарии.

Помощь живым модераторам: Perspective также помогает живым модераторам работать более эффективно и снижать уровни токсичности на своих платформах:

• В издании The New York Timesбыл создан Moderator — инструмент, использующий Perspective для определения порядка очередности комментариев перед их модерацией человеком и одобрения тех, которые имеют наибольшие шансы пройти проверку, проводимую вручную. The Times увеличило число статей, которые могут открываться для комментариев с использованием Perspective, что позволяет ему предоставлять читателям более широкий и разнообразный выбор статей, по которым можно высказывать свои мнения.
• FACEIT — одна из крупнейших игровых платформ Европы — использует показатель токсичности, определяемый с помощью Perspective, для предупреждения или блокирования пользователей, которые могут обратиться к живому модератору с просьбой о проведении окончательной проверки. В результате такой модерации в режиме реального времени FACEIT добилась сокращения числа токсичных сообщений на 20%.
• Португальская медиакомпания Cofina сумела сократить потребность в живой модерации на 60%, сэкономив своим сотрудникам не менее 2 часов в день после внедрения Perspective в свою систему управления контентом для модерации комментариев в своих спортивных и финансовых газетах.

«ИПП Perspective значительно повысило наши возможности в плане выявления токсичности в материалах с комментариями. Благодаря этому работа наших модераторов стала более плодотворной и эффективной, и с момента внедрения этого инструмента мы смогли увеличить число статей, открытых для комментариев, примерно на треть», — сообщила редактор материалов сообщества издания The New York Times Марсия Лоран (Marcia Loughran).

 «Работа с Perspective позволила нам стимулировать позитивное взаимодействие между сотнями динамичных и активных сообществ и десятками миллионов пользователей. Такие средства работают изящно и слаженно, что способствует реализации нашей концепции, ориентированной на повышение качества взаимодействия при снижении уровня токсичности», — рассказал глава и соучредитель компании OpenWeb Надав Шоваль (Nadav Shoval).

«Coral уделяет особое внимание упрощению и ускорению процесса работы модераторов. Perspective помогает нам выявлять комментарии на различных языках, требующие первоочередного внимания. Группа разработчиков Perspective великолепно взаимодействует с нами в реализации этой цели», —сообщил глава компании Coral by VoxMedia Эндрю Лосовски (Andrew Losowsky).

«Мы внедрили Perspective в свою систему управления контентом для модерации комментариев в наших спортивных и финансовых газетах. В результате число сообщений, требующих живой модерации, сократилось на 60%. Мы экономим не менее двух часов в день и очень довольны результатами. Это также повысило качество комментариев на наших сайтах и заинтересованность наших пользователей», — поделился своими впечатлениями технический директор по онлайн-проектам Cofina Media Нуну Алвеш (Nuno Alves).

«Платформа FACEIT приступила к выполнению своей миссии, нацеленной на непосредственное решение проблем, связанных с токсичностью и агрессивностью в игровой сфере. По мере роста и развития нашего сообщества игроков мы были вынуждены создавать эффективные средства, способные работать на должном уровне. Perspective обеспечил нам идеальную модель токсичности, которую мы использовали в качестве основы для формирования своего антитоксического движка», —рассказала руководитель отдела бизнес-аналитики FACEIT Мария Лаура Скури (Maria Laura Scuri).

Действуя совместно со своими партнерами, компания Jigsaw также обучает Perspective работе на новых языках, благодаря чему ее модель машинного обучения получает больше возможностей для улучшения качества сетевого общения в мировом масштабе — в настоящее время она доступна на английском, испанском, французском, немецком, итальянском и португальском языках. Партнерами Perspective являются El Pais, Le Monde, Cofina и ряд других издателей, понимающих важность высококачественного общения на своих платформах с использованием различных языков.

Кроме того, компания Jigsaw непрерывно работает со своими партнерами над поиском путей снижения степени необъективности в машинном обучении. Материалы ряда недавних исследований компании Jigsaw представлены здесь.

Узнайте подробнее о Perspective и опробуйте его в третьем выпуске журнала The Current.

Для запросов СМИ:

Jigsaw Media
jigsawpress@google.com

Информация о компании Jigsaw

Jigsaw  — структурное подразделение компании Google, занимающееся прогнозированием возникающих цифровых угроз и разработкой средств противодействия им, создавая перспективные научно-технические разработки, которые делают наш мир более безопасным. 

Логотип — https://mma.prnewswire.com/media/1434331/Jigsaw_Logo.jpg