Google запускает Perspective, новую технологию для борьбы с онлайн-троллями

Google запускает Perspective, новую технологию для борьбы с онлайн-троллями

Одно из самых больших бедствий интернета исходит от активности так называемых «троллей» и их преследований в сети. К сожалению, довольно часто, когда пользователь решает участвовать в онлайн-дебатах, комментируя статью, подобную этой, которую вы читаете, на него быстро нападают онлайн-тролли. Или, когда вы хотите прочитать мнения, высказанные другими пользователями в сообщениях или на форуме, вы обнаружите, что большинство из них являются «токсичными комментариями». Ну тогда, Google только что запустил Перспектива, новая технология для выявления и модерации этих неприятных комментариев троллей.

Закрытие комментариев на веб-сайтах - не решение

В одном после опубликовано Google в своем официальном блоге под заголовком «Когда компьютеры учатся ругаться: использование машинного обучения для улучшения онлайн-общения», компания объясняет, что 72 процента пользователей Интернета в США были свидетелями издевательств в Интернете, и почти половина сталкивались с этим на собственном опыте..

Без сомнения, это серьезная проблема не только потому, что вызывает страх между людьми, но также потому, что это включает потеря свободы слова что даже может вызвать серьезное психологическое воздействие у людей, которые им страдают, особенно если речь идет о несовершеннолетних жертвах в социальных сетях.

Представьте, что вы пытаетесь поговорить с друзьями о новостях, которые вы читаете сегодня утром, но каждый раз, когда вы что-то говорите, кто-то кричит вам в лицо, называет вас неприятным именем или обвиняет вас в каком-то ужасном преступлении. Вы, вероятно, бросили бы разговор. К сожалению, это происходит слишком часто в Интернете, поскольку люди пытаются обсудить идеи на своих любимых новостных сайтах, но вместо этого их засыпают ядовитыми комментариями. [Google]

Этот тип поведения также влияет на веб-страницы, в особенности на новостные и информативные, которые хотят «поощрять участие и обсуждение своего содержания». Но, конечно же, с таким количеством активных троллей в сети, отслеживать и классифицировать миллионы комментариев Чтобы те, кто оскорблял или оскорбляли, исчезли это может быть чрезвычайно дорогостоящая задачакак с точки зрения денег, так и времени и усилий. По этой причине, на многих сайтах даже нет разделов для комментариев или просто отключили их.

Новостные организации хотят поощрять участие и обсуждение своего контента, но обнаруживают, что сортировка миллионов комментариев, чтобы найти троллинг или оскорбительные, требует много денег, работы и времени. В результате многие сайты полностью закрыли комментарии. Но они говорят нам, что это не то решение, которое они хотят. Мы считаем, что технологии могут помочь. [Google]

Перспектива, враг троллей, который учится на их поведении

Вот где это вступает в игру Перспектива, который Google и Jigsaw описывают как «Технология мирового уровня, использующая машинное обучение для выявления токсичных комментариев».

Как и другие платформы Google, Перспектива он будет доступен в виде API, который издатели смогут использовать на своих веб-сайтах. Его работа относительно проста: Perspective изучила сотни тысяч комментариев. помечены рецензентами как оскорбительные и используются для сравнения с новыми обзорами и оценки их токсичности.. Очевидно, что чем больше будет найдено комментариев такого типа, тем точнее вы сможете оценить будущие комментарии.

Поскольку перспектива может быть включена в веб-сайты редакторами, когда инструмент помечает комментарии как потенциально оскорбительные, последнее слово остается за модераторами-людьми. Но редактор также может позволить пользователю увидеть, насколько токсичен его комментарий, когда он его набирает..

Кроме того, издатели могут позволить читателям ранжировать комментарии по токсичности, что упрощает поиск реального контента.

В настоящее время Google и The New York Times работают вместе; Компания уверяет, что, хотя она все еще находится в стадии разработки, Со временем перспектива станет более точной и изощренной..


Содержание статьи соответствует нашим принципам редакционная этика. Чтобы сообщить об ошибке, нажмите здесь.

Будьте первым, чтобы комментировать

Оставьте свой комментарий

Ваш электронный адрес не будет опубликован. Обязательные для заполнения поля помечены *

*

*

  1. Ответственный за данные: Блог Actualidad
  2. Назначение данных: контроль спама, управление комментариями.
  3. Легитимация: ваше согласие
  4. Передача данных: данные не будут переданы третьим лицам, кроме как по закону.
  5. Хранение данных: база данных, размещенная в Occentus Networks (ЕС)
  6. Права: в любое время вы можете ограничить, восстановить и удалить свою информацию.