/ Google продолжает борьбу с сомнительным контентом

Google – была и будет внушающим для многих граждан поисковиком из всех существующих. Добавление новшеств никогда не прекращалось. Так и появление очередного новшества не оставило себя без внимания асессоров.

Теперь Google будет обозначать оскорбительный контент и недостоверную информацию в результатах поиска. Эти данные затем будут использоваться для обучения алгоритмов поисковой системы выявлению такого контента.

Новая инициатива призвана предотвратить попадание сомнительного информации в поисковую сферу.
Новая метка «Upsetting-Offensive» будет присваиваться следующим результатам:

• Контент, который пропагандирует ненависть и насилие в отношении группы людей на основании таких критериев, как раса или этническая принадлежность, исповедуемая религия, национальность или гражданство, инвалидность, возраст, сексуальная ориентация или статус ветерана.
• Контент с расисткими оскорблениями или крайне оскорбительной терминологией.
• Графические изображения насилия, включая жестокое отношение к животным и детям.
• Исчерпывающие инструкции по деятельности, приносящей вред (например, на тему торговли людьми или насилия).
• Другие типы материалов, которые пользователи в определённом регионе могут воспринять как крайне оскорбительные или расстраивающие.

Присвоение метки «Upsetting-Offensive» не означает, что эти результаты будут сразу же понижены или заблокированы. Эти данные будут использоваться для машинного обучения. Цель – помочь Google автоматически выявлять такого рода контент.

Когда же контент будет помечен самими алгоритмами, тогда он не будет показываться по запросам, подразумевающим получение общей информации. К примеру, если пользователь поинтересуется, имел ли место Холокост, он вряд ли увидит сайты, которые отрицают это явление.

Если же Google определит намерение пользователя как желание полностью разобраться в этом вопросе, он предоставит все результаты. В Google рассказали, что в настоящее время новый раздел тестируется на ограниченной выборке асессоров. Полученные таким способом данные уже использовались для внесения изменений в алгоритм ранжирования в декабре 2016 года. Это обновление было призвано сократить количество оскорбительного контента, который появлялся по таким запросам, как «Когда был Холокост».

По словам старшего инженера отдела качества поиска Google Пола Хаара (Paul Haahr), полученные результаты пока не идеальны. Но в компании надеются, что в будущем им удастся добиться значительных улучшений. Хаар отметил, что асессоры уже помогли Google улучшить алгоритмы в других областях. Он уверен, что они также помогут поисковой системе совладать с фейковыми новостями и спорными результатами.

Проверять правильность и надежность информации будет ограниченная выборка должностных лиц, облеченное судебной властью – такую важную задачу нельзя возлагать на людей с самыми разными мировоззрениями. Такой подход уже использовался в конце 2016 года, когда помощь таких людей понадобилось для борьбы с сайтами, которое отрицает массовое уничтожение евреев.