В руководстве Google для асессоров, оценивающих качество выдачи, появился новый раздел. В нем описывается процедура проверки контента на корректность и наличие в нем оскорблений. В дальнейшем помеченные документы отправятся в качестве обучающей выборки, чтобы "научить" алгоритм выявлять подобные проблемы самостоятельно.

Если инженерам удастся реализовать задумку, то выведение в топ сомнительного контента станет значительно более трудной задачей.

Универсальная метка Upsetting-Offsensive ("раздражающе-агрессивный контент") будет присвоена страницам:
  • контент которых провоцирует и пропагандирует ненависть к определенной аудитории, базируясь на их расе, этносе, национальности, религии, сексуальных предпочтениях или гражданстве;
  • с расистскими оскорблениями или крайне резкими, оскорбительными словами, даже на изображениях;
  • содержащим картинки с насилием, а также жестоким отношением к детям или животным;
  • посвященным детальному описанию инструкций по изготовлению или организации запрещенной деятельности, вроде торговли людьми или рецепта наркотика;
  • с контентом, который направлен на оскорбление или унижение людей, проживающих в регионе, из которого производится поиск.

Сейчас метка не имеет никакого веса - это лишь маркер для обучения в будущем. Но в дальнейшем такие материалы не будут пропускаться в выдачу, если алгоритм посчитает запрос образовательным. Например, при поиске информации о Холокосте сайты, отрицающие исторические факты, будут убраны из выдачи. Если же пользователь окажется настырным и переформулирует запрос, выдача вернется в норму, чтобы показать и альтернативные теории.

Первое время проверять благонадежность материалов будет ограниченная выборка асессоров - такую важную задачу нельзя поручить всему отделу, состоящему из людей с самыми разными взглядами. Аналогичный подход использовался в конце 2016 года, когда помощь асессоров понадобилась для борьбы с сайтами, отрицающими Холокост, которые заполонили выдачу.