Выявленный опасный для общества контент не попадает в поисковую выдачу и новостную ленту либо полностью блокируется.
Технология способна анализировать текстовые надписи на изображениях, сообщают "Известия". "ВКонтакте" рассказали, что новый алгоритм понимает не только, где изображены человек, ребенок, животное, растение, но и может определить предмет одежды, а также символы "групп смерти". Если алгоритм характеризует фото как "опасное", оно отправляется модераторам для проверки.
Механизм помогает остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой противоправной деятельности.
Отдельный сценарий предусмотрен для борьбы с суицидальным контентом. Записи и фото на эту тему удаляются автоматически, а страницы их авторов блокируются.