Pinterest стремится вдохновлять каждого на занятие любимым делом. Именно этим мы руководствуемся при разработке нашей политики в отношении контента и обеспечении ее соблюдения. 

В Интернете существуют вещи, мало связанные с вдохновением, поэтому наши правила накладывают определенные ограничения в отношении того, что может быть приемлемо в Pinterest. Мы постоянно совершенствуем методы модерации, чтобы быть в курсе тенденций и поведения наших пользователей, а также создавать более позитивную атмосферу для людей на нашей платформе. Мы продолжаем прилагать большие усилия для разработки машинного обучения, борьбы с запрещенным контентом и работы с внешними экспертами и организациями, чтобы наши технологии модерации и политика в отношении контента были на должном уровне.

Мы начали публиковать двухгодичные отчеты о доступности служб и данных с 2013 года, а начиная с четвертого квартала 2020 года, мы стали включать в отчет дополнительную информацию, касающуюся наших действий в рамках соблюдения Правил сообщества. В этом отчете о доступности служб и данных вы найдете информацию о нашей работе, касающейся модерации пользовательского и коммерческого содержимого, как, например, количество нарушений политики и связанных с ними деактиваций. Эти сведения дают представление об объеме информационных запросов и запросов на деактивацию, полученных от правоохранительных и государственных органов. Этот отчет, охватывающий более 450 отдельных элементов данных, относится ко второй половине 2021 года (июль – декабрь).

Политика и практики Pinterest — это то, чем мы можем гордиться. Но что еще более важно, они нужны пользователям нашей платформы. Благодаря им Pinterest остается позитивным и вдохновляющим местом в сети. Например, мы заботимся о душевном состоянии наших пользователей при помощи ресурсов для поддержания духа. Также мы защищаем пользователей благодаря нашей политике в отношении ложной медицинской информации. Мы стремимся совершенствовать отрасль в этом отношении, чтобы вместе делать интернет более вдохновляющим.

В рамках нашей дальнейшей работы над улучшениями мы добавили в этот отчет о доступности служб и данных новый раздел политики в отношении интеллектуальной собственности, чтобы предоставить вам более полное представление о нашей деятельности. Он посвящен авторским правам и правам на товарный знак и содержит информацию о наших действиях, применяемых на основе сведений, которые пользователи указывают на Портале для подтверждения прав владения контентом. Этот инструмент позволяет правообладателям подтверждать право владения содержимым и определять, как оно будет отображаться в Pinterest.

Мы также предоставили возможность подачи жалоб на онлайн-контент особо опасного класса, который охватывает нарушения, связанные с сексуальной эксплуатацией детей (СЭД). СЭД является одним из самых серьезных нарушений наших политик, касающихся контента, и сексуализация несовершеннолетних неприемлема в Pinterest.

Кроме того, в последнем отчете за первый и второй кварталы 2021 года, мы добавили новую статистику по деактивации пинов с помощью автоматизированных инструментов, путем проверки нашими сотрудниками вручную или гибридного подхода, который объединяет оба эти метода. 

Мы стремимся открыто говорить о результатах нашей работы над безопасностью Pinterest, чтобы сделать нашу платформу местом для полной свободы вдохновения. Мы будем публиковать такие отчеты и в будущем.

 

Мы продолжаем работать над нашей политикой, продуктами и налаживанием партнерских отношений, чтобы обеспечить безопасность и благополучие нашего сообщества. Ниже приведены некоторые из главных обновлений, которые мы выполнили во второй половине 2021 года.

Благополучие нашего сообщества зависит от степени отражения разнообразия нашей аудитории на платформе. В августе 2021 года мы представили нашу последнюю разработку по повышению инклюзивности запросов на тему красоты в результатах поиска — поиск по типу волос. Это уникальная технология, созданная для репрезентации пользователей с темным и коричневым оттенками кожи, а также латиноамериканской внешности, которая позволяет искать прически по типам волос.

Благодаря компьютерному обнаружению объектов, основанному на принципе зрения, поиск по типу волос позволяет сузить результаты поиска причесок до шести различных типов волос: собранные, кудрявые, завитые, волнистые, прямые и сбритые/лысые.

Эта технология легла в основу первой в отрасли инклюзивной функции Pinterest диапазон оттенков кожи, которая была внедрена в 2018 году. Она не только является одним из важных шагов вперед на пути к расширению инклюзивности в области технологий, но и удовлетворяет потребности миллионов пользователей, которым нужен простой способ поиска наиболее подходящих идей причесок для своих целей.

Люди всех возрастов по всему миру страдают от проблем, связанных с непринятием своего тела и психическим здоровьем, особенно это касается периода пандемии COVID-19. По данным Национальной ассоциацией исследований расстройств пищевого поведения (NEDA), с момента начала пандемии COVID-19 наблюдается резкий рост тенденции к нездоровому питанию и расстройств пищевого поведения среди молодых людей.

Pinterest — это место, где люди ищут вдохновение на занятие любимым делом. Здесь приветствуются люди самого разного телосложения. Мы в Pinterest стремимся создать культуру здорового образа жизни и здорового отношения к своему телу. Поэтому с 1 июля 2021 г. мы обновили политику в отношении рекламы, запретив любые объявления с текстом и изображениями на тему похудения. Мы хотим, чтобы при планировании отпуска пользователи не видели рекламы средств для похудения и могли сосредоточиться на более важных вещах.

В связи с такой позицией Pinterest является единственной крупной платформой, на которой запрещены все объявления на тему похудения. Таким образом мы расширили нашу политику в отношении рекламы, согласно которой пристыживание людей за особенности их тел и опасные товары для похудения или заявления о потери веса уже давно запрещены. Мы призываем другие компании данной отрасли последовать нашему примеру и раз и навсегда признать, что универсального стандарта красоты не существует. 

Это изменение политики разработано с учетом указаний и рекомендаций NEDA. Наши политики в отношении домогательства и запугивания остаются неизменными: нерекламное содержимое, которое имеет признаки пристыживания людей за особенности их тел, по-прежнему запрещено в соответствии с нашими политиками, и аккаунты пользователей, которые вовлечены в такую деятельность, могут быть деактивированы.

Правила сообщества Pinterest были созданы, чтобы о нашей идее узнали больше людей. В них указаны допустимые и запрещенные действия в Pinterest. Эти правила должны соблюдать все пользователи. 

Мы также разработали дополнительные правила для продавцов и рекламодателей. В них четко определяется, что приемлемо, а что недопустимо для товарных пинов и рекламы. Данные правила придерживаются исключительно высоких стандартов, которые обеспечивают безопасность любых пользователей Pinterest. Вдохновение приходит в моменты, когда человек чувствует себя в безопасности.

Для создания позитивно настроенного сообщества мы разрабатываем и внедряем политики, касающиеся контента, которые поддерживают позитивное пространство нашей платформы и дают людям возможность почерпнуть идеи из жизненного опыта других пользователей, например, кулинарные идеи, рекомендации по одежде или другие вещи. Мы прилагаем все усилия, чтобы выявлять и деактивировать на нашем сайте материалы, связанные с насилием, а наша политика в отношении содержимого и методы модерации постоянно развиваются: мы учитываем новые модели поведения и тенденции и стараемся создать уютный уголок Интернета для наших пользователей

Мы можем блокировать, ограничивать или деактивировать содержимое, а также аккаунты, отдельных лиц и группы, которые создают или распространяют это содержимое, в зависимости от того, какой вред оно наносит. Если пользователь считает, что деактивация произошла по ошибке, Pinterest предоставляет варианты обжалования деактивации.

Каждый день миллионы людей со всего мира заходят в Pinterest, чтобы создавать, открывать и сохранять новые идеи, которыми они делятся с помощью пинов. Чтобы понять, как мы подходим к модерации контента, полезно различать два типа пинов: обычные и рекламные. Наши правила сообщества применимы к обоим.

Обычные пины включают в себя все пины, созданные и сохраненные в Pinterest, которые не рекламируются как объявления. Например, это могут быть товарные пины продавцов, которые не всегда являются объявлениями и могут органически отображаться людям, которые ищут товары в Pinterest. На сайте существуют дополнительные требования, например, требование для продавцов и их торговых пинов, что изображение и описание в пине должны точно соответствовать представляемому товару. В отчеты о доступности служб и данных включены все типы обычных пинов.

Объявления — это пины, за размещение которых платят рекламодатели. У нас есть дополнительные правила для рекламодателей, подразумевающие более высокие стандарты, касающиеся качества объявлений и самих рекламодателей. Поскольку политика в отношении объявлений применяется не так, как в отношении обычного контента, она не включается в отчеты о доступности служб и данных.

Пользователи много раз сохраняют большую часть контента на Pinterest. Это означает, что одно и то же изображение может появляться в разных пинах. Поэтому в отчет по модерации контента для обычных пинов мы включаем количество деактивированных пинов и отдельных изображений, чтобы дать более ясное представление о наших методах модерации для этого типа контента. 

В нашем отчете деактивированные доски и аккаунты представлены раздельно. Чтобы в подсчеты различных деактиваций не входили одни и те же данные, в число отдельных деактивированных изображений и пинов не включаются те, которые размещены на деактивированных досках или аккаунтах.

 

Мы деактивируем пины, нарушающие правила или политику. Это выполняют автоматизированные инструменты, или проверяет человек, или используется гибридный подход, сочетающий в себе элементы первых двух способов. 

Автоматические деактивации. Наши автоматизированные инструменты выявляют потенциально опасный контент по определенному ряду признаков и принимают меры против него. Наши модели машинного обучения дают определенную оценку каждому изображению, добавляемому на нашу платформу. На основании этих оценок наши автоматизированные инструменты могут применять соответствующие правила к пинам, которые содержат те же изображения.

Ручная деактивация. Пины могут деактивироваться в ходе их проверки человеком. Пины деактивируются таким образом за счет проверки пользователями Pinterest или жалоб, полученных от третьих лиц. Вручную также деактивируются пины, которые проверяются одним из участников нашей команды после рассмотрения соответствующей жалобы от пользователя.

Гибридные деактивации. Гибридная деактивация происходит, если человек замечает в пине нарушение правил той или иной политики сайта, а автоматизированные системы по данной наводке рассматривают все похожие пины, которые машина сочтет нужным проверить на предмет данного нарушения. В зависимости от распространенности похожих пинов гибридная деактивация может либо деактивировать ряд пинов, либо проигнорировать их. 

Механизмы, направленные против различных потенциальных нарушений политики, могут различаться в зависимости от доступных технологий, объема запрещенного контента и других факторов, таких как сложность оценки. Мы продолжаем совершенствовать и обновлять наши инструменты и будем заниматься этим и в будущем.

Пользователи часто спрашивают: сколько людей видели пин до того, как его деактивировали? В большинстве случаев — не много.

Например, 76 % пинов, которые мы деактивировали за ложную медицинскую информацию в четвертом квартале, никогда не просматривались пользователями за этот отчетный период — даже при том, что Pinterest посещали более 400 миллионов человек в месяц.

Охват — один из наших ключевых показателей по взаимодействию с пользователем. Чтобы рассчитать этот показатель, мы рассматриваем каждый пин, деактивированный за нарушения правил за этот отчетный период. Затем вы считаем количество уникальных пользователей, которые успели увидеть тот или иной пин до его деактивации за время этого отчетного периода как минимум в течение 1 секунды. Охват по категории политики может не доходить до 100 % из-за округления чисел.

Пользователи могут пожаловаться на любые пины, которое они считают нежелательными, нажав значок с тремя точками на любом пине и выбрав «Пожаловаться на пин». Как только мы подтвердим, что элемент содержимого запрещено размещать в Pinterest в соответствии с нашими правилами сообщества и примем соответствующие меры, жалоба будет считаться такой, по которой приняты меры.

Общее количество жалоб, по которым приняты меры., является одним из ключевых показателей нашего взаимодействия с пользователями Pinterest. То же касается и числа пользователей, подавших жалобу: к деактивации пинов привели жалобы от менее чем 0,01 % активных пользователей в месяц за третий квартал.

Когда пользователи находят пины, которые им нравятся или к которым они хотят вернуться в будущем, они сохраняют их на своих досках. На сегодняшний день наши пользователи создали миллиарды досок. 

Если доска деактивируется за нарушение политики, то все пины на ней также деактивируются. Похожим образом при деактивации аккаунта доски данного пользователя также деактивируются. Чтобы в подсчеты различных деактиваций не входили одни и те же данные, в число деактивированных досок не включаются те, которые принадлежат деактивированным аккаунтам.

Рассматривать аккаунты в Pinterest следует как профили или, чаще всего, как отдельных пользователей. Если кто-то сохраняет пины и создает доски, это содержимое связывается с его аккаунтом. Это также верно для аккаунтов компаний, рекламодателей, продавцов и авторов. 

Любой аккаунт может быть деактивирован за нарушение нашей политики. Если аккаунт деактивируется, то все принадлежащие ему пины и доски также деактивируются. Это означает, что если вы попытаетесь найти их или перейдете по старой ссылке содержавший их профиль, то он не отобразится. Вы нигде не сможете найти пины с этих досок на Pinterest. Деактивированный пользователь также не сможет получить доступ к собственным пинам или доскам.

Если пользователь считает, что его аккаунт был деактивирован по ошибке, он обжаловать данное решение, чтобы восстановить свой аккаунт. Мы рассматриваем запросы на обжалование и решаем их в пользу аккаунта, если мы обнаруживаем и признаем свою ошибку. В остальных случаях мы можем дать человеку второй шанс с условием, что он будет соблюдать наши Правила сообщества.

Мы также обрабатываем обжалования в отношении деактивированных пинов и досок и планируем включать эти данные в свои отчеты в будущем.

Наши отчеты по соблюдению правил сообщества относятся ко второй половине 2021 года (июль – декабрь). Мы разделили этот промежуток времени на два отчетных периода: Q3 и Q4. 

Q3 охватывает третий квартал 2021 года с июля по сентябрь, а Q4 — четвертый квартал с октября по декабрь. Иногда мы обращаемся к данным за первый (с января по март) или второй (с апреля по июнь) квартал, когда говорим о сравнении тенденций в кварталах.

Pinterest — это не место для распространения порнографии. Мы деактивируем контент, который нарушает нашу политику в отношении контента для взрослых, и не предоставляем результаты по поисковым запросам, которые нарушают эту политику. Мы разработали правила, в которых проводится разграничение между порнографией и другими материалами для взрослых, например контентом, связанным с поддержанием сексуального здоровья, кормлением грудью, мастэктомией, искусством и образованием.

В первом квартале 2021 года мы включили новые инструменты машинного обучения для обнаружения и деактивации досок за нарушение нашей политики в отношении контента для взрослых. С тех пор мы наблюдали снижение количества жалоб, по которым приняты меры, что является одним из ключевых показателей по взаимодействию с пользователем и нашим вкладом в эту работу. Если же проанализировать месячное число жалоб от активных пользователей, по которым приняты меры, то количество жалоб, в результате которых пин был деактивирован, снизилось на 25 % в четвертом квартале 2021 года по сравнению с этим кварталом 2020 года.

Мы постоянно обновляем политики в отношении контента и методы модерации, чтобы обеспечить безопасность нашей платформы для всех пользователей. Пока что мы главным образом сосредоточили свое внимание на новых инструментах машинного обучения, чтобы обеспечить соблюдение нашей политики в отношении контента для взрослых. В настоящее время мы изучаем, как они будут работать в случаях нарушений других политик.

Чтобы рассчитать охват, мы рассматриваем каждый пин, деактивированный за нарушения правил за этот отчетный период. Затем вы считаем количество уникальных пользователей, которые успели увидеть тот или иной пин до его деактивации за время этого отчетного периода как минимум в течение 1 секунды. Процентные показатели за квартал могут не доходить до 100 % из-за округления чисел.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 1 279 861 отдельное изображение, входившее в 42 968 305 пинов. 82 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали меньше 1 % вручную и больше 99 % при помощи гибридных инструментов. Мы рассмотрели 93 807 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 61 114 досок и 8 653 аккаунта. К нам поступило 1923 обжалования, и мы восстановили 1119 аккаунтов.

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 1 108 006 отдельных изображений, входивших в 30 695 545 пинов. 88 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали меньше 1 % вручную и больше 99 % при помощи гибридных инструментов. Мы рассмотрели 77 329 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 44 155 досок и 6769 аккаунтов. К нам поступило 1495 обжалований, и мы восстановили 774 аккаунта.

На нашем сайте запрещена реклама сексуальных услуг для взрослых. Сексуальные услуги для взрослых могут включать услуги из сферы коммерческой секс-индустрии, физическую эксплуатацию или торговлю людьми, такие как эскорт-услуги, проституцию, видеосъемку в откровенных сценах, раздевание или секс за деньги.

В четвертом квартале 2021 года мы внесли изменения в инструменты, используемые для удаления этого типа контента. В результате этих доработок материалы, которые ранее подлежали деактивации в соответствии с нашей политикой в отношении контента для взрослых, теперь деактивируются согласно нашей политике в отношении сексуальных услуг для взрослых. Увеличение части пинов, деактивируемых при помощи гибридных инструментов, а также увеличение общего количества деактивируемых пинов отражают эти изменения.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 222 отдельных изображения, входившие в 225 пинов. Из этих пинов 76 % просмотрело менее 100 пользователей за этот отчетный период. Мы вручную деактивировали 100 % пинов. Мы рассмотрели 266 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 151 доску и 152 аккаунта. К нам поступило 13 обжалований, и мы восстановили 0 аккаунтов.

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 1610 отдельных изображений, входивших в 126 703 пина. 89 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали меньше 1 % вручную и больше 99 % при помощи гибридных инструментов. Мы рассмотрели 162 жалобы от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 120 досок и 121 аккаунт. К нам поступило 16 обжалований, и мы восстановили 1 аккаунт.

Pinterest не приемлет любого рода сексуальную эксплуатацию детей (СЭД) на нашей платформе. Это означает, что у нас действует строгая и бескомпромиссная политика в отношении любых материалов, в частности изображений, видео или текстов, которые имеют признаки эксплуатации несовершеннолетних или представляют для них опасность. Наша команда по вопросам доверия и безопасности крайне серьезно относится к выявлению и удалению такого типа контента, и мы гордимся нашими всеобъемлющими политиками и решительными мерами по обеспечению безопасности пользователей.

По закону на цифровых платформах запрещены несанкционированные материалы, содержащие детскую порнографию, однако политика СЭД в Pinterest налагает запрет на любой контент, который способствует сексуализации несовершеннолетних. Например, мы не приемлем контент, который подразумевает сексуализацию несовершеннолетних в виде мультфильмов или аниме. Также запрещено преднамеренное ненадлежащее использование контента, в котором несовершеннолетние занимаются деятельностью, не несущей сексуальный характер, например дефилируют на подиуме или занимаются спортом.

Мы проактивно определяем изображения и видео из категории «СЭД» с помощью наших внутренних и общих отраслевых инструментов, таких как технология PhotoDNA, которая использует общую базу данных хэшей известных случаев совпадения материалов, изображающих детскую порнографию и сексуальное насилие над детьми, для идентификации видеоконтента. Мы также тесно сотрудничаем с Национальным центром пропавших без вести и эксплуатируемых детей (NCMEC) для борьбы с этой деятельностью и уведомления о соответствующих нарушениях в контенте в надлежащих случаях согласно закону. С июля по декабрь 2021 года наша команда специалистов отправила 1794 жалобы в NCMEC через систему CyberTipline.

СЭД является одним из самых серьезных нарушений, которыми занимаются команды по вопросам доверия и безопасности в Pinterest и на других онлайн-платформах. Из-за щепетильного характера этой проблемы, необходимо тщательно обдумать, как представить связанные с ней данные в отчете. После консультации с экспертами отрасли в конечном итоге было принято решение включить в отчет по СЭД все те же показатели, которые использовались для наших других политик в отношении контента, включая охват и жалобы пользователей, по которым приняты меры. Эти показатели демонстрируют, как нарушающий политику контент влияет на взаимодействие с пользователями платформы. Однако мы хотим, чтобы нас правильно поняли: предоставляя данные об охвате и жалоба, по которым приняты меры, для контента с признаками СЭД, мы никоим образом не подразумеваем, что нанесенный детям вред является меньшим, если контент просмотрело меньше людей. Контент нарушает нашу политику и является неприемлемым независимо от того, сколько людей его просмотрели. Мы предоставляем эти данные только для того, чтобы открыто говорить результатах нашей работы по удалению контента с признаками СЭД из платформы. 

Мы также подсчитывает все деактивации контента с признаками СЭД, независимо от того, какие другие действия уже были приняты по отношению к пину, доске или пользователю. Например, если пин был автоматически деактивирован (это значит, что пользователи платформы не могут его видеть) за нарушение нашей политики в отношении спама, но позже мы узнали, что он содержал материалы, нарушающие нашу политику в отношении СЭД, этот пин входит в число деактиваций в категориях «Спам» и «СЭД». Даже если этот пин не отображался или не был доступен в Pinterest, мы все равно должны принять соответствующие меры, например подать жалобу в Национальный центр пропавших без вести и эксплуатируемых детей (NCMEC), если определим, что изображение содержит детскую порнографию, что запрещено законом. Мы включили эти деактивации в отчеты в категории «СЭД», чтобы предоставить более точную информацию по этим нарушениях.

Мы прилагаем все усилия, чтобы искать и удалять этот типа контента как можно эффективнее.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 2 362 отдельных изображения, входившие в 262 164 пина. Мы определили, что 295 отдельных изображений, входивших в 981 пин, содержали детскую порнографию, и сообщили о них в NCMEC. Из этого общего количества пинов, деактивированных за СЭД, 98 % просмотрело менее 100 пользователей за этот отчетный период. Мы деактивировали меньше 1 % вручную и больше 99 % при помощи гибридных инструментов. Мы рассмотрели 1378 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 862 доски и 28 289 аккаунтов. К нам поступило 5718 обжалований, и мы восстановили 4 305 аккаунтов. 

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 2 545 отдельных изображений, входивших в 104 029 пинов. Мы определили, что 228 отдельных изображений, входивших в 627 пинов, содержали детскую порнографию, и сообщили о них в NCMEC. Из этого общего количества пинов, деактивированных за СЭД, 98 % просмотрело менее 100 пользователей за этот отчетный период. Мы деактивировали 2 % пинов вручную и 10 % при помощи гибридных инструментов. Мы рассмотрели 1044 жалобы от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 578 досок и 17 423 аккаунта. К нам поступило 3110 обжалований, и мы восстановили 2120 аккаунтов.

Наша политика в отношении гражданской дезинформации касается ложного или вводящего в заблуждение контента на Pinterest, который ставит под сомнение честность выборов или препятствует гражданскому участию в них отдельных лиц или групп, в том числе регистрации, голосованию или внесению их данных в реестр.

Мы стараемся осторожно применять и, что не менее важно, настраивать гибридные инструменты. Гибридная деактивация происходит, если человек замечает в части содержимого нарушение правил той или иной политики сайта, а автоматизированные системы по данной наводке рассматривают все похожие пины, которые машинный алгоритм сочтет нужным проверить на предмет данного нарушения. Например, гибридная деактивация допустима, если мы видим, что изображение в пине нарушает правила сайта, но мы не будем применять ее в случае, если это же изображение не нарушает правил в других обстоятельствах или если сам пин был деактивирован по причинам, не связанным с изображением в нем.

В четвертом квартале 2021 года приблизительно половина пинов была деактивирована при помощи гибридной деактивации за нарушение нашей политики касательно гражданской дезинформации по ошибке. Мы восстановили пины, которые случайно попали под эту деактивацию, и внесли поправки в работу гибридных инструментов, чтобы минимизировать шансы подобных случаев.

Мы включили эти результаты в данные о соблюдении правил за четвертый квартал, но исключили их из статистики по охвату для этой политики. Мы хотели предоставить более точную информацию о количестве пользователей, которые успели увидеть пин, фактически нарушающий эту политику, до его деактивации. Более 99 % этих пинов не увидел ни один пользователь за четвертый квартал.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 743 отдельных изображения, входившие в 889 пинов. Из этих пинов 95 % просмотрело менее 100 пользователей за этот отчетный период. Мы деактивировали 87 % пинов вручную и 13 % при помощи гибридных инструментов. Мы рассмотрели 392 жалобы от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 92 доски и 8 аккаунтов. К нам поступило 3 обжалования, и мы восстановили 3 аккаунта.

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 779 отдельных изображений, входивших в 48 741 пин. Позже мы определили, что деактивация при помощи гибридных инструментов на основе одного из этих пинов, который был деактивирован по причинам, не связанным с изображением, привела к ошибочной деактивации почти 24 000 соответствующих ему пинов посредством машинного выявления. 99 % из обоснованно деактивированных пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали менее 1 % пинов вручную и более 99 % при помощи гибридных инструментов. Мы рассмотрели 224 жалобы от пользователей и деактивировали те пины, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 23 доски и 0 аккаунтов. К нам поступило 1 обжалование, и мы восстановили 1 аккаунт.

Наша политика относительно теорий заговора входит в число тех политик из наших правил сообщества, которые запрещают неправильную и ложную информацию в Pinterest. Теории заговора включают контент, который вводит в заблуждение и делает отдельных людей, целые группы, места и компании предметом преследования или применения физического насилия. К такому контенту относятся теории заговора, основывающиеся на ненависти, и дезинформация относительно массовых зверств.

В третьем и четвертом кварталах 2021 года наблюдалось относительное снижение числа пинов, деактивируемых из-за нарушения нашей политики относительно теорий заговора вследствие полной очистки платформы во втором квартале этого года.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 8374 отдельных изображения, входившие в 536 455 пинов. 93 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали меньше 1 % пинов вручную и больше 99 % при помощи гибридных инструментов. Мы рассмотрели 456 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 429 досок и 39 аккаунтов. К нам поступило 19 обжалований, и мы восстановили 4 аккаунта.

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 2411 отдельных изображений, входивших в 4507 пинов. 89 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 90 % пинов вручную и 10 % при помощи гибридных инструментов. Мы рассмотрели 394 жалобы от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 237 досок и 11 аккаунтов. К нам поступило 13 обжалований, и мы восстановили 2 аккаунта.

Pinterest — не место для спекуляции, торговли или продажи запрещенных товаров или проведения запрещенных видов деятельности. Опасными являются продукты или вещества, которые могут нанести вред при использовании, модификации или изготовлении. Запрещенные виды деятельности, как и их изображение или призыв к ним, также недопустимы на Pinterst.

В третьем и четвертом кварталах 2021 года наблюдалось относительное снижение числа пинов, деактивируемых из-за нарушения нашей политики в отношении запрещенных товаров и видов деятельности вследствие полной очистки такого содержимого по всей платформе в первом и втором кварталах этого года. Такие меры по отношению к органическим пинам и нерекламным объявлениям или товарам привели к временному резкому увеличению количества пинов, деактивированных за этот период.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 44 277 отдельных изображений, входивших в 1 017 444 пина. 95 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 2 % вручную, менее 1 % автоматически и 98 % при помощи гибридных инструментов. Мы рассмотрели 1780 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 712 досок и 223 аккаунта. К нам поступило 14 обжалований, и мы восстановили 3 аккаунта.

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 14 736 отдельных изображений, входивших в 31 186 пинов. Из этих пинов 97 % просмотрело менее 100 пользователей за этот отчетный период. Мы деактивировали 41 % пинов вручную, 14 % автоматически и 45 % при помощи гибридных инструментов. Мы рассмотрели 1367 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 591 доску и 177 аккаунтов. К нам поступило 4 обжалования, и мы восстановили 1 аккаунт.

В Pinterest запрещены сцены насилия и угрозы. Это касается большей части контента, который изображает сцены насилия, содержит угрозы и выражения, прославляющие насилие.

По сравнению с третьим кварталом 2021 года в четвертом квартале 2021 года наблюдалось некоторое уменьшение числа деактивированных пинов. Из деактивированных в третьем квартале пинов 89 % просмотрело менее 100 пользователей за отчетный период.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 4026 отдельных изображений, входивших в 18 501 пин. Из этих пинов 89 % просмотрело менее 100 пользователей за этот отчетный период. Мы деактивировали 48 % пинов вручную и 53 % при помощи гибридных инструментов. Мы рассмотрели 1806 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 1085 досок и 106 аккаунтов. К нам поступило 33 обжалования, и мы восстановили 18 аккаунтов.

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 3435 отдельных изображений, входивших в 6085 пинов. Из этих пинов 81 % просмотрело менее 100 пользователей за этот отчетный период. Мы деактивировали 62 % пинов вручную и 38 % при помощи гибридных инструментов. Мы рассмотрели 1714 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 769 досок и 89 аккаунтов. К нам поступило 19 обжалований, и мы восстановили 3 аккаунта.

Pinterest — это не место для критики и оскорблений, и мы не допускаем нанесения обид или сеяния вражды между отдельными людьми или целыми группами. Сюда входят изображения манипулятивного характера, призванные унизить или пристыдить человека, пристыживание людей за особенности их тел или предполагаемую историю их сексуальных или романтических отношений, замечания сексуального характера о телах людей, домогательства или приглашения к сексуальной связи, а также высмеивание людей, переживающих грусть, скорбь, утрату или последствия насилия.

За нарушение этой политики в четвертом квартале 2021 года было деактивировано меньше пинов, чем в третьем квартале. 88 % из деактивированных в третьем квартале пинов не увидел ни один пользователь за этот отчетный период.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 4257 отдельных изображений, входивших в 244 688 пинов. 86 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 1 % пинов вручную и 99 % при помощи гибридных инструментов. Мы рассмотрели 2967 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 851 доску и 271 аккаунт. К нам поступило 22 обжалования, и мы восстановили 13 аккаунтов.

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 4318 отдельных изображений, входивших в 210 880 пинов. Из этих пинов 98 % просмотрело менее 100 пользователей за этот отчетный период. Мы деактивировали 2 % пинов вручную и 98 % при помощи гибридных инструментов. Мы рассмотрели 2564 жалобы от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 803 доски и 151 аккаунт. К нам поступило 28 обжалований, и мы восстановили 15 аккаунтов.

В Pinterest запрещен контент, разжигающий ненависть, поэтому мы закрываем доступ людям и группам, которые занимаются подобной деятельностью. Кампании по разжиганию ненависти включают клевету или негативные стереотипы, карикатуры и оскорбительные обобщения, а также поддержку людей и групп, пропагандирующих разжигание ненависти.

Мы считаем, что любой человек имеет право на безопасное место, где можно было бы жить своими интересами и черпать вдохновение вне зависимости от своей расы, этнического происхождения, национальности, религиозных взглядов, половой принадлежности, сексуальной ориентации, ограниченной дееспособности или состояния здоровья.

В четвертом квартале 2021 года мы провели полную очистку разжигающего ненависть контента по всей платформе, что привело к временному резкому увеличению числа деактивированных пинов. Этот рост не связан с каким-либо случаем увеличения количества оскорбительных материалов. Из деактивированных в четвертом квартале пинов 99 % просмотрело менее 100 пользователей за отчетный период.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 3482 отдельных изображения, входившие в 9805 пинов. Из этих пинов 86 % просмотрело менее 100 пользователей за этот отчетный период. Мы деактивировали 46 % пинов вручную и 54 % при помощи гибридных инструментов. Мы рассмотрели 936 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 1758 досок и 107 аккаунтов. К нам поступило 35 обжалований, и мы восстановили 21 аккаунт.

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 3848 отдельных изображений, входивших в 107 295 пинов. 97 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 5 % пинов вручную и 95 % при помощи гибридных инструментов. Мы рассмотрели 1074 жалобы от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 409 досок и 36 аккаунтов. К нам поступило 10 обжалований, и мы восстановили 5 аккаунтов.

Наша политика о ложной медицинской информации входит в число тех политик из наших правил сообщества, которые запрещают неправильную и ложную информацию в Pinterest. Данная политика запрещает спорные утверждения медицинского характера, которые угрожают здоровью и безопасности пользователей и более широким слоям населения, в том числе продвижение ложных средств лечения заболеваний, пропаганда борьбы с вакцинацией или вводящая в заблуждение информация о чрезвычайных ситуациях в области общественного здравоохранения или безопасности. Мы используем информацию от организаций, признанных на национальном и международном уровне, включая Центры по контролю заболеваний и Всемирную организацию здравоохранения, чтобы определить, нарушает ли контент соответствующие правила.

Команда Pinterest серьезно относится к борьбе с распространением дезинформации о здоровье. Мы продолжаем консультироваться с экспертами в области общественного здравоохранения, чтобы быть в курсе тенденций и получать отзывы о нашей политике и подходах к ее применению в области ложной медицинской информации. Так как вакцинация от COVID-19 по-прежнему будет проводиться по всему миру, мы наблюдали относительное увеличение количества деактивированных пинов в третьем квартале 2021 года, и 99 % из них видели менее 100 пользователей в этот отчетный период.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 4237 отдельных изображений, входивших в 138 491 пин. 75 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 2 % пинов автоматически, 25 % вручную и 74 % при помощи гибридных инструментов. Также мы деактивировали 383 доски и 10 аккаунтов. К нам поступило 2 обжалования, и мы восстановили 0 аккаунтов.

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 3564 отдельных изображения, входившие в 6 370 пинов. 76 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 72 % пинов автоматически, 28 % вручную и менее 1 % при помощи гибридных инструментов. За нарушение этой политики мы также деактивировали 491 доску и 14 аккаунтов. К нам поступило 4 обжалования, и мы восстановили 3 аккаунта.

Борьба с причинением себе вреда является одной из наших главных задач: мы хотим, чтобы платформа Pinterest играла положительную роль в жизни людей. Контент, который демонстрирует, аргументирует или поощряет самоубийство, самоистязание, расстройства приема пищи или злоупотребление запрещенными веществами, недопустим на нашей платформе. Это включает советы по причинению себе вреда, изображения, рассчитанные на доверие чувствительных людей, суицидальные мысли и цитаты. 

Мы продолжаем сотрудничать с Samaritans — организацией, помогающей людям бороться с чувством изоляции и разобщенности, которое может привести к самоубийству. Мы работаем вместе, чтобы внести свой вклад в борьбу с причинением себе вреда и сделать Интернет более безопасным местом. Подобная совместная работа помогает нам поддерживать исследования специалистов и разработки в области психического здоровья, чтобы как можно больше людей смогли получить поддержку в трудную минуту на любом веб-сайте или приложении. 

В третьем и четвертом кварталах 2021 года мы продолжали работать над улучшением модерации контента, в котором встречаются материалы о причинении себе ущерба, и помогали тем, от кого поступали тревожные запросы. 

В четвертом квартале 2021 года мы провели полную очистку контента о членовредительстве и вредоносном поведении по всей платформе, что привело к временному резкому увеличению числа деактивированных пинов. Этот рост не связан с каким-либо случаем увеличения количества оскорбительных материалов. 97 % из деактивированных в четвертом квартале пинов не увидел ни один пользователь за отчетный период.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 4156 отдельных изображений, входивших в 85 328 пинов. 83 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 5 % пинов вручную и 95 % при помощи гибридных инструментов. Мы рассмотрели 1667 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 575 досок и 37 аккаунтов. К нам поступило 10 обжалований, и мы восстановили 9 аккаунтов.

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 16 761 отдельное изображение, входившее в 395 682 пина. 97 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 1 % пинов вручную и 99 % при помощи гибридных инструментов. Мы рассмотрели 1028 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 82 518 досок и 1047 аккаунтов. К нам поступило 166 обжалований, и мы восстановили 113 аккаунтов.

Мы стремимся, чтобы в Pinterest предлагался только качественный контент, поэтому мы деактивируем любой спам. Цель спамеров — получение денег, и чем больше спама они рассылают, тем больше зарабатывают на этом. Здесь количество имеет значение: миллион спам-писем намного эффективнее, чем одно спам-письмо. Такие же попытки рассылки спама могут происходить на любой платформе дистрибуции контента, включая Pinterest. Платформа активно противодействует спамерам от атаки к атаке, поскольку это пользователи, которые намеренно обходят систему и каждый раз находят новые приемы против нее.

Pinterest использует новейшие технологии машинного обучения для создания моделей с автоматическим распознаванием спама в любой форме. Мы не только используем новейшие методы создания моделей, но и регулярно добавляем новые данные и изучаем технические новинки для поддержания или улучшения их производительности в борьбе со спамом. Спам имеет неконтролируемый и изменчивый характер, поэтому борьба с ним и показатели по обеспечению соблюдения правил в отношении контента могут меняться от квартала к кварталу, особенно после крупной атаки.

В третьем квартале 2021 года за нарушение этой политики мы деактивировали 81 753 отдельных изображения, входившие в 233 303 пина. 63 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали менее 1 % пинов вручную и более 99 % автоматически. За нарушение этой политики мы также мы деактивировали 2 435 683 аккаунта. К нам поступило 101 832 обжалования, и мы восстановили 77 936 аккаунтов.

В четвертом квартале 2021 года за нарушение этой политики мы деактивировали 61 834 отдельных изображения, входившие в 121 639 пинов. 75 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали менее 1 % пинов вручную и более 99 % автоматически. За нарушение этой политики мы также мы деактивировали 1 736 742 аккаунта. К нам поступило 103 257 обжалований, и мы восстановили 79 054 аккаунта.

Pinterest уважает права интеллектуальной собственности других людей, и ожидает от пользователей платформы такого же отношения. Согласно нашей политике в надлежащих случаях мы удаляем аккаунты пользователей, которые неоднократно нарушали авторские права или другие права интеллектуальной собственности либо неоднократно обвинялись в их нарушении.

Pinterest предоставляет несколько механизмов отправки уведомлений о нарушении прав интеллектуальной собственности. Первый из них расположен непосредственно на платформе рядом со спорным содержимым. Пользователи могут пометить любые пины, которое они считают нежелательными, нажав значок с тремя точками на любом пине и выбрав пункт «Пожаловаться на пин». Кроме того, на нашей странице правил можно найти форму, а также физические и электронные адреса для отправки уведомлений о нарушении прав интеллектуальной собственности. 

Отправители могут сообщать об одном или нескольких элементах содержимого. Мы оцениваем каждый указанный в заявке элемент содержимого и обрабатываем те из них, для которых предоставлено все необходимые сведения. Если нам понадобится дополнительная информация об отправителе или указанном содержимом, мы связываемся с лицом или организацией, которые отправили уведомление, для получения этих сведений. Если на любом этапе нам будет предоставлено полное и действительное уведомление о нарушении прав интеллектуальной собственности, Pinterest выполнит указанные в нем требования и деактивирует соответствующее содержимое.

В определенных случаях мы можем посчитать уведомление недействительным и отклонить указанное содержимое, например, если уведомление:

Учитывая сложный характер этих случаев, мы добавили ряд показателей для лучшего понимания действий, которые мы принимаем в рамках рассмотрения заявок о нарушении прав интеллектуальной собственности и взаимодействия с лицами или организациями, которые их отправляют.

В случае деактивации контента в результате уведомления о нарушении прав интеллектуальной собственности мы отправляем пользователю электронное письмо со сведениями о том, как обжаловать наше решение. Мы рассматриваем обжалования, которые могут быть предоставлены в форме встречных уведомлений, в соответствии с Законом о защите авторских прав в цифровую эпоху (DMCA) и можем изменить наше решение, если определим, что обжалование требует принятия определенных мер. Как и в случае с уведомлениями о нарушении прав интеллектуальной собственности, при необходимости мы связываемся с лицом или организацией, которые отправили уведомление, для получения дополнительных сведений. Если на любом этапе нам будет предоставлено полное и действительное обжалование, Pinterest выполнит надлежащие действия для исправления ситуации.

С момента создания платформы авторы контента, бренды и издатели со всего мира используют Pinterest для демонстрации своих материалов и построения системы ценностей. Многие авторы загружают собственный контент или добавляют на свои веб-сайты кнопки, чтобы пользователям было удобно сохранять пины в Pinterest. Это оптимизирует показ их ресурсов и увеличивает трафик при сохранении изображений. Мы прилагаем все усилия, чтобы авторы могли управлять своим контентом (например, определять связанные веб-сайты, которые будут получать трафик от сохраненных изображений) с помощью таких функций, как код для запрета пинов, если нужно запретить сохранение контента с веб-сайтов, или заявление права на контент в Pinterest через Портал для подтверждения прав владения контентом. 

Для случаев, когда правообладатели не хотят, чтобы их контент был опубликован в Pinterest, предусмотрено несколько механизмов удаления контента. Владельцы авторских прав и их уполномоченные представители могут использовать механизмы уведомления о нарушении авторских прав, отправив жалобу непосредственно на платформе, заполнив форму для подачи жалоб или написав электронное письмо на адрес copyright [at] pinterest.com (copyright[at]pinterest[dot]com). Рассмотрев уведомление о нарушении авторских прав, мы принимаем соответствующие меры, вплоть до удаления контента из Pinterest. Также к вашим услугам Портал для подтверждения прав владения контентом — инструмент, внедренный в 2021 г., который позволяет правообладателям подтверждать право владения содержимым и определять, как оно будет отображаться в Pinterest. Принимая меры в связи с уведомлением о нарушении авторских прав или информацией, полученной на Портале для подтверждения прав владения контентом, мы сообщаем затронутым пользователям о наших решениях и предоставляем им информацию о том, как их обжаловать.

Выявить нарушения авторских прав и других прав интеллектуальной собственности при модерации контента крайне сложно. В то время как зачастую модераторы могут легко выявить контент, нарушающий наши другие правила, например контент для взрослых или угрозы, просто взглянув на него, с нарушением авторских прав дело обстоит намного труднее. Для выявления нарушений авторских прав обычно требуются дополнительные сведения о происхождении контента, юридическом статусе, праве собственности, лицензировании или других аспектах, которые не представляются очевидными, например, если правообладатель заключил соглашения с другой стороной, не уведомив об этом Pinterest. Поэтому только правообладатели могут знать, является ли определенное использование контента санкционированным. Процедура уведомления — это способ, с помощью которого правообладатели предоставляют Pinterest необходимую информацию. Отличительной чертой нарушений авторских прав является то, что принимаемые меры не всегда приводят к деактивации контента. Одни правообладатели могут потребовать деактивировать контент, в то время как другие предпочтут, чтобы их материалы остались в Pinterest с правильной атрибуцией или со ссылкой на их веб-сайт. 

Поэтому приведенные в этом разделе процедуры модерации контента и показатели не всегда поддаются прямому сопоставлению с другими разделами применения Правил сообщества. Из этих соображений мы добавили, к примеру, такие показатели, как количество уведомлений, обработанных на основе первоначального запроса, и количество уведомлений, для которых пришлось искать дополнительную информацию, а также убрали показатель охвата деактивированных пинов. Мы стремимся открыто говорить о результатах нашей работы по защите прав интеллектуальной собственности в Pinterest. Мы будем публиковать такие отчеты и в будущем.

 

В третьем квартале 2021 года мы получили 26 434 заявки через механизмы подачи жалоб о нарушении авторских прав. Мы определили, что 190 из них не были связаны с нарушениями прав интеллектуальной собственности, и передали эти заявки в соответствующий отдел Pinterest. Еще 4649 заявок содержали спам и были отклонены. 15 537 уведомлений содержали все необходимые сведения, и мы рассмотрели все указанное в них содержимое. Нам пришлось запрашивать дополнительную информацию еще для 5471 заявки, и в конечном итоге 1149 из них были обработаны. В общей сложности в соответствии с нашей политикой в отношении авторских прав мы обработали 16 686 уведомлений и деактивировали 51 833 отдельных изображения, входившие в 12 520 214 пинов. Мы деактивировали меньше 1 % пинов вручную и больше 99 % при помощи гибридных инструментов. За повторные нарушения нашей политики мы деактивировали 714 аккаунтов. Мы получили 514 обжалований, но только 374 из них содержали все необходимые сведения для того, чтобы считаться действительными. По них были предприняты соответствующие меры.

В 2021 году мы получили 25 438 запросов через Портал для подтверждения прав владения контентом. Мы обработали 22 447 запросов и деактивировали 397 отдельных изображений, входивших в 136 258 пинов. К нам поступило 7 обжалований касательно содержимого, деактивированного таким образом, но только 4 из них содержали все необходимые сведения для того, чтобы считаться действительными. По них были предприняты соответствующие меры.

В четвертом квартале 2021 года мы получили 21 199 заявок через механизмы подачи жалоб о нарушении авторских прав. Мы определили, что 159 из них не были связаны с нарушениями прав интеллектуальной собственности, и передали эти заявки в соответствующий отдел Pinterest. Еще 2925 заявок содержали спам и были отклонены. 11 969 уведомлений содержали все необходимые сведения, и мы рассмотрели все указанное в них содержимое. Нам пришлось запрашивать дополнительную информацию еще для 5473 заявок, и в конечном итоге 1143 из них были обработаны. В общей сложности в соответствии с нашей политикой в отношении авторских прав мы обработали 13 112 уведомлений и деактивировали 35 966 отдельных изображений, входивших в 10 835 478 пинов. Мы деактивировали меньше 1 % пинов вручную и больше 99 % при помощи гибридных инструментов. За повторные нарушения нашей политики мы деактивировали 292 аккаунта. Мы получили 523 обжалования, но только 419 из них содержали все необходимые сведения для того, чтобы считаться действительными. По них были предприняты соответствующие меры. 

В 2021 году мы получили 6 839 запросов через Портал для подтверждения прав владения контентом. Мы обработали 6161 запрос и деактивировали 450 отдельных изображений, входивших в 133 861 пин. К нам поступило 35 обжалований касательно содержимого, деактивированного таким образом, но только 14 из них содержали все необходимые сведения для того, чтобы считаться действительными. По них были предприняты соответствующие меры.

Мы уважаем чужие права на товарные знаки. Владельцы товарных знаков, которые имеют опасения о незаконном использовании своего товарного знака на нашем сайте, могут связаться с нами через механизмы подачи жалоб о нарушении права на товарные знаки, отправив жалобу непосредственно на платформе, заполнив форму для подачи жалоб о нарушении права на товарные знаки или написав электронное письмо на адрес trademark [at] pinterest.com (trademark[at]pinterest[dot]com). Мы рассматриваем поступившие запросы и принимаем соответствующие меры, вплоть до удаления контента из Pinterest.

Как и в случае с нарушениями авторских прав, приведенные в этом разделе процедуры модерации контента и показатели не всегда поддаются прямому сопоставлению с другими разделами применения Правил сообщества. Из этих соображений мы добавили, к примеру, такие показатели, как количество уведомлений, обработанных на основе первоначального запроса, и количество уведомлений, для которых пришлось искать дополнительную информацию, а также убрали показатель охвата деактивированных пинов.

В третьем квартале 2021 года мы получили 4217 заявок через механизмы подачи жалоб о нарушении права на товарные знаки. 1241 из них содержала спам и была отклонена. 1094 уведомления содержали все необходимые сведения, и мы рассмотрели все указанное в них содержимое. Нам пришлось запрашивать дополнительную информацию еще для 1521 заявки, и в конечном итоге 107 из них были обработаны. В общей сложности в соответствии с нашей политикой в отношении товарных знаков. мы обработали 1201 уведомление и деактивировали 29 557 отдельных изображений, которые входили в 36 400 пинов. Мы вручную деактивировали 100 % пинов. За нарушение нашей политики в отношении товарных знаков и других связанных политик мы деактивировали 82 доски и 128 аккаунтов. Мы получили 18 обжалований, но только 2 из них содержали все необходимые сведения для того, чтобы считаться действительными. По них были предприняты соответствующие меры.

В четвертом квартале 2021 года мы получили 3776 заявок через механизмы подачи жалоб о нарушении права на товарные знаки. 496 из них содержали спам и были отклонены. 985 уведомлений содержали все необходимые сведения, и мы рассмотрели все указанное в них содержимое. Нам пришлось запрашивать дополнительную информацию еще для 2112 заявок, и в конечном итоге 88 из них были обработаны. В общей сложности в соответствии с нашей политикой в отношении товарных знаков. мы обработали 1073 уведомления и деактивировали 25 366 отдельных изображений, которые входили в 33 181 пин. Мы вручную деактивировали 100 % пинов. За нарушение нашей политики в отношении товарных знаков и других связанных политик мы деактивировали 150 досок и 135 аккаунтов. Мы получили 5 обжалований, но только 2 из них содержали все необходимые сведения для того, чтобы считаться действительными. По них были предприняты соответствующие меры.

Этот раздел дает представление об объеме информационных запросов и запросов на деактивацию, полученных от правоохранительных и государственных органов во второй половине 2021 года (июль – декабрь). Чтобы узнать больше о том, как мы отвечаем на запросы информации об аккаунтах, см. наши правила для правоохранительных органов.

Pinterest получает официальные запросы от правоохранительных и государственных органов на предоставление информации об аккаунтах Pinterest. Мы внимательно изучаем каждый запрос и предоставляем данные только для тех, которые соответствуют требованиям закона и нашей политики. Наша политика заключается в том, чтобы уведомлять пользователей о государственных запросах на их информацию до ее раскрытия, если это не запрещено законом или не связано с экстренными обстоятельствами.

* Запросы от правоохранительных органов, например запросы на прослушивание, регистрацию телефонных звонков, перехват и слежение, а также экстренные запросы на раскрытие информации.

** Владельцы аккаунтов были уведомлены до предоставления информации по запросу.

* Запросы от правоохранительных органов, например запросы на прослушивание, регистрацию телефонных звонков, перехват и слежение, а также экстренные запросы на раскрытие информации.

** Владельцы аккаунтов были уведомлены до предоставления информации по запросу.

* Запрос на получение информации о пользователе в виде письма или ордера, инициированный в соответствии с Актом о негласном наблюдении в целях внешней разведки США.

Иногда мы получаем запросы от государственных органов на деактивацию содержимого в Pinterest, которое может быть незаконным в их стране или нарушать наши Правила сообщества. 

Мы проверяем запросы, чтобы определить, нарушает ли указанное содержимое наши Правила сообщества. Наши команды принимают меры в случае нарушений: от полной деактивации содержимого до ограничения доступа к нему в соответствующей стране, если оно нарушает местное законодательство, но не нарушает нашу политику. 

В период с июля по декабрь 2021 года в Pinterest поступило в общей сложности 6618 запросов. Мы деактивировали контент по 4905 запросам из этого числа за нарушение наших правил сообщества и ограничили доступ к контенту, на который пришли 1443 запроса. Контент, на который приходятся 270 запросов, уже был неактивным к моменту его рассмотрения по запросу правительства на удаление. Это происходит, например, если контент уже был деактивирован по жалобе пользователя до того, как в Pinterest поступил запрос на удаление от правительства.

* Содержимое нарушало наши Правила сообщества, поэтому оно было удалено с платформы.

** Запрос на удаление инициирован государственным органом, однако содержимое не нарушало правила нашего сообщества, поэтому его показ был ограничен только в странах, от которых поступил запрос на основе местного законодательства.

*** Контент уже был недоступен на платформе к моменту его рассмотрения по запросу правительства на удаление.

Создание позитивного пространства в Интернете происходит не случайно, а благодаря упреждающей политике и решениям по продуктам. Мы занимаем лидирующие в отрасли позиции по безопасности контента, которые основываются на материалах и советах внешних экспертов, гражданского общества и правительства. Мы также вкладываем значительные средства в такие технологии, как машинное обучение, чтобы поддерживать безопасное и позитивное пространство для пользователей Pinterest. Мы гордимся тем, что мы делаем для защиты Pinterest и прогресса индустрии в целом. 

Давайте вместе сделаем Интернет более безопасным и вдохновляющим.

Pinterest стремится вдохновлять каждого на занятие любимым делом. Именно этим мы руководствуемся при разработке нашей политики в отношении контента. 

В Интернете существуют вещи, мало связанные с вдохновением, поэтому наши правила накладывают определенные ограничения в отношении того, что может быть приемлемо в Pinterest. Мы постоянно совершенствуем методы модерации, чтобы быть в курсе тенденций и поведения наших пользователей, а также создавать более позитивную атмосферу для людей на нашей платформе. Мы продолжаем прилагать большие усилия для разработки машинного обучения, борьбы с запрещенным контентом и работы с внешними экспертами и организациями, чтобы наши технологии модерации и политика в отношении контента были на должном уровне.

Мы начали публиковать двухгодичные отчеты о доступности служб и данных с 2013 года. Затем, начиная с четвертого квартала 2020 года, мы стали включать в отчет новую информацию, касающуюся наших действий в рамках соблюдения Правил сообщества. В этом отчете о доступности служб и данных вы найдете информацию о нашей работе, касающейся модерации пользовательского и коммерческого содержимого, как, например, количество нарушений политики и связанных с ними деактиваций. Этот отчет также включает данные об объеме запросов информации и запросов на деактивации, полученных от правоохранительных и государственных органов. Приведенные здесь данные относятся к первой половине 2021 года (январь–июнь).

Политики и практики Pinterest — это то, чем мы можем гордиться. Но что еще более важно, они помогают пользователям нашей платформы. Благодаря им Pinterest остается позитивным и вдохновляющим местом в сети. Например, мы заботимся о душевном состоянии наших пользователей при помощи функции отслеживания тревожных запросов. Также мы защищаем пользователей благодаря нашей политике в отношении ложной медицинской информации. Мы стремимся совершенствовать отрасль в этом отношении, чтобы вместе делать Интернет более вдохновляющим.

Этот отчет может несколько отличаться от нашего последнего отчета о доступности служб и данных. Во-первых, мы понимаем, что сами по себе цифры не дают полного представления, поэтому мы добавили раздел о безопасности и благополучии сообщества. В нем вы можете узнать о нашей недавней работе в сообществе: разработке политик, создании продуктов и налаживании партнерских отношений. Мы гордимся своей работой в этом направлении, и мы будем прилагать все усилия, чтобы обеспечить благополучие в нашем сообществе.

Мы также обновили наш раздел о соблюдении правил сообщества, чтобы он был структурирован по категориям политики, а не по типу действий. Так, например, в нашем последнем отчете один раздел был о деактивации пинов, а другой — о деактивации досок. Теперь в отчете есть разделы для каждой категории политики, которые включают количество пинов и досок, деактивированных за нарушение этой самой политики. Мы сделали это, чтобы дать более целостное представление о наших действиях касательно модерации контента, указав категории политики. 

Необходимо отметить, что даже в новом формате мы предоставляем те же данные, которые есть и в нашем последнем отчете о доступности служб и данных. Мы даже добавили новую информацию, в частности, данные о деактивации пинов при помощи автоматизированных инструментов, проверки человеком или гибридного подхода, который сочетает в себе элементы первых двух способов. Ознакомьтесь с разделом методологии ниже для получения дополнительной информации о том, как высчитывались эти данные.

Мы стремимся открыто говорить о результатах нашей работы над безопасностью Pinterest, чтобы сделать нашу платформу местом для полной свободы вдохновения. Мы будем публиковать такие отчеты и в будущем.

Мы продолжаем работать над нашей политикой, продуктами и налаживанием партнерских отношений, чтобы обеспечить безопасность и благополучие нашего сообщества. Ниже приведены некоторые из главных обновлений, которые мы выполнили в первой половине 2021 года.

Наша платформа занимается распространением контента, поэтому мы делаем все возможное, чтобы снизить предвзятость в алгоритмах и системах Pinterest. В основном мы применяем введение различных данных в нашу технологию искусственной реальности (AR) и искусственного интеллекта (AI). Принцип работы этих технологий вы можете увидеть на примере таких наших функций, как «Опробовать в AR» и диапазоны тонов кожи. С их помощью пользователи могут точнее настроить поиск на тему красоты и найти интересующие их материалы. Со временем наш набор инструментов по работе с данными увеличился, так что пользователи могут настраивать запросы полностью под свои потребности. В первой половине года пользователи выполнили миллионы поисковых запросов для поиска по диапазонам оттенков кожи. В марте 2021 года эта функция стала доступна еще в тринадцати странах: Франции, Италии, Испании, Германии, Швейцарии, Австрии, Нидерландам, Индии, Индонезии, Бразилии, Аргентине, Мексике и Колумбии. 

В рамках нашей работы по созданию позитивного пространства для авторов мы создали Правила для авторов. Их цель — помочь и дать ориентиры авторам контента, чтобы они дарили вдохновение и поддерживали позитивное пространство Pinterest. Правила содержат основные принципы, которых авторы должны придерживаться, прежде чем публиковать пины-идеи. Будьте дружелюбны. Предоставляйте достоверную информацию. Никаких изображений членовредительства. Будьте осторожны с триггерами. Практикуйте инклюзивность. 

Проще говоря, эти правила призывают авторов создавать позитивный настрой, проявлять доброту и поддерживать инклюзивность. Коллективные усилия по уменьшению негатива — это важный шаг на пути к созданию позитивной атмосферы, который дает возможность каждому пользователю на Pinterest чувствовать себя значимым.

В феврале 2021 года мы содействовали проведению Национальной недели поддержки лиц, страдающих от расстройств пищевого поведения (NEDAwareness Week) в партнерстве с Национальной ассоциацией исследований расстройств пищевого поведения (NEDA) — крупнейшей некоммерческой организацией в США, занимающейся поддержкой людей и семей, страдающих от расстройств пищевого поведения.

В рамках темы этого года NEDA приветствовала участников таким лозунгом: «Для каждого есть место за столом‎». Организация приглашала к обсуждениям о том, насколько люди в мире знают о существовании данной проблемы и каким образом ведется борьба против предубеждений, а также предлагала участникам поделиться историями из жизни и личным опытом. Со своей стороны мы предоставили места в объявлениях, чтобы люди могли следить за событиями и обсуждениями NEDAwareness Week. NEDA использовала новый формат Pinterest в виде пинов-идей, чтобы рассказать пользователям о том, как говорить о расстройствах пищевого поведения и их лечении. Мы разместили эти пины-идеи на вкладке «Сегодня», чтобы люди на нашей платформе узнали больше информации на данную тему.

Мы постоянно сотрудничаем с независимыми экспертами и организациями, такими как NEDA. Таким образом мы получаем советы и отзывы о нашей политике и подходах к обеспечению соблюдения правил. Сотрудничество с экспертами помогает нам улучшать нашу политику, следить за тенденциями на других платформах и бороться с дезинформацией.

В течение нескольких лет мы успешно боролись с дезинформацией о здоровье в Интернете и обеспечивали пользователям Pinterest доступ к достоверной информации об актуальных новостях о здоровье, например, о вакцинах. Фактически мы были одной из первых платформ, которые в 2017 году разработали политику по борьбе с дезинформацией о здоровье. 

Наша команда включилась в работу по противодействию дезинформации о COVID в феврале 2020 года. Она включала настройку поиска, который в своих результатах отображал информацию из таких источников, как Всемирная организация здравоохранения (ВОЗ) и Центры по контролю за заболеваниями (CDC). Также была запрещена реклама, предлагающей фальшивые лекарства или ложные методы лечения COVID-19.

В марте 2021 года мы выполнили свой план по борьбе с дезинформацией о вакцине против COVID-19:

Правила сообщества Pinterest были созданы, чтобы о нашей идее узнали больше людей. В них указаны допустимые и запрещенные действия в Pinterest. Эти правила должны соблюдать все пользователи. 

Мы также разработали дополнительные правила для продавцов и рекламодателей. В них четко определяется, что приемлемо, а что недопустимо для товарных пинов и рекламы. Данные правила придерживаются исключительно высоких стандартов, которые обеспечивают безопасность любых пользователей Pinterest. Вдохновение приходит в моменты, когда человек чувствует себя в безопасности.

Для создания позитивно настроенного сообщества мы разрабатываем и внедряем политики, касающиеся контента, которые поддерживают позитивное пространство нашей платформы и дают людям возможность почерпнуть идеи из жизненного опыта других пользователей, например, кулинарные идеи, рекомендации по одежде или другие вещи. Мы прилагаем все усилия, чтобы выявлять и деактивировать на нашем сайте материалы, связанные с насилием, а наша политика в отношении содержимого и методы модерации постоянно развиваются: мы учитываем новые модели поведения и тенденции и стараемся создать уютный уголок Интернета для наших пользователей

Мы можем блокировать, ограничивать или деактивировать содержимое, а также аккаунты, отдельных лиц и группы, которые создают или распространяют это содержимое, в зависимости от того, какой вред оно наносит. Если пользователь считает, что деактивация произошла по ошибке, Pinterest предоставляет варианты обжалования деактивации.

Каждый день миллионы людей со всего мира заходят в Pinterest, чтобы создавать, открывать и сохранять новые идеи, которыми они делятся с помощью пинов. Чтобы понять, как мы подходим к модерации контента, полезно различать два типа пинов: обычные и рекламные. Наши правила сообщества применимы к обоим.

Обычные пины включают в себя все пины, созданные и сохраненные в Pinterest, которые не рекламируются как объявления. Например, это могут быть товарные пины продавцов, которые не всегда являются объявлениями и могут органически отображаться людям, которые ищут товары в Pinterest. На сайте существуют дополнительные требования, например, требование для продавцов и их торговых пинов, что изображение и описание в пине должны точно соответствовать представляемому продукту. В отчеты о доступности служб и данных включены все типы обычных пинов.

Объявления — это пины, за размещение которых платят рекламодатели. У нас есть дополнительные правила для рекламодателей, подразумевающие более высокие стандарты, касающиеся качества объявлений и самих рекламодателей. Поскольку политика в отношении объявлений применяется не так, как в отношении обычного контента, она не включается в отчеты о доступности служб и данных.

Пользователи много раз сохраняют большую часть контента на Pinterest. Это означает, что одно и то же изображение может появляться в разных пинах. Поэтому в отчет по модерации контента для обычных пинов мы включаем количество деактивированных пинов и отдельных изображений, чтобы дать более ясное представление о наших методах модерации для этого типа контента. 

В нашем отчете деактивированные доски и аккаунты представлены раздельно. Чтобы в подсчеты различных деактиваций не входили одни и те же данные, в число отдельных деактивированных изображений и пинов не включаются те, которые размещены на деактивированных досках или аккаунтах.

Мы деактивируем пины, нарушающие правила или политику. Это выполняют автоматизированные инструменты, или проверяет человек, или используется гибридный подход, сочетающий в себе элементы первых двух способов. 

Автоматические деактивации. Наши автоматизированные инструменты выявляют потенциально опасный контент по определенному ряду признаков и принимают меры против него. Наши модели машинного обучения дают определенную оценку каждому изображению, добавляемому на нашу платформу. На основании этих оценок наши автоматизированные инструменты могут применять соответствующие правила к пинам, которые содержат те же изображения.

Ручная деактивация. Пины могут деактивироваться в ходе их проверки человеком. Пины деактивируются таким образом за счет проверки пользователями Pinterest или жалоб, полученных от третьих лиц. Вручную также деактивируются пины, которые проверяются одним из участников нашей команды после рассмотрения соответствующей жалобы от пользователя.

Гибридные деактивации. Гибридная деактивация происходит, если человек замечает в пине нарушение правил той или иной политики сайта, а автоматизированные системы по данной наводке рассматривают все похожие пины, которые машина сочтет нужным проверить на предмет данного нарушения. В зависимости от распространенности похожих пинов гибридная деактивация может либо деактивировать ряд пинов, либо проигнорировать их. 

Механизмы, направленные против различных потенциальных нарушений политики, могут различаться в зависимости от доступных технологий, объема запрещенного контента и других факторов, таких как сложность оценки. Мы продолжаем совершенствовать и обновлять наши инструменты и будем заниматься этим и в будущем.

Пользователи часто спрашивают: сколько людей видели пин до того, как его деактивировали? В большинстве случаев — не много.

Например, 70 % пинов, которые мы деактивировали за дезинформацию общественности во втором квартале, никогда не просматривались пользователями за этот отчетный период — даже при том, что Pinterest посещали более 400 миллионов человек в месяц.

Охват — один из наших ключевых показателей по взаимодействию с пользователем. Чтобы рассчитать этот показатель, мы рассматриваем каждый пин, деактивированный за нарушения правил за этот отчетный период. Затем вы считаем количество уникальных пользователей, которые успели увидеть тот или иной пин до его деактивации за время этого отчетного периода как минимум в течение 1 секунды. Охват по категории политики может не доходить до 100 % из-за округления чисел.

Пользователи могут пожаловаться на спорные пины, нажав на значок с тремя точками на любом пине и выбрав «Пожаловаться на пин». Жалоба будет считаться рассмотренной после того, как мы проверим пин на нарушение политики и предпримем соответствующие действия.

Общее количество рассмотренных жалоб, то есть жалоб, которые действительно указывали на существующее нарушение политики, является другим ключевым показателем взаимодействия с пользователем на Pinterest. То же касается и числа пользователей, подавших жалобу: к деактивации пинов привели жалобы более чем 0,01 % активных пользователей в месяц за второй квартал.

Когда пользователи находят пины, которые им нравятся или к которым они хотят вернуться в будущем, они сохраняют их на своих досках. На сегодняшний день наши пользователи создали миллиарды досок. 

Если доска деактивируется за нарушение политики, то все пины на ней также деактивируются. Похожим образом при деактивации аккаунта доски данного пользователя также деактивируются. Чтобы в подсчеты различных деактиваций не входили одни и те же данные, в число деактивированных досок не включаются те, которые принадлежат деактивированным аккаунтам.

Рассматривать аккаунты в Pinterest следует как профили или, чаще всего, как отдельных пользователей. Если кто-то сохраняет пины и создает доски, это содержимое связывается с его аккаунтом. Это также верно для аккаунтов компаний, рекламодателей, продавцов и авторов. 

Любой аккаунт может быть деактивирован за нарушение нашей политики. Если аккаунт деактивируется, то все принадлежащие ему пины и доски также деактивируются. Это означает, что если вы попытаетесь найти их или перейдете по старой ссылке содержавший их профиль, то он не отобразится. Вы нигде не сможете найти пины с этих досок на Pinterest. Деактивированный пользователь также не сможет получить доступ к собственным пинам или доскам.

Если пользователь считает, что его аккаунт был деактивирован по ошибке, он обжаловать данное решение, чтобы восстановить свой аккаунт. Мы рассматриваем запросы на обжалование и решаем их в пользу аккаунта, если мы обнаруживаем и признаем свою ошибку. В остальных случаях мы можем дать человеку второй шанс с условием, что он будет соблюдать наши Правила сообщества.

Мы также обрабатываем обжалования в отношении деактивированных пинов и досок и планируем включать эти данные в свои отчеты в будущем.

Наши отчеты по соблюдению правил сообщества относятся к первой половине 2021 года (январь–июнь). Мы разделили этот промежуток времени на два отчетных периода: Q1 и Q2. 

Q1 охватывает первый квартал года 2021 года с января по март, а Q2 — второй квартал с апреля по июнь. Иногда мы обращаемся к данным за четвертый квартал 2020 года (с октября по декабрь), когда говорим о сравнении тенденций в кварталах.

Pinterest — это не место для распространения порнографии. Мы деактивируем контент, который нарушает нашу политику в отношении контента для взрослых, и не предоставляем результаты по поисковым запросам, которые нарушают эту политику. Мы разработали правила, в которых проводится разграничение между порнографией и другими материалами для взрослых, например контентом, связанным с поддержанием сексуального здоровья, кормлением грудью, мастэктомией, искусством и образованием.

В первом квартале 2021 года мы включили новые инструменты машинного обучения для обнаружения и деактивации досок за нарушение нашей политики в отношении контента для взрослых. В результате мы наблюдали увеличение числа деактивированных досок и аккаунтов. По сравнению с четвертым кварталом 2020 года во втором квартале 2021 года месячное число жалоб от активных пользователей снизилось на 15 %. Это является нашим ключевым показателем в работе с пользователями и нашим вкладом в эту работу.

Мы постоянно обновляем политики в отношении контента и методы модерации, чтобы обеспечить безопасность нашей платформы для всех пользователей. Пока что мы сосредоточили свое внимание на новых инструментах машинного обучения, чтобы обеспечить соблюдение нашей политики в отношении контента для взрослых. В настоящее время мы изучаем, как они будут работать в случаях нарушений других политик. 

Чтобы рассчитать охват, мы рассматриваем каждый пин, деактивированный за нарушения правил за этот отчетный период. Затем вы считаем количество уникальных пользователей, которые успели увидеть тот или иной пин до его деактивации за время этого отчетного периода как минимум в течение 1 секунды. Процентные показатели за квартал могут не доходить до 100 % из-за округления чисел.

В первом квартале 2021 года за нарушение этой политики мы деактивировали 2 029 934 отдельных изображения, входивших в 47 120 204 пина. 80 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали меньше 1 % вручную и больше 99 % с помощью гибридных инструментов. Мы рассмотрели 128 015 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 179 994 доски и 17 659 аккаунтов. К нам поступило 2335 обжалований, и мы восстановили 1634 аккаунта.

За нарушение этой политики во втором квартале 2021 года мы деактивировали 1 486 098 отдельных изображения, входивших в 46 130 733 пина. 81 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали меньше 1 % вручную и больше 99 % с помощью гибридных инструментов. Мы рассмотрели 136 218 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 131 664 доски и 13 468 аккаунтов. К нам поступило 2398 обжалований, и мы восстановили 1442 аккаунтов.

На нашем сайте запрещена реклама сексуальных услуг для взрослых. Мы редко встречаем подобный контент на нашей платформе. Сексуальные услуги для взрослых могут включать услуги из сферы коммерческой секс-индустрии, физическую эксплуатацию или торговлю людьми, такие как эскорт-услуги, проституцию, видеосъемку в откровенных сценах, раздевание или секс за деньги.

Иногда пины могут не содержать контент, который бы нарушал нашу политику в отношении контента для взрослых, но в них все же имеются предложения сексуальных услуг для взрослых. Когда мы обнаруживаем такие пины, то деактивируем их за нарушение нашей политики в отношении сексуальных услуг для взрослых. 

Во втором квартале 2021 года мы деактивировали 1263 пина за нарушение данной политики. Из них 78% увидели менее 100 пользователей за этот отчетный период.

В первом квартале 2021 года за нарушение этой политики мы деактивировали 520 отдельных изображений, входивших в 533 пина. Из этих пинов 71 % просмотрело менее 100 пользователей за этот отчетный период. Мы вручную деактивировали 100 % пинов. Мы рассмотрели 536 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 348 досок и 271 аккаунт. К нам поступило 11 обжалований, и мы восстановили 3 аккаунта.

Во втором квартале 2021 года за нарушение этой политики мы деактивировали 1245 отдельных изображений, входивших в 1263 пина. Из этих пинов 78 % просмотрело менее 100 пользователей за этот отчетный период. Мы вручную деактивировали 100 % пинов. Мы рассмотрели 613 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 708 досок и 500 аккаунтов. К нам поступило 14 обжалований, и мы восстановили 4 аккаунта.

В 2020 году мы представили нашу политику касательно гражданской дезинформации в качестве дополнения к уже существующим правилам сообщества относительно неправильной или ложной информации. Эта политика касается ложного или вводящего в заблуждение контента на Pinterest, который ставит под сомнение честность выборов или препятствует гражданскому участию в них отдельных лиц или групп, в том числе регистрации, голосованию или внесению их данных в реестр.

Во время проведения мер по усилению безопасности нашей платформы, когда новый президент США вступал в свою должность, некоторые доски и аккаунты были деактивированы за нарушение этой политики в первом квартале 2021 года.

В первом квартале 2021 года за нарушение этой политики мы деактивировали 2044 отдельных изображения, входивших в 6895 пинов. 80 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 96 % пинов вручную и 4 % при помощи гибридных инструментов. Мы рассмотрели 111 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 546 досок и 45 аккаунтов. К нам поступило 13 обжалований, и мы восстановили 11 аккаунтов.

Во втором квартале 2021 года за нарушение этой политики мы деактивировали 349 отдельных изображений, входивших в 2316 пинов. 70 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы вручную деактивировали 16 % пинов и 84 % при помощи гибридных инструментов. Мы рассмотрели 118 жалоб от пользователей, приведших к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также мы деактивировали 92 доски и 9 аккаунтов. К нам поступило 4 обжалования, и мы восстановили 3 аккаунта.

Наша политика относительно теорий заговора входит в число тех политик из наших правил сообщества, которые запрещают неправильную и ложную информацию в Pinterest. Теории заговора включают контент, который вводит в заблуждение и делает отдельных людей, целые группы, места и компании предметом преследования или применения физического насилия. К такому контенту относятся теории заговора, основывающиеся на ненависти, и дезинформация относительно массовых зверств.

Иногда мы проводим полную очистку всей платформы, из-за чего какая-то часть контента может пропадать на некоторое время. Этим мы добиваемся только положительного результата: место вашего вдохновения становится более чистым и безопасным.

Мы наблюдали явление теорий заговора во втором квартале, когда выполняли очистку всей платформы в рамках наших действий по обеспечению соблюдения правил в отношении контента. Это привело к временному увеличению количества деактивированных пинов. Этот рост не связан с каким-либо случаем увеличения количества запрещенных материалов. Необходимо отметить, что 95 % этих пинов не видел ни один пользователь в течение этого отчетного периода.

В первом квартале 2021 года за нарушение этой политики мы деактивировали 24 134 отдельных изображения, входивших в 166 189 пинов. Из этих пинов 92 % не увидел ни один пользователь за этот отчетный период. Мы вручную деактивировали 2 % пинов и 98 % при помощи гибридных инструментов. Мы рассмотрели 217 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 592 доски и 116 аккаунтов. К нам поступило 20 обжалований, и мы восстановили 11 аккаунтов.

Во втором квартале 2021 года за нарушение этой политики мы деактивировали 16 204 отдельных изображения, входивших в 1 148 947 пинов. 95 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали меньше 1 % вручную и больше 99 % с помощью гибридных инструментов. Мы рассмотрели 318 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 451 доску и 81 аккаунт. К нам поступило 13 обжалований, и мы восстановили 5 аккаунтов.

Pinterest — не место для спекуляции, торговли или продажи запрещенных товаров или проведения запрещенных видов деятельности. Опасными являются продукты или вещества, которые могут нанести вред при использовании, модификации или изготовлении. Запрещенные виды деятельности, как и их изображение или призыв к ним, также недопустимы на Pinterst.

В первом и втором кварталах 2021 года мы провели полную очистку платформы от контента, демонстрирующего запрещенные товары и виды деятельности, из-за чего какая-то часть этого контента пропала на некоторое время. Эти меры нацелены только на положительный результат: место вашего вдохновения становится более чистым и безопасным. 

Эти усилия направлены на обычные пины, а не на рекламу или товары. Они привели к временному увеличению количества пинов, деактивированных за нарушение этой политики. Этот рост не связан с каким-либо случаем увеличения количества оскорбительных материалов.

В первом квартале 2021 года можно было наблюдать небольшое увеличение количества деактивированных пинов. Это было произошло после обнаружения и деактивации пинов, связанных с вредными лекарствами для снижения веса, и привело к деактивации значительного количества досок и аккаунтов. 

В первом квартале 2021 года за нарушение этой политики мы деактивировали 108 534 отдельных изображения, входивших в 839 389 пинов. 95 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 5 % вручную, менее 1 % автоматически и 98 % при помощи гибридных инструментов. Мы рассмотрели 3 136 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 2344 доски и 403 аккаунта. К нам поступило 14 обжалований, и мы восстановили 4 аккаунта.

Во втором квартале 2021 года за нарушение этой политики мы деактивировали 1 938 363 отдельных изображений, входивших в 12 286 669 пина. Из этих пинов 97 % не увидел ни один пользователь за этот отчетный период. Мы деактивировали менее 1 % вручную, менее 1 % автоматически и более 99 % при помощи гибридных инструментов. Мы рассмотрели 3394 жалобы от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 1814 досок и 501 аккаунт. К нам поступило 17 обжалований, и мы восстановили 5 аккаунтов.

В Pinterest запрещены сцены насилия и угрозы. Это касается большей части контента, который изображает сцены насилия, содержит угрозы и выражения, прославляющие насилие.

Недавно произошло относительное увеличение количества контента, деактивированного за нарушение нашей политики в отношении контента со сценами насилия и угроз в первом квартале 2021 года, когда новый президент США вступал в свою должность.

В первом квартале 2021 года за нарушение этой политики мы деактивировали 3376 отдельных изображений, входивших в 254 455 пинов. 96 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы вручную деактивировали 2 % пинов и 98 % при помощи гибридных инструментов. Мы рассмотрели 873 жалобы от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 1184 доски и 243 аккаунта. К нам поступило 15 обжалований, и мы восстановили 10 аккаунтов.

Во втором квартале 2021 года за нарушение этой политики мы деактивировали 4005 отдельных изображений, входивших в 7173 пина. 74 % этих пинов просмотрели менее 100 пользователей за этот отчетный период. Мы деактивировали 79 % пинов вручную и 21 % при помощи гибридных инструментов. Мы рассмотрели 1 848 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 767 досок и 72 аккаунта. К нам поступило 29 обжалований, и мы восстановили 13 аккаунтов.

Pinterest — это не место для критики и оскорблений, и мы не допускаем нанесения обид или сеяния вражды между отдельными людьми или целыми группами. Сюда входят изображения манипулятивного характера, призванные унизить или пристыдить человека, пристыживание людей за особенности их тел или предполагаемую историю их сексуальных или романтических отношений, замечания сексуального характера о телах людей, домогательства или приглашения к сексуальной связи, а также высмеивание людей, переживающих грусть, скорбь, утрату или последствия насилия.

Мы стараемся осторожно применять и, что не менее важно, настраивать гибридные инструменты. Гибридная деактивация происходит, если человек замечает в части содержимого нарушение правил той или иной политики сайта, а автоматизированные системы по данной наводке рассматривают все похожие пины, которые машинный алгоритм сочтет нужным проверить на предмет данного нарушения. Например, гибридная деактивация допустима, если мы видим, что изображение в пине нарушает правила сайта, но мы не будем применять ее в случае, если это же изображение не нарушает правил в других обстоятельствах или если сам пин был деактивирован по причинам, не связанным с изображением в нем.

Во втором квартале 2021 года подавляющее большинство пинов было деактивировано при помощи гибридной деактивации за нарушение нашей политики относительно критики и оскорблений. Некоторые из этих пинов попали под деактивацию по ошибке. Мы восстановили те деактивированные пины, которые случайно попали под эту деактивацию, и внесли поправки в работу гибридных инструментов, чтобы минимизировать шансы подобных случаев.

Мы включили эти результаты в данные о соблюдении правил за второй квартал, но исключили их из статистики по охвату для этой политики. Мы хотели предоставить более точную информацию о количестве пользователей, которые успели увидеть пин, фактически нарушающий эту политику, до его деактивации. 79 % этих пинов не увидел ни один пользователь за второй квартал.

* Подробную информацию о том, как мы рассчитали охват по этой политике во втором квартале 2021 года, вы можете прочитать выше в разделе «Последние тенденции».

В первом квартале 2021 года за нарушение этой политики мы деактивировали 5540 отдельных изображений, входивших в 124 713 пинов. 87 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 11 % пинов вручную и 89 % при помощи гибридных инструментов. Мы рассмотрели 4483 жалобы от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 977 досок и 594 аккаунта. К нам поступило 57 обжалований, и мы восстановили 43 аккаунта.

Во втором квартале 2021 года за нарушение этой политики мы деактивировали 7238 отдельных изображений, входивших в 1 238 782 пина. Мы выяснили, что небольшая часть отдельных изображений, а также более 990 000 пинов, определенных машинным алгоритмом как похожие на эти изображения, были ошибочно деактивированы, поэтому мы восстановили данный контент. В данный отчетный период пользователи никогда не видели 79 % тех пинов, которые, как мы надеемся, были небезосновательно деактивированы. Мы деактивировали меньше 1 % пинов вручную и больше 99 % с помощью гибридных инструментов. Мы рассмотрели 5383 жалобы от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 1025 досок и 292 аккаунт. К нам поступило 33 обжалования, и мы восстановили 22 аккаунта.

В Pinterest запрещен контент, разжигающий ненависть, поэтому мы закрываем доступ людям и группам, которые занимаются подобной деятельностью. Кампании по разжиганию ненависти включают клевету или негативные стереотипы, карикатуры и оскорбительные обобщения, а также поддержку людей и групп, пропагандирующих разжигание ненависти.

Мы считаем, что любой человек имеет право на безопасное место, где можно было бы жить своими интересами и черпать вдохновение вне зависимости от своей расы, этнического происхождения, национальности, религиозных взглядов, половой принадлежности, сексуальной ориентации, ограниченной дееспособности или состояния здоровья.

По сравнению с четвертым кварталом 2020 года в первом и втором кварталах 2021 года наблюдалось некоторое увеличение числа деактивированных пинов. Мы деактивировали меньше пинов во втором квартале, и 74 % этих пинов просмотрели менее 100 пользователей за этот отчетный период.

В первом квартале 2021 года за нарушение этой политики мы деактивировали 2487 отдельных изображений, входивших в 8823 пина. 70 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 30 % пинов вручную и 70 % при помощи гибридных инструментов. Мы рассмотрели 862 жалобы от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 665 досок и 82 аккаунта. К нам поступило 22 обжалования, и мы восстановили 13 аккаунтов.

Во втором квартале 2021 года за нарушение этой политики мы деактивировали 3418 отдельных изображений, входивших в 6086 пинов. 74 % этих пинов просмотрели менее 100 пользователей за этот отчетный период. Мы деактивировали 60 % пинов вручную и 40 % при помощи гибридных инструментов. Мы рассмотрели 1948 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 739 досок и 126 аккаунтов. К нам поступило 23 обжалования, и мы восстановили 12 аккаунтов. 

Наша политика о ложной медицинской информации входит в число тех политик из наших правил сообщества, которые запрещают неправильную и ложную информацию в Pinterest. Данная политика запрещает спорные утверждения медицинского характера, которые угрожают здоровью и безопасности пользователей и более широким слоям населения, в том числе продвижение ложных средств лечения заболеваний, пропаганда борьбы с вакцинацией или вводящая в заблуждение информация о чрезвычайных ситуациях в области общественного здравоохранения или безопасности. Мы используем информацию от организаций, признанных на национальном и международном уровне, включая Центр по контролю и профилактике заболеваний в США (CDC) и ВОЗ, чтобы определить, нарушает ли контент соответствующие правила.

Pinterest активно участвует в борьбе с дезинформацией о здоровье. Как только вакцины от COVID-19 стали доступнее во всем мире, мы деактивировали контент, который нарушал нашу политику о ложной медицинской информации. Также мы начали тесное сотрудничество с экспертами в области здравоохранения, чтобы быть в курсе последних событий. Мы заметили некоторое увеличение числа деактивированных пинов во втором квартале 2021 года. 92 % этих пинов просмотрели менее 100 пользователей за этот отчетный период.

В первом квартале 2021 года за нарушение этой политики мы деактивировали 4256 отдельных изображений, входивших в 11 097 пинов. 74 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 48 % пинов автоматически, 12 % вручную и 40 % при помощи гибридных инструментов. Также мы деактивировали 473 досок и 35 аккаунтов. К нам поступило 7 обжалований, и мы восстановили 5 аккаунтов.

Во втором квартале 2021 года за нарушение этой политики мы деактивировали 4869 отдельных изображений, входивших в 19 852 пина. 65 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 31 % пинов автоматически, 30 % вручную и 39 % при помощи гибридных инструментов. За нарушение этой политики мы также деактивировали 462 доски и 34 аккаунта. К нам поступило 11 обжалований, и мы восстановили 6 аккаунтов.

Борьба с причинением себе вреда является одной из наших главных задач: мы хотим, чтобы платформа Pinterest играла положительную роль в жизни людей. Контент, который демонстрирует, аргументирует или поощряет самоубийство, самоистязание, расстройства приема пищи или злоупотребление запрещенными веществами, недопустим на нашей платформе. Это включает советы по причинению себе вреда, изображения, рассчитанные на доверие чувствительных людей, суицидальные мысли и цитаты. 

Мы продолжаем сотрудничать с Samaritans — организацией, помогающей людям бороться с чувством изоляции и разобщенности, которое может привести к самоубийству. Мы работаем вместе, чтобы внести свой вклад в борьбу с причинением себе вреда и сделать Интернет более безопасным местом. В 2019 году мы с Samaritans расширили наше сотрудничество, присоединившись к их новой широкопрофильной программе. Подобная совместная работа помогает нам поддерживать исследования специалистов и разработки в области психического здоровья, чтобы как можно больше людей смогли получить поддержку в трудную минуту на любом веб-сайте или приложении. 

В первом и втором кварталах мы продолжали работать над улучшением модерации контента, в котором встречаются материалы о причинении себе ущерба, и помогали тем, от кого поступали тревожные запросы.

В первом квартале 2021 года по сравнению со вторым чаще встречались гибридные деактивации пинов, чем отдельных изображений. Стоит отметить, что 99 % пинов, деактивированных в первом квартале, увидели менее 100 пользователей за этот отчетный период. 

В первом квартале 2021 года за нарушение этой политики мы деактивировали 2945 отдельных изображений, входивших в 302 918 пинов. 86 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 1 % пинов вручную и 99 % при помощи гибридных инструментов. Мы рассмотрели 1066 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. Также мы деактивировали 545 досок и 79 аккаунтов. К нам поступило 13 обжалований, и мы восстановили 12 аккаунтов.

Во втором квартале 2021 года за нарушение этой политики мы деактивировали 3824 отдельных изображения, входивших в 81 444 пина. 88 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали 10 % пинов вручную и 90 % при помощи гибридных инструментов. Мы рассмотрели 1567 жалоб от пользователей, приведшие к деактивациям тех пинов, которые нарушали эту политику. За нарушение этой политики мы также деактивировали 828 досок и 123 аккаунта. К нам поступило 28 обжалований, и мы восстановили 25 аккаунтов.

Мы стремимся, чтобы в Pinterest предлагался только качественный контент, поэтому мы деактивируем любой спам. Цель спамеров — получение денег, и чем больше спама они рассылают, тем больше зарабатывают на этом. Здесь количество имеет значение: миллион спам-писем намного эффективнее, чем одно спам-письмо. Такие же попытки рассылки спама могут происходить на любой платформе дистрибуции контента, включая Pinterest. Платформа активно противодействует спамерам от атаки к атаке, поскольку это пользователи, которые намеренно обходят систему и каждый раз находят новые приемы против нее. 

Pinterest использует новейшие технологии машинного обучения для создания моделей с автоматическим распознаванием спама в любой форме. Мы не только используем новейшие методы создания моделей, но и регулярно добавляем новые данные и изучаем технические новинки для поддержания или улучшения их производительности в борьбе со спамом. Спам имеет неконтролируемый и изменчивый характер, поэтому борьба с ним и показатели по обеспечению соблюдения правил в отношении контента могут меняться от квартала к кварталу, особенно после крупной атаки.

Во втором квартале 2021 года за нарушение этой политики мы деактивировали 336 821 отдельное изображение, входящее в 1 042 960 пинов. 65 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали менее 1 % пинов вручную и более 99 % автоматически. Также мы деактивировали одну доску и 4420 965 аккаунтов. К нам поступило 112 139 обжалований, и мы восстановили 84 541 аккаунт.

Во втором квартале 2021 года за нарушение этой политики мы деактивировали 118 054 отдельных изображения, входивших в 378 490 пинов. 61 % этих пинов не увидел ни один пользователь за этот отчетный период. Мы деактивировали менее 1 % пинов вручную и более 99 % автоматически. За нарушение этой политики мы также мы деактивировали 3 104 408 аккаунтов. К нам поступило 80 624 обжалований, и мы восстановили 61 050 аккаунтов.

Этот раздел дает представление об объеме информационных запросов и запросов на деактивацию, полученных от правоохранительных и государственных органов. 

Обратите внимание: эти данные включают в себя запросы с января по июнь 2021 года. Больше сведений о наших ответах на запросы информации об аккаунтах вы можете найти в наших Рекомендациях для правоохранительных органов.

Pinterest получает официальные запросы от правоохранительных и государственных органов на предоставление информации об аккаунтах Pinterest. Мы внимательно изучаем каждый запрос и предоставляем данные только для тех, которые соответствуют требованиям закона и нашей политики. Наша политика заключается в том, чтобы уведомлять пользователей о государственных запросах на их информацию до ее раскрытия, если это не запрещено законом или не связано с экстренными обстоятельствами.

* Запросы от правоохранительных органов, например запросы на прослушивание, регистрацию телефонных звонков, перехват и слежение, а также экстренные запросы на раскрытие информации.

** Владельцы аккаунтов были уведомлены до предоставления информации по запросу.

* Запросы от правоохранительных органов, например запросы на прослушивание, регистрацию телефонных звонков, перехват и слежение, а также экстренные запросы на раскрытие информации.

** Владельцы аккаунтов были уведомлены до предоставления информации по запросу.

* Запрос на получение информации о пользователе в виде письма или ордера, инициированный в соответствии с Актом о негласном наблюдении в целях внешней разведки США.

Иногда мы получаем запросы от государственных органов на деактивацию содержимого в Pinterest, которое может быть незаконным в их стране или нарушать наши Правила сообщества.

Мы проверяем запросы, чтобы определить, нарушает ли указанное содержимое наши Правила сообщества. Наши команды принимают меры в случае нарушений: от полной деактивации содержимого до ограничения доступа к нему в соответствующей стране, если оно нарушает местное законодательство, но не нарушает нашу политику. 

В период с января по июнь 2021 года в Pinterest поступило в общей сложности 7884 запросов. Мы деактивировали контент по 5396 запросам из этого числа за нарушение наших правил сообщества и ограничили доступ к контенту, на который пришли 1034 запроса. Контент, на который приходятся остальные 1454 запроса, уже был неактивным к моменту его рассмотрения по запросу правительства на удаление. Это происходит, например, если контент уже был деактивирован по жалобе пользователя.

* Содержимое нарушало наши Правила сообщества, поэтому оно было удалено с платформы.

** Запрос на удаление инициирован государственным органом, однако содержимое не нарушало правила нашего сообщества, поэтому его показ был ограничен только в странах, от которых поступил запрос на основе местного законодательства.

*** Контент уже был недоступен на платформе к моменту его рассмотрения по запросу правительства на удаление.

Pinterest не приемлет материалы, содержащие детскую порнографию. У нас действует строгая и бескомпромиссная политика в отношении любых материалов — изображений, видео или текстов, — в которых представлены эксплуатация несовершеннолетних или угроза их безопасности. Обнаружение и деактивация этого содержимого чрезвычайно важны для нас, и мы тесно сотрудничаем с Национальным центром пропавших без вести и эксплуатируемых детей (NCMEC) для борьбы с этой деятельностью.

Pinterest проактивно определяет изображения и видео, содержащие детскую порнографию, используя инструменты сопоставления, включая PhotoDNA и инструменты машинного обучения, которые позволяют обнаруживать дополнительные потенциальные материалы такого характера. С января по июнь 2021 года наша команда специалистов, обученная выявлять детскую порнографию, отправила 890 жалоб в NCMEC через систему CyberTipline.

Создание позитивного пространства в Интернете происходит не случайно, а благодаря упреждающей политике и решениям по продуктам. Мы занимаем лидирующие в отрасли позиции по безопасности контента, которые основываются на материалах и советах внешних экспертов, гражданского общества и правительства. Мы также вкладываем значительные средства в такие технологии, как машинное обучение, чтобы поддерживать безопасное и позитивное пространство для пользователей Pinterest. Мы гордимся тем, что мы делаем для защиты Pinterest и прогресса индустрии в целом. 

Давайте вместе сделаем Интернет более безопасным и вдохновляющим.

Pinterest стремится вдохновлять каждого на занятие любимым делом. И именно этим мы руководствуемся при разработке нашей политики в отношении содержимого. Не все в Интернете вдохновляет, поэтому у нас есть ограничения в отношении того, что приемлемо в Pinterest.

Мы стремимся обеспечить большую прозрачность того, как мы делаем Pinterest безопасным и вдохновляющим. В этом отчете о работе служб вы получите представление о том, сколько информационных запросов и запросов на деактивацию мы получили от правоохранительных и государственных органов с июля по декабрь 2020 года. Мы сообщаем эту информацию дважды в год с 2013 года.

В этом году мы расширяем отчет, чтобы поделиться дополнительной информацией. Теперь наш полугодичный отчет о работе служб будет также содержать данные о мерах, которые мы принимаем для модерации пользовательского и коммерческого содержимого в Pinterest (помимо запросов от правоохранительных органов), например, количество нарушений политики и связанных с ними деактиваций. В этом выпуске указаны меры, которые мы приняли в соответствии с нашими политиками в период с октября по декабрь 2020 года. Мы будем публиковать такие отчеты и в будущем. 

Политика и практики Pinterest — это то, чем мы можем гордиться. Но что еще более важно, они нужны пользователям нашей платформы. Благодаря им Pinterest остается позитивным и вдохновляющим местом в сети. Например, наша многолетняя политика, запрещающая ложную медицинскую информацию, также заметно способствует развитию отрасли. Мы стремимся совершенствовать отрасль в этом отношении, чтобы вместе делать Интернет более вдохновляющим.

Правила сообщества Pinterest предназначены, чтобы сделать нашу платформу более безопасной для всех пользователей. Они регулируют допустимые и запрещенные действия в Pinterest, которые должны соблюдать все пользователи.

У нас есть дополнительные правила для продавцов и рекламодателей, чтобы четко определить, что приемлемо и что недопустимо для торговых пинов и рекламы. У нас особенно высокие стандарты безопасности для всех аудиторий, использующих Pinterest: потребителей, рекламодателей, авторов, продавцов и других. Мы считаем, что вы не сможете обрести вдохновение, если сначала не почувствуете себя в безопасности.

Для создания позитивно настроенного сообщества мы разрабатываем и внедряем политики в отношении содержимого, чтобы наша платформа была комфортной и безопасной средой для людей, которые ищут вдохновения в реализации своих идей. Мы прилагаем все усилия, чтобы выявлять и деактивировать вредоносные материалы на нашем сайте, а наша политика в отношении содержимого и методы модерации постоянно развиваются.

Мы можем блокировать, ограничивать или деактивировать содержимое, а также аккаунты, отдельных лиц и группы, которые создают или распространяют это содержимое, в зависимости от того, какой вред оно наносит. Если пользователь считает, что деактивация произошла по ошибке, Pinterest предоставляет варианты обжалования деактивации.

Каждый день миллионы людей со всего мира заходят в Pinterest, чтобы создавать, открывать и сохранять новые идеи, которыми они делятся с помощью пинов. Чтобы понять, как мы подходим к модерации контента, полезно различать два типа пинов: обычные и рекламные. Наши правила сообщества применимы к обоим.

Обычные пины включают в себя все пины, созданные и сохраненные в Pinterest, которые не рекламируются как объявления. Например, это могут быть товарные пины продавцов, которые не всегда являются объявлениями и могут органически отображаться людям, которые ищут товары в Pinterest. У нас есть дополнительные требования для продавцов и их товарных пинов, например, требование раскрывать политику доставки и возврата. В этот отчет включены все типы обычных пинов.

Объявления — это пины, которые рекламодатели продвигают в Pinterest. У нас есть дополнительные правила для рекламодателей, подразумевающие более высокие стандарты качества объявлений. Поскольку рекламный контент применяется не так, как обычный, он не включен в этот отчет.

Пользователи часто спрашивают: сколько людей видели пин до того, как его деактивировали за нарушение правил? В большинстве случаев — не много.

Например, давайте посмотрим на пины, деактивированные за ложную медицинскую информацию в течение этого отчетного периода. 85 % пинов, которые мы деактивировали по указанной причине, фактически никогда не просматривались пользователями за этот отчетный период — даже при том, что Pinterest посещали более 440 миллионов человек в месяц.

Охват деактивированных пинов, октябрь–декабрь 2020 г.*

* Рассчитано на основе количества уникальных пользователей, которые видели пин, нарушающий правила, в период с октября по декабрь 2020 года как минимум в течение 1 секунды, прежде чем он был деактивирован. Сумма строк может не быть равна 100 % из-за округления.

Пользователи могут пожаловаться на любое содержимое, которое они считают нежелательным, щелкнув значок с тремя точками на любом пине и выбрав «Пожаловаться на пин». После того, как мы подтвердим нарушение политики и предпримем действия в отношении указанного содержимого, жалоба считается такой, по которой приняты меры.

Общее количество жалоб, по которым приняты меры, дает нам четкое представление о качестве работы Pinterest. То же касается и числа пользователей, подавших жалобу: к деактивации пинов привели жалобы от менее чем 0,02 % активных пользователей в месяц за этот отчетный период. 

Хотя большинство жалоб, по которым были приняты меры, касалось содержимого для взрослых, количество пользователей, которые подавали жалобы, составляет очень небольшую часть посетителей Pinterest. Что еще более важно, не так много людей видели содержимое для взрослых, независимо от того, было ли оно деактивировано из-за сообщения пользователя или с помощью другого механизма. На самом деле, 98 % содержимого для взрослых, которое было деактивировано в Pinterest, за отчетный период просмотрели менее 100 человек.

Жалобы, в результате которых пин был деактивирован, октябрь–декабрь 2020 г.

* В рамках некоторых политик жалобы, по которым были приняты меры, не являются полезным показателем, например, потому что основной механизм правоприменения предусматривает обработку жалоб в совокупности. Для этих политик более важным показателем качества работы платформы является количество просмотров (охват) деактивированных пинов.

В Pinterest более 300 миллиардов пинов, с каждым из которых также связано изображение. Тот факт, что два пина показывают одно и то же изображение, не означает, что мы считаем их одним и тем же пином в наших системах или что изображение получено из одного источника. 

Это важно при модерации содержимого: если мы определим, что изображение в одном пине нарушает политику, наши инструменты должны иметь возможность обнаруживать совпадающие изображения среди миллиардов других пинов в Pinterest и действовать соответствующим образом. Таким образом, хотя мы обнаруживаем и деактивируем множество пинов, они связаны с гораздо меньшим количеством отдельных изображений. Вот почему мы разделяем количество деактиваций для отдельных изображений и пинов. Каждое из этих значений дает различное представление о наших методах модерации для каждого типа контента.

Например, мы предприняли активные шаги по модерации как нового, так и уже существующего содержимого в преддверии выборов в США в ноябре 2020 года. В частности, было деактивировано множество отдельных изображений, которые нарушали нашу политику относительно теорий заговора. Мы также деактивировали пины, которые использовали эти изображения.

Деактивация отдельных изображений и пинов, октябрь–декабрь 2020 г. *

* Не распространяется на отдельные изображения или пины, которые были деактивированы, так как находились на деактивированной доске или принадлежали деактивированному пользователю.

Когда люди находят пины, которые им нравятся или к которым они хотят вернуться в будущем, они сохраняют их на своих досках. На сегодняшний день пользователи создали более 6 миллиардов досок. 

Pinterest деактивирует доски, если установлено, что определенное количество содержимого на этой доске нарушает политику. Мы намеренно не сообщаем конкретные цифры в этом отношении, потому что эти данные могут быть использованы для подрыва наших усилий по модерации контента. Наиболее важный аспект модерации форумов заключаются в том, что Pinterest деактивирует доски, которые определены как нарушающие политику, и что при деактивации доски все пины на ней также деактивируются.

Деактивация досок, октябрь–декабрь 2020 г. *

* Не распространяется на доски, которые были деактивированы, так как относились к деактивированному аккаунту пользователя.

Рассматривать аккаунты в Pinterest следует как профили или, чаще всего, как отдельных пользователей. Если кто-то сохраняет пины и создает доски, это содержимое связывается с его аккаунтом. Это также верно для аккаунтов компаний, рекламодателей, продавцов и авторов. 

Любой аккаунт может быть деактивирован за нарушение нашей политики. Когда пользователь деактивирован, все его пины и доски также деактивируются. Это означает, что если вы выполните поиск этих пинов или нажмете на старую ссылку на их профиль, этот профиль больше не будет отображаться. Такие пины нигде не появятся в Pinterest. Эти пользователи также не смогут получить доступ к своим собственным пинам или доскам.

Деактивация аккаунтов, октябрь–декабрь 2020 г.

Если пользователь считает, что его аккаунт был деактивирован по ошибке, он может подать апелляцию для восстановления. Мы рассматриваем запросы на обжалование и удовлетворяем их, если решаем, что допустили ошибку, или, в некоторых случаях, чтобы дать людям второй шанс соблюдать наши Правила сообщества.

Обжалования и восстановления аккаунтов, октябрь–декабрь 2020 г.

Мы также обрабатываем обжалования в отношении деактивированных пинов и досок и планируем включить эти данные в отчеты в будущем.

* Список обновлен 28 сентября 2021 г. В него включены пересмотренные данные о восстановлениях.

Этот раздел дает представление об объеме информационных запросов и запросов на деактивацию, полученных от правоохранительных и государственных органов. 

Обратите внимание: эти данные включают в себя запросы с июля по декабрь 2020 года. Чтобы узнать больше о том, как мы отвечаем на запросы информации об аккаунтах, см. наши правила для правоохранительных органов.

Pinterest получает официальные запросы от правоохранительных и государственных органов на предоставление информации об аккаунтах Pinterest. Мы внимательно изучаем каждый запрос и предоставляем данные только для тех, которые соответствуют требованиям закона и нашей политики. Наша политика заключается в том, чтобы уведомлять пользователей о государственных запросах на их информацию до ее раскрытия, если это не запрещено законом или не связано с экстренными обстоятельствами.

США, январь–июнь 2020 г.

США, октябрь–декабрь 2020 г.

* Запросы от правоохранительных органов, например запросы на прослушивание, регистрацию телефонных звонков, перехват и слежение, а также экстренные запросы на раскрытие информации.

** Владельцы аккаунтов были уведомлены до предоставления информации по запросу.

 

Международные данные, январь–июнь 2020 г.

Международные данные, октябрь–декабрь 2020 г.*

* Запросы от правоохранительных органов, например запросы на прослушивание, регистрацию телефонных звонков, перехват и слежение, а также экстренные запросы на раскрытие информации.

** Владельцы аккаунтов были уведомлены до предоставления информации по запросу.

Запросы, связанные с национальной безопасностью*

*Запрос по делам о национальной безопасности: запрос в виде письма или ордера, инициированный в соответствии с законом о контроле деятельности служб внешней разведки

Иногда мы получаем запросы от государственных органов на деактивацию содержимого в Pinterest, которое может быть незаконным в их стране или нарушать наши Правила сообщества.

Мы проверяем запросы, чтобы определить, нарушает ли указанное содержимое наши Правила сообщества. Наши команды принимают меры в случае нарушений: от полной деактивации содержимого до ограничения доступа к нему в соответствующей стране, если оно нарушает местное законодательство, но не нарушает нашу политику. 

В период с июля по декабрь 2020 года в Pinterest поступило в общей сложности 4078 запросов. Мы удалили содержимое по 3684 запросам из этого числа за нарушение наших Правил сообщества и ограничили доступ к содержимому по остальным 394 запросам.

Январь–июнь, 2020 г.

Июль–декабрь, 2020 г.

* Содержимое нарушало наши Правила сообщества и было удалено с платформы.

** Запрос на удаление инициирован государственным органом, однако содержимое не нарушало принципы нашего сообщества, поэтому его показ был ограничен только в странах, от которых поступил запрос на основе местного законодательства.

Pinterest не приемлет материалы, содержащие детскую порнографию. У нас действует строгая и бескомпромиссная политика в отношении любых материалов — изображений, видео или текстов, — в которых представлены эксплуатация несовершеннолетних или угроза их безопасности. Обнаружение и деактивация этого содержимого чрезвычайно важны для нас, и мы тесно сотрудничаем с Национальным центром пропавших без вести и эксплуатируемых детей (NCMEC) для борьбы с этой деятельностью.

Pinterest проактивно определяет изображения и видео, содержащие детскую порнографию, используя инструменты сопоставления, включая PhotoDNA и инструменты машинного обучения, которые позволяют обнаруживать дополнительные потенциальные материалы такого характера. С июля по декабрь 2020 года наша команда специалистов, обученная выявлять детскую порнографию, отправила 1794 жалобы в NCMEC через систему CyberTipline.

Создание позитивного пространства в Интернете происходит не случайно, а благодаря упреждающей политике и решениям по продуктам. Мы занимаем лидирующие в отрасли позиции по безопасности контента, которые основываются на материалах и советах внешних экспертов, гражданского общества и правительства. Мы также вкладываем значительные средства в такие технологии, как машинное обучение, чтобы поддерживать безопасное и позитивное пространство для пользователей Pinterest. Мы гордимся тем, что мы делаем для защиты Pinterest и прогресса индустрии в целом. 

Давайте вместе сделаем Интернет более безопасным и вдохновляющим.

Январь — март, 2019 г. (1 кв.)

Апрель — июнь, 2019 г. (2 кв.)

Июль — сентябрь 2019 г. (3 кв.)

Октябрь — декабрь 2019 г. (4 кв.)

Подача заявок о раскрытии информации о пользователях неамериканскими правительственными организациями

Январь — март, 2018 г.

Апрель — июнь, 2018 г.

Июль — сентябрь 2018 г.

Октябрь —декабрь 2018 г.

Январь — март 2017

Апрель — июнь 2017

Июль — сентябрь 2017

Октябрь — декабрь 2017

* Извещенные аккаунты — это аккаунты, владельцы которых были уведомлены до предоставления информации по запросу.

* Когда Pinterest выполняет правительственные запросы об удалении определенного контента, данный контент блокируется только в той стране, из которой пришел запрос. Этот контент по-прежнему доступен пользователям во всех остальных странах.

Январь — март 2016

Апрель — июнь 2016

Июль — сентябрь 2016

Октябрь — декабрь 2016

Январь — март 2015

Апрель — июнь 2015

Июль — сентябрь 2015

Октябрь — декабрь 2015

Запросы от правоохранительных органов об удалении контента: 0

Запросы от правоохранительных органов США о предоставлении информации; количество аккаунтов: 7.

Ордеров: 0 (0%); судебных ордеров, ограничивающих раскрытие определенной информации: 0.

Судебных повесток: 7 (100%); судебных ордеров, ограничивающих раскрытие определенной информации: 4.

Национальная безопасность: 0.

Другие: 0.

Ходатайствующие стороны и удовлетворение требований:

Федеральные органы: 2 (2 повестки); полное или частичное удовлетворение требований: 100%.

Государственные/местные органы: Миннесота (2), Флорида (1), Иллинойс (1), Калифорния (1); полное или частичное удовлетворение требований: 100%.

Гражданские запросы США: 0.

Запросы из других стран: Австралия (1); количество аккаунтов: 1; полное или частичное удовлетворение требований: 0%.

Запросы от правоохранительных органов об удалении контента: 0

Запросы от правоохранительных органов США о предоставлении информации; количество аккаунтов: 19.

Ордеров: 3 (33%); судебных ордеров, ограничивающих раскрытие определенной информации: 2.

Судебных повесток: 6 (67%); судебных ордеров, ограничивающих раскрытие определенной информации: 1.

Национальная безопасность: 0.

Другие: 0.

Ходатайствующие стороны и удовлетворение требований:

Федеральные органы: 3 (2 ордера, 1 повестка); полное или частичное удовлетворение требований: 33%.

Государственные/местные органы: Висконсин (2), Миссури (1), Огайо (1), Джорджия (1), Калифорния (1); полное или частичное удовлетворение требований: 83%.

Гражданские запросы США: 0.

Запросы правоохранительных органов из других стран: Канада (1); количество аккаунтов: 3; полное или частичное удовлетворение требований: 0%.

Запросы от правоохранительных органов об удалении контента: 0

Запросы от правоохранительных органов США о предоставлении информации; количество аккаунтов: 15.

Ордеров: 3 (43%); судебных ордеров, ограничивающих раскрытие определенной информации: 3.

Судебных повесток: 7 (57%); судебных ордеров, ограничивающих раскрытие определенной информации: 4.

Национальная безопасность: 0.

Другие: 0.

Ходатайствующие стороны и удовлетворение требований:

Федеральные органы: 4 (1 ордер, 3 повестки); полное или частичное удовлетворение требований: 100%.

Государственные/местные органы: Калифорния (1), Пенсильвания (1), Нью-Джерси (1), Техас (1), Аляска (1), Теннесси (1); полное или частичное удовлетворение требований : 100%.

Гражданские запросы США: 3; полное или частичное удовлетворение требований: 66%.

Запросы из других стран: ни одного; количество аккаунтов: 0; полное или частичное удовлетворение требований: 0%.

Запросы от правоохранительных органов об удалении контента: 0

Запросы от правоохранительных органов США о предоставлении информации; количество аккаунтов: 19.

Ордеров: 4 (30%); судебных ордеров, ограничивающих раскрытие определенной информации: 3.

Судебных повесток: 9 (60%); судебных ордеров, ограничивающих раскрытие определенной информации: 6.

Национальная безопасность: 0.

Другие: 0.

Ходатайствующие стороны и удовлетворение требований:

Федеральные органы: 4 (0 ордеров, 4 повестки); полное или частичное удовлетворение требований : 75%.

Государственные/местные органы: Мичиган (1), Иллинойс (1), Миннесота (1), Аризона (1), Айдахо (1), Висконсин (1), Виргинские острова (1), Пенсильвания (1), Северная Дакота (1); полное или частичное удовлетворение требований: 77%.

Гражданские запросы США: 0.

Запросы из других стран: ни одного; количество аккаунтов: 0; полное или частичное удовлетворение требований: 0%.

Запросы от правоохранительных органов об удалении контента: 0

Запросы от правоохранительных органов США о предоставлении информации; количество аккаунтов: 7.

Ордера: 4 (57 %); судебные ордера, ограничивающие раскрытие определенной информации: 2.

Судебные повестки: 3 (43 %); судебные ордера, ограничивающие раскрытие определенной информации: 1.

Другие: 0.

Национальная безопасность: 0.

Ходатайствующие стороны и удовлетворение требований:

Федеральные органы: 1; полное или частичное удовлетворение требований: 100 %.

Государственные/местные органы: Калифорния (2), Флорида (1), Юта (1), Нью-Йорк (1); Висконсин (1); полное или частичное удовлетворение требований: 83 %.

Гражданские запросы США: 0.

Запросы от правоохранительных органов из других стран: 0.

Запросы от правоохранительных органов об удалении контента: 0

Запросы от правоохранительных органов США о предоставлении информации; количество аккаунтов: 5.

Ордера: 3 (60 %); судебные ордера, ограничивающие раскрытие определенной информации: 0.

Судебные повестки: 2 (40 %); судебные ордера, ограничивающих раскрытие определенной информации: 0.

Другие: 0.

Национальная безопасность: 0.

Ходатайствующие стороны и удовлетворение требований:

Федеральные органы: 0.

Государственные/местные органы: Калифорния (2), Флорида (1), Юта (1), Орегон (1); полное или частичное удовлетворение требований: 100 %.

Гражданские запросы США: 1 (100 %); полное или частичное удовлетворение требований: 100 %.

Запросы из других стран: 0.