Каждый день снапчаттеры по всему миру используют наше приложение для общения с друзьями и творческого самовыражения. Наша цель заключается в разработке продуктов и создании технологий, которые поддерживают и поощряют настоящую дружбу в здоровой, безопасной и интересной среде. Для этого мы постоянно работаем над улучшением нашей политики, Правил сообщества и инструментов, позволяющих предотвращать и выявлять вредоносный контент и применять меры в отношении его. Мы также внедряем инициативы, которые помогают просвещать и расширять возможности нашего сообщества.

Наша главная задача — обеспечить прозрачность в отношении наличия контента, который нарушает наши правила, а также того, как мы обеспечиваем соблюдение нашего руководства, отвечаем на запросы правоохранительных и правительственных учреждений о предоставлении информации, и в каких сферах мы стремимся предоставить больше информации в будущем. Мы публикуем отчёты о правительственных запросах дважды в год, чтобы рассказать о всех этих усилиях. Мы также хотим сделать эти отчёты всеобъемлющими и полезными для многих заинтересованных сторон, которые глубоко заботятся о безопасности и прозрачности в Интернете.

Этот отчёт охватывает второе полугодие 2020 года (с 1 июля по 31 декабря). Как и предыдущие отчёты, он содержит данные о всех нарушениях, случившихся за этот период по всему миру, количестве полученных жалоб на контент, в отношении которых были приняты меры по определенным категориям нарушений; как мы поддерживали и выполняли запросы правоохранительных органов и правительственных учреждений; и принятые нами дисциплинарные меры по каждой стране.

В рамках наших постоянных усилий по совершенствованию мер безопасности и самих отчётов о правительственных запросах этот отчёт также включает в себя несколько новых элементов:

• Коэффициент недопустимых просмотров (VVR) контента, который позволяет лучше понимать количественное соотношение всех Snap (или просмотров), которые содержали контент, нарушающий нашу политику.

• Общее число мер, принятых глобально в отношении контента и аккаунтов, распространяющих ложную информацию. Это было особенно актуально в период, когда мир продолжал бороться с глобальной пандемией и деятельностью, направленной на подрыв гражданских и демократических процессов.

• Запросы на оказание поддержки в расследованиях по делам, связанным с незаконным использованием товарных знаков.

Мы также работаем над рядом улучшений, которые позволят нам включать более поднобные данные в будущие отчёты. Сюда входит расширение подкатегорий данных о нарушениях. Например, в настоящее время мы сообщаем о нарушениях, связанных с поднадзорными товарами, в том числе запрещёнными наркотиками и оружием. В дальнейшем мы планируем включить каждое нарушение в отдельную подкатегорию.

В свете появления новых сетевых угроз и моделей поведения мы будем продолжать совершенствовать наши инструменты и тактику борьбы с ними. Мы постоянно оцениваем риски и возможности улучшения наших технологических возможностей, чтобы лучше защитить наше сообщество. Мы регулярно обращаемся к экспертам по безопасности, чтобы быть на шаг впереди злоумышленников, и благодарны нашим партнёрам, количество которых постоянно растёт и которые делятся бесценными отзывами и подталкивают нас к лучшему.

С более подробной информацией о нашем подходе и ресурсах для обеспечения безопасности и конфиденциальности можно ознакомиться на вкладке Отчёт о правительственных запросах внизу страницы.

Наши Правила сообщества запрещают публикацию вредоносного контента, в том числе контента, связанного с распространением ложной информации; вредоносными теориями заговора; мошенническими действиями; противозаконными действиями, включающими покупку или продажу незаконных наркотиков, контрафактных товаров, контрабанду и незаконную торговлю оружием; риторикой ненависти, ксенофобскими группировками и терроризмом; оскроблением и буллингом; угрозами, насилием и нанесением вреда, в том числе поощрением членовредительства; контентом сексуального характера и связанного с сексуальной эксплуатацией и насилием над детьми.

Каждый день с помощью нашей камеры Snapchat в среднем создается более пяти миллиардов Snap. С 1 июля по 31 декабря 2020 года по всему миру мы приняли меры в отношении 5 543 281 единицы контента, нарушающей наше руководство.

В рамках правоприменительных действий мы можем удалить оскорбительный контент, заблокировать или ограничить видимость аккаунта, с которого был опубликован такой контент, или передать контент в правоохранительные органы. Если происходит удаление аккаунта за нарушение нашего руководства, владельцу аккаунта запрещается создавать новый аккаунт или снова пользоваться Snapchat.

За отчётный период коэффициент недопустимых просмотров (VVR) составил 0,08 %, т. е. из каждых 10 000 просмотров контента в Snap восемь включали в себя контент, нарушающий наше руководство.

В приложении доступны инструменты, позволяющие снапчаттерам оперативно отправлять жалобы на контент нашей команде, занимающейся вопросами доверия и безопасности. Они рассматривают жалобу на контент и принимают соответствующие меры. В подавляющем большинстве случаев мы принимаем дисциплинарные меры в отношении контента в течение 2 часов после получения жалобы на него в приложении.

Помимо приложения подать жалобу на контент также можно на нашем сайте поддержки. Наши команды постоянно совершенствуют возможности для активного выявления запрещённого и незаконного контента, в том числе материалов, содержащих сцены сексуального насилия над детьми, контента с информацией о незаконном обороте наркотиков или оружия и угрозами насилия. В этом отчёте мы описываем конкретные действия, которые мы принимаем для борьбы с сексуальной эксплуатацией детей и насилием над ними.

Как видно из нижеприведенных диаграмм, во второй половине 2020 года из приложения мы получили больше всего жалоб на контент, который включал в себя имперсонацию и материалы откровенно сексуального характера. Нам удалось значительно сократить время реагирования на сообщения о нарушениях, в частности, в отношении поднадзорных товаров, включающих запрещённые наркотики, контрафактные товары и оружие, а также сексуально откровенного контента, оскорблений и буллинга.

*Жалобы на контент отражают предполагаемые нарушения, на которые были поданы жалобы из приложения и через службу поддержки.

**Время обработки жалоб отражает среднее время в часах, необходимое для принятия мер по жалобе пользователя.

Мы всегда считали, что когда речь идёт о вредоносном контенте, недостаточно просто думать о политике и правоприменительных мерах. Платформам нужно думать об их фундаментальной архитектуре и дизайне продуктов. Изначально Snapchat разрабатывался иначе, чем традиционные платформы социальных сетей. Основной целью приложения было создание площадки для общения с друзьями, а не публичной новостной ленты, где каждый может распространять любой контент любому пользователю без какой-либо модерации.

Как говорится в нашем введении, наше руководство недвусмысленно запрещает распространение ложной информации, которая может причинить вред, в том числе дезинформации, направленной на подрыв гражданских процессов, например, подавление избирателей, необоснованные медицинские утверждения и теории заговора, такие как отрицание трагических событий. Наше руководство распространяться на всех снапчаттеров, — мы не делаем особых исключений для политиков или общественных деятелей.

В приложении Snapchat действует ограничение виральности, что снижает мотивацию в отношении вредоносного и сенсационного контента и уменьшает обеспокоенность, связанную с распространением негативного контента. У нас нет публичной ленты новостей, и мы не позволяем непроверенному контенту набирать популярность. Наша контентная платформа «Интересное» содержит контент только от проверенных издателей СМИ и создателей контента.

В ноябре 2020 года мы запустили новую развлекательную платформу Spotlight, где мы активно модерируем контент до представления его более обширной аудитории, чтобы убедиться, что он соответствует нашему руководству.

Мы также придерживаемся иного подхода к политической рекламе. В рекламе, как и в отношении всего контента на Snapshat, мы запрещаем распространение ложной информации и мошеннические действия. Вся политическая реклама, в том числе реклама, связанная с выборами, пропагандистская реклама и реклама, посвященная общественным проблемам, должна содержать прозрачный текст «оплаченная реклама» с указанием спонсорской организации. Наши сотрудники сами проверяют всю политическую рекламу и предоставляют информацию о всех рекламных объявлениях, прошедших нашу проверку, в Библиотеке политической рекламы.

Такой подход не идеален, но он помог нам защищать Snapchat от огромного наплыва ложной информации в последние годы, тенденции, которая была особенно актуальной в то время, когда ложная информация о COVID-19 и выборах президента США 2020 года захлестнула многие платформы.

По всему миру в этот период Snapchat применил меры в отношении 5841 единицы контента и аккаунтов за нарушение нашего руководства о распространении ложной информации. В будущих отчётах мы планируем предоставлять более детальную информацию о нарушениях, связанных с распространением ложной информации.

Учитывая повышенную озабоченность по поводу попыток подорвать доступ к голосованию и доверие результатам выборов в США летом 2020 года, мы сформировали внутреннюю Целевую группу, которая сосредоточилась на оценке потенциальных рисков неправомерного использования нашей платформы, отслеживала все события и работала над тем, чтобы Snapchat стал источником информации и новостей, основанных на фактах. В рамках этих усилий мы:

• Обновили наше руководство сообщества, добавив в категории запрещённого контента информацию о манипуляции средствами массовой информации с целью введения в заблуждение, например дипфейки.

• Совместно с нашими редакционными партнёрами по разделу «Интересное» следили за тем, чтобы издатели по недосмотру не распространяли дезинформацию в новостях.

• Попросили Звёзд Snap, чей контент также появляется на нашей контентной платформе «Интересное», придерживаться наших Правил сообщества и не распространять ложную информацию.

• Ввели четкие действия, следующие за публикацией любого запрещённого контента: вместо того, чтобы отмечать контент, мы просто удаляем его, что сразу же уменьшает его вредоносное действие вследствие дальнейшего распространения.

• Проводим упреждающий анализ организаций и других источников ложной информации, которые могут использоваться для распространения такой информации в Snapchat, с целью оценки рисков и принятия превентивных мер.

Во время пандемии COVID-19 мы приняли подобный подход к публикации достоверных новостей и информации, в том числе с помощью новостей, предоставляемых нашими редакционными партнерами в разделе «Интересное», через социальную рекламу и сессии в виде вопросов и ответов от работников здравоохранения и медицинских экспертов, а также посредством творческих инструментов, таких как линзы дополненной реальности и фильтры, напоминая снапчаттерам о рекомендациях экспертов в области общественного здравоохранения.

Эксплуатация любого члена нашего сообщества, особенно молодёжи и несовершеннолетних, является незаконной, неприемлемой и запрещённой нашим руководством. Предотвращение, обнаружение и устранение насилия на нашей платформе является для нас наивысшим приоритетом, и мы постоянно прилагаем все усилия в борьбе с распространением материалов сексуального насилия над детьми (CSAM) и других разновидностей контента эксплуатационного типа.

Наша команда, занимающаяся вопросами доверия и безопасности, использует упреждающие инструменты обнаружения, в том числе технологию PhotoDNA, для выявления материалов с изображением сексуального насилия над детьми, и сообщения о них в Национальный центр помощи пропавшим без вести и подвергающимся эксплуатации детям (NCMEC). Когда мы проактивно обнаруживаем и распознаем случаи изображения сексуального насилия над детьми, мы сохраняем их и передаем в NCMEC, который затем проверяет их и согласовывает дальнейшие действия с правоохранительными органами.

Во второй половине 2020 года 2,99 % от общего количества аккаунтов по всему миру, в отношении которых мы приняли дисциплинарные меры за нарушения наших Правил сообщества, содержали материалы сексуального насилия над детьми. Из этого числа мы проактивно обнаружили и приняли соответствующие меры в отношении 73 % контента. В целом мы удалили 47 550 аккаунтов за нарушения, связанные с использованием материалов сексуального насилия над детьми, и в каждом случае известили NCMEC о таком контенте.

За этот период мы предприняли ряд шагов для дальнейшей борьбы с материалами сексуального насилия над детьми. Мы внедрили технологию Google по обнаружению изображений, содержащих сцены сексуального насилия над детьми (CSAI), для видеороликов, что позволяет нам выявлять видео с материалами сексуального насилия над детьми и сообщать о них в NCMEC. Благодаря технологии PhotoDNA для выявления материалов с изображением сексуального насилия над детьми и базам хэшированных данных отрасли теперь мы можем превентивно выявлять соответствующие фото- и видеоматериалы и сообщать о них властям. Эти расширенные возможности позволили нам более эффективно обнаруживать и затем сообщать о подобной преступной деятельности.

Помимо этого, мы продолжили расширять сотрудничество с отраслевыми экспертами и запустили дополнительные функции в приложении. Они помогают рассказать снапчаттерам о рисках общения с незнакомцами, о том, как отправлять жалобы на контент в приложении и уведомлять нашу команду по вопросам доверия и безопасности о любых злоупотреблениях. Мы продолжили добавлять партнёров в нашу программу доверенных информаторов, которая предоставляет проверенным экспертам по безопасности конфиденциальный канал для сообщения о чрезвычайных ситуациях, например, непосредственной угрозе жизни или случаях, связанных с материалами сексуального насилия над детьми. Кроме того, мы тесно сотрудничаем с этими партнёрами с целью обучения безопасности, предоставления ресурсов по здоровому образу жизни и помощи с отчётностью, чтобы они могли оказывать эффективную поддержку сообществу Snapchat.

В дополнение к этому, мы являемся членом Совета директоров Технологической коалиции, группы лидеров технологической индустрии. Они стремятся предотвратить и искоренить сексуальную эксплуатацию и насилие над детьми в Интернете и постоянно работают с другими платформами и экспертами по безопасности, чтобы найти дополнительные решения для укрепления наших коллективных усилий в этой области.

Для Snap отслеживание активности в этой сфере и устранение любых потенциальных тенденций злоупотребления на нашей платформе было частью работы нашей целевой группы по обеспечению честных выборов в США. Архитектура нашего продукта и дизайн функциональности нашего группового чата ограничивает распространение вредоносного контента и возможности для организации в группы. Мы предоставляем групповые чаты, но они ограничены по размеру несколькими десятками участников, их не рекомендуют алгоритмы, и их нельзя найти на нашей платформе, если вы не являетесь членом этой группы.

Во второй половине 2020 года мы удалили восемь аккаунтов за нарушение нашего запрета на терроризм, риторику ненависти и экстремистский контент.

В этом разделе представлена информация о применении наших правил на примере отдельных стран. Наши Правила сообщества распространяются на весь контент в Snapchat и на всех снапчаттеров по всему земному шару, независимо от их местоположения.

Информацию для всех остальных стран можно скачать в прилагаемом CSV-файле.