какой контент несет в себе агрессивный посыл и запрещен к показу
Запрещенный контент в Google Play — квест на выживание
В статье приводятся официальные правила от Google Play, что считается запрещенным контентом и не должно у них публиковаться. (Версия правил от июня 2019)
Статья будет полезна следующим группам лиц:
Fake Slap! — её тоже удалили из Google Play. Тут нарушение очевидно, но во многих других случаях нет.
Сначала субъективная оценка правил со ссылками на статьи-примеры описываемых проблем, сами правила в конце.
Правил довольно много и они часто обновляются. Почти всегда в сторону увеличения. На их перечитывание уходит заметно много времени и нервов.
Правила часто описаны нечетко — это официальная политика Гугла, которой они гордятся. Мотивация такая: «Все случаи злоупотреблений описать невозможно. А нарушители и сами понимают, когда они идут на нарушение». В этом есть разумный смысл, но вся соль как всегда в деталях.
Забанить приложение может как автоматически ИИ Гугла, так и модератор. При этом разработчик не получает чёткого указания причины бана. Причина та же: «нарушители и сами понимают, когда они идут на нарушение». Однако проблема в том, что разработчикам очень сложно выявить, что не понравилось проверяющему и приходится натурально гадать, какое из размытых правил у них сработало?
За что Android-разработчики ненавидят Google [1] — разработчики не могут получить вразумительной причины блокировки аккаунта.
За что блокируют разработчиков Google Play [2] — большой любопытный список дел с блокировками и итоговым результатом
7 основных причин, почему блокируют приложения в Google Play и AppStore [3] — есть полезное упоминание про опасность ключевых слов.
Автоматические блокировки приложений в Google Play [4].
Наличие «мерзких голых тел» — это просто гарантированный повод огрести проблем от проверок гугла. Достаточно и «мерзких почти голых тел», например, с использованием бикини. Подобные фото ИИ Гугла уже давно с легкостью научился выявлять автоматически.
Тут, кстати, проявляется светлая сторона сервиса. Реально стрёмных приложений найти очень сложно, особенно если не заниматься этим целенаправленно.
Темная сторона Google Play — блокировка была за грудь на обложке музыкального диска в одном из скринов (скорее всего, ибо точного объяснения не было) [5]
А вот дальше самое интересное.
Если разработчику будет выдано несколько страйков за «короткий» промежуток времени (около 3 за полгода), то аккаунт разработчика удаляется. Это означает, что будут удалены все приложения разработчика, а заодно и все остальные сервисы гугла: Аккаунт на ютубе, гуглопочта, гугл-диск, гугл-документы и другие.
А бан в Гугле пожизненный «по паспорту». Это особенно пугает, учитывая, как сильно растёт этот гигант Алфавит (головная компания Гугла).
Бан может быть и не таким жёстким, бывают случаи временной блокировки всех приложений. Чёткой зависимости не выявлено — скорее всего зависит от размеров аккаунта, самых крупных могут поберечь.
Google не прощает ошибок: противостояние с Google Play [6] — история с гейм овером.
Есть апелляция, но на неё Вам будут отвечать шаблонными ответами без вникания в суть проблемы. Есть веские поводы считать, что почти всегда это будут ответы ИИ. И единственной возможностью вернуться тогда становится шумиха в соц.сетях или связи с влиятельными журналистами. В абсолютном большинстве случаев у мелких и средних разработчиков вернуться не удаётся.
Вот типичный алгоритм для тех кому повезло [1]:
Ситуацию еще портят раздутые привилегии крупных правообладателей. У них есть возможность забанить любое приложение за любую маломальскую связь с их брендами. Имеются случаи откровенных злоупотреблений. Ситуация с подобным произволом идентична ситуации в Ютубе.
Google и Apple против инди-разработчиков, правообладатели умудрились увидеть достаточное совпадение на их шерифа Вуди в стереотипном ковбое [7].
Профессор Вильям Фишер опубликовал видео-лекцию «The Subject Matter of Copyright: Music.» на Ютубе [8]. В лекции были процитированы отрывки из музыкальных клипов (то есть fair use), однако Sony удалила это видео за нарушения. Благодаря скандалу это видео вернули, но у огромного числа других авторов такой финт ушами не выходит. Были случаи наказания за собственные исполнения классических произведений — это когда рассылаются запреты в автоматическом режиме, а за ошибки эти крупные компании никак не отвечают.
Как заблокировали мое приложение в Google Play — не те формулировки при использовании слов-товарных знаков Гугла [9]
Google решил сделать из Google Maps новый миллиардный бизнес, подняв цены в 14 раз и уменьшив лимит бесплатного использования почти в 30 раз, всё с минимальным периодом уведомления [10].
Кстати, я до сих пор встречаю сайты городских больниц, в которых висят поломанные внедрённые гугл-карты. Но для рядовых пользователей гугл-карты остаются прекрасным сервисом (погулять панорамно по улочкам Парижа и глухих деревнях по всему миру).
Как итог: Гугл чаще всего является весьма полезной компанией для потребителей и очень рискованной для партнёров-разработчиков, особенно некрупных. Как вы могли заметить, в статьях были перечислены и случаи очевидных нарушений разработчиков, но наказание в виде пожизненного бана выглядит безумно суровым. Гугл уже давно отказался от своего «Don’t be evil» (в том числе и официально).
Как это ни странно, с учётом написанного, мне Гугл все равно нравится и его сервисами я пользуюсь. Наверное, я как та мышь, которая плакала, кололась, но продолжала жрать кактус.
Правила Google Play (раздел «Запрещенный контент») [11]
Google Play используют люди со всего мира. Прежде чем опубликовать приложение, убедитесь, что оно соответствует требованиям нашего сервиса и законам страны, в которой вы его распространяете.
Нарушение прав ребенка
Категорически запрещается публиковать приложения, в которых несовершеннолетние изображены в сексуальном контексте, а также приложения, предназначенные для детей, но содержащие материалы для взрослых.
Если мы обнаружим такие приложения, то немедленно уберем их из Google Play, сообщим о них в правоохранительные органы и удалим аккаунты всех пользователей, участвовавших в распространении этого контента.
Неприемлемый контент
Мы стремимся к тому, чтобы в Google Play было безопасно и комфортно всем пользователям. Ниже перечислены виды контента, который считается неподобающим и может причинить людям вред.
Материалы сексуального характера
Вот примеры наиболее распространенных нарушений:
Дискриминационные высказывания
Насилие
Вот примеры наиболее распространенных нарушений:
Материалы террористического характера
Мы не позволяем террористическим организациям публиковать приложения в Google Play ни для каких целей, в том числе для вербовки.
Также нельзя размещать контент, связанный с терроризмом, например пропагандирующий террористическую деятельность, призывающий к насилию и прославляющий теракты. Если такой контент содержится в ваших образовательных, документальных, научных или художественных материалах, сопроводите его необходимыми пояснениями, чтобы пользователи понимали его цель.
Трагические события
Запрещается публиковать приложения, спекулирующие на трагических событиях (природных катаклизмах, случаях проявления жестокости, конфликтах, смерти и т. д.) или выражающие крайнее пренебрежение ими.
Вот примеры наиболее распространенных нарушений:
Издевательства и угрозы
Запрещено публиковать приложения, содержащие угрозы, издевательства и домогательства, а также способствующие совершению таких действий.
Вот примеры наиболее распространенных нарушений:
Опасные товары
Заключение
Конечно, существуют и положительные стороны от подобной линии поведения. В общее пользование попадает гораздо меньше мусора, чем могло бы, если бы контроля вообще не было бы. Однако драконовская политика с вечным пожизненным баном, уже традиционными двойными стандартами и сложностью работы со службами поддержки в критических ситуациях навевает грусть.
Нежелательный контент
В современном мире интернетом пользуются люди разных возрастов. Едва ли не каждый, будь то ребенок или пожилой человек, имеет страницу в социальной сети, пользуется поисковыми системами для получения ответов на вопросы, смотрит видео, читает книги или слушает музыку. В связи с этим вероятность того, что пользователь встретит в сети нежелательный контент, очень велика, и от вида такого контента будут зависеть размер и тяжесть полученного ущерба.
Классификация нежелательного контента
Нежелательный контент можно разделить на несколько основных типов.
Вредоносные программы различаются методами проникновения, принципами работы и решаемыми задачами. Традиционная классификация включает три их разновидности: классические вирусы, черви и «троянские кони». Классический вирус встраивается в существующие программы или документы («заражает» их) и в дальнейшем выполняется при каждом запуске инфицированного файла. Черви распространяются по компьютерным сетям — как правило, посредством уязвимостей в прошивках оборудования, операционных системах и прикладных программах. Под «трояном» обычно понимают вредоносный код, который маскируется под легитимное полезное приложение. Стоит дополнительно отметить инструменты, скрывающие свое присутствие не только от пользователя, но и от защитного программного обеспечения (руткиты), а также средства удаленного администрирования (RAT, бэкдоры), которые позволяют злоумышленнику не только управлять любым приложением на ПК, но и производить запись видео / аудио с имеющейся камеры / микрофона, загружать и сохранять файлы, сохранять последовательности нажатия клавиш.
Спам — это письма, которые приходят на электронную почту от неизвестных людей и компаний. Такие сообщения обычно имеют завлекающую тему и содержат какую-либо рекламную информацию, призывающую что-то купить или выиграть. Выполняя действия, описанные в письме, можно не только потерять деньги: просмотр прикрепленных к письму документов и изображений является одним из способов загрузить на свой компьютер вредоносную программу, что может привести к потере личной информации.
К потенциально опасным объектам можно отнести программы, которые содержат рекламу (adware), а также шпионские приложения (spyware), скрытно устанавливаемые на устройство без согласия пользователя с целью сбора информации, изменения каких-либо настроек и т.д. Кроме того, разработчики средств безопасности иногда включают в эту группу легитимные программные комплексы, которые можно использовать во вред (например, утилиты для удаленного управления компьютером партнера, применяемые в рамках оказания технической поддержки, могут превратиться в инструмент злоумышленника, аналогичный бэкдору).
В целом каждый сам решает, какая информация для него является нежелательной, что загружать на свой ПК и какие сайты посещать, при этом в некоторых случаях осознанно идя на риск. Однако существуют сетевые ресурсы, содержащие информацию, распространение которой запрещено в Российской Федерации на законодательном уровне. Такие сайты образуют особую категорию нежелательного контента. Кроме того, в особую группу можно выделить веб-страницы с информацией, не соответствующей возрасту пользователя (т.е. неподходящие для определенных возрастных категорий), и ресурсы, блокируемые на рабочих местах с целью уменьшения времени, которое тратится сотрудниками организации на развлечения.
Объект воздействия
Угрозе заражения подвержены все устройства, имеющие подключение к интернету. С нежелательным контентом сталкиваются все: домашние и корпоративные пользователи, владельцы смартфонов и персональных компьютеров. Никто не защищен от вредоносных программ на 100%, но неопытные пользователи более уязвимы. Если человек знает о киберкриминальных инструментах и о том, как они могут попасть в компьютер, то злоумышленнику придется приложить много усилий, чтобы добраться до жертвы. Если же пользователь слабо просвещен в таких вопросах, то он становится легкой добычей для атакующего.
В частности, тот, кто имеет опыт работы с различными приложениями, не будет скачивать на свой ПК сомнительные файлы или посещать сайты такого же характера. Это и отличает опытного пользователя от неопытного, последний будет не раздумывая переходить по ссылкам и загружать оттуда любое содержимое.
То же касается и спам-рассылок: опытный пользователь знает, к чему приводят подобные сообщения, и не будет открывать прикрепленные документы, заполнять какие-то анкеты, переводить куда-то деньги и т.д. Однако наивные или падкие на легкую наживу люди, увидев громкий заголовок или яркую картинку, без сомнений перейдут по ссылке.
Источник угрозы
Основным генератором нежелательного контента является киберкриминальный бизнес. Киберпреступники зарабатывают деньги на вредоносных программах и результатах их работы, а также на злонамеренных или рекламных рассылках.
Анализ риска
От вредоносных и потенциально нежелательных программ помогают защититься комплексные антивирусные средства (для дома — класс Internet Security, для компаний — Endpoint Protection). Существуют и узкоспециализированные решения. Такое программное обеспечение обычно работает на основе сигнатурных баз, которые постоянно обновляются, что позволяет обнаруживать новые виды угроз. Необходимо помнить, что само по себе наличие антивирусной защиты не сможет предотвратить заражение компьютерной системы, если пользователь не будет соблюдать правила безопасности. Для этого нужны знания об основных механизмах работы вредоносных программ.
В некоторых продуктах для личной и корпоративной безопасности доступна т.н. «песочница» — средство запуска приложений в изолированной среде, откуда невозможно нанести вред операционной системе и данным. Такой модуль полезен для борьбы с неизвестными угрозами. Кроме того, в нем можно провести пробную установку нового программного обеспечения, чтобы проверить, не инсталлирует ли оно вместе с собой рекламные компоненты и иную лишнюю нагрузку.
Для защиты от спам-рассылок используют антиспам-фильтрацию и черные списки. Эти способы доступны и позволяют если не полностью обезопасить себя от спама, то по крайней мере значительно уменьшить его объемы. Фильтрация применяется также и для того, чтобы предотвратить посещение нежелательных веб-ресурсов. Как правило, подобные компоненты тоже входят в состав комплексных антивирусных решений.
В эпоху, когда IT-гиганты стали властелинами мира, когда самые продвинутые пользователи едва успевают за развитием новейших технологий, когда недоступность крупнейших мировых сервисов воспринимается как глобальная катастрофа всей цивилизации, основным мировым трендом стала защита пользователей. У многих юзеров по-прежнему нет возможности повлиять на огромное количество угроз: от кражи персональных и платежных данных до некомфортной и недружелюбной интернет-среды. В последние годы среди глобальных проблем интернета особняком стоит небезопасный или деструктивный контент, с которым сталкиваются как взрослые, так и дети: каждый может столкнуться с буллингом и клеветой, с проявлениями ненависти или дезинформацией, что в итоге негативно влияет даже на самых стойких людей. Как в мире борются с опасным контентом в сети и как пытаются защитить от него пользователей разных возрастов, — разбиралась «Лента.ру».
Мир, в котором все живут
Защитой пользователей, особенно несовершеннолетних, в последние годы активно занялись по всему миру. Во многих странах уже действуют законы, направленные на защиту детей от опасного контента, причем новые инициативы на эту тему продолжают появляться. Так, в минувшем сентябре британские власти ввели ограничения для игровых платформ, соцсетей и стриминговых сервисов. Вскоре IT-компании не смогут использовать «завлекающие» алгоритмы и технологии, которые стимулируют детей потреблять больше контента. Например, под запрет попало автоматическое воспроизведение видеороликов, — оно, по мнению законотворцев, влияет на восприятие и побуждает маленьких пользователей проводить свободное время в сети. Если сервис все-таки уличат в нарушении правила, платформа будет вынуждена выплачивать огромный штраф — до четырех процентов от суммы глобального оборота. Некоторые крупные популярные соцсети, такие как TikTok, Instagram и YouTube, уже ввели соответствующие ограничения. Популярный среди молодежи TikTok откажется от оповещений после девяти часов вечера для подростков, не достигших 16-летнего возраста. Для молодых людей 16-17 лет такой «комендантский час» наступит после 22:00. Instagram ограничил контакты детей с незнакомцами: теперь взрослый не сможет связаться с несовершеннолетним пользователем, если тот на него не подписан. YouTube же отключил таргетированную рекламу и автоматический запуск видео для юзеров моложе 18 лет.
Нововведения в Великобритании поддерживают курс, взятый государством еще несколько лет назад: ранее местное правительство решило сделать виртуальное пространство страны «самым безопасным в мире местом для онлайн-общения». Контроль за качеством контента на площадках и проблему защиты пользователей возложили на сами сервисы.
Платформам предложили ввести структуры, названные Safety by Design, — то есть контролировать вредоносный контент на уровне алгоритмов работы сайтов и приложений, а пользователям — повышать цифровую грамотность. Тогда же был издан «белый лист онлайн-угроз» — Online Harms White Paper, где подробно описывались разновидности опасного контента: юридически определяемая вредная информация (например, терроризм), контент без определенного статуса (запугивание, троллинг, оправдание селфхарма и прочее) и легальный контент, который не предназначен для детей. Тогдашний премьер-министр страны Тереза Мэй раскритиковала IT-гигантов за безответственность перед пользователями: теперь площадкам придется прилагать большие усилия, чтобы вновь заслужить их доверие.
Европейские страны давно работают над проблемами социальных сетей. Например, жители Италии уже с 14 лет имеют право потребовать в частном порядке удалить деструктивный контент с сайта, — на исполнение запроса у платформы есть 48 часов. Такая мера была введена в 2017 году — тогда же, когда в Германии вступил в силу The Network Enforcement Act, закон о соцсетях.
Эту модель работы с сервисами нередко называют добровольно-принудительной: документально категории вредной и запрещенной информации не определены, но тем не менее ответственность за безопасность обязаны нести сами платформы. Площадки, общественные организации или представители власти могут заблокировать или удалить опасный контент (в сложных случаях возможно дополнительное разбирательство). Нарушителей наказывают крупными штрафами — до 500 тысяч евро, а по некоторым категориям нарушений — до 5 миллионов. Поэтому сервисы старательно следят за исполнением правил. «Для того чтобы обезопасить детей в сети, сегодня во многих странах принимаются необходимые меры», — подтверждает председатель комиссии по правовому обеспечению цифровой экономики московского отделения Ассоциации юристов России Александр Журавлев.
Правительство Китая несколько недель назад в рамках борьбы с игроманией ввело ограничения на видеоигры для несовершеннолетних. Теперь дети могут проводить время за играми только по праздникам, а также в пятницу и выходные, — но строго по часу в день. Согласно актуальному британскому Online Harms White Paper, чересчур длительное использование гаджетов несовершеннолетними тоже подпадает под регуляцию — по последней категории легального, но нежелательного. При этом с начала 2021 года китайские пользователи могут сразу требовать блокировки сайта, если опубликованные на площадке данные могут быть вредны для детей.
Путь к себе
Мировой опыт демонстрирует, что опасный контент подстерегает в соцсетях не только несовершеннолетних, но и взрослых. Еще пять лет назад Еврокомиссия в сотрудничестве с крупнейшими IT-корпорациями (Microsoft, Facebook, Twitter и другими) разработала кодекс, в котором перечислила обязательства по борьбе с проявлениями ненависти в сети. За публичное подстрекательство к насилию или ненависти в отношении группы людей или члена такой группы по любому признаку — по признаку этнического или национального происхождения, религии, расы или цвета кожи — предусматривалась уголовная ответственность. Компании, подписавшие кодекс, обязались оперативно удалять подобный противоправный контент в течение суток. Тогда представители Европейского союза подчеркнули, что интернет — это пространство не ненависти, но свободы слова.
Однако эксперты считают, что не все платформы успешны в исполнении своих обязанностей.
IT-компании в последнее время уделяют большое внимание вопросу безопасности в области защиты детей от противоправного и деструктивного контента на своих площадках. Хорошим примером объединения усилий по противодействию угрозам в цифровом пространстве участниками IT-индустрии является Альянс по защите детей. Но количество деструктивного контента и противоправных действий в отношении несовершеннолетних только растет, поэтому для эффективного противодействия и защиты несовершеннолетних пользователей в сети необходима совместная работа IT-компаний, государства и общественных организаций, а также отдельное нормативное регулирование этого направления
Альянс, который упомянул глава РОЦИТ Рустам Сагдатулин, был создан лишь в минувшем сентябре. Это объединение операторов, интернет-компаний и медиахолдингов (среди членов альянса — «Вымпелком», «Мегафон», «Ростелеком», Mail.ru Group, «Яндекс», «Лаборатория Касперского» и другие), которые поставили перед собой задачу создать безопасную цифровую среду и противодействовать возникающим угрозам. Подобные добровольные соглашения уже заключались на рынке ранее: несколько лет назад положительным примером стал так называемый антипиратский меморандум, благодаря которому удалось добиться значительных изменений в сфере потребления легального контента. Члены нового объединения по защите детей выразили надежду, что виртуальное пространство перестанет быть источником угроз для детей, — в мире, где грань между физическим и виртуальным стирается, эта проблема сейчас стоит наиболее остро. Сейчас сложившийся Альянс обещает помогать в вопросах саморегулирования и повышения цифровой грамотности, распространять принципы медиагигиены, а также разработать систему ориентиров и ответственного поведения детей в сети.
Скрытая угроза
Вероятно, новая организация призвана дополнить недостающие элементы мозаики, части которой призваны сложиться в картину более-менее благополучной виртуальной среды. Предполагалось, что новый закон о соцсетях заставит платформы нести определенную ответственность перед аудиторией, сняв ее непосредственно с пользователей, — именно на них ранее перекладывали обязательства многие сервисы. Часто администрация и модераторы отказывалась регулировать конфликты между юзерами и приходить на помощь в сложных ситуациях, даже когда начиналась настоящая травля или распространялась ложная информация. Очевидно, что кардинальных изменений ждать не приходилось, но жалобы пользователей стали для владельцев сетей весомее.
При этом безопасность каждого пользователя все еще находится в его руках и напрямую зависит от уровня цифровой грамотности, — ведь дело не столько в блокировках или запретах, сколько в осознанности людей, которые не публикуют фейки и не делятся ими, не поддерживают буллинг и стараются вести себя в виртуальном мире корректно.
Для защиты детей в онлайн-среде также необходимо повышать цифровую грамотность их родителей. Например, создавать руководства и рекомендации по определению потенциально вредного контента, разрабатывать специальные механизмы, обеспечивающие защиту детей от вредного контента, в том числе рекламных практик, вводить механизмы возрастных ограничений, родительского контроля, фильтры сайтов в виде белых (потенциально разрешенных) и черных (потенциально запрещенных) списков
В конце сентября 2021 года стало известно, что Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций сформирует реестр социальных сетей, чтобы проконтролировать соблюдение ими законов. В ведомстве подчеркнули, что нововведения в законодательстве позволят работать с оперативным удалением опасной информации — например, треш-стримов. Facebook, Instagram, Twitter, YouTube, «ВКонтакте» и «Одноклассники», а также TikTok и Likee уже включены в реестр.