22.09.2021 г. - Роскомнадзор усиливает поиск запрещенного контента

Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) планирует запустить систему поиска противоправного контента в изображениях и видео в интернете «Окулус». Она будет работать на основе искусственного интеллекта (ИИ), что, по мнению ведомства, повысит эффективность выявления экстремистских материалов и порнографии. Но внедрение такой системы грозит замедлением работы анализируемых ресурсов, опасаются эксперты.

“Ъ” обнаружил на портале госзакупок, что ГРЧЦ 15 сентября опубликовал тендер стоимостью 15 млн руб. на разработку техзадания для системы поиска нарушений в интернете в изображениях и видеофайлах. Система будет называться «Окулус», запустить ее планируется в 2022 году, она будет выявлять распространение экстремистских материалов и порнографии, пропаганду наркотиков, призывы к массовым беспорядкам и самоубийству, описано в техзадании.

До сих пор поиск нарушений в изображениях и видео происходил вручную, ИИ позволит «ускорить процесс», говорится в документации.

Завершить работы нужно до 17 декабря.

С 2019 года товарный знак Oculus закреплен за Facebook, которая развивает VR-систему под этим брендом. По поводу его использования с интернет-компанией судилась ветеринарная клиника ООО «Эко», причем во время спора Facebook подала заявку на товарный знак «Окулус» в кириллическом варианте (ее одобрили в марте 2021 года, указано в базе Роспатента). У Facebook теоретически есть возможность запретить компьютерные программы и информационные сервисы под этим названием, если ГРЧЦ будет использовать его при оказании коммерческих услуг, указывает зампред комитета по интеллектуальной собственности РСПП Анатолий Семенов. Впрочем, по его словам, центр не относится к лицам, осуществляющим коммерческую деятельность.

Между тем материалы на самом Facebook тоже войдут в зону мониторинга системы.

Текстовый контент уступает место фото- и видеоматериалам, которые сильнее влияют на сознание человека, «по информации TikTok, количество ежемесячных пользователей сервиса выросло с 2018 года на 800%, в Facebook посты с изображениями привлекают пользователей в 2,3 раза чаще, чем сообщения без них, именно в таком контенте появляется все больше запрещенной законами РФ информации», объясняют в ГРЧЦ. В интервью “Ъ” глава Роскомнадзора Андрей Липов прогнозировал, что к концу года объем информации, которую смогут проанализировать сотрудники на предмет нарушений, увеличится благодаря ИИ в 14 раз.

Сейчас ответственность за размещение в сети противоправных материалов варьируется от административной до уголовной. За возбуждение ненависти или вражды, унижение достоинства человека по признакам пола, расы и т. п. предусмотрен как штраф до 500 тыс. руб., так и лишение свободы от двух до пяти лет, рассказал руководитель направления фирмы «Рустам Курмаев и партнеры» Ярослав Шицле. За изготовление, приобретение, хранение детской порнографии предусмотрено лишение свободы от трех до десяти лет, уточняет он.

В июле Роскомнадзор уже заказал за 41,7 млн руб. доработку системы мониторинга телерадиовещания, чтобы превращать аудиозаписи в текст. Это позволит ему эффективнее искать нарушения в ТВ-контенте и радиоэфире. В конце августа было объявлено о закупке «автоматизированной системы мониторинга нарушений прав субъектов персональных данных в сети» за 41,1 млн руб., а в середине сентября — системы мониторинга сайтов за 58,5 млн руб.

Разработка системы «Окулус» может стоить от десятков до сотен миллионов рублей, ее внедрение обойдется в миллиарды, а обслуживание — в десятки миллионов в год, оценивает совладелец компании «Ланит-Терком» Владимир Уфнаровский.

Реализовать подобный проект в масштабах рунета будет проблематично, считает исполнительный директор Artezio (входит в группу «Ланит») Павел Адылин. «Нужно не только разработать систему мониторинга, но и обеспечить прохождение через нее всего интернет-трафика»,— говорит он. Но если все видеоматериалы и изображения будут подвергаться предварительной фильтрации, подчеркивает эксперт, скорость доступа в интернет существенно замедлится, поскольку пользователя придется ждать, пока ИИ проанализирует контент.