В Роскомнадзоре решили использовать искусственный интеллект для блокировок

В этом году Роскомнадзор собирается начать вести реестр запрещённой информации с применением искусственного интеллекта (ИИ). Технология будет работать на базе системы, через которую уже анализируются и классифицируются тексты в интернете.

Журналисты «Коммерсанта» ознакомились с новой версией паспорта программы цифровой трансформации Роскомнадзора. Ведомство планирует с 2024 года формировать и вести реестр заблокированных сайтов с применением ИИ. Об этом говорится в описании работ, касающихся единой информационной системы Роскомнадзора (ЕИС, также объединяет реестры лицензий, СМИ, разрешений) и (ИС МИР). В 2023 году, исходя из данных паспорта, реестр запрещённых сайтов вёлся без применения ИИ.

В 2023 году Роскомнадзор выявлял незаконный контент в интернете спустя три часа после публикации. В 2024 году показатель планируется сократить до двух часов, а по итогам 2026 года — до одного.

Также служба планирует повысить эффективность работы. В частности, снизить показатель ошибочно выявленных признаков нарушений в СМИ с 20 % в 2023 году до 10 % в 2026 году.

Использование ИИ, а не заданных алгоритмов обработки текстов, позволит сократить объём человеческих ресурсов, считает менеджер продуктов Innostage Евгений Сурков. Для этого нужно обучить ИИ-модель на выборке материалов верифицированной и контролируемой оператором системы. Затем модель может работать с минимальным участием человека, уточнил он.

Выявление операторов сопряжено с трудностями, подчеркнула гендиректор разработчика систем анализа данных «Социальная лаборатория» Наталия Тылевич. Так, создателям решений придётся найти способ автоматической регистрации на сайтах, администраторы которых обычно блокируют подобные действия.