Дипфейки добрались до «Цифровой экономики»
Дипфейки добрались до «Цифровой экономики»
Власти опасаются, что позволяющая искажать изображения и звуки технология окажется «не в тех руках»
Правительственная комиссия утвердила «дорожную карту» развития новых интернет-технологий. Среди ожидаемых целей реализации — борьба с дипфейками. Власти уже называли такие подделки «новой угрозой» и «очень страшной штукой»
К 2024 году точность отечественных решений по выявлению сгенерированного и выдаваемого за реальный контента (так называемые дипфейки), а также инфоповодов, распространяемых ботами, должна достичь 70%. Такой целевой показатель содержится в «дорожной карте» под названием «Новые коммуникационные интернет-технологии», которую, как сообщило во вторник, 27 июля, Минцифры, утвердила правительственная комиссия по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности. Копия «карты» есть у РБК, ее подлинность подтвердил представитель министерства.
Дипфейки (от англ. deepfakes) — синтезированное с помощью искусственного интеллекта и нейросетей видеоизображение, в результате чего получается поддельное видео, внешне неотличимое от настоящего. Такими же методами можно синтезировать голос человека.
Среди других целевых показателей «дорожной карты» к 2024 году также указан рост российской аудитории видеосервисов до 96 млн пользователей (с 63 млн в 2020-м), аудиторий комплексных коммуникационных платформ — до 108 млн (с 74 млн) и отечественных облачных игровых платформ — до 2,31 млн (с 0,18 млн). При этом указано, что в 2021 году точность выявления дипфейков и распространяемого ботами контента должна составлять 55%; более ранние показатели не приведены.
Документ также предполагает развитие разного рода сервисов, в том числе:
- рекомендательных, основанных на прогнозах пользовательского поведения, исходя из накопленной информации об интересах и вкусах других пользователей;
- сервисов интеллектуального анализа видеопотока на всем потоке данных и систем выявления цепочек распространения инфоповодов и идентификации инфоповодов, распространяемых ботами;
- сервисов подбора собеседников по интересам, потребностям в соцсетях и др.
- программного комплекса автоматического формирования титров для аудиовизуального контента, включая платформу распознавания речи и перевода в текст;
- сервиса по выявлению нарушений прав граждан в интернете на основе автоматического анализа коммуникационных сред (соцсетей, мессенджеров, многопользовательских игр);
- сервисов динамической адаптации элементов контента в режиме реального времени (выбор внешности актеров и т.д.) на основе пользовательских настроек и/или адаптации видео под новый текст, генерации персонажа с повторением крупной и мелкой моторики и мимики;
- сервисов генерации комплексного развлекательного контента на базе вводных от автора (генерация видеофильма на базе сценария) и/или генерации и автоматизации генерации комплексного контента на базе персонального профиля потребителя с минимальным участием автора и др.
Кроме того, в документе говорится, что проекты будут финансироваться за счет грантов Фонда содействия инновациям и внебюджетных источников, но размер необходимой суммы не приводится. Однако часть проектов «дорожной карты» совпадает с утвержденными той же правительственной комиссией в середине прошлого года как приоритетные для господдержки. Тогда предполагалось, что на их поддержку в 2020–2024 годах Российский фонд развития информационных технологий (РФРИТ), Фонд содействия развитию малых форм предприятий в научно-технической сфере (ФСИ) и Фонд «Сколково» должны будут распределить 46,3 млрд руб. в виде грантов.
Как пояснил представитель «Ростелекома» (компания — один из авторов «дорожной карты»), ее финансирование будет осуществляться в рамках федерального проекта «Цифровые технологии» нацпрограммы «Цифровая экономика» через институты развития. Для стартапов предусмотрено грантовое финансирование ФСИ в размере до 3 млн или до 20 млн руб. в зависимости от программы и РФРИТ (от 20 млн до 300 млн руб.). Также стартапы смогут принять участие в конкурсе на получение финансовой поддержки при выходе на зарубежные рынки, обучиться на бесплатной акселерационной программе Фонда развития интернет-инициатив, а впоследствии — претендовать на поддержку от специализированного венчурного фонда, создание которого предусмотрено «дорожной картой» в середине 2022 года.
Зачем бороться с фейками
В сообщении Минцифры отмечается, что «дорожную карту» разработал «Ростелеком» при участии АНО «Диалог», которая занимается мониторингом и анализом эффективности обратной связи власти с жителями по всей стране (гендиректор АНО — Алексей Гореславский, до этого занимавший пост замначальника кремлевского управления по общественным проектам). В середине июня «Диалог» подготовил доклад с анализом зарубежных практик защиты прав человека в цифровом пространстве и рекомендациями, что необходимо учитывать при регулировании Сети. В нем отмечалось, что такие цифровые угрозы, как кибермошенничество, разные формы кибернасилия (буллинг — постоянные унижения, сталкинг — преследование человека в Сети, доксинг — разглашение персональных данных или переписки без согласия второй стороны), распространение дезинформации, экстремистской риторики и панических настроений, могут привести к значительным негативным последствиям и в офлайне. При этом «необходимость противодействия распространению дезинформации, особенно в условиях катастрофы или пандемии», АНО называла одним из наиболее популярных обоснований необходимости расширения интернет-регулирования.
Об опасности дипфейков говорили разные представители власти. Например, в мае пресс-секретарь президента России Дмитрий Песков назвал их «новой угрозой» и «очень страшной штукой». «Вот я стою, и вместо меня на компьютере можно вставить другую голову, другой голос. Если все это оказывается в руках и головах других ребят — вы представляете, сколько они могут наделать вреда? И отличить это будет очень и очень сложно», — указывал представитель Кремля.
В начале этого года МВД объявило тендер по выбору подрядчика в проект «Верблюд», целью которого станет разработка технологии для выявления дипфейков. Его выиграло московское АО «Научно-промышленная компания «Высокие технологии и стратегические системы». Технология должна быть разработана к ноябрю 2022 года.
По словам представителя АНО «Диалог», «дорожная карта» «Новые коммуникационные интернет-технологии» направлена на создание и развитие технологий, «которые должны обеспечить возможность качественных цифровых коммуникаций между людьми», поэтому в ней предусмотрена поддержка развития игровых технологий, различных аудио- и видеосервисов, рекомендательных систем, которые используются уже практически во всех развитых цифровых сервисах. «Значения показателей формировались экспертами на основании российских и зарубежных исследований рынка с учетом существующих трендов и прогнозов развития технологий», — сказал он.
