Роскомнадзор протестирует систему Expert для проверки видео на ложь и дипфейки

Сервис разработан на основе искусственного интеллекта специалистами Национального центра когнитивных разработок ИТМО. Система анализирует видео и аудио, оценивая уверенность, уровень внутренней и внешней агрессии, а также противоречивость-> window.yaContextCb.push(()=> { Ya.adfoxCode.createAdaptive({ ownerId: 265431, containerId: 'bn6_778536452', params: { pp: 'g', ps: 'craw', p2: 'fvdg', pk: 'война авария происшествие', pke: '1' }, onRender: function () { $('#bn6_778536452').addClass('banner-middle'); $(window).trigger('scroll'); } }, ["tablet"], { tabletWidth: 999, phoneWidth: 767, isAutoReloads: false }) }) Роскомнадзор протестирует систему проверки видео на ложь и поиск дипфейков. Сервис Expert разработан на основе искусственного интеллекта специалистами Национального центра когнитивных разработок ИТМО для подведомственного Роскомнадзору Главного радиочастотного центра, пишет "Коммерсантъ".

Expert "заточен на работу с английским языком", но система может проанализировать уровень агрессии или уверенности на любом языке. Сервис прошел тестирование в преддверии выборов в сенат США. В ближайших планах стоит его адаптация для русского языка.

Дипфейк - это как потрясающая возможность, так и большая проблема, поскольку нельзя верить своим глазам. И она будет только нарастать. Так что Роскомнадзор занялся этим вовремя, считает IT-обозреватель "Российской газеты" Олег Капранов:

Олег Капранов IT-обозреватель "Российской газеты" "На порносайтах недавно стали появляться ролики, например, с известными актрисами или актерами. Там использовалась технология дипфейка, просто накладывалось на лицо какого-то неизвестного актера лицо известного актера. И получалось, что какая-то звезда снимается в порно. Есть истории, например, собеседования через Zoom или через иные инструменты для видеоконференцсвязи, когда люди использовали дипфейк для того, чтобы использовать личность другого человека, обладающего, допустим, каким-то необходимыми компетенциями, чтобы затем получить удаленную работу. Роскомнадзор специализируется на всем, что касается угроз, идущих через каналы связи и, безусловно, технология дипфейка используется в первую очередь в каналах связи, потому что вы не можете загримировать человека, идущего просто по улице при помощи дипфейка, но можете загримировать его в ролике, в трансляции, в Zoom конференции и так далее, а это уже область Роскомнадзора. Насколько удастся обучить нейросеть, которая будет использоваться при поиске дипфейков, это, наверное, один из самых больших вопросов. Но, я думаю, что Роскомнадзор просто пытается таким образом сейчас не упустить сегмент отрасли и разработать разные инструменты для того, чтобы иметь возможность в будущем отслеживать и пресекать такие злоупотребления. Такие вещи не делаются при необходимости за пару-тройку месяцев, и то, что они начали делать это сейчас, это скорее хорошо, это важная технология, и востребованность, и частота ее использования будет только расти".

Может ли новый сервис быть использован в качестве доказательства в судах? Говорит управляющий партнер Reasons Law Firm, юрист в сфере IT, IP и защиты данных Арам Татоян:

Арам Татоян управляющий партнер Reasons Law Firm, юрист в сфере IT, IP и защиты данных "На этом этапе можно сказать, что данный инструмент по распознаванию дипфейков можно будет использовать в исполнении тех законов, которые уже действуют на данный момент. Допустим, это законы о фейках, законы о призывах к санкциям, о дискредитации вооруженных сил Российской Федерации и так далее, то есть государство занимается тем, что придумывает новые и более эффективные способы для контроля информации в Сети. Если говорить о нормативно-правовой базе, каких-то особенных законов на этот счет пока нет. Конечно, необходимо будет предусмотреть законодательством какую-то процедуру, как будет использоваться эта программное обеспечение, потому что в мировой практике в большинстве стран есть такая проблема, что не все доказательства могут быть приняты судом. Открытым остается вопрос, на основе чего это будет применяться, и в чьем ведомстве это программное обеспечение будет находиться. Если мы говорим о Роскомнадзоре, то это одна ситуация, соответственно, он будет использовать это программное обеспечение непосредственно для контроля информации в интернете, чем он и сейчас занимается. Если мы говорим о подведомственности, например, Министерства внутренних дел, то ситуация здесь, конечно, уже меняется. Мы все-таки должны понимать, что будут неудачные опыты применения, если такое программное обеспечение будет применяться, и говорить о том, что программа сразу будет запущена и реализована успешно, конечно, чересчур оптимистично, но тенденция идет на это".

Ряд экспертов считает, что "вероятность ложных срабатываний в новом сервисе будет достаточно высока, и потребуются годы, чтобы проект начал приносить пользу".

Добавить BFM.ru в ваши источники новостей?