«Дипфейк сегодня становится одним из способов организации досуга в Интернете» - интервью со спикером сессии Youth RIGF про технологии обмана в Сети
В преддверии III Молодежного Форума по управлению Интернетом мы решили взять интервью у одного из спикеров сессии «How deep is your fake: технологии обмана в сети» – профессора кафедры теории и истории международных отношений Санкт-Петербургского государственного университета Константина Панцерева.
Почему дипфейки в принципе стали так популярны, особенно среди молодёжи?
Дипфейки стали так популярны среди молодежи прежде всего потому, что они дают возможность, например, самому стать героем того или иного популярного фильма. Т.е. они могут рассматриваться как некий способ самовыражения. Ну а если дипфейк будет действительно оригинальным, то это еще и не плохой способ привлечения большого количества подписчиков к своему каналу либо паблику в социальных сетях, ну и как следствие – серьезные доходы от рекламодателей.
Как можно вычислить дипфейк?
Это достаточно сложная задача, над которой работают научные коллективы из многих стран. В 2018 г. группой китайских исследователей, например, был предложен метод, основанный на измерении частоты моргания глаз в видео, которое является физиологической особенностью человека, которую крайне сложно сымитировать в дипфейках. Другая группа исследователей предложила более сложный метод, основанный на анализе выражений лица и движений, свойственных конкретному человеку. Есть еще метод, основанный на измерении частоты сердцебиения.
Однако и так очевидно, что нельзя полностью увязать процесс идентификации дипфейков с определением частоты моргания глаз и прочими индивидуальными особенностями конкретных людей, поскольку любая идентификация дипфейков улучшает их и усложняет процесс их выявления в будущем. Здесь действует следующий принцип: чем дольше наша генеративно-состязательная сеть обучается, тем более качественным получится конечный продукт, который, к слову сказать, потом еще можно будет попробовать обработать в специальных компьютерных программах по обработке видео, на подобии Adobe After Effects. В результате, сегодня мы можем наблюдать своеобразное соревнование между создателями фейковых видеороликов и тех, кто создает программные комплексы, направленные на выявление поддельных видео. И создатели дипфейков всегда оказываются на шаг впереди.
Как генеративные технологии меняют нашу жизнь?
Они приводят к окончательной фейковизации нашего информационного пространства. Они способны окончательно запутать широкую общественность относительно происходящих в мире событий. Если же люди не смогут доверять тому, что они видят и слышат своими собственными глазами и ушами в Интернете, тогда они выберут то, во что они хотят верить.
Какое будущее у технологий по созданию дипфейков?
Исследования и эксперименты в этой области продолжаются. Постоянно появляются новые более интересные архитектуры, оригинальные способы решения тех или иных задач. Немного успокаивает только одно – само по себе обучение генеративно-состязательных сетей – это процесс очень долгий и энергозатратный. Сделать это в домашних условиях практически не возможно, но мы всегда можем использовать так называемую предобученную модель, а такие модели зачастую размещают в открытом доступе, с уже обученными весами. Нам же останется только дообучить ее на своих данных под нашу задачу. Но это я говорю с точки зрения разработчиков. Понятно, что не каждый обладает компетенциями, чтобы дообучить ту или иную модель. В результате, чтобы сделать модель более доступной, зачастую на ее основе создают полноценные компьютерные приложения, которые позволяют создавать фейковое видео людям, которые вообще не имеют никакого понятия о принципах работы генеративно-состязательных сетей. И таких приложений с каждым годом становится все больше и больше. Таким образом, дипфейк сегодня действительно становится одним из способов организации досуга в Интернете.
Как Вы считаете, следует ли принять какое-то законодательство для регулирования генеративных технологий, создать некие правила?
Безусловно, в определенные законодательные рамки генеративно-состязательные технологии поместить необходимо, но я лично не являюсь сторонником полного их запрета, поскольку здесь, на мой взгляд, следует провести четкое разграничение между злонамеренным использованием дипфейков, направленным на создание токсичного контента, и новым видом сатиры, творчества и развлечения. Пока четкого понимания в этом вопросе ни у законодателей, ни у ученых нет.
Почему дипфейки в принципе стали так популярны, особенно среди молодёжи?
Дипфейки стали так популярны среди молодежи прежде всего потому, что они дают возможность, например, самому стать героем того или иного популярного фильма. Т.е. они могут рассматриваться как некий способ самовыражения. Ну а если дипфейк будет действительно оригинальным, то это еще и не плохой способ привлечения большого количества подписчиков к своему каналу либо паблику в социальных сетях, ну и как следствие – серьезные доходы от рекламодателей.
Как можно вычислить дипфейк?
Это достаточно сложная задача, над которой работают научные коллективы из многих стран. В 2018 г. группой китайских исследователей, например, был предложен метод, основанный на измерении частоты моргания глаз в видео, которое является физиологической особенностью человека, которую крайне сложно сымитировать в дипфейках. Другая группа исследователей предложила более сложный метод, основанный на анализе выражений лица и движений, свойственных конкретному человеку. Есть еще метод, основанный на измерении частоты сердцебиения.
Однако и так очевидно, что нельзя полностью увязать процесс идентификации дипфейков с определением частоты моргания глаз и прочими индивидуальными особенностями конкретных людей, поскольку любая идентификация дипфейков улучшает их и усложняет процесс их выявления в будущем. Здесь действует следующий принцип: чем дольше наша генеративно-состязательная сеть обучается, тем более качественным получится конечный продукт, который, к слову сказать, потом еще можно будет попробовать обработать в специальных компьютерных программах по обработке видео, на подобии Adobe After Effects. В результате, сегодня мы можем наблюдать своеобразное соревнование между создателями фейковых видеороликов и тех, кто создает программные комплексы, направленные на выявление поддельных видео. И создатели дипфейков всегда оказываются на шаг впереди.
Как генеративные технологии меняют нашу жизнь?
Они приводят к окончательной фейковизации нашего информационного пространства. Они способны окончательно запутать широкую общественность относительно происходящих в мире событий. Если же люди не смогут доверять тому, что они видят и слышат своими собственными глазами и ушами в Интернете, тогда они выберут то, во что они хотят верить.
Какое будущее у технологий по созданию дипфейков?
Исследования и эксперименты в этой области продолжаются. Постоянно появляются новые более интересные архитектуры, оригинальные способы решения тех или иных задач. Немного успокаивает только одно – само по себе обучение генеративно-состязательных сетей – это процесс очень долгий и энергозатратный. Сделать это в домашних условиях практически не возможно, но мы всегда можем использовать так называемую предобученную модель, а такие модели зачастую размещают в открытом доступе, с уже обученными весами. Нам же останется только дообучить ее на своих данных под нашу задачу. Но это я говорю с точки зрения разработчиков. Понятно, что не каждый обладает компетенциями, чтобы дообучить ту или иную модель. В результате, чтобы сделать модель более доступной, зачастую на ее основе создают полноценные компьютерные приложения, которые позволяют создавать фейковое видео людям, которые вообще не имеют никакого понятия о принципах работы генеративно-состязательных сетей. И таких приложений с каждым годом становится все больше и больше. Таким образом, дипфейк сегодня действительно становится одним из способов организации досуга в Интернете.
Как Вы считаете, следует ли принять какое-то законодательство для регулирования генеративных технологий, создать некие правила?
Безусловно, в определенные законодательные рамки генеративно-состязательные технологии поместить необходимо, но я лично не являюсь сторонником полного их запрета, поскольку здесь, на мой взгляд, следует провести четкое разграничение между злонамеренным использованием дипфейков, направленным на создание токсичного контента, и новым видом сатиры, творчества и развлечения. Пока четкого понимания в этом вопросе ни у законодателей, ни у ученых нет.