Цифровой двойник. Как противостоять убедительному обману с дипфейками

Ежедневно кибермошенники обманывают тысячи пользователей с помощью фото, аудио и даже видеоконтента. На медиаподделке воссоздают настоящий голос и внешний вид как друзей, так и родственников и коллег, которые могут срочно требовать помощи и перевода средств.

Как бороться с новым вызовом, обсуждали на пленарной сессии Сбера «Цифровой самозванец: новое оружие массового поражения». Заместитель председателя Правления Сбербанка Станислав Кузнецов вместе с участниками наглядно показал, как современные нейротехнологии превращаются в инструмент массового мошенничества. В прямом эфире участники вместе с модераторами создавали и разоблачали дипфейки на глазах зрителей.

Слезы и просьба денег

«Если раньше преступник должен был подготовиться, собрать данные, придумать сценарий, добиться доверия, то теперь всю эту работу делает нейросеть. Появляется сообщение, и к нему сразу возникает максимальный уровень доверия. Мы видим колоссальный рост дипфейков. Самое страшное — это когда ваш ребёнок со слезами на глазах просит помочь. Не реагируйте. Какой бы ужасной ни была информация, перезвоните тому, кто якобы прислал сообщение», — предупредил Станислав Кузнецов.

Синтетические подделки также эволюционируют. Первый — «кружочек»: короткое видео, где человек в экстренной ситуации просит денег. Второй тип — «фейк-маска»: живой человек использует чужое лицо и говорит чужим голосом. Третий, самый опасный тип — «фейк-аватар»: полностью цифровой персонаж, который сам ведёт диалог, отвечает на вопросы и адаптируется под жертву. К концу года такие аватары станут неотличимы от реальных людей и смогут говорить на разных языках.

Масштабное применение

«Это очень тревожная ситуация, и об этом говорят цифры. Например, за полтора года число дипфейков в России выросло в 26 раз. Только в этом году уже было украдено свыше двух миллиардов рублей, а "средний чек" подобной атаки — 16 миллионов рублей», — рассказал Станислав Кузнецов.

При этом, как отметили специалисты, создать такой дипфейк стоит не более 50 рублей. В теневом интернете уже есть свыше 40 тысяч открытых сервисов с готовыми заготовками для разных сценариев. По прогнозам Сбера, к концу 2026 года Россия может потерять от дипфейков 250 млрд рублей.

Особую опасность такие технологии могут представлять в период выборов. Участники сессии отмечали, что поддельные видео- и аудиозаписи способны использоваться для распространения ложной информации и дискредитации кандидатов.

«К этому необходимо относиться максимально внимательно и активно использовать инструменты, которые позволяют выявлять дипфейки и не допускать их распространения», — подчеркнул Кузнецов.

Защита цифровой личности

Бороться с новым вызовом предложили комплексно — вместе с обществом и государством. Стоит реагировать на фейки, разъяснять и опровергать их. Как отметили спикеры, не «наступать на хвосты», а опережать мошенников. Для этого Сбер представил решение «Алетейя». Это онлайн-сервис, который поможет определить, что на кадрах — дипфейк или реальный человек. Участники сессии смогли его протестировать в чат-боте в национальном мессенджере. Подобные инструменты становятся необходимостью, поскольку дипфейки всё чаще используются не только для финансового мошенничества, но и для манипуляций общественным мнением.

«Мы на пороге взрывного роста. А что будет, когда появятся синтетические личности без физического исполнителя? Против кого возбуждать уголовное дело? Нам надо защитить цифровую личность так же, как физическую. И делать это надо вместе — государству, бизнесу, науке. Мы в Сбере уже создали сервис с рабочим названием "Алетейя" — в честь древнегреческой богини истины — он за минуты определяет фейк. Но одной технологии мало. Нужны законы, нужно просвещение, нужен цифровой иммунитет», — акцентировал внимание участников топ-менеджер Сбера.

Цифровая гигиена и киберграмотность

Главная проблема дипфейков заключается в том, что они воздействуют не на техническую грамотность человека, а на его эмоции. Например, родителям или бабушке с дедушкой может поступить звонок от ребенка или внука.

«Какая будет реакция у близких? Смогут ли они отказать в помощи? Скорее всего, нет. Именно на это и рассчитывают преступники», — добавил представитель Сбера.

Поэтому важнейшим элементом цифровой грамотности сегодня должна стать простая привычка: всегда перепроверять подобные сообщения. Если человек получает тревожное видео или голосовое послание от родственника с просьбой о деньгах, первым действием должен быть не перевод средств, а обратный звонок по известному номеру. Также всегда можно обратиться за советом к близким, а также в банк.