«Использование искусственного интеллекта для конструирования социальной атаки в связке с генерацией видео- и аудиофейков перестало быть сценарием из области гипотетических угроз. Это уже реальность, в которой живет каждый человек, а также бизнес и государства. По оценкам аналитиков, объем мошенничества с применением синтетического контента в России, да и во всем мире за последний год увеличился кратно, и динамика будет только нарастать. Атаки усложняются структурно: злоумышленники уже не просто клонируют голос, как было еще недавно — они выстраивают драматургию обращения, вписывая ее в контекст ваших отношений с конкретным человеком. Через год-два отличить синтезированного собеседника от живого станет невозможно в принципе.
Поэтому пытаться массово обучить граждан распознаванию дипфейков стратегически бессмысленно. Нельзя превратить каждого пользователя в эксперта по спектральному анализу звука и поиску артефактов использования генеративных моделей в видео. Гонка технологий здесь не в пользу обороняющейся стороны: то, что сегодня выдает подделку, завтра уже будет неактуальным, и фейковое сообщение будет невозможно отличить от оригинала. Значит, нужна принципиально иная парадигма. Принцип «научись отличать живого от синтезированного» не работает, а, значит, каждый из нас должен выстроить систему валидации того, кто к вам обращается.
Главным фильтром безопасности должен быть сам человек — как носитель ценности, которую атакующие пытаются извлечь. Рассчитывать нужно исключительно на собственную способность критически оценивать любого, кого вы не можете увидеть, потрогать, услышать вживую. Чисто техническими средствами от технически же организованной атаки не защититься. Нужен комплекс мер по авторизации удаленного общения. И он элементарен: пароли, проверочные вопросы и недоверие по умолчанию. Главное — презумпция недостоверности любого обращения, которое невозможно подтвердить альтернативным каналом.
Вместо того чтобы вглядываться в пиксели и вслушиваться в частотные искажения, человек формирует собственную процедуру авторизации доверительного диалога и потом придерживается ее. Должен существовать код-пароль, о котором вы договорились с близкими заранее, офлайн, в тот момент, когда никакой угрозы еще не было. Это может быть проверочный вопрос, ответ на который не индексируется поисковиками и не извлекается из соцсетей, а существует исключительно в вашей общей памяти. К примеру, вам звонит сын и просит срочно перевести деньги. Вы должны спросить его о том, что подарили ему на день рождения в 10 лет. Вы помните, что он мечтал о велосипеде, но вместо этого ему вручили коньки. Не получили правильного ответа — не уговаривайте себя, что это ваш ребенок. Считайте, что на линии злоумышленник, и прекращайте разговор. Без колебаний вешайте трубку, блокируйте звонки или сообщения от этого контакта — не давайте ему второго шанса.
Кроме того, важно зафиксировать для себя правило: если вам пишут в мессенджере, а на телефонный звонок собеседник не отвечает и объясняет это убедительными причинами — «не могу говорить», «неудобно», «я на встрече», — это красный флаг. Я столкнулся с этим на практике: у моего сына перехватили сессию в мессенджере через вредоносное приложение. От его имени мне пришло видеосообщение-«кружочек» и просьба перевести деньги. Причем особенность ситуации была в том, что видеоролик был не сгенерированный, а ранее уже отправленный мне — и именно это несоответствие стало первым маркером опасности. Хотя, конечно, можно было допустить, что ребенок просто записал «кружочек», очень похожий на один из предыдущих. Я попытался дозвониться по сотовому, но сын ответить не смог. Для меня это было достаточным основанием, чтобы классифицировать обращение как мошенническое. Я начал задавать уточняющие вопросы, и злоумышленники, поняв, что атака раскрыта, прекратили коммуникацию. Но я понимаю: если бы вместо старого ролика был качественный сгенерированный контент, кто-то из менее подготовленных получателей вполне мог бы совершить перевод.
У меня есть еще одно жесткое правило: доверенный канал перевода — это только собственный счет моего собеседника. Любая просьба отправить средства на сторонний кошелек или по иным реквизитам автоматически включает режим дополнительной авторизации. Да и вообще следует помнить, что если человек лишился доступа к своему аккаунту, то и его финансовые инструменты в зоне риска. Значит, переводить ему деньги — то же самое, что отдавать их атакующему.
Теперь о том, что можно сделать на уровне инфраструктуры. Я полагаю, что государство способно запустить простой механизм верификации уже в обозримой перспективе. Допустим, когда вам приходит подозрительное сообщение, вы через приложение с высоким статусом доверия — скажем, через Госуслуги — отправляете пуш-запрос собеседнику: «Это ты?» У него всплывает уведомление, он проходит биометрическую авторизацию и нажимает: «Да, это я». Никаких персональных данных не раскрыто, но личность подтверждена. Если реализованы уведомления о штрафах за парковку, то организовать подобный пинг-обмен между двумя пользователями — задача вполне подъемная. Не сделают этого через государственную платформу — появится отдельное приложение с полноценной верификацией при регистрации и легким обменом ключами подтверждения.
Для борьбы с дипфейками, по большому счету, требуется одно: подтверждать, что собеседник, которого вы не видите и не можете потрогать, действительно тот, за кого себя выдает. Раньше эту функцию выполнял голос в телефонной трубке. Теперь ее нужно передать удаленному средству с изначальным высоким порогом доверия. А пока такое средство не стало массовым, у нас остается старый набор: пароль, вопрос из общей памяти и та самая презумпция недостоверности. Не цифровые навыки, а базовое умение авторизовать доверие. И это, пожалуй, самый надежный контур защиты, который не обойдет ни один злоумышленник, даже вооруженный генеративной моделью».
Проект реализован на средства гранта Санкт-Петербурга.
