May 29

Мошенничество с использованием искусственного интеллекта для «клонирования голоса» набирает обороты. Вот как защитить себя.

Жительница Калифорнии заявила, что в этом месяце стала жертвой мошенников и потеряла тысячи долларов после звонка, в котором услышала голос своей дочери, якобы попавшей в беду. Теперь она подозревает, что это была подделка, созданная с помощью искусственного интеллекта.

Она стала одной из многих жертв так называемых мошенничеств с «клонированием голоса», поскольку современные ИИ-инструменты позволяют любому человеку создать убедительную копию чужого голоса, имея всего несколько секунд настоящей аудиозаписи.

По данным Federal Bureau of Investigation, в прошлом году американцы потеряли более 893 миллионов долларов из-за мошенничеств, связанных с ИИ, включая атаки с клонированием голоса, фишинговые письма, романтические аферы и другие схемы.

Мошенники могут имитировать кого угодно — родственников, друзей, коллег или сотрудников различных сервисов. Банки, включая Starling Bank и Commonwealth Bank, уже предупреждали клиентов об опасности подобных схем.

Эксперты отмечают, что современные ИИ-копии голосов стали настолько реалистичными, что большинство людей больше не способны надёжно отличать их от настоящих.

«Обычному человеку просто несправедливо ожидать, что он сможет распознать подобное», — сказал эксперт по ИИ-медиа Henry Ajder, консультирующий правительства и компании. — «Даже мне бывает сложно. Большинству людей тоже».

Как работают мошенничества с ИИ-голосами

Мошенники могут создать ИИ-копию голоса человека с помощью короткой записи речи — часто взятой из социальных сетей или из предыдущего звонка, записанного без ведома жертвы. Социальные сети также дают злоумышленникам огромное количество информации о родственниках и друзьях потенциальной жертвы.

Обычно преступники создают впечатление, будто близкий человек оказался в беде — например, был похищен или попал в тюрьму. Затем они срочно требуют деньги якобы за его освобождение.

«Не было времени подумать», — рассказывал в прошлом году адвокат из Филадельфии Гэри Шильдхорн, ставший целью подобной схемы с поддельным голосом его сына. — «В голове было только: “Я должен помочь сыну. Он в беде”».

В некоторых случаях используется не просто заранее записанный голос. Более продвинутые мошенники применяют технологии преобразования текста в речь или так называемый «voice skinning» — изменение собственного голоса в реальном времени так, чтобы он звучал как голос другого человека. Это позволяет вести полноценный диалог между жертвой и ИИ-копией, делая мошенничество ещё более убедительным, объяснил Адждер.

Хакеры также могут подделывать номер телефона с помощью технологии spoofing — поэтому даже если звонок отображается как вызов от вашей матери, это вовсе не гарантирует, что звонит именно она.

Как не стать жертвой ИИ-мошенников

Раньше странные паузы или неестественные колебания голоса считались признаками ИИ-подделки. Но с развитием технологий эти сигналы могут больше не проявляться.

Вместо попыток определить, настоящий ли голос, эксперты советуют обращать внимание на типичные признаки мошенничества. Об этом ранее говорил профессор University of California, Berkeley и главный научный сотрудник компании GetReal Security Hany Farid.

Есть ли давление по времени? Пытается ли собеседник вызвать чувство срочности? Просит ли никому не рассказывать о происходящем? Требует ли перевести крупную сумму необычным способом? Именно на такие сигналы специалисты рекомендуют обращать внимание.

Если вы получили подобный звонок, стоит попытаться связаться с близким человеком другим способом — например, отправить сообщение, позвонить ему на другой номер или связаться с тем, кто точно знает, где он находится.

Дебора Дель Мастро — та самая жительница Калифорнии, ставшая жертвой мошенников — рассказала журналистам, что позвонила дочери только после того, как уже перевела деньги. Дочь сразу ответила и в этот момент спокойно находилась на работе.

Семьи и коллеги также могут заранее придумать специальное «кодовое слово» для подтверждения личности. Это должна быть фраза или слово, известное только узкому кругу людей и недоступное в интернете.

«В конечном счёте, если вам кажется, что что-то не так, гораздо лучше, если мама, брат или друг посмеются над тем, что вы приняли их за робота», — сказал Адждер, — «чем если вы в панике побежите к банкомату».

Latest from our blog