ФБР рекомендует использовать "секретное слово или фразу", чтобы доказать, что вы — это вы, а не поддельный голос ИИ

Представьте ситуацию: кто-то звонит пожилому родственнику, и голос звучит, как голос любимого внука, умоляющего о помощи в экстренной ситуации. Звучит правдоподобно, но что делать? ФБР предлагает использовать секретное слово или фразу, например, что-то вроде "Что сказал осел муравьеду?".

С развитием технологий генеративный ИИ становится все лучше в имитации голосов. Сегодня голосовое клонирование уже активно используется для мошенничества, и ФБР выпустило рекомендации, как защитить себя. Важным советом стало создание "секретного кода", известного только вам и вашей семье.

Голосовое клонирование — это процесс, в котором ИИ обучается на реальных записях речи человека, чтобы воспроизводить его интонации, тембр и манеру общения. Хотя эта технология активно используется для законных целей, таких как создание виртуальных подкастов, она также открывает возможности для злоумышленников, которые могут использовать голосовые копии для обмана.

Чтобы защититься, ФБР предлагает рассматривать секретное слово или фразу как своеобразный механизм аутентификации. Например, если кто-то звонит и на вопрос "Что сказал осел муравьеду?" отвечает неправильно, это повод заподозрить мошенничество. ИИ, вероятно, не сможет угадать столь странный и непредсказуемый ответ, например "В среду днем, в Непале".

Конечно, эта система не идеальна. Она требует от всех участников помнить кодовую фразу и давать правильный ответ мгновенно. Кроме того, сложно применить такую систему для общения вне семьи, например, с начальником или коллегами.

Голосовое клонирование — это эволюция традиционных схем мошенничества, таких как фальшивые электронные письма от руководства с просьбой перевести деньги или поделиться конфиденциальной информацией. И пока не существует идеального решения для борьбы с такими атаками. Даже если крупные ИИ-компании, такие как OpenAI или Google, интегрируют системы, указывающие, что говорит ИИ, найдутся те, кто создаст модели, обходящие подобные ограничения.