Будьте внимательны и осторожны!

И, в завершении, о "надежности и безопасности" идентификации пользователя приемами и способами биометрической идентификации.
Экспериментально была показана возможность взлома банковской системы биометрической идентификации (по голосу). Нейронная сеть синтезировала требуемые фразы на основании записей разговоров человека на совсем иные темы и сделанные в другое время.
Записи голоса пользователя в сети не секретны в принципе, и я уже молчу про голосовые сообщения и самостоятельно выкладываемые пользователем видео с собственным голосовым сопровождением. Злоумышленнику достаточно всего-то пару-тройку раз "ошибиться номером" телефона - и необходимый материал для работы "нейронки" (запись ваших ответов, реплик и "пожеланий" в ответ на звонок) он уже получил.
Полученный материал вполне сгодится для обучения "нейронки" подделыванию голоса.
В этом смысле, прямо таки "неоценимую" помощь для такого обучения имеют все голосовые упражнения пользователя с "Алисами", "Катюшами", "Марусями", "ОкейГуглами" и иными приятными собеседниками, да вот даже хотя бы и с такой "умной колонкой", которая появилась у вас в квартире. Спору нет: колонка, действительно, умная - а ее собеседник?
Некоторые специалисты в области безопасности обоснованно полагают, что дальше будет еще веселее: к голосу, со временем, прибавится и "живое видео", сгенерированное нейронными сетями на основе ваших фотографий и снятых незаметно для вас видеозаписей, либо использовании уже имеющихся в открытом доступе, которые вы сами и "разбросали" по разнообразным мессенджерам.
Каковы рекомендации?
Во-первых, раз и навсегда отключить "такую удобную" биометрию, а во-вторых - еще раз запомнить: единственный абсолютно вами контролируемый способ идентификации - это хранящийся в вашей, и только вашей, голове пароль.
С биометрией все уже понятно, любые аппаратные ключи можно украсть, пароли в SMS - перехватить, а вот чтение мыслей с требуемой точностью (до одного бита) в ближайшее время, лет сто, вряд ли возможно. Во всяком случае, на вас хватит.
.
Клиент банка Lloyds Bank из Великобритании обнаружил, что может получить доступ к своему банковскому счёту с помощью голосового ИИ через идентификацию по Voice ID.
Пользователь Джозеф Кокс выяснил, что голосовой идентификатор нельзя использовать в качестве безопасного способа для входа в свою банковскую учётную запись. Он смог обмануть систему с помощью бесплатной версии решения от ElevenLabs для генерации своего синтетического голоса на основе пяти минут цифровой записи своего настоящего голоса.
Он проводил эксперимент несколько раз, так как изначально система Lloyd Bank сообщала, что не может аутентифицировать его голос. После внесения некоторых изменений в настройках ElevenLabs для генерации голоса, таких как чтение более длинного текста, чтобы каденции звучали более естественно, его сгенерированный голос успешно обошёл систему безопасности банка.
В итоге Кокс позвонил на автоматическую линию обслуживания банка и начал активировать файлы с генерацией своего голоса. Банк принял его фразу "Проверить мой баланс" и после этого попросил сказать две фразы: назвать свою дату рождения и прочитать "мой голос - мой пароль".
Кокс набрал на клавиатуре нужный текст и запустил генерацию голоса. "Мой голос - мой пароль", - сказал ИИ его голосом. Система безопасности банка потратила несколько секунд на идентификацию этого голосового фрагмента. "Спасибо", - сказал банк, а Кокс попал внутрь своего аккаунта.
"Я не мог в это поверить - это сработало. Я использовал реплику своего голоса с помощью ИИ, чтобы взломать свой банковский счёт. После этого у меня был доступ к информации об учётной записи, включая баланс и список последних транзакций и переводов», - уточнил Кокс.
<...>
Профильные эксперты пояснили, что всем клиентам, использующим голосовую аутентификацию в банках, лучше переключиться на безопасный метод проверки личности, такой как многофакторная аутентификация, как можно скорее. Они опасаются, что репликация голосов в этом году будет одним из векторов атак на учётные записи пользователей в банках, так как злоумышленники в курсе информации о дне рождения жертвы, а получить запись голоса можно также разными способами.
<...>
Ранее исследователи с помощью нейросети elevenlabs.io и ChatGPT рассказали голосом Стива Джобса про ChatGPT. Особенность elevenlabs.io заключается в том, что нейросети достаточного слушать оригинальный голос в течение всего нескольких секунд, чтобы потом воспроизвести его.
В начале января Microsoft объявила о создании инструмента VALL-E для имитации любого голоса. Этому ИИ достаточно трёхсекундного образца для генерации полноценного голоса человека. Услышав конкретный голос, VALL-E создаст аудиозапись того, как человек говорит что-то, причём постарается сохранить даже его эмоциональный тон. https://habr.com/ru/news/t/718858/