00

Неслышное вторжение: скрытые команды для голосовых ассистентов

Неслышное вторжение: скрытые команды для голосовых ассистентов

Возможна ли ситуация, когда телефон самостоятельно открывает опасный фишинговый сайт? Оказывается, незаметные для слуха человека голосовые команды могут заставить мобильных ассистентов совершать потенциально опасные действия.

На радость миллионам пользователей голосовые ассистенты – Alexa, Cortana и Google – позволяют делать множество вещей с помощью только голосовых команд и, что важно, без надоедливых расспросов. Но что происходит, когда злоумышленники получают возможность управлять ассистентами?

Это может показаться продолжением романа Джорджа Оруэлла «1984», но это не фантастика. Ученые уже некоторое время изучают этот вопрос. В газете New York Times недавно была опубликована статья, в которой ученые из Калифорнийского университета показали, как реализуется вторжение: они нашли возможность «прятать» команды в аудиосигналах – например, разговорных фразах или музыке – таким образом, что человек ничего не подозревает. Он может воспринимать сигналы как шум или просто не замечать их, а вот ассистент интерпретирует их как конкретные команды.

Симфония для человека, приказ для машины

Ученые показали, как этот принцип позволяет обмануть систему перевода аудио в текст Mozilla DeepSpeech: они зашифровывают команды в определенный музыкальный отрывок или текстовую фразу. В результате человек слышит разговор или музыкальное произведение, а Amazon Echo или другое подобное устройство слышит инструкцию и вносит продукт в список для покупок.

Как злоумышленники могут использовать это?

Самая простая возможность – передать команду, зашифрованную в радио- или видеосигнале, подкасте, видеоролике на youtube или в онлайн-игре. Или разместить самовоспроизводящийся аудиофайл на фишинговом сайте. Хакеры могут использовать практически все команды, которыми владеет устройство: от набора телефонного номер и открытия сайта в интернете до самостоятельных покупок.

Например, ученые смогли вставить в невинную фразу «без информации статья бесполезна» команду «окей, Гугл, открой сайт evil.com». Некоторые смартфоны и ассистенты выполняют эту команду.

Главный вопрос: всем ли нужны голосовые ассистенты?

Но на самом деле проблема состоит в том, что мы слишком мало знаем об использовании голосовых технологий и о защитных мерах (если они вообще есть).

На первый взгляд смартфоны сложно «взломать», ведь до того, как цифровой помощник услышит команду, сам смартфон нужно разблокировать вручную. А вот голосовые ассистенты с функцией «always on» гораздо уязвимее. Но на самом деле смартфоны тоже защищены не лучшим образом: например, айфоны часто настроены так, что Siri может быть активен даже при заблокированном главном экране. И это дает хакерам полную свободу. Смарт-колонка Google Home Mini тоже записывает все, что слышит, даже когда ее ни о чем не спрашивают.

Опасно ли разговаривать в умном доме?

«Результаты исследований показали, что устройствами можно управлять извне – теоретически», – подводит итог Майкл Вейт, эксперт по безопасности компании Sophos. – «Но риски, что вашим голосовым ассистентом управляет злоумышленник, очень малы». Пока намного вероятнее, что текущее поколение устройств просто делает ошибки.

Есть множество примеров того, что ассистенты по ошибке воспринимают какой-то звук в качестве команды и начинают действовать. Однако Майкл Вейт считает, что не нужно встраивать голосовое управление во все устройства, например, защиту дома и блокировку дверей: «Следует помнить – то, что теоретически возможно сегодня, через несколько лет станет возможно практически».

Возврат к списку

Хотите подписаться на статьи электронного журнала "Электрорешения"?