Інтелектуальні помічники Siri, Alexa і Google Assistant призначені для того, щоб людина керувала ними за допомогою голосу. Але, як повідомляє The New York Times, всі три системи сприйнятливі до прихованих команд, невловимим людським вухом. Китайські та американські дослідники з'ясували, що помічниками можна керувати дозвуковими командами на радіо, в роликах на YouTube або навіть білому шумі, що несе величезну потенційну загрозу безпеці.
Голосового помічника таким чином можна змусити набрати телефонний номер, відкрити сайт, здійснити платіж або активувати прилад «розумного» будинку - наприклад, розблокувати дверний замок. Людина в цей час буде чути щось інше - починаючи від усної мови і закінчуючи музикою. У деяких випадках асистенту можна доручити зробити знімок або відправити повідомлення. Якщо в кімнаті відкрито вікно, то штучний інтелект сприйме команду на відстані до 7,6 м.
Дослідники з Каліфорнійського університету в Берклі розповіли, що можуть вносити в аудіофайли невеликі зміни, «прибираючи звук, який повинна була почути система розпізнавання мови, і замінюючи її звуком, який машинами транскрибується по-різному, а для людського вуха практично непомітний». Співробітники Прінстонського і Чжецзянського університетів удосконалили проект, приглушивши ШІ-пристрій, щоб його відповіді не були чутні користувачеві.
Новизна проблеми в тому, що приховані команди майже не чути людині. Раніше в ТВ-шоу і рекламу відкрито поміщали фрази, які активували певних інтелектуальних помічників, але приховані сигнали в звуці - вже еквівалент підсвідомої реклами. Проти цього ще немає ніяких законів, тому це несе потенційну загрозу.
Якщо з проблемою не розібратися, то наслідки можуть бути катастрофічними. Очікується, що до 2021 року число телефонів і колонок з голосовими помічниками перевищить число людей на планеті. До того моменту більш ніж у половині американських будинків буде один або кілька «розумних» динаміків.
Apple, Amazon і Google вже обізнані про вразливість, але як саме збираються з нею боротися, невідомо. Перша каже, що її пристрої мають певні обмеження на команди, Amazon - що вжила заходів щодо забезпечення безпеки колонок Echo, Google - що Assistant оснащений функціями для припинення прихованих команд.
