Розумна колонка Amazon Echo Dot записала розмову господарів будинку і без дозволу відправила цей запис їхньому знайомому, повідомляє Ars Technica. Представники Amazon пояснили це помилкою в системі розпізнавання промови, яка некоректно розпізнала кілька фраз і прийняла їх за команди голосовому помічнику.
Amazon Echo Dot - це розумна колонка, яка може виступати як голосовий помічник, а також керувати іншими пристроями в будинку. Вона слухає всі розмови навколо в очікуванні голосової команди «Alexa», яка розпізнається на самому пристрої. Після цього стовпчик надсилає запис мови на сервери Amazon, які аналізують його і розпізнають команди. Мається на увазі, що за замовчуванням пристрій пересилає дані тільки компанії і тільки після того, як користувач явно почав бесіду з колонкою.
Мешканка міста Портленд штату Орегон у США розповіла, що один зі співробітників компанії її чоловіка отримав запис розмов з її будинку, зроблений розумною колонкою Amazon. Він переказав предмет розмови і переслав запис жінці. Після цього вона відключила всі чотири колонки в будинку і звернулася в Amazon. Інженери компанії проаналізували логи з пристрою і підтвердили, що він записав розмову і переслав її без команди від користувача.
Пізніше в компанії дали докладне пояснення інциденту. Виявилося, що колонка почула в розмові подружжя слово, схоже на команду активації, а потім прийняла одну з фраз за команду «Відправити повідомлення». Після цього вона запитала, кому відправити запис, розпізнала слово в розмові як ім'я людини зі списку контактів, перепитала, чи правильно вона розпізнала ім'я і прийняла ще одну з фраз як позитивну відповідь. Компанія заявила, що така низка неправильно розпізнаних фраз малоймовірна, але пообіцяла, що поліпшить розпізнавання і зменшить ймовірність повторення такого інциденту.
Варто відзначити, що розробники Amazon Echo передбачили в колонці кнопку відключення мікрофона, яка апаратно відключає мікрофон таким чином, що програмне забезпечення не може включити його назад. Торік британський фахівець з інформаційної безпеки розробив спосіб злому колонки і завантаження на неї прошивки, яка записує розмови без команди активації і пересилає записи на сторонній сервер, але і вона не може вести запис при відключеному мікрофоні.
Дослідники неодноразово використовували недосконалості алгоритмів розпізнавання мови голосових помічників для їхнього обману. Наприклад, китайські фахівці навчилися давати їм нечутні команди за допомогою ультразвуку, а дослідники з США створили метод, що дозволяє вбудовувати в запис мови команди, нечувані для людей, але розпізнавані голосовим помічником. Втім, іноді ці недоліки рятують людей. Торік розумний будинок неправильно розпізнав фразу людини, яка погрожувала своїй подрузі зброєю, і викликав поліцію, яка незабаром приїхала до будинку і затримала того, хто погрожував.