Голосовий помічник amazon alexa порадив 10-річній дитині» сунути пальчик в розетку «

1

Днями христина лівдал, мати 10-річної дівчинки, повідомила через твіттер, що він зіткнулася з неадекватною поведінкою голосового помічника amazon alexa, і тепер радить всім звертати найпильнішу увагу на те, як він працює.

Як з’ясувала автор поста, amazon alexa може давати абсолютно непередбачувані і навіть небезпечні поради. Наприклад, голосовий помічник порадив її 10-річній дитині «сунути пальчик в розетку».

Історія починалася цілком прозаїчно: маленька дівчинка попросила alexa зробити телефонний дзвінок. У відповідь голосовий помічник підключив функцію amazon echo, що дозволяє отримати аргументовані поради, і запропонував дівчинці спочатку підключити зарядний пристрій до розетки, але увіткнути його тільки наполовину, а потім притулити монетку (пенні) на оголені штирі. Беручи до уваги, що вони вже можуть перебувати під струмом, наслідки такої дії очевидні.

На щастя дівчинки, отриману відповідь почула мама, яка, м’яко кажучи, була шокована настільки несподіваним радою. Після цього вона написала в твіттер пост і розповіла там про інцидент.

Повідомлення викликало бурхливу реакцію. Одна людина навіть написала буквально наступний коментар:»немає ніяких причин користуватися amazon alexa в будинку». Інші радили жінці, щоб вона знайшла дитині більш підходящі його віку заняття і не дозволяла ставити подібні питання голосовому помічнику.

Даний інцидент вказує на те, що використання голосових помічників, не тільки amazon alexa, але і google, siri, голосових помічників ощад і яндекс, не можна залишати без уваги. Їх відповіді формуються за допомогою системи штучного інтелекту, яка в свою чергу навчається на тому, що система знаходить в мережі. Ця система навчання є відкритою і потенційно може бути скомпрометована.

Наступного дня до стурбованої мами звернулася служба amazon help. Вони попросили її надати додаткову інформацію, щоб в amazon змогли розібратися у ситуації, що виникла. Жінку запевнили, що amazon вже поставила перед розробниками відповідне завдання, і вони розбираються в його причинах. Через кілька годин amazon help знову запитала додаткову інформацію.

Пізніше стало ясно, що відповідь, яку було надано amazon alexa, була взята з рекомендацій, опублікованих на сайті ourcommunitynews.com у 2020 році. Що до оригінальної відповіді, то він був отриманий через систему tiktok.

Раніше редакція thg.ru опублікувала огляд компактної клавіатури razer blackwidow v3 mini hyperspeed . Razer blackwidow v3 mini hyperspeed в компактному форм-факторі 65% пропонує відразу кілька можливостей бездротового і проводового підключення, має індивідуальну rgb-підсвічування кожної клавіші і випускається у варіантах з перемикачами razer green і yellow. Детальніше про це читайте в статті «огляд компактної клавіатури razer blackwidow v3 mini hyperspeed : перший пішов».

читайте також:

перша ar / vr-гарнітура apple з’явилася на рендерах