Безпілотний автомобіль Uber, який збив пішохода насмерть у березні 2018 року, розпізнав людину, але прийняв рішення не гальмувати, повідомляє The Information з посиланням на свої джерела в Uber. Інженери компанії навмисно завищили поріг розпізнавання об'єктів на дорозі, щоб знизити кількість помилкових спрацьовувань, через які автомобіль змушений гальмувати.
19 березня автомобіль компанії пересувався в місті Темпі штату Арізона в автономному режимі з водієм-випробувачем. У цей час 49-річна Елейн Херцберг (Elaine Herzberg) йшла по розділовій смузі дороги і штовхала велосипед, завантажений пластиковими пакетами. Потім вона вирішила перейти дорогу в недозволеному місці і звернула на проїжджу частину, після чого її збив автомобіль Uber. Жінку відвезли до лікарні, але через деякий час вона померла від травм.
Після аналізу місця події і запису з відеореєстратора поліція прийшла до попереднього висновку, що автомобілю було вкрай складно встигнути загальмувати, але також зазначила, що не виявила ознак того, що машина намагалася знизити швидкість перед зіткненням. На опублікованому пізніше записі відеореєстратора також видно, що до моменту зіткнення автомобіль рухався, не знижуючи швидкість, хоча жінка з'явилася в світлі фар приблизно за півтори секунди до удару. Цей відеозапис викликав питання щодо дій автопілота у фахівців в області безпілотних автомобілів. Наприклад, розробники підрозділу компанії Intel, що розробляє системи комп'ютерного зору для безпілотних автомобілів, застосували до ролика свої алгоритми, які змогли виявити жінку з велосипедом приблизно за секунду до зіткнення.
Видання The Information повідомило з посиланням на два джерела в Uber, що алгоритми автомобіля все-таки виявили пішохода до зіткнення, але прийняли рішення, що дії для запобігання зіткнення не потрібні. Це сталося через те, що інженери компанії підвищили поріг розпізнавання небезпечних об'єктів на дорозі, тому що у системи нерідко трапляються помилкові спрацювання, при яких вона виявляє небезпечні об'єкти там, де їх насправді немає. Інженер компанії, який перебував на водійському сидінні, не встиг зреагувати на пішохода, тому що не стежив за дорогою, що підтверджується роликом з відеореєстратора всередині автомобіля. У відповідь на запит журналістів Uber заявила, що бере участь у розслідуванні Національної ради з безпеки на транспорті США і через це не може коментувати подробиці інциденту.
Це не перша смертельна ДТП за участю автомобіля, що пересувається в автономному режимі, яка сталася через налаштування системи на фільтрацію помилкових спрацьовувань. У 2016 році автомобіль Tesla з активованою системою автопілота потрапив у дорожньо-транспортну пригоду, при якій загинув його водій. Автомобіль врізався в напівпричіп тягача, який у момент ДТП рухався перпендикулярно дорозі. Глава Tesla Ілон Маск заявив, що радар автомобіля налаштований таким чином, що ігнорує об'єкти, що високо знаходяться, тому що інакше автомобіль буде часто гальмувати через помилкові спрацьовування на дорожні знаки та інші об'єкти. Через це, а також те, що камери не розпізнали білий причіп на тлі світлого неба, автомобіль в'їхав під причіп і його верхня частина виявилася зім'ятою.