В основу нового виду штучного інтелекту лягли розробки півстолітньої давності.
Дослідники з Массачусетського університету стверджують, що завдяки науково-фантастичним романам Айзека Азімова вони розробили алгоритмічну структуру, що гарантує, що ШІ буде вести себе добре за будь-яких обставин.
У структурі використовуються «селдонські» алгоритми, названі так на честь головного героя Гері Селдона із серії книг «Основа» Айзека Азімова, що вийшли в 60-ті роки 20-го століття, де вперше з'явилися три закони робототехніки.
Згідно з дослідженням, архітектура Seldonian дозволяє розробникам визначати свої власні умови роботи, щоб запобігти неприпустимим сценаріям під час навчання або оптимізації ШІ. По суті, це повинно дозволити розробникам не допускати того, щоб ШІ завдавав якоїсь шкоди людям.
Дослідники використовували нові алгоритми для створення ШІ, який розподіляє інсулін для діабетиків, а також ШІ, який прогнозує середній бал учнів (GPA). У першому випадку дослідники встановили обмеження, що запобігають помилкам з дозуванням ліків, а в другому - виключили можливість гендерної упередженості. Обидва експерименти пройшли успішно.
Замість того, щоб говорити машині «не дозволяй гендерній ознаці впливати на прогнози», алгоритми Seldonian висловлюють проблему як «точно прогнозувати GPA кожної людини, але не дозволяти відмінностям між прогнозованим GPA і фактичним GPA перевищувати певне значення».
Розроблені алгоритми є не просто заміною алгоритмів машинного навчання (ML) в існуючих додатках, а основою для нових додатків, в яких використання ML-алгоритмів раніше вважалося занадто ризикованим.