Розробники з Массачусетського технологічного інституту представили Norman - нейромережу, натхненням для якої став Норман Бейтс - психопат, що страждає на роздвоєння особистості, персонаж роману Роберта Блоха і однойменного фільму Альфреда Хічкока «Психо». Єдина функція нейромережі - розглядати плями Роршаха і видавати результати, а сам проект розроблений з метою показати, як навчальна вибірка може вплинути на штучний інтелект. Ознайомитися з Norman можна на офіційному сайті університету.
Тест Роршаха був розроблений на початку 20-х років минулого століття швейцарським психіатром Германом Роршахом. Пацієнту, який проходить тест, показують десять зображень із симетричними кляксами фарби, і просять інтерпретувати кожну з них: розповісти про першу асоціацію, що прийшла в голову. Сам Роршах, а також всі його послідовники, вважали, що люди з різним психічним станом по-різному реагують на форми і кольори і бачать в них абсолютно різні фігури і образи. Незважаючи на те, що валідність цього методу досі не підтверджена, його використовують у психіатричній практиці по всьому світу.
Тест Роршаха послужив основою і для нової нейромережі, розробленої дослідниками під керівництвом Пінар Янардаг (Pinar Yanardag) з MIT. Norman розроблений за допомогою методів глибокого навчання. Як навчальну вибірку автори використовували описи зображень з тематичної спільноти c Reddit, присвяченої розмовам про смерть: з етичних міркувань розробники не називають його. На основі зібраного датасета нейромережа навчили інтерпретувати плями Роршаха. Відповіді нейромережі потім порівняли з відповідями, виданими нейромережею, навченою на датасеті MsCOCO, зібраному для розпізнавання зображень. Результати виявилися дуже різними: нейромережа, навчена на стандартному датасеті, бачила в плямах «вазу з квітами», а Norman - «застреленого чоловіка».
Нейромережа досить проста і функцій у неї небагато: єдиним практичним застосуванням подібної системи може бути комп'ютерна діагностика відповідей реальних людей на тест Роршаха. На ділі ж розробники хотіли показати, наскільки штучний інтелект може бути упередженим залежно від навчальної вибірки.
Незважаючи на те, що упередженість датасетів може сильно позначитися на роботі алгоритму, заснованого на методах машинного навчання, її можна використовувати і на благо. Наприклад, за допомогою векторного представлення слів і аналізу безлічі текстів, написаних протягом ста років, розробники змогли вивчити, як змінювалося ставлення суспільства до жінок і азіатам.