Դիմաճանաչման համակարգը մարդու ազատություն է արժեցել

Դիմաճանաչման համակարգերի սխալ աշխատանքը հանգեցրել է սխալմամբ ձերբակալության։ Դեթրոյթ քաղաքում այդ համակարգերի թերության պատճառով ձերբակալել են մի տղամարդու, ու ամերիկյան ԶԼՄ-ներն ու հասարակական կազմակերպությունները ընդգծում են այդ տղամարդու սևամորթ լինելու փաստն ու փորձում դա պրոյեկտել ռասիզմի դրսևորման վրա, թեև ալգորիթմը խորապես թքած ունի մաշկի գույնի, ազգության ու նմանատիպ գործոնների վրա։

ԶԼՄ-ներն այն անվանում են առաջին դեպքը, երբ ալգորիթմի թերությունը հանգեցրել է սխալ մարդու ձերբակալության։

2020 թվականի հունվարին Գետրոյտի 42-ամյա բնակիչ Ռոբերտ Ուիլյամսը անազատության մեջ անցկացրեց ավելի քան 24 ժամ։ Մինչ ձերբակալությունը, ինչ-որ մեկը տեղի Shinola խանութից հինգ ժամացույց էր գողացել, 3․8 հազար դոլար ընդհանուր արժողությամբ։ Ոստիկանները վերցրել էին անվտանգության տեսախցիկների ոչ այնքան բարձրորակ ու պարզ կադրերը, որտեղ երևում էր հանցագործի դեմքը, որից հետո այդ կադրերն անցկացրել էին Rank One Computing ընկերության արտադրած դիմաճանաչման համակարգով։ Այն ցույց էր տվել համապատասխանություն Ուիլյամսի վարորդական վկայականի լուսանկարի հետ։

Հիշեցնենք, որ հունիսի սկզբին IBM, Amazom և Microsoft ընկերությունները գրեթե միաժամանակ հայտարարեցին, որ կամ ընդհանրապես կդադարեցնեն, կամ էլ ժամանակավորապես չեն արտադրի նման համակարգեր, նաև նման համակարգեր չեն տա ոստիկանությանը։