AI-ի սխալ կիրառման պատճառով մարդիկ զրկվում են նպաստից, ենթարկվում խտրականության․ The Guardian-ի բացահայտումը

Բրիտանական The Guardian-ը պարբերականը հետաքննություն է անցկացրել, որի արդյունքների վրա հիմնվելով՝ պետական ​​պաշտոնյաներին մեղադրել է մի շարք կարևոր հարցեր լուծելու նպատակով արհեստական ​​բանականությունը և ալգորիթմներն անկանոն և անվերահսկելի կերպով օգտագործելու մեջ՝ նպաստներ ստանալուց մինչև ամուսնության վկայականների հաստատում:

Պարբերականը պնդում է, որ առնվազն ութ պետական ​​գերատեսչությունների քաղծառայողները և մի քանի ոստիկանական ստորաբաժանումներ օգտագործում են արհեստական ​​բանականությունը սոցիալական ապահովության, ներգաղթի և քրեական արդարադատության հարցերի վերաբերյալ որոշումներ կայացնելու համար:

The Guardian-ը կարծում է, որ նման գործելաոճը հանգեցնում է խտրականության։ Օրինակ՝ Աշխատանքի և կենսաթոշակների վարչության կողմից օգտագործվող ալգորիթմի սխալների պատճառով տասնյակ մարդիկ զրկվել են նպաստից: Դեմքի ճանաչման գործիքը, որն օգտագործվում է Լոնդոնի ոստիկանության կողմից, որոշակի կարգավորումներով, ավելի շատ սխալներ է թույլ տալիս մուգ գույնի մաշկի ունեցող մարդկանց դեմքերը ճանաչելիս։

Իսկ Ներքին գործերի նախարարությունը խոստովանել է, որ արհեստական ​​բանականությունն օգտագործել է օդանավակայաններում անձնագրերը կարդալու, անձնագիր ստանալու նպատակով տրված դիմումներն ուսումնասիրելու և ձևական ամուսնությունները հայտնաբերելու համար: Ավելի ուշ նախարարության նախաձեռնած ներքին ստուգումը պարզել է, որ կեղծ ամուսնությունները բացահայտելու համար օգտագործվող ալգորիթմը հաճախ անհամաչափ ուշադրություն է դարձրել Ալբանիայից, Բուլղարիայից, Հունաստանից և Ռումինիայից եկածների վրա։

Բուլղարացիները նույնպես տուժել են Աշխատանքի և կենսաթոշակների վարչության աշխատանքներում ալգորիթմի օգտագործումից, որն օգնում է նպաստ ստանալու համար դիմողների շրջանում խարդախներին բացահայտելու գործում: Լեյբորիստական ​​կուսակցության պատգամավոր Քեյթ Օսամորը կարծում է, որ հենց ալգորիթմի կիրառման հետևանքով է, որ վերջին տարիներին տասնյակ բուլղարացիներ հանկարծ դադարեցին նպաստ ստանալ այն բանից հետո, երբ նրանց դիմումները սխալմամբ ճանաչվեցին որպես հնարավոր խարդախություն: Միևնույն ժամանակ, Աշխատանքի և կենսաթոշակների վարչությունը պնդում է, որ ալգորիթմը հաշվի չի առնում ազգությունը։

Նորթումբրիայի համալսարանի իրավունքի պրոֆեսոր Մարիոն Օսվալդը, անդրադառնալով հետաքննությանը, ասել է․ «Հետևողականության և թափանցիկության պակաս կա առ այն, թե ինչպես է արհեստական ​​բանականությունն օգտագործվում հանրային սեկտորում: Այս գործիքներից շատերն իրենց առօրյա կյանքում ազդում են շատ մարդկանց վրա, օրինակ՝ նրանց վրա, ովքեր դիմում են նպաստի համար: Սակայն մարդիկ չեն հասկանում, թե ինչի համար են դրանք օգտագործվում և ոչ մի կերպ չեն կարող վիճարկել դրանց օգտագործումը»: 

Մեծ Բրիտանիան նախկինում ուներ անկախ կառավարության խորհրդատվական խորհուրդ, որը վերահսկում էր, թե ինչպես է կառավարությունն օգտագործում արհեստական բանականությունը: Սակայն այս տարվա սկզբին այն լուծարվել է։

The Guardian-ը հիշեցնում է, որ պետական ծառայությունների կողմից արհեստական ​​բանականության օգտագործման հետ կապված խնդիրները չեն սահմանափակվում Միացյալ Թագավորությամբ: Նիդեռլանդներում հարկային մարմիններն օգտագործել են արհեստական ​​բանականության գործիքներ՝ երեխաներին տրվող նպաստի համակարգում հնարավոր խարդախությունները բացահայտելու համար: Ի վերջո, հարկային մարմիններն իրենք են տուգանվել 3,7 միլիոն եվրոյով բազմիցս սխալ որոշումներ կայացնելու և «տասնյակ հազարավոր ընտանիքներ աղքատության մեջ գցելու» համար։