Ինչ տվյալներ է վտանգավոր վստահել ԱԲ-ին և ինչու նույնիսկ օրացույցը կարող է դառնալ ռիսկ

Արհեստական բանականությունն increasingly gets access to personal information, accounts and work data, but far from every service should be trusted with everything indiscriminately. AI and knowledge management expert Vladimir Leshchenko believes that the acceptable level of risk depends прежде всего on who may be affected by the neural network’s decisions.

Նույնիսկ օրացույցը ավելի շատ տեղեկատվություն է պարունակում, քան թվում է

ԱԲ-ն անձնական խնդիրների համար օգտագործելու փաստը պարտադիր չէ, որ նշանակի լուրջ սպառնալիք։ Լեշչենկոն պատմել է, որ ինքն էլ օգտագործում է նեյրոցանցեր, այդ թվում՝ իր ընտանիքի ժամանակացույցը կազմելու համար։

Սակայն դրա համար ԱԲ-ն հասանելիություն է ստանում հաշիվներին և օրացույցներին։ Արդյունքում նեյրոցանցը կարող է իմանալ ոչ միայն օգտատիրոջ ծրագրերի, այլև ընտանիքի մյուս անդամների կենսակարգի մասին։

Փորձագետի խոսքով՝ նման իրավիճակում ռիսկը նախ և առաջ վերաբերում է հենց մարդուն։ Նա ինքն է որոշում, թե որքանով է պատրաստ մեքենային հասանելիություն տրամադրել իր տեղեկատվությանը և ընդունել դրա հետ կապված հետևանքները։

Երբ անձնական ռիսկը վերածվում է հանրայինի

Լիովին այլ կերպ է իրավիճակը երևում, եթե ԱԲ-ն սկսում է որոշումներ ընդունել, որոնցից կախված են այլ մարդիկ։

Լեշչենկոյի կարծիքով՝ նման դեպքերում միայն օգտատիրոջ համաձայնությունը բավարար չէ։ Եթե նեյրոցանցի սխալը կարող է ազդել շրջապատողների անվտանգության վրա, պետք է գործեն խիստ սահմանափակումներ։

Սա հատկապես վերաբերում է կրիտիկական ենթակառուցվածքին՝ համակարգերին, որոնց խափանումը կամ սխալ որոշումը կարող է ազդել ամբողջ քաղաքների և դրանց բնակիչների վրա։ Առանց մարդու վերահսկողության նման գործընթացները ԱԲ-ին փոխանցելը ստեղծում է արդեն ոչ թե անձնական, այլ հանրային ռիսկ։

Վերջնական որոշումը պետք է մնա մարդու հետևում

Փորձագետը կրիտիկական ենթակառուցվածքի լիակատար ավտոմատացումը անթույլատրելի է համարում։ Նույնիսկ եթե նեյրոցանցն օգտագործվում է տվյալների վերլուծության, կանխատեսման կամ որոշման նախապատրաստման համար, մարդկանց անվտանգության հետ կապված իրավիճակներում վերջին խոսքը պետք է մնա մարդուն։

Ըստ էության, սահմանը անցնում է ոչ այնքան «անվտանգ» և «վտանգավոր» տվյալների միջև, որքան դրանց օգտագործման տարբեր հետևանքների միջև։ ԱԲ-ի հասանելիությունը անձնական օրացույցին ռիսկ է, որը օգտատերը որոշ չափով ընդունում է իր վրա։ Իսկ այն համակարգերին հասանելիությունը, որոնցից կախված է այլ մարդկանց անվտանգությունը, արդեն սկզբունքորեն այլ մակարդակի վերահսկողություն է պահանջում։