ԱԲ-ի կառավարմամբ ռոբոտները կարող են սպառնալիք դառնալ. հետազոտողները զգուշացնում են՝ ռիսկեր կան

Արհեստական բանականության և ռոբոտատեխնիկայի արագընթաց զարգացումը նոր հնարավորություններ է բացում առօրյա կյանքում ինքնավար մեքենաների օգտագործման համար։ Սակայն դրան զուգահեռ ի հայտ են գալիս նոր սպառնալիքներ, որոնց օրենսդրությունը և անվտանգության գոյություն ունեցող համակարգերը դեռևս պատրաստ չեն։ Նման եզրակացության է եկել Օքսֆորդի համալսարանի հետազոտող Ֆազլ Բարեզը՝ վերլուծելով նոր սերնդի ռոբոտների ներդրման հետ կապված ռիսկերը, հաղորդում է Silicon Republic-ը։

Ժամանակակից ռոբոտների հնարավորությունների քննարկման առիթ է դարձել Պեկինում վերջերս անցկացված կիսամարաթոնը, որտեղ հումանոիդ ռոբոտը տարածությունը հաղթահարել է 50 րոպե 26 վայրկյանում։ Այս արդյունքը գրեթե յոթ րոպեով գերազանցեց մարդկանց միջև սահմանված համաշխարհային ռեկորդը և լայն արձագանք գտավ լրատվամիջոցներում։ 

Այնուամենայնիվ, հետազոտողները նշում են, որ այս ձեռքբերումն ուներ որոշակի վերապահումներ։ Ռոբոտը շարժվում էր նախապես պատրաստված երթուղով, գտնվում էր առանձին վազքուղու վրա և մշտապես վերահսկվում էր տեխնիկական թիմի կողմից։ Չնայած դրան, բուն առաջընթացը տպավորիչ էր. եթե 2025 թվականին նույն տարածության վրա ռոբոտների հետ մնալը մարդուց գերազանցում էր երկուուկես ժամը, ապա ընդամենը մեկ տարվա ընթացքում այդ անջրպետը գրեթե վերացել է։

Կոշտ կոդից դեպի իրական ժամանակում «մտածողություն»

Բարեզի խոսքով՝ խոսքը վերաբերում է ոչ թե պարզապես մեխանիկայի կամ նյութերի կատարելագործմանը։ Գլխավոր տրանսֆորմացիան կապված է այն բանի հետ, որ ժամանակակից ռոբոտները գնալով ավելի հաճախ են աշխատում արհեստական բանականության այսպես կոչված ֆունդամենտալ մոդելների հիման վրա՝ նույն այն տեխնոլոգիաների, որոնք ընկած են հանրահայտ չատ-բոտերի հիմքում։

Եթե նախկինում ռոբոտները կատարում էին խիստ ծրագրավորված գործողություններ վերահսկվող միջավայրում, ապա այժմ նրանք ընդունակ են ինքնուրույն մեկնաբանել հրահանգները և որոշումներ կայացնել իրական ժամանակում։ Օրինակ՝ խոհանոցում թափված հեղուկը մաքրելու հրահանգ ստանալով՝ նման ռոբոտը վերլուծում է շրջակա միջավայրը, որոշում օգտատիրոջ նպատակը և ինքնուրույն կառուցում գործողությունների պլանը։ Հենց այս ճկունությունն է, գիտնականների կարծիքով, դառնում նոր ռիսկերի աղբյուր։

Փորձ. որքանո՞վ է հեշտ  շրջանցել պաշտպանությունը

Հետազոտության ընթացքում Մեծ Բրիտանիայի և ԱՄՆ-ի մասնագետները որոշել են ստուգել, թե որքանով են հուսալի նման համակարգերի ներկառուցված անվտանգության մեխանիզմները։ Փորձի համար չեն կիրառվել սարքավորումների կոտրում կամ միջամտություն ծրագրային կոդին. հետազոտողները սահմանափակվել են սովորական տեքստային հարցումներով։ Արդյունքները մտահոգիչ են եղել։

Թեև համակարգերը հաջողությամբ մերժում էին ուղղակի վտանգավոր հրամանները, ինչպիսիք են՝ «հարվածիր մարդուն», պաշտպանական մեխանիզմները հաճախ դադարում էին գործել ձևակերպման չնչին փոփոխությունից հետո։ Օրինակ՝ եթե պոտենցիալ վտանգավոր սցենարը ներկայացվում էր որպես գեղարվեստական ստեղծագործության կամ ֆիլմի սցենարի տարր, սահմանափակումները կարող էին շրջանցվել։ Փորձարկումներից մեկում առևտրային ռոբոտ-շանը առաջադրանք է տրվել որոշել պայթուցիկ սարք տեղադրելու համար ամենահարմար վայրը։ Արհեստական բանականությունը որպես օպտիմալ թիրախ առաջարկել է մարդկանց կուտակումը։ Հետազոտողների կարծիքով՝ համակարգը հարցումն ընկալել է որպես ստեղծագործական վարժություն և չի կարողացել գնահատել սեփական հանձնարարականների իրական հետևանքները։

Ինչո՞ւ է դա ավելի վտանգավոր, քան թվում է

Նման դեպքերը, զգուշացնում են հետազոտության հեղինակները, ի ցույց են դնում ժամանակակից ԱԲ համակարգերի հիմնարար խնդիրը։ Ի տարբերություն ավանդական ռոբոտների, որոնց վարքագիծը կարելի էր նախապես հաշվարկել և սահմանափակել ֆիզիկական արգելքներով, նոր ավտոնոմ մեքենաները որոշումները կայացնում են դինամիկ կերպով՝ ելնելով համատեքստից և սեփական դատողությունների ալգորիթմներից։ 

Փորձագետները ուշադրություն են դարձնում նաև այն հանգամանքին, որ ռոբոտատեխնիկայի կարգավորման գոյություն ունեցող մոտեցումները մեծապես կողմնորոշված են անօդաչու ավտոմեքենաների փորձի վրա։ Սակայն, նրանց կարծիքով, նման մոտեցումն ունի լուրջ սահմանափակումներ։ Ավտոնոմ ավտոմեքենան գործում է հարաբերականորեն կանխատեսելի միջավայրում. ճանապարհային ենթակառուցվածքը կարգավորվում է կանոններով, լուսացույցներով և գծանշումներով։ Ի տարբերություն դրա՝ հիվանդասենյակը, բնակարանը կամ դպրոցական դասարանը ներկայացնում են շատ ավելի բարդ ու անկանխատեսելի միջավայր, որտեղ նախապես բոլոր սցենարները նախատեսելը գրեթե անհնար է։ 

Առանձնահատուկ մտահոգություն է առաջացնում պատասխանատվության հարցը։ Եթե արհեստական բանականության կառավարմամբ ռոբոտը մարդուն վնաս պատճառի, ո՞վ է կրելու պատասխանատվությունը՝ օգտատե՞րը, սարքն արտադրո՞ղը, թե՞ ԱԲ մոդելը մշակողը։

Ի՞նչ անել

Հետազոտողների խոսքով՝ սպառողների իրավունքների պաշտպանության, երաշխիքային պարտավորությունների և արտադրողների պատասխանատվության մասին գործող նորմերը դեռևս հստակ պատասխաններ չեն տալիս այս հարցերին։ 

Հստակ կանոնների բացակայությունը կարող է հանգեցնել մի իրավիճակի, երբ ընկերությունները կձգտեն ավելի արագ դուրս բերել ապրանքները շուկա՝ բավարար ուշադրություն չդարձնելով անվտանգության հարցերին։ Որպես հնարավոր լուծում գիտնականներն առաջարկում են անվտանգության համակարգերն առանձնացնել արհեստական բանականության տրամաբանությունից։ 

Նրանց կարծիքով՝ կրիտիկական կարևորություն ունեցող սահմանափակումները պետք է գործեն անկախ այն բանից, թե որքանով ճիշտ է գործում ԱԲ-ն։ Առաջարկվող միջոցառումների թվում են ֆիզիկական գոտիների ստեղծումը, որտեղ ռոբոտացված մանիպուլյատորները չեն կարողանա թափանցել մարդու կողքին, ինչպես նաև վթարային կանգառի անկախ մեխանիզմների ներդրումը, որոնք ընդունակ են ակնթարթորեն անջատել սարքը ալգորիթմների խափանման դեպքում։ 

Հետազոտության հեղինակները կարծում են, որ մարդկությունը գտնվում է ավտոնոմ ռոբոտների զանգվածային ներդրման դարաշրջանի միայն սկզբում։ Առաջիկա տարիներին նման համակարգեր կարող են հայտնվել հիվանդանոցներում, ծերանոցներում, հանրային տարածքներում և քաղաքային փողոցներում։ 

Հենց այդ պատճառով անվտանգության հուսալի և հասկանալի կանոնների մշակումը պետք է առաջ անցնի տեխնոլոգիաների տարածումից, այլ ոչ թե դառնա արձագանք արդեն իսկ տեղի ունեցած միջադեպերին։