Թվային գաղութատիրություն. ինչպե՞ս են ալգորիթմները վերափոխում աշխարհը և ինչո՞ւ է Հայաստանին անհրաժեշտ «տեխնո-ինքնիշխանության» ռազմավարություն

Մի դարաշրջանում, երբ թվային տեխնոլոգիաները արագորեն փոխակերպում են քաղաքական և սոցիալական լանդշաֆտը, մենք ավելի ու ավելի հաճախ ենք հարց տալիս. ո՞վ է իրականում որոշում մեր ընտրության սահմանները։ Արթուր Իշխանյանը հետազոտող է, ում աշխատանքները այնպիսի հեղինակավոր հանդեսներում, ինչպիսիք են Frontiers-ը, Ethics and Information Technology-ն և Discover Artificial Intelligence-ը, լույս են սփռում թվային իշխանության թաքնված մեխանիզմների վրա։ Այսօր մենք խոսում ենք այն մասին, թե ինչո՞ւ է «տեխնոլոգիական առաջընթաց» տերմինը հաճախ թաքցնում «թվային գաղութատիրությունը», և ի՞նչ պետք է անի Հայաստանը, որպեսզի չդառնա օտար ալգորիթմական մանիպուլյացիաների պասիվ օբյեկտ։

Պարո՛ն Իշխանյան, այսօր արհեստական բանականությունը (ԱԲ) հաճախ ներկայացվում է որպես զարգացման գործիք, սակայն Ձեր աշխատանքներում Դուք այն անվանում եք «իշխանության նոր ձև»։ Ինչո՞ւ եք համարում անհրաժեշտ քանդել այս տեխնո-լավատեսական առասպելը։

Որովհետև ենթակառուցվածքը երբեք չեզոք չէ։ Երբ մենք խոսում ենք ԱԲ-ի մասին, պետք է հասկանանք՝ սա պարզապես «խելացի հաշվիչ» չէ, այլ ճարտարապետություն, որը կոդավորում է սոցիալական հարաբերությունները։ Իմ հետազոտություններում ես ցույց եմ տալիս, թե ինչպես թվային հարթակները՝ օրինակ՝ VR տարածություններում կամ սոցիալական ցանցերում, ստեղծում են պայմաններ, որտեղ իրականության ընկալումը կառուցվածքավորվում է կոդի միջոցով։

Եթե նախկինում իշխանությունը լեգիտիմացվում էր ինստիտուտների և հասարակական պայմանագրի միջոցով, ապա այսօր այն «ներկարվում» է ալգորիթմների մեջ։ Սա ճարտարապետության միջոցով կառավարում է. դուք կարող եք նույնիսկ չգիտակցել, որ ձեր ընտրությունը սահմանափակվել է, քանի որ համակարգը ձեզ «հուշել է» առավել հավանական տարբերակը։ Ethics and Information Technology-ում հրապարակված իմ աշխատանքներում ես սա հետազոտում եմ որպես «ճանաչողական գաղութացման» ձև։ Մենք օրենքների միջոցով կառավարումից անցնում ենք օպերացիոն արձանագրությունների միջոցով կառավարման, որոնք աշխատում են ավելի արագ, քան ժողովրդավարական ինստիտուտները հասցնում են արձագանքել։

Ստացվում է՝ խնդիրը ոչ միայն տեխնոլոգիաների մեջ է, այլև այն արագության, որով ալգորիթմները սկսում են ազդել քաղաքական և հասարակական գործընթացների վրա՞։

Իմ հետազոտություններում ես սա անվանում եմ «ժամանակային անհամապատասխանություն»։ Մեր քաղաքական ինստիտուտները սովոր են հասարակական քննարկումների և օրենսդրական գործընթացների չափավոր տեմպերին, մինչդեռ ալգորիթմական համակարգերը աշխատում են իրական ժամանակում։ Արդյունքում իշխանությունը ավելի ու ավելի հաճախ հայտնվում է այնտեղ, որտեղ տվյալներն ու հաշվողական հզորություններն են։

Բայց շատերը կասեն. «Ես պարզապես օգտվում եմ հարմարավետ ծառայություններից։ Որտե՞ղ է այստեղ իշխանությունը կամ մանիպուլյացիան»։

Մենք ամեն օր ենք բախվում դրան՝ հաճախ նույնիսկ չնկատելով դա։ TikTok-ը, YouTube-ը, Instagram-ը, նորությունների հարթակների առաջարկող ալգորիթմները՝ բոլորը ձևավորում են անհատական տեղեկատվական աշխարհներ, որոնց ներսում մարդը աստիճանաբար սկսում է գոյատևել։ Ալգորիթմները որոշում են, թե ո՞ր նորությունները կդառնան վիրուսային, ի՞նչ թեմաներ կգերիշխեն հասարակական քննարկումներում, ո՞ր էմոցիոնալ արձագանքները կլինեն առավել շահավետ հարթակի համար։ Խնդիրն այն է, որ այս համակարգերի տրամաբանությունը հիմնված է նախ և առաջ ուշադրությունը պահելու, այլ ոչ թե քննադատական մտածողության կամ հասարակական երկխոսության զարգացման վրա։ Արդյունքում առաջանում է մի միջավայր, որտեղ էմոցիոնալ արձագանքը ավելի ու ավելի հաճախ է սկսում գերակշռել ռեֆլեքսիային։

Դուք օգտագործում եք «թվային գաղութատիրություն» կոշտ տերմինը։ Ի՞նչ է սա նշանակում հենց Հայաստանի համար։

Սա մի գործընթաց է, որի ժամանակ տեղական տվյալները՝ մեր մշակութային կոդերը, լեզուն, առօրյա վարքագիծը, վերցվում են գլոբալ կորպորացիաների կողմից, վերածվում ալգորիթմական ինտելեկտի և վաճառվում մեզ՝ որպես «ծառայություններ»։ Արդյունքում մեր ազգային հարթակները, եթե ընդհանրապես գոյություն ունեն, ստիպված են մրցակցել գլոբալ հսկաների հետ իրենց իսկ դաշտում։ Հայոց լեզվի համար ԱԲ տեխնոլոգիաների էթիկայի վերաբերյալ իմ աշխատանքում ես բախվեցի հիմնարար խնդրի. եթե մենք չստեղծենք մեր սեփական, ինքնիշխան մոդելները, մենք թույլ կտանք արտաքին ալգորիթմներին որոշել, թե ինչպե՞ս է «հնչում» մեր լեզուն և ի՞նչ մշակութային իմաստներ է այն կրում։ Սա սպառնալիք է ինքնությանը։ Մեզ անհրաժեշտ է «տեխնո-ինքնիշխանություն»՝ կարողություն կառուցելու մեր սեփական քննադատական ենթակառուցվածքը, որը պաշտպանում է մեր արժեքները, այլ ոչ թե ենթարկվում կորպորատիվ տրամաբանությանը։

Բայց կարո՞ղ է արդյոք Հայաստանի նման փոքր երկիրը իրականում պահպանել թվային ինքնուրույնությունը գլոբալ տեխնոլոգիական հսկաների աշխարհում։

Մշտական աշխարհաքաղաքական անկայունության պայմաններում ապրող երկրի համար թվային կախվածության խնդիրը դառնում է առանձնապես զգայուն։ Մենք սովոր ենք ինքնիշխանությունը ընկալել նախ և առաջ տարածքի, բանակի կամ տնտեսության միջոցով։ Բայց XXI դարում կախվածությունը ավելի ու ավելի հաճախ ձևավորվում է ենթակառուցվածքների միջոցով։ Եթե պետությունը լիովին կախված է արտաքին թվային հարթակներից, ամպային համակարգերից, հաղորդակցման ծառայություններից և ալգորիթմներից, նրա քաղաքական սուբյեկտայնությունը աստիճանաբար սկսում է թուլանալ։ Հայաստանի համար տեխնոլոգիական ինքնուրույնության հարցը այլևս պարզապես նորարարության հարց չէ։ Սա ռազմավարական կայունության հարց է։ Այսօր աշխարհը մտնում է ԱՄՆ-ի, Չինաստանի և որոշակի չափով Եվրամիության միջև գլոբալ տեխնոլոգիական մրցակցության դարաշրջան։ Արհեստական բանականությունը դառնում է նոր աշխարհաքաղաքականության մաս։ Եվ այն պետությունները, որոնք չունեն սեփական տեխնոլոգիական հնարավորություններ, ռիսկի են դիմում դառնալու ոչ թե սուբյեկտներ, այլ այդ պայքարի օբյեկտներ։

Բայց ինչպե՞ս կարելի է պահպանել հասարակական վերահսկողություն այն համակարգերի նկատմամբ, որոնք դառնում են ավելի ու ավելի ինքնավար և անթափանց։

Թվային դարաշրջանում լեգիտիմությունը այլևս չի կարող «տրվել մեկընդմիշտ»։ Ալգորիթմական համակարգերը պետք է մշտապես հաստատեն իրենց թափանցիկությունն ու հաշվետվողականությունը հասարակության առջև։ Հենց այդ պատճառով ես խոսում եմ «ռեկուրսիվ լեգիտիմության» անհրաժեշտության մասին՝ մշտական ստուգման մեխանիզմի, որը պարզում է՝ արդյո՞ք ալգորիթմները չեն հակասում հասարակական շահերին։

Դուք առաջարկում եք «թվային ֆեդերալիզմի» հայեցակարգը։ Սա հնչում է որպես քաղաքական նախագիծ։ Ինչպե՞ս է սա կիրառելի տեխնոլոգիաների նկատմամբ։

Թվային ֆեդերալիզմը պատասխան է իշխանության կենտրոնացման խնդրին։ Մոդելը, որը ես զարգացնում եմ Discover Artificial Intelligence-ում, ենթադրում է ինքնիշխանության բաշխում։ Մենք չենք կարող ամբողջությամբ կախված լինել ոչ թափանցիկ կենտրոնացված համակարգերից։ Մեզ անհրաժեշտ են կառավարման բազմաշերտ շրջանակներ, որտեղ տեղական համայնքները, համալսարանները և պետությունը համատեղ են կառավարում տվյալները։ Սա մեկուսացում չէ, այլ հավասարների համագործակցություն։ Մենք Հայաստանին առաջարկում ենք ինտելեկտուալ հանգույցի դեր, որը ստեղծում է բարձրորակ, էթիկապես ստուգված տեխնոլոգիական խորշեր։

Այսօր արհեստական բանականությունը ավելի ակտիվ է օգտագործվում նաև ռազմական ոլորտում։ Որքանո՞վ է սա փոխում հակամարտությունների բնույթը։

Ա.Ի.՝ Մենք արդեն մտել ենք մի դարաշրջան, որտեղ պատերազմները ավելի ու ավելի հաճախ մղվում են ոչ միայն զենքով, այլև ալգորիթմներով։ Փաստացի մենք ականատես ենք լինում տարածքի դասական աշխարհաքաղաքականությունից դեպի ենթակառուցվածքների և տվյալների աշխարհաքաղաքականություն անցմանը։ Կիսահաղորդիչների, հաշվողական հզորությունների, արբանյակային համակարգերի և ԱԲ-ենթակառուցվածքների նկատմամբ վերահսկողությունը աստիճանաբար դառնում է ոչ պակաս կարևոր, քան նավթի կամ տրանսպորտային ուղիների նկատմամբ վերահսկողությունը XX դարում։

Այսինքն՝ ապագա պատերազմները այլ տեսք կունենա՞ն։

Դրանք արդեն այլ տեսք ունեն։ Այսօր պայքարը գնում է ոչ միայն տարածքի, այլև տեղեկատվական միջավայրի, թվային ենթակառուցվածքների և հավաքական ընկալման նկատմամբ վերահսկողության համար։ Ալգորիթմները սկսում են ազդել այն բանի վրա, թե ինչպե՞ս է հասարակությունը հասկանում հակամարտությունը, ու՞մ է վստահում և ինչպե՞ս է ձևավորում քաղաքական էմոցիաները։

Ձեր հետազոտությունները թվում են շատ տարբեր՝ Վալենտինա Տերեշկովայի առասպելներից մինչև երիտասարդության կրթության խնդիրներ։ Որտե՞ղ է կապը։

Կապը մարդու կառավարման մեխանիզմների մեջ է։ Տերեշկովայի մասին հոդվածում (Feminist Theory) մենք մտցրինք «գաղափարական կրիոգենիկա» հասկացությունը։ Այսօր մենք տեսնում ենք նմանատիպ գործընթաց կրթության մեջ (Frontiers in Sociology). ալգորիթմական վերահսկողությունը մի տեսակ «թվային կրիոգենիկա» է։ Ալգորիթմները փորձում են կանխատեսել անձի զարգացումը՝ նեղացնելով «հնարավորությունների միջանցքը»։ Իմ աշխատանքը փորձ է ցույց տալու, որ պայքարը ԱԲ-ի էթիկայի և երիտասարդության ազատ զարգացման համար նույն պայքարն է՝ մարդու՝ սուբյեկտ մնալու իրավունքի համար։

Ո՞րն է ելքը։ Կարո՞ղ է արդյոք քաղաքացին պաշտպանվել «ալգորիթմական կամայականությունից»։

Միայն քննադատական գիտելիքի և ինստիտուցիոնալ դիմադրության միջոցով։ Մեզ անհրաժեշտ է ալգորիթմների թափանցիկություն։ Եթե համակարգը ազդում է ձեր կյանքի վրա՝ վարկային վարկանիշից մինչև համալսարան ընդունվելը, դուք ունեք բացատրություն ստանալու իրավունք («մեկնաբանման իրավունք», որի մասին ես գրում եմ իմ աշխատանքներում)։

Այսինքն՝ մարդը պետք է իրավունք ունենա հասկանալու այն ալգորիթմի տրամաբանությունը, որը ազդում է իր ճակատագրի վրա՞։

Եթե ալգորիթմական համակարգը ազդում է մարդու ճակատագրի վրա, քաղաքացին պետք է օժտված լինի «մեկնաբանման իրավունքով»՝ հասկանալու, թե ինչու՞ է համակարգը կայացրել այս կամ այն որոշումը։ Մենք պետք է դադարենք տեխնոլոգիան ընկալել որպես անխախտ բան՝ որպես բնության օրենք։ Սա քաղաքական արտադրանք է։

Պարո՛ն Իշխանյան, ի՞նչ կմաղթեիք ընթերցողներին, որոնք կանգնած են այս «թվային փոխակերպման» առջև։

Մտավոր համարձակություն։ Մենք ապրում ենք մի դարաշրջանում, երբ իշխանության տրամաբանությունը հասկանալը ինքնավարությունը պահպանելու միակ միջոցն է։ Եղե՛ք ձեր տարածքի ճարտարապետները և ոչ թե պարզապես օգտատերերը։ Հայաստանն ունի բոլոր հնարավորությունները՝ դառնալու օրինակ, թե ինչպես փոքր երկիրը կարող է պահպանել իր թվային ինքնությունը, եթե խաղադրույք կատարի որակյալ գիտության, էթիկայի և մարդկային ինքնիշխանության վրա։

Իսկ ի՞նչ է, Ձեր կարծիքով, մարդկությունը վտանգում կորցնել առաջին հերթին տոտալ ալգորիթմացման դարաշրջանում։

Ներքին ազատ մնալու կարողությունը։ Ժամանակակից մարդը ավելի ու ավելի հազվադեպ է մնում սեփական մտքերի հետ մենակ։ Ալգորիթմները մշտապես առաջարկում են տեղեկատվություն, էմոցիաներ, խթաններ։ Ներքին լռության տարածությունը աստիճանաբար անհետանում է։ Բայց հենց այդ լռության մեջ են ծնվում քննադատական մտածողությունը, ստեղծագործությունը և ինքնուրույն ընտրության կարողությունը։ Եթե մարդը վերջնականապես կորցնի ալգորիթմական միջավայրից դուրս մտածելու կարողությունը, սա կլինի շատ ավելի լուրջ կորուստ, քան ցանկացած տեխնոլոգիական կախվածություն։ Որովհետև այդ դեպքում վտանգի տակ կհայտնվի բուն մարդկային սուբյեկտայնությունը։

Անահիտ Սարգսյան