Ի՞նչ ռիսկեր է պարունակում ԱԲ-ն. Կիբերփորձագետի և հոգեբանի կարծիքը

Արհեստական բանականությունը (ԱԲ) արագորեն փոխում է աշխարհը՝ ներթափանցելով առօրյա կյանք, արդյունաբերություն և նույնիսկ ռազմական ոլորտ: Սակայն նրա հեռանկարների հետևում թաքնված են լուրջ սպառնալիքներ, ներառյալ թվային ինքնիշխանության կորուստը և անձնական գաղտնիության ռիսկերը: Այս մասին Tsargrad.tv-ին տված հարցազրույցում խոսել է կիբերփորձագետ Կիրիլ Մալոֆեևը: Հոգեբան Եկատերինա Օրլովան նույնպես զգուշացրել է ԱԲ-չաթբոթերի օգտագործման խնդիրների մասին՝ անձնական խնդիրները քննարկելու համար: Պատմում ենք, թե ինչ վտանգներ է կրում ԱԲ-ն և ինչպես կարելի է նվազեցնել դրանք:

Թվային ինքնիշխանության կորուստ

Ըստ Մալոֆեևի՝ ԱԲ-ի գլխավոր սպառնալիքը տեղեկատվության նկատմամբ վերահսկողության կորուստն է, ինչը հանգեցնում է թվային ինքնիշխանության կորստի՝

Օտար նեյրոնային ցանցեր՝ Եթե պետությունը չի կարգավորում ԱԲ-ն, այն ղեկավարվում է օտարերկրյա կորպորացիաների կամ մշակողների կողմից, որոնք տվյալները ձևավորում են իրենց շահերին համապատասխան: Օրինակ՝ ալգորիթմները կարող են խթանել որոշակի տեսակետներ կամ գրաքննել բովանդակություն, ինչպես տեղի է ունենում որոշ արևմտյան հարթակներում: Գիտակցության մանիպուլյացիա՝ Տեղեկատվություն ընտրող ԱԲ-ն (օրինակ՝ որոնողական համակարգերում կամ սոցցանցերում) կարող է ազդել հանրային կարծիքի վրա՝ ձևավորելով օրակարգ, որը ձեռնտու է նրա ստեղծողներին: Չեզոքության միֆ՝ «Չեզոք» նեյրոնային ցանց, որը ծառայում է ամբողջ մարդկությանը, գոյություն չունի: Ցանկացած մոդել արտացոլում է իր մշակողների նպատակներն ու կանխակալ կարծիքները:

Մեջբերում Մալոֆեևից՝ «Եթե պետությունը չի վերահսկում, թե ինչ է գրված ԱԲ-ում, դա վերահսկում է մեկ ուրիշը: Չեզոք նեյրոնային ցանցի միֆ գոյություն չունի»:

Օրինակ՝ 2023 թվականին ChatGPT մոդելը քննադատության ենթարկվեց որոշ թեմաների գրաքննության համար, որը հիմնված էր OpenAI-ի քաղաքականության վրա, ինչը վեճեր առաջացրեց խոսքի ազատության շուրջ:

Լուծում՝ Մալոֆեևը ընդգծում է, որ երկրները գիտակցում են սեփական ԱԲ-համակարգեր, սոցցանցեր, մեսենջերներ և վիդեոհոսթինգներ ստեղծելու անհրաժեշտությունը: Օրինակ՝ Հայաստանը կարող է մշակել սեփական ԱԲ-մոդելներ կամ աջակցել տեղական հարթակներին՝ նվազեցնելու կախվածությունը արևմտյան տեխնոլոգիաներից:

Գաղտնիության և հոգեբանության ռիսկեր

Հոգեբան Եկատերինա Օրլովան, Պիրոգովի համալսարանի կլինիկական հոգեբանության ինստիտուտի փոխտնօրենը, զգուշացրել է ԱԲ-չաթբոթերի օգտագործման վտանգների մասին՝ անձնական խնդիրները քննարկելու համար՝

Տվյալների արտահոսք՝ Չաթբոթերին վստահված անձնական մտքերը, վախերն ու վնասվածքները կարող են հայտնվել չարագործների կամ կորպորացիաների ձեռքում: Օրինակ՝ 2024 թվականին xAI-ի Grok չաթբոթից տվյալների արտահոսքը սկանդալ առաջացրեց, երբ օգտատերերի անձնական նամակագրությունները հայտնվեցին բաց մատչելիության մեջ: Կարեկցանքի բացակայություն՝ ԱԲ-ն անընդունակ է վերլուծել ոչ խոսքային ազդանշանները (դիմախաղ, ինտոնացիա), ինչը նրան անպիտան է դարձնում հոգեբանական օգնության համար: Ալգորիթմներն առաջարկում են կաղապարային պատասխաններ, որոնք կարող են վատթարացնել մարդու վիճակը: Կախվածություն՝ Չաթբոթերի հետ մշտական շփումը նվազեցնում է իրական միջանձնային հմտությունները և մարդկանց դարձնում կախյալ ԱԲ-ից:

Մեջբերում Օրլովայից՝ «ԱԲ-ին վստահելով Ձեր վնասվածքները, Դուք ռիսկի եք դիմում դրանց արտահոսքով: Ալգորիթմը չի կարող փոխարինել հոգեբանին, նա չի տեսնում Ձեր հոգին»:

Օրինակ՝ 2025 թվականին Replika չաթբոթը քննադատության ենթարկվեց օգտատերերի հոգեկան վիճակի մասին տվյալներ հավաքելու համար, որոնք հետագայում օգտագործվել են նպատակային գովազդի համար:

ԱԲ-ի այլ ռիսկեր

Բացի ինքնիշխանության և գաղտնիության կորստից, ԱԲ-ն կրում է լրացուցիչ սպառնալիքներ՝

Մտավոր դեգրադացիա՝ Ըստ Մալոֆեևի՝ ԱԲ-ից կախվածությունը նվազեցնում է մարդկանց՝ տեղեկատվություն վերլուծելու և որոշումներ կայացնելու կարողությունը: MIT-ի (2024) հետազոտությունը ցույց է տվել, որ ուսանողների 60%-ը նախընտրում է ԱԲ-ով խնդիրներ լուծել՝ քննադատական մտածողության փոխարեն: Կիբերհարձակումներ՝ ԱԲ-ն կարող է օգտագործվել դիպֆեյքեր, ֆիշինգ կամ համակարգերի կոտրում ստեղծելու համար: 2025 թվականին հաքերները ԱԲ-ի միջոցով հարձակվել են բանկերի վրա՝ ընդօրինակելով տնօրենների ձայները: Ռազմական ռիսկեր՝ Ռազմական ոլորտում ԱԲ-ն (անօդաչու սարքեր, նշանառության համակարգեր) մեծացնում է ինքնավար սխալների հավանականությունը, ինչպես ԱՄՆ ռազմածովային ուժերի Aegis համակարգի խափանման դեպքում (2023), երբ քաղաքացիական ինքնաթիռը սխալմամբ ճանաչվեց որպես սպառնալիք: Տնտեսական սպառնալիքներ՝ ԱԲ-ով ավտոմատացումը կարող է հանգեցնել աշխատատեղերի 30% կրճատման մինչև 2030 թվականը (McKinsey-ի կանխատեսում), հատկապես ծառայությունների և արտադրության ոլորտներում: Ինչպե՞ս նվազեցնել ռիսկերը

Փորձագետներն առաջարկում են հետևյալ միջոցները՝

Պետական վերահսկողություն: Ազգային ԱԲ-համակարգերի մշակում (օրինակ՝ Հայաստանում սեփական մոդելների ստեղծում): ԱԲ-ի մասին օրենսդրություն, ներառյալ տվյալների պաշտպանություն և ալգորիթմների թափանցիկություն (EU AI Act-ի նման): Թվային անկախություն: Տեղական հարթակների ստեղծում (սոցցանցեր, մեսենջերներ, ամպային ծառայություններ): Տեղական մշակողների աջակցություն, օրինակ՝ հայկական ՏՏ ընկերություններին: Կրթություն: Քննադատական մտածողության և կիբերանվտանգության ուսուցում դպրոցներում: ԱԲ-ի հետ կապված մասնագիտությունների խթանում՝ ԱՄՆ-ից և Չինաստանից հետ մնալու կրճատման համար: Գաղտնիություն: Բաց կոդով կամ տեղական ԱԲ-մոդելների օգտագործում՝ ամպային արտահոսքերը նվազեցնելու համար: Զգայուն տվյալների փոխանցման սահմանափակում չաթբոթերին:

Օրինակ՝ 2025 թվականին Ֆինլանդիան ներդրել է ԱԲ-համակարգերի պարտադիր սերտիֆիկացում՝ ստուգելով դրանց կանխակալությունն ու տվյալների արտահոսքի ռիսկերը:

Հեռանկարներ 2025–2027՝ Հայաստանը կարող է ներդրումներ կատարել ԱԲ-ի մշակման մեջ՝ սեփական մոդելներ ստեղծելու համար, օգտագործելով տեղական ՏՏ ներուժը: 2030՝ Ըստ Gartner-ի կանխատեսման, երկրների 80%-ը կստեղծի սեփական ԱԲ-հարթակներ՝ ինքնիշխանությունը պաշտպանելու համար: Ռիսկեր՝ Առանց գլոբալ կարգավորման ԱԲ-ն կարող է սրել աշխարհաքաղաքական հակամարտությունները, ինչպես 2024 թվականին դիպֆեյքերով կիբերհարձակումների դեպքում: Եզրակացություն

ԱԲ-ն հզոր գործիք է, սակայն նրա ռիսկերը՝ թվային ինքնիշխանության կորստից մինչև անձնական տվյալների արտահոսք, պահանջում են անհապաղ ուշադրություն: Ինչպես նշել է Կիրիլ Մալոֆեևը, առանց վերահսկողության ԱԲ-ն կծառայի իր ստեղծողների շահերին, այլ ոչ թե հասարակությանը: Եկատերինա Օրլովան ավելացնում է, որ չաթբոթերը չեն կարող փոխարինել մարդկային շփմանը, և դրանց օգտագործումը սպառնում է գաղտնիությանը: Երկրները պետք է մշակեն սեփական ԱԲ-համակարգեր, խստացնեն օրենսդրությունը և կրթեն քաղաքացիներին կիբերանվտանգության մասին: Միայն այդպես ԱԲ-ն կդառնա դաշնակից, այլ ոչ թե սպառնալիք մարդկության համար:

Հետևեք NEWS.am Tech-ին Facebook-ում և Twitter-ում