Որքան շատ առօրյա առաջադրանքներ են մարդիկ վստահում ԱԲ գործակալներին, այնքան մեծ է այն հմտությունները կորցնելու վտանգը, որոնք այլևս չեն օգտագործվում։ Այս մասին նախազգուշացրել է Anthropic-ի ինժեներ Ադդի Օսմանին։ Նրա կարծիքով՝ աշխատանքի ավտոմատացումը չպետք է վերածվի ինքնուրույն մտածելուց հրաժարման. նույնիսկ եթե ԱԲ-ն կարող է առաջադրանքները կատարել մարդուց ավելի լավ, արդյունքի պատասխանատվությունը միևնույն է մնում է մարդկանց վրա։

Օսմանին չի կոչ անում հրաժարվել ԱԲ գործիքներից, այդ թվում՝ ծրագրային ապահովման մշակման ընթացքում։ Նա կարծում է, որ խնդիրն առաջանում է այն ժամանակ, երբ մարդը դադարում է ստուգել ալգորիթմների աշխատանքի արդյունքները, հասկանալ դրանց որոշումները և ինքնուրույն գաղափարներ ձևակերպել, հաղորդում է TechRadar-ը։

Ինչպես է առաջանում «ճանաչողական պարտքը»

Օսմանին խոստովանում է, որ իր ամենօրյա աշխատանքում զգալիորեն նվազել են քննադատական մտածողություն պահանջող իրավիճակները. բազմաթիվ գործընթացներ այժմ իրականացվում են ԱԲ գործակալների միջոցով։ Նրա խոսքով՝ այն հմտությունները, որոնցից մարդը դադարում է օգտվել, աստիճանաբար վերանում են, ընդ որում՝ գուցե ավելի արագ, քան կարելի է ակնկալել։

Ինժեներն այս գործընթացը նկարագրում է որպես «ճանաչողական պարտքի» աստիճանական կուտակում։ Սկզբում մարդն ուշադիր կարդում է ԱԲ-ի պատասխանը և ստուգում այն։ Այնուհետև, քանի որ նախորդ արդյունքը լավն էր, հաջորդ առաջարկն արդեն ավելի քիչ մանրակրկիտ է ուսումնասիրում։ Ժամանակի ընթացքում բավական է դառնում պարզապես աչքի անցկացնել պատասխանի ընդհանուր կառուցվածքը՝ առանց մանրամասների մեջ խորանալու։

Արդյունքում օգտատերը կարող է հայտնվել մի իրավիճակում, երբ չի կարողանում բացատրել կոդի առանձին տողը կամ ընդունված տեխնիկական որոշումը, նույնիսկ այն նույն ԱԲ գործակալի օգնությամբ, որը պատրաստել է արդյունքը։

Վտանգը ոչ թե ալգորիթմի մեկ առանձին սխալի, այլ մարդու սովորությունների աստիճանական փոփոխության մեջ է։ Որքան շատ որոշումներ են ընդունվում ավտոմատ կերպով, այնքան քիչ հնարավորություններ են մնում ինքնուրույն գործնական աշխատանքի համար։

Ինչու չի կարելի պատասխանատվությունն ամբողջությամբ փոխանցել ԱԲ-ին

Համատարած ավտոմատացման կողմնակիցների փաստարկներից մեկն այն է, որ իմաստ չունի պահպանել այն հմտությունները, որոնցով կատարվող աշխատանքն ապագայում ԱԲ-ն կկարողանա կատարել մարդուց ավելի լավ։ Օսմանին համաձայն չէ նման մոտեցման հետ։

Նույնիսկ եթե աշխատանքի զգալի մասը կատարել է արհեստական բանականությունը, միևնույն է մարդը պետք է պատասխան տա արդյունքի համար։ Սա հատկապես կարևոր է ծրագրավորման և այլ ոլորտներում, որտեղ սխալները կարող են ազդել օգտատերերի, ենթակառուցվածքների կամ բիզնես գործընթացների վրա։

Ուստի, ինժեների կարծիքով, անհրաժեշտ է պահպանել մարդու մասնակցությունը որոշումների ընդունմանը։ Առանձին գործողություններ ԱԲ-ին փոխանցելը միանգամայն ընդունելի է, սակայն մարդը պետք է հասկանա, թե կոնկրետ ինչ է անում համակարգը, ինչու է ընտրել այս կամ այն տարբերակը և որքանով է հիմնավորված դրա արդյունքը։

Այլ կերպ ասած՝ ավտոմատացումը չպետք է վերածվի ալգորիթմի նկատմամբ կույր վստահության։

Ինչպես պահպանել հմտությունները ԱԲ գործակալների դարաշրջանում

Օսմանին առաջարկում է մի քանի միջոց՝ խուսափելու այն բանից, ինչն ինքն անվանում է «մտավոր կապիտուլյացիա».

· Պարբերաբար կիրառել հիմնական հմտությունները։ Եթե ԱԲ-ն մարդու փոխարեն կոդ է գրում, տեղեկություններ է վերլուծում կամ խնդիրներ է լուծում, կարևոր է ժամանակ առ ժամանակ այդպիսի աշխատանքն ինքնուրույն կատարել։

· Սկզբում ձևակերպել սեփական գաղափարները։ Նախքան ԱԲ-ին դիմելը օգտակար է ինքնուրույն սահմանել խնդիրը, մտածել հնարավոր լուծման մասին և միայն դրանից հետո այն համեմատել մոդելի առաջարկի հետ։

· Ուշադիր ուսումնասիրել արդյունքները։ Չսահմանափակվել վերջնական պատասխանը դիտելով, այլ խորանալ դրա բովանդակության, կառուցվածքի և մանրամասների մեջ։

· Հասկանալ ԱԲ-ի որոշումները։ Եթե գործակալն ընտրել է որոշակի մոտեցում, օգտատերը պետք է կարողանա բացատրել, թե ինչու է կիրառվել այդ տարբերակը և ինչ սահմանափակումներ ունի այն։

Օսմանին ընդգծում է, որ տեխնոլոգիաների զարգացմանը զուգընթաց որոշ հմտություններ իսկապես կարող են աստիճանաբար վերանալ։ Հարցն այն է, թե դրանցից որոնք է մարդը պատրաստ գիտակցաբար փոխանցել մեքենաներին, իսկ որոնք է անհրաժեշտ համարում իր համար։

Ինժեների հիմնական միտքն այն չէ, թե ԱԲ-ն ինքնին մարդկանց պակաս խելացի է դարձնում։ Վտանգն առաջանում է այն ժամանակ, երբ ավտոմատացման հարմարավետությունը դուրս է մղում ինքնուրույն մտածելու գործելակերպը։ Եվ որքան շատ որոշումներ է մարդը վստահում գործակալներին, այնքան կարևոր է չկորցնել նրանց աշխատանքը գնահատելու և հետևանքների համար պատասխանատվություն կրելու կարողությունը։