Արհեստական բանականությունն արդեն ի վիճակի է անընդհատ մոնիթորինգ իրականացնել ենթակառուցվածքների նկատմամբ, հայտնաբերել անոմալիաներ և կանխատեսել շեղումներ։ Սակայն որքան ավելի շատ որոշումներ են փոխանցվում նման համակարգերին, այնքան ավելի կարևոր է դառնում մեկ այլ հարց՝ ինչ անել, եթե մոդելը վստահ է իր կանխատեսման մեջ, բայց սխալվում է։ Հենց ԱԲ-ի նկատմամբ վստահության խնդիրը Կալաբրիայի համալսարանի պրոֆեսոր Ֆրանչեսկո Լամոնյան անվանել է կրիտիկական ենթակառուցվածքների մոնիթորինգի համակարգերի հիմնական մարտահրավերներից մեկը։ 

Երևանում կայացած համաժողովում ելույթ ունենալով՝ նա նշել է, որ արհեստական բանականության վրա հիմնված ժամանակակից մոնիթորինգի համակարգերի գլխավոր խնդիրը այլևս այն չէ, թե արդյոք դրանք ունակ են հայտնաբերել անոմալիա։ Շատ ավելի կարևոր է հասկանալ, թե որքանով կարելի է վստահել դրանց եզրակացություններին, երբ դրանցից կախված է իրական որոշումը։

Միայն մեկ թիվը բավարար չէ

Նրա խոսքով՝ վերջին շրջանում տեղի է ունեցել երեք կարևոր փոփոխություն։ Նախ՝ մոնիթորինգը աստիճանաբար անցնում է առանձին օբյեկտների պարբերական դիտարկումից դեպի տվյալների անընդհատ հավաքագրում՝ բաշխված սենսորային ցանցերի միջոցով։ Երկրորդ՝ թվային համակարգերն այժմ պահպանում են վիճակի պատմությունը և նախորդ միջամտությունները, այլ ոչ թե պարզապես ֆիքսում են ժամանակի առանձին պահ։ Սա թույլ է տալիս օգտագործել կուտակված տվյալները շեղումների կանխատեսման համար։

Արդյունքում համակարգերը կարողանում են բացահայտել անսովոր վարքագիծը դեռևս մինչև պարզ դառնա, թե կոնկրետ ինչ է տեղի ունեցել։ Սակայն հենց այստեղ, Լամոնյայի կարծիքով, առաջանում է նոր խնդիր։ 

«Սահմանափակումն այլևս այն չէ, թե ինչ կարող ենք չափել։ Սահմանափակումը դառնում է այն, ինչին կարող ենք բավարար չափով վստահել, որպեսզի դրա հիման վրա գործենք», — նշել է պրոֆեսորը։

Լամոնյան ուշադրություն է հրավիրել մի սկզբունքային հանգամանքի վրա. կրիտիկական ենթակառուցվածքների կառավարման համակարգերում օպերատորը էկրանին տեսնում է բազմաթիվ ցուցանիշներ, սակայն թիվն ինքնին դեռևս լիարժեք չափում չէ։ Նրա խոսքով՝ յուրաքանչյուր ցուցանիշի հետ միասին պետք է ներկայացվի տեղեկություն դրա անորոշության մասին, այն է՝ որքանով կարող է փոփոխվել ստացված արժեքը և որքանով է արդյունքը հուսալի։

Սա հատկապես կարևոր է այն իրավիճակներում, երբ ավտոմատացված համակարգը տագնապի ազդանշան է տալիս, և օպերատորի որոշումը կախված է այդ ազդանշանից։ 

«Որպեսզի սա համարվի չափում, թիվը պետք է ուղեկցվի անորոշությամբ՝ մեկ այլ թվով, որը ցույց է տալիս, թե որքանով կարող է այդ արժեքը փոփոխվել», — պարզաբանել է նա։

Լամոնյայի կարծիքով՝ եթե համակարգը ցուցադրում է տպավորիչ արդյունքներ, բայց օպերատորը չի հասկանում դրանց հուսալիության սահմանները, ապա տեխնոլոգիան ինքնին օգուտ չի բերում նրանց, ովքեր պետք է որոշումներ ընդունեն իրական աշխարհում։

ԱԲ-ն կարող է վստահորեն սխալվել

Մեկ այլ խնդիր կապված է կանխատեսող մոդելների հետ։ Պատմական տվյալների վրա ուսուցանված համակարգը կարող է բավականին վստահ գնահատել այնպիսի իրավիճակ, որը նման է իրեն արդեն հայտնի դեպքերին։ Բայց եթե այն բախվում է մի իրավիճակի, որը նախկինում չի տեսել, մոդելն ինքը կարող է չհասկանալ սեփական փորձի սահմանները։ Հենց այդ պատճառով, պրոֆեսորի կարծիքով, չի կարելի ավտոմատ կերպով մոդելի վստահությունը հավասարեցնել դրա հուսալիությանը։

Լամոնյան ընդգծել է, որ  վստահորեն սխալվող արհեստական բանականությունը լուրջ խնդիր է համակարգի նկատմամբ վստահության համար։ Միևնույն ժամանակ նա հավելել է, որ այս ամենը տեխնոլոգիաների օգտագործման դեմ փաստարկ չէ։ Ընդհակառակը, համակարգերը պետք է նախագծվեն՝ հաշվի առնելով անորոշությունն ու մարդկային գործոնը։

Լամոնյայի խոսքով՝ կրիտիկական ենթակառուցվածքների կայունությունը կախված է ոչ միայն սենսորների, մոդելների և ավտոմատ ծանուցման համակարգերի հնարավորություններից։ Վերջիվերջո որոշումը կայացնում է մարդը, և նա պետք է հասկանա, թե կոնկրետ ինչ է նշանակում ստացված ազդանշանը։

«Մեզ վստահություն է պետք մինչև, ոչ թե հետո», — ընդգծել է պրոֆեսորը։

Նրա խոսքով՝ մոդելի հուսալիությունը պետք է լինի հենց մեթոդաբանության մի մասը, այլ ոչ թե արդեն ստեղծված համակարգին ավելացված վարչական լրացում։ Օպերատորը պետք է հնարավորություն ունենա համադրել տվյալները, իսկ դրա համար դրանց անորոշության մասին տեղեկությունը պետք է տրամադրվի հենց տվյալների հետ միասին։

Այսպիսով, այն հարցը, որը պետք է տրվի կրիտիկական ենթակառուցվածքների համար ԱԲ համակարգեր մշակելիս, պարզապես «ի՞նչ կարող է հայտնաբերել համակարգը» չէ։ Շատ ավելի կարևոր է հասկանալ՝ կոնկրետ ինչ պետք է այն տրամադրի օպերատորին նախքան նա կհամարձակվի գործել դրա ազդանշանի հիման վրա։ Հենց նման համակարգերի նկատմամբ վստահության խնդիրը, Լամոնյայի կարծիքով, դառնում է կրիտիկական ենթակառուցվածքներում ԱԲ-ի զարգացման հաջորդ փուլի առանցքային հարցերից մեկը։