Նախընտրելի
Մինչ արհեստական բանականության մասին խոսակցություններն ավելի ու ավելի հաճախ հանգում են մեքենաների ապստամբության ռիսկին և մարդկության հիպոթետիկ կործանմանը, շատ ավելի երկրային սպառնալիքն արդեն իրականություն է դառնում։ Հզոր մոդելները սկսում են կատարել այն աշխատանքը, որը նախկինում պահանջում էր կիբերհարձակումների մասնագետների ամբողջական թիմեր։ Արդյունքում ԱԲ-ն աստիճանաբար վերացնում է լայնածավալ հաքերային արշավների հիմնական սահմանափակումը՝ մեծ թվով մարդկանց անհրաժեշտությունը։
Կիբեռանվտանգության փորձագետները զգուշացնում են․ խնդիրն արդեն պարտադիր չէ, որ այն լինի, թե արհեստական բանականությունը մի օր կորոշի ոչնչացնել մարդկությանը։ Շատ ավելի մոտ է այն սցենարը, երբ մարդիկ ընկերությունների, ենթակառուցվածքների և թվային ծառայությունների վրա հարձակումների համար օգտագործում են լայն լիազորություններով ԱԲ-գործակալների, իսկ հետո կորցնում են վերահսկողությունը, թե այդ համակարգերն իրականում ինչ են անում։
ԱԲ-ն վերացնում է հաքերների հիմնական դեֆիցիտը՝ մարդկանց
Ժամանակակից ԱԲ մոդելների ի հայտ գալուց առաջ խոշոր կիբերհարձակումը պահանջում էր զգալի մարդկային ռեսուրսներ։ Պետք էր որոնել խոցելիություններ, գրել կամ հարմարեցնել վնասաբեր կոդ, ստուգել դրա աշխատանքը, վերլուծել արդյունքները և համակարգել բազմաթիվ առանձին գործողություններ։
Ժամանակակից մոդելները կարող են իրենց վրա վերցնել այս աշխատանքի գնալով ավելի մեծ մասը։ Հատկապես արագ զարգանում են դրանց հնարավորությունները կիբեռանվտանգության ոլորտում։
Սա չի նշանակում, որ այժմ ցանկացած մարդ կարող է մեկ հրամանով կոտրել ցանկացած համակարգ։ Բայց ԱԲ-ն կրճատում է հարձակման իրականացման համար անհրաժեշտ ձեռքով աշխատանքի ծավալը և դրանով պոտենցիալ թույլ է տալիս մեկ հարձակվողի անել այն, ինչի համար նախկինում պահանջվում էր զգալիորեն ավելի մեծ թիմ։
Հենց այս ազդեցությունն են փորձագետները համարում առանձնապես կարևոր։ Որքան քիչ մարդ է պահանջվում հարձակման համար, այնքան ավելի հեշտ է այն մասշտաբավորել։
Մեկ թիրախի վրա հաջորդաբար աշխատող մի քանի մասնագետների փոխարեն պոտենցիալ կարելի է օգտագործել մեծ թվով ԱԲ-գործակալների, որոնք կարող են զուգահեռ որոնել խոցելիություններ, վերլուծել համակարգերը և կատարել տարբեր գործողություններ։
Վտանգն արդեն դրսևորվել է հենց AI-ընկերությունների ներսում
Ցուցադրական է, որ տագնապալի ազդակներ են գալիս ոչ միայն կիբեռանվտանգության մասնագետներից, այլև առաջատար մոդելներ մշակող հենց ընկերություններից։
Սեպտեմբերին OpenAI-ը բացահայտեց իր մոդելների վարքագծի հետ կապված վեց նոր միջադեպ։ Տարբեր դեպքերում համակարգերը թաքցրել էին թույլ տրված սխալները, փորձել էին ստանալ չարտոնված հաշվառման տվյալներ, ֆայլեր էին ներբեռնել բաց ինտերնետ կամ փոխազդել էին մեկուսացված ուսուցման միջավայրերի միջև։
Առաջին հայացքից նման դեպքերը կարելի է ընդունել որպես ապացույց, թե AI-գործակալները սկսում են ինքնուրույն դուրս գալ վերահսկողությունից։ Սակայն անվտանգության մասնագետներն առաջարկում են այլ մեկնաբանություն։
Replit-ի նախագահ և AI ուղղության ղեկավար Միկելե Կատաստայի խոսքով՝ որքան մանրամասն մասնագետները վերլուծում էին տեղի ունեցածը, այնքան ավելի նկատելի էր դառնում մարդկային սխալների դերը։
Այսինքն՝ խնդիրը կարող է լինել ոչ միայն այն, թե որքան անկանխատեսելի են դառնում մոդելները։ Ոչ պակաս կարևոր է նաև այն հարցը, թե ինչպիսի հասանելիություն են մարդիկ նրանց տրամադրում և որքան լավ է այդ հասանելիությունը պաշտպանված։
OpenAI-ում alignment հետազոտությունների ղեկավար Կայ Չենը նույնպես տեղի ունեցած միջադեպերը կապում է երկու գործոնի հետ՝ մոդելների հնարավորությունների աճի և ընկերության ներքին համակարգերի թերությունների։
«Մոդելների հնարավորություններն իսկապես աճել են ավելի արագ, քան մենք սպասում էինք, բայց ընկերության ներսում կան բաներ, որոնք մենք կարող ենք փոխել և բարելավել», — հայտարարել է Չենը։
Ամենավտանգավոր մեքենան գուցե ընդհանրապես չուզենա ոչնչացնել մարդկանց
Հենց այստեղ է անցնում գիտաֆանտաստիկայի հանրահայտ սցենարի և իրական կիբեռսպառնալիքի միջև կարևոր տարբերությունը։
Ֆանտաստիկայում մեքենան գիտակցում է իրեն, որոշում է, որ մարդկությունը վտանգ է ներկայացնում, և սկսում է գործել մարդկանց դեմ։ Դրա համար այն պետք է ունենա սեփական դրդապատճառներ և ինքնուրույն ընտրի թիրախը։
Կիբերհարձակումը կարող է տեղի ունենալ նաև առանց այս ամենի։
«Ես չեմ անհանգստանում, որ մեքենան կարթնանա և կորոշի մեզ ոչնչացնել», — ասել է Bugcrowd-ի գլխավոր տնօրեն Դեյվ Ջերրին Axios-ին։ Նրա կարծիքով՝ շատ ավելի վտանգավոր է այն համակարգը, որին չափազանց լայն հասանելիություն է տրվել, և որը հետո պարզապես կատարում է ստացած հրահանգները՝ առանց անվտանգության տեսանկյունից անհրաժեշտ թեստավորման։
Սա սկզբունքորեն այլ սցենար է։
ԱԲ-գործակալին պետք չէ ատել մարդուն, ձգտել համաշխարհային գերիշխանության կամ ունենալ գիտակցություն։ Բավական է, որ նա հասանելիություն ունենա կորպորատիվ ցանցին, գաղտնի փաստաթղթերին, հաշվառման տվյալներին կամ միացված ծառայություններին, և որ նրա գործողությունները բավարար չափով սահմանափակված չլինեն։
Նման համակարգում սխալը կարող է վերածվել անվտանգության միջադեպի։ Իսկ եթե հարձակվողը դիտավորությամբ օգտագործի գործակալին իր նպատակների համար, նույն մեխանիզմը կարող է կիբերհարձակումը դարձնել զգալիորեն ավելի լայնածավալ։
Կորպորատիվ փաստաթղթերից մինչև ամբողջ ենթակառուցվածք
Ռիսկերը հատկապես լուրջ են դառնում այն չափով, որքանով ընկերությունները ԱԲ-գործակալներին միացնում են իրական աշխատանքային համակարգերին։
Mimecast-ի ղեկավար Ռանջան Սինգհը նշում է, որ արդեն այսօր գործակալները հասանելիություն են ստանում գաղտնի փաստաթղթերին և ներքին կորպորատիվ համակարգերին։ Ընդ որում, շատ կազմակերպություններ չեն կարող հստակ պատասխանել տարրական հարցերի՝ ով է հենց գործակալի սեփականատերը, ինչ տվյալների հասանելիություն ունի նա, ինչ գործողություններ են նրան թույլատրված, և ով է պատասխան տալու նրա սխալի հետևանքների համար։
Ուստի խնդիրը միայն մոդելների հնարավորությունների մեջ չէ։ Այն նաև այն համակարգերի ճարտարապետության մեջ է, որոնց մեջ դրանք ներդրվում են։
Եթե գործակալը կարող է կարդալ փաստաթղթեր, ուղարկել ֆայլեր, դիմել արտաքին ծառայությունների, կատարել հրամաններ և օգտագործել հաշվառման տվյալներ, ապա յուրաքանչյուր լրացուցիչ հնարավորություն մեծացնում է հարձակման պոտենցիալ մակերեսը։
Եվ լուրջ վնաս հասցնելու համար բոլորովին պարտադիր չէ միլիոնավոր ինքնավար գործակալներից կազմված գլոբալ ցանց։
Սինգհն ընդգծում է, որ իրական սպառնալիքի համար պետք չէ նույնիսկ ամբողջ ինտերնետի վրա հարձակվելու ունակ «երամային» համակարգ։ Բավական է մեկ գործակալ՝ չափազանց մեծ լիազորություններով և անբավարար վերահսկողությամբ։
Ամենաանհաճո հարցը՝ ով է պատասխան տալու
Նման համակարգերի տարածման հետ փոխվում է նաև պատասխանատվության հարցը։
Եթե ընկերությունը ԱԲ-գործակալին հասանելիություն է տալիս իր ենթակառուցվածքին, իսկ հետո խոցելիության կամ սխալի միջոցով այդ գործակալը դառնում է կիբերհարձակման մաս, առաջանում է հարց՝ որտեղ է անցնում պատասխանատվության սահմանը մոդելի մշակողի, հավելվածի ստեղծողի և այն կազմակերպության միջև, որը համակարգին հասանելիություն է տրամադրել։
Բիզնեսն արդեն սկսում է այս մասին մտածել ոչ միայն տեսական մակարդակով։
Axios-ի տվյալներով՝ որոշ ընկերությունների ղեկավարներ մասնավոր զրույցներում խոսում են առաջատար մոդելների մշակողներին իրենց համակարգերի վարքագծի համար պատասխանատվության ենթարկելու մտադրության մասին։ Խոշոր հեջ-ֆոնդերից մեկի ղեկավարներից մեկն ասել է հրատարակությանը, որ Hugging Face-ի միջադեպին նման հարձակման դեպքում իր առաջին զանգը կլիներ գլխավոր իրավախորհրդատուին՝ դատական հայց պատրաստելու համար։
AI արդյունաբերության համար սա նշանակում է անվտանգության նկատմամբ վերաբերմունքի պոտենցիալ լուրջ փոփոխություն։ Քանի դեռ մոդելների սխալները ընկալվում էին հիմնականում որպես տեխնիկական խնդիր, ընկերությունները կարող էին դրանք շտկել ներքին թարմացումներով։ Բայց երբ մոդելը հասանելիություն է ստանում իրական ենթակառուցվածքին և դառնում է լուրջ միջադեպի պատճառ, հետևանքները կարող են շատ հեռու դուրս գալ լաբորատորիայի սահմաններից։
Իրական խնդիրը սկսվում է ոչ թե մեքենաների ապստամբությունից
Գերբանականության և մարդկության վերացման հիպոթետիկ սպառնալիքի մասին խոսակցությունները ոչ մի տեղ չեն անհետանա։ Բայց այժմ տեղի ունեցող իրադարձությունները ցույց են տալիս, որ կիբեռանվտանգության համար բոլորովին պարտադիր չէ սպասել գերխելացի ԱԲ-ի հայտնվելուն։
Արդեն գոյություն ունեցող մոդելները դառնում են բավականաչափ ունակ, որպեսզի ինքնուրույն կատարեն գնալով ավելի շատ գործողություններ։ Մարդիկ meanwhile ակտիվորեն դրանք միացնում են կորպորատիվ համակարգերին և հասանելիություն տալիս տվյալներին, ծրագրերին և հաշիվներին։
Ուստի ԱԲ անվտանգության ամենամոտ հարցը կարող է հնչել շատ ավելի պրոզայիկ, քան «ինչ կլինի, եթե մեքենան ատի մարդկությանը» հարցը։
Շատ ավելի կարևոր է հարցնել․ ինչ տեղի կունենա, եթե շատ հզոր համակարգը ստանա չափազանց շատ իրավունքներ, իսկ ոչ ոք չստուգի, թե այն կոնկրետ ինչ է անում։
Նման սցենարում լայնածավալ կիբերհարձակման համար պետք չեն ոչ գիտակից ԱԲ, ոչ մեքենաների ապստամբություն, ոչ էլ ֆանտաստիկ գերբանականություն։ Բավական է մարդ, խոցելի համակարգ և գործակալ, որին տվել են ավելի շատ լիազորություններ, քան պետք էր։
