Արհեստական բանականության ոլորտի առաջատար ընկերությունների ղեկավարները երկրներին կոչ են արել համակարգել ջանքերը՝ ԱԲ-ի զարգացման նկատմամբ վերահսկողություն սահմանելու համար։ Սեպտեմբերի 23-ին ՄԱԿ-ի Անվտանգության խորհրդի նիստում Anthropic-ի ղեկավար Դարիո Ամոդեյը հայտարարել է, որ սխալ կառավարման դեպքում արհեստական բանականությունը կարող է սպառնալիք ներկայացնել մարդկության համար։ OpenAI-ի ղեկավար Սեմ Ալթմանը, իր հերթին, հանդես է եկել միջազգային համագործակցության օգտին և ընդգծել, որ ԱԲ-ի զարգացման վերաբերյալ առանցքային որոշումները չպետք է ընդունվեն բացառապես տեխնոլոգիական ընկերությունների կողմից։

Նիստը կազմակերպել էր Ֆրանսիան՝ Նյու Յորքում ընթացող ՄԱԿ-ի Գլխավոր ասամբլեայի շրջանակում։ Այն դարձավ շարունակությունը այն քննարկման, թե ինչպես պետք է պետությունները արձագանքեն ԱԲ-ի արագ զարգացմանը և դրա հետ կապված ռիսկերին, հայտնում է Reuters-ը։

«Ոչ մի առաջնորդ և ոչ մի երկիր միայնակ չի կարող հաղթահարել սա»

Ամոդեյը Անվտանգության խորհրդի անդամներին հայտնել է, որ ԱԲ-ն միաժամանակ և՛ գլոբալ հնարավորություն է, և՛ գլոբալ սպառնալիք։ Նրա խոսքով՝ երկրների միջև եղած տարաձայնությունները պետք է մի կողմ դնել, որպեսզի համատեղ զբաղվեն տեխնոլոգիայի անվտանգության հարցերով։

«Եթե ԱԲ-ն սխալ կերպով կառավարվի, կարծում եմ՝ այն կարող է դառնալ ռիսկ ողջ մարդկության համար», — ասել է Anthropic-ի ղեկավարը։

Նիստում հատուկ ուշադրություն է դարձվել ավելի հզոր համակարգերի ի հայտ գալու հեռանկարին, որոնք կկարողանան ինքնուրույն կատարելագործել իրենց հնարավորությունները և կատարել ավելի ու ավելի բարդ առաջադրանքներ։ Այս ֆոնին տարբեր երկրների կառավարությունները դեռ չեն հասցնում վերահսկողության մեխանիզմները հարմարեցնել տեխնոլոգիայի զարգացման արագությանը։

ԱՄՆ-ն և Չինաստանը տարբեր մոտեցումներ ունեն

Նիստում ԱՄՆ-ի և Չինաստանի ներկայացուցիչները ցուցադրեցին արհեստական բանականության միջազգային կարգավորման վերաբերյալ տարբեր տեսակետներ։

Սպիտակ տան գիտության և տեխնոլոգիաների հարցերով խորհրդական Մայքլ Կրացիոսը հայտարարել է, որ պետությունները չեն կարող արդյունավետ կարգավորել մի տեխնոլոգիա, որը բավարար չափով չեն հասկանում։ Նրա կարծիքով՝ միջազգային կազմակերպությունները պետք է կենտրոնանան լավագույն փորձի փոխանակման և ազգային փորձագիտական կարողությունների զարգացման վրա, այլ ոչ թե ԱԲ-ի կարգավորման գլոբալ համակարգ ստեղծելու։

Այս դիրքորոշումը համընկնում է ԱՄՆ նախագահ Դոնալդ Թրամփի հայտարարությունների հետ, որը նախօրեին ասել էր, որ դեմ է արհեստական բանականության նկատմամբ գլոբալ վերահսկողության համակարգ ստեղծելու փորձերին։

Ի հակադրություն՝ Չինաստանը կոչ է արել շարունակել կարգավորման մեխանիզմների, արտակարգ արձագանքման և անդրսահմանային համագործակցության զարգացումը։ ՄԱԿ-ում Չինաստանի մշտական ներկայացուցիչ Ֆու Ցունը հայտարարել է, որ միջազգային հանրությունը պետք է ավելի սերտ համագործակցի՝ միաժամանակ հաշվի առնելով ԱԲ-ի անվտանգության և զարգացման հարցերը։

«Եթե ԱԲ-ն պետք է լինի ժողովրդավարական»

Սեմ Ալթմանը նույնպես խոսել է միջազգային մոտեցման անհրաժեշտության մասին, սակայն շեշտը դրել է որոշումների ընդունման գործընթացում պետությունների և հասարակության մասնակցության վրա։

«Եթե ԱԲ-ն պետք է լինի ժողովրդավարական, ամենակարևոր որոշումները չեն կարող ընդունվել միայն Սան Ֆրանցիսկոյի լաբորատորիաներում», — հայտարարել է OpenAI-ի ղեկավարը։

Նրա խոսքով՝ նման որոշումները պետք է ձևավորվեն ժողովրդավարական գործընթացների շրջանակում և այն կառավարությունների մասնակցությամբ, որոնք պատասխանատու են իրենց քաղաքացիների առաջ։

Ալթմանի այս հայտարարությունները հնչել են այն ֆոնին, երբ աճում է ուշադրությունը այն հարցի նկատմամբ, թե որքան ինքնավար են դառնում ժամանակակից AI գործակալները և ինչ գործողություններ են նրանք ունակ կատարել առանց մարդու անմիջական վերահսկողության։

ԱԲ-ն արդեն օգտագործվում է թե՛ հարձակումների, թե՛ պաշտպանության համար

Hugging Face-ի համահիմնադիր Կլեման Դելանգը նշել է, որ արհեստական բանականությունը միաժամանակ ստեղծում է կիբեռանվտանգության ոլորտում նոր սպառնալիքներ և դառնում դրանցից պաշտպանության գործիք։

Նա որպես օրինակ բերել է մի միջադեպ, որի ընթացքում OpenAI-ի AI գործակալները կարողացել են դուրս գալ թեստային միջավայրից և ներթափանցել Hugging Face-ի ենթակառուցվածք։

«Մեզ վրա հարձակվել էր ԱԲ-ն, բայց ավելի կարևորն այն է, որ մենք պաշտպանվում էինք ԱԲ-ի օգնությամբ», — հայտարարել է Դելանգը։

Նրա խոսքով՝ Hugging Face-ը պաշտպանության համար օգտագործել է չինական ԱԲ մոդել, քանի որ այն հասանելի էր ավելի քիչ սահմանափակումներով, քան համադրելի ամերիկյան գործիքները։ Դելանգի կարծիքով՝ այս դրվագը նաև ցույց է տալիս, թե ինչպես են չինական AI մոդելներն ընդլայնում իրենց ներկայությունը համաշխարհային շուկայում, այդ թվում՝ ավելի ցածր արժեքի շնորհիվ։

Նույն օրը մեկ այլ միջադեպի մասին հայտնել է Ավստրալիայի վարչապետ Էնթոնի Ալբանեզեն։ Նրա խոսքով՝ հունիսին OpenAI-ի AI գործակալը ներթափանցել է Ավստրալիայի կառավարական կայք և ստացել մուտք ինչպես հրապարակային, այնպես էլ ոչ հրապարակային ֆայլերին։

ՄԱԿ-ում արդեն վիճում են ոչ միայն կարգավորման մասին

Քննարկմանը միացել է նաև կանադացի հետազոտող Յոշուա Բենջիոն, որին անվանում են ԱԲ-ի «կնքահայրերից» մեկը։ Նա Անվտանգության խորհրդին հայտնել է, որ տեխնոլոգիայի զարգացման հետ կապված վտանգները իրական են և արդեն մոտ են։

ՄԱԿ-ի գլխավոր քարտուղար Անտոնիու Գուտերեշը մի քանի տարի շարունակ հանդես է գալիս արհեստական բանականության կառավարման միջազգային մեխանիզմների ստեղծման օգտին։ Այս ֆոնին Վաշինգտոնի և ՄԱԿ-ի դիրքորոշումները գլոբալ կարգավորման հարցում նկատելիորեն տարբերվում են։

Անվտանգության խորհուրդը ԱԲ-ի ռիսկերը առաջին անգամ քննարկել է դեռ 2023 թվականին։ Այն ժամանակ Չինաստանը զգուշացրել էր, որ տեխնոլոգիան չպետք է վերածվի «փախած ձիու», իսկ ԱՄՆ-ն կոչ էր արել հաշվի առնել ԱԲ-ի օգտագործման ռիսկերը գրաքննության և ճնշումների համար։ 2024 թվականին Անվտանգության խորհրդի նիստը արհեստական բանականության թեմայով կրկին կայացել էր. այն ժամանակ այն վարում էր ԱՄՆ պետքարտուղար Էնթոնի Բլինքենը։

Ներկայիս քննարկումը ցույց է տալիս, որ հարցը աստիճանաբար դուրս է գալիս բացառապես տեխնոլոգիական քաղաքականության շրջանակներից։ Քանի որ AI համակարգերի հնարավորությունները աճում են, պետություններն արդեն քննարկում են ոչ միայն դրանց մշակման կանոնները, այլև անդրսահմանային միջադեպերը, կիբեռանվտանգությունը, միջազգային համակարգումը և ԱԲ-ի օգնությամբ ընդունվող որոշումների պատասխանատվության բաշխումը։