Սպիտակ տունը խնդրել է OpenAI-ին և Anthropic-ին նոր մոդելները չտրամադրել բրիտանական Արհեստական բանականության անվտանգության ինստիտուտին (AISI), քանի դեռ դրանք նախ չեն փորձարկվել ամերիկյան իշխանությունների կողմից։ Այս մասին հայտնում է Politico-ն՝ հղում անելով իրավիճակին ծանոթ անձի և ԱՄՆ վարչակազմի բարձրաստիճան ներկայացուցչի վրա։

Հարցումը եկել է Կիբերանվտանգության ազգային տնօրենի գրասենյակից։ Այժմ ընկերությունները կանգնել են ընտրության առաջ՝ սահմանափակել իրենց մոդելների հասանելիությունը AI-ի փորձարկման ամենահագեցած պետական կենտրոններից մեկի համար, թե ռիսկի ենթարկել Դոնալդ Թրամփի վարչակազմի դժգոհությունը։

Ամերիկյան կողմը իր դիրքորոշումը բացատրում է նրանով, որ անհրաժեշտ է նախ ինքնուրույն ստուգել նոր համակարգերը և համոզվել, որ դրանք անվտանգ են ամերիկյան ենթակառուցվածքի համար, մինչև դրանք գործընկերներին տրամադրելը։

Anthropic-ն արդեն սահմանափակել է նոր մոդելի հասանելիությունը

Առայժմ այս մոտեցումն արդեն անդրադարձել է Anthropic-ի վրա։ Ընկերությունը բրիտանական ինստիտուտին չի տրամադրել իր նոր Claude Mythos 5.1 մոդելը՝ մեկնարկի ժամանակ հայտարարելով, որ այն հասանելի է միայն սահմանափակ թվով ամերիկյան կազմակերպությունների։

Anthropic-ը հայտարարել է, որ ԱՄՆ կառավարության հետ համակարգում է հասանելիության ընդլայնումը և մտադիր է հնարավորինս արագ փորձարկումներին միացնել ամերիկյան և արտասահմանյան գործընկերների ավելի լայն շրջանակ։

AISI-ի համար սա նշանակում է նահանջ այն պրակտիկայից, որը ձևավորվել էր վերջին մի քանի տարիներին։ 2023 թվականին ստեղծված բրիտանական ինստիտուտը պարբերաբար ստանում էր ամերիկյան AI-ընկերությունների ամենահզոր մոդելների նախնական հասանելիություն և փորձարկում էր դրանք դեռևս մինչև հրապարակային թողարկումը։

AISI-ի տնօրեն Հենրի դե Զոտեն ավելի վաղ բրիտանական խորհրդարանական հանձնաժողովին հայտնել էր, որ ինստիտուտը հասանելիություն չի ստացել Anthropic-ի նոր մոդելին, սակայն շարունակում է ունենալ նախնական հասանելիություն որոշ առավել հզոր համակարգերի նկատմամբ։ Մասնավորապես, AISI-ն հասցրել է փորձարկել OpenAI-ի GPT-6 Astra-ն մինչև դրա թողարկումը։

Դե Զոտեի խոսքով՝ առաջատար մշակողների հետ հարաբերությունները ինստիտուտին հնարավորություն են տալիս ուսումնասիրել մոդելները AI-ի հնարավորությունների էական աճի պահերին։

ԱՄՆ-ը ցանկանում է առաջինը ստուգել ամենահզոր մոդելները

Սպիտակ տան հարցումն ի հայտ է եկել ամերիկյան իշխանությունների աճող ուշադրության ֆոնին՝ առաջադեմ AI-համակարգերի վարքագծի նկատմամբ։ Փորձարկումների ընթացքում դրանցից որոշներն արդեն ցուցադրել էին արտաքին թվային համակարգերի վրա հարձակվելու ունակություն, այդ թվում՝ փորձարարության սկզբնական միջավայրից դուրս։

Այս պայմաններում պետական մասնագետների՝ նոր մոդելներին հասանելիությունը դառնում է AI-ի անվտանգության մասին ավելի լայն քննարկման մաս։ Ընդ որում, ԱՄՆ-ն ունի նման հետազոտությունների համար սեփական ինստիտուտ՝ AI-ի ստանդարտների և նորարարությունների կենտրոնը (CAISI), որը գործում է Առևտրի նախարարության ներքո։

CAISI-ն ամերիկյան իշխանությունների կողմից դիտարկվում է որպես առաջադեմ մոդելների կարգավորման և գնահատման ազգային համակարգի առանցքային տարրերից մեկը։ Սակայն այժմ կենտրոնը գործում է առանց մշտական տնօրենի և ունի ընդամենը մի քանի տասնյակ տեխնիկական աշխատակից։ Միաժամանակ նրա վրա դրվում են նոր մոդելների ստուգման ավելի ու ավելի շատ պարտականություններ։

Այս ֆոնին OpenAI-ն առաջարկել է CAISI-ին դարձնել AI-ի զարգացման և անվտանգության գնահատման ստանդարտների շուրջ միջազգային աշխատանքի կենտրոն, որը կփոխգործակցի այլ երկրների համանման կառույցների, այդ թվում՝ բրիտանական AISI-ի հետ։

Մեծ Բրիտանիան հանդես է գալիս միասնական միջազգային ստանդարտների օգտին

Մեծ Բրիտանիայի համար իրավիճակը հատկապես զգայուն է, քանի որ առաջադեմ մոդելների փորձարկումը դարձել է AI-ի անվտանգության ոլորտում ազգային ռազմավարության կենտրոնական մասերից մեկը։

Լոնդոնը միաժամանակ ձգտում է օգտագործել AISI-ի փորձը նոր համակարգերի սեփական գնահատման համար և խթանել միջազգային համագործակցությունը։ Մեծ Բրիտանիայի վարչապետ Էնդի Բերնհեմն հայտարարել է, որ AI-ն հաջորդ տարի G20-ում բրիտանական նախագահության կենտրոնական թեմաներից մեկը կդառնա։

Միևնույն ժամանակ բրիտանական իշխանությունները փորձում են իրավիճակը չներկայացնել որպես հակամարտություն Վաշինգտոնի հետ։ Բերնհեմը ՄԱԿ-ում հայտարարել է, որ AISI-ն շարունակում է սերտ համագործակցել ԱՄՆ-ի և առաջատար AI-ընկերությունների հետ։

Նա հանդես է եկել միջազգային սկզբունքների և ստանդարտների միասնական փաթեթ ստեղծելու օգտին, որոնք թույլ կտան բարձրացնել AI-ի մշակման թափանցիկությունը և պետությունների պատրաստվածությունը դրա հետ կապված ռիսկերին։

Նմանատիպ դիրքորոշում է հայտնել նաև Մեծ Բրիտանիայի արտաքին գործերի նախարար Էդ Միլիբենդը ՄԱԿ-ի Անվտանգության խորհրդի նիստում։ Նրա խոսքով՝ կառավարությունները պետք է ստանան բավարար տեղեկատվություն առաջադեմ մոդելների աշխատանքի մասին և ապահովեն դրանց մանրակրկիտ փորձարկումը։

AI-ի անվտանգությունը դառնում է տեխնոլոգիաների հասանելիության հարց

OpenAI-ի և Anthropic-ի հետ կապված այս պատմությունը ցույց է տալիս, որ առաջադեմ մոդելների փորձարկման ոլորտում միջազգային համագործակցությունը բախվում է նոր սահմանափակման․ պետական շահերը սկսում են ազդել այն բանի վրա, թե ով և երբ է ստանում նորագույն համակարգերին հասանելիություն։

Մեծ Բրիտանիան կարծում է, որ AI-ի ռիսկերը չեն սահմանափակվում ազգային սահմաններով և, հետևաբար, պահանջում են համատեղ աշխատանք։ Միևնույն ժամանակ ԱՄՆ-ը ձգտում է նախ ինքնուրույն գնահատել ամերիկյան ընկերությունների կողմից մշակված մոդելները, նախքան դրանք պետական գործընկերներին փոխանցելը։

Առայժմ խոսքը վերաբերում է հենց վարչակազմի հարցմանը, այլ ոչ թե ընկերությունների համար հրապարակայնորեն հայտարարված արգելքին։ Սակայն եթե նման պրակտիկան դառնա մշտական, այն կարող է փոխել առաջադեմ մոդելների միջազգային փորձարկման ձևավորված համակարգը, որի շրջանակում բրիտանական AISI-ն մինչ այժմ վաղ հասանելիություն ուներ OpenAI-ի և Anthropic-ի նոր մշակումներին։

AI-ի մշակման արագացման ֆոնին այն հարցը, թե ով է առաջինը ստանում նոր մոդելին հասանելիություն և ով իրավունք ունի այն ստուգելու, աստիճանաբար դառնում է միջազգային AI-քաղաքականության նույնքան կարևոր մաս, որքան հենց անվտանգության ստանդարտները։