ԱՄՆ նախագահ Դոնալդ Թրամփը և խոշորագույն AI-ընկերությունների ղեկավարները համաձայնության են եկել առաջադեմ մոդելների մշակման և կիրառման վերահսկման կամավոր կանոնների շուրջ։ Ընկերությունները պարտավորվում են ուժեղացնել ներքին ստուգումները և ներգրավել անկախ աուդիտորների, սակայն համաձայնության կատարման մեխանիզմը առայժմ մնում է անորոշ։

Համաձայնությունը ներկայացվել է սեպտեմբերի 29-ին՝ Թրամփի, Ներկայացուցիչների պալատի խոսնակ Մայք Ջոնսոնի և տեխնոլոգիական ընկերությունների ղեկավարների՝ Սպիտակ տանը տեղի ունեցած հանդիպումից հետո։ Մասնակիցների թվում եղել են OpenAI, Anthropic, Google, Meta և Nvidia ընկերությունների ներկայացուցիչներ։

Ընկերությունները կստուգեն իրենց սեփական համակարգերը

Փաստաթուղթը, որը մասնակիցները կոչել են համաձայնություն կամ accord, նախատեսում է AI-համակարգերի նկատմամբ վերահսկման մի քանի մակարդակ։ Առաջադեմ մոդելներ մշակող և ներդնող ընկերությունները պետք է ունենան հուսալի ներքին ընթացակարգեր և վերահսկման միջոցներ։

Մարկ Ցուկերբերգի խոսքով՝ խոսքը, ի թիվս այլնի, վերաբերում է ներքին անվտանգության մեխանիզմների կանոնավոր գնահատմանը, մոդելների աշխատանքի խնդիրների բացահայտմանը և աուդիտի մի քանի մակարդակներին։ Ենթադրվում է, որ ընկերությունները կանցկացնեն ռիսկերի ներքին ստուգումներ, ինչպես նաև կներգրավեն արտաքին աուդիտորների՝ տեխնոլոգիաների անկախ գնահատման համար։

Մայք Ջոնսոնը ընդգծել է, որ խոսքը հենց ոլորտի կամավոր սկզբունքների և չափանիշների մասին է։ Նրա խոսքով՝ դրանք պետք է ապահովեն լրացուցիչ վերահսկողություն և թափանցիկություն՝ առանց պետության կողմից պարտադիր կարգավորում սահմանելու։

Ինչու համաձայնությունը հարցեր է առաջացրել

Նոր փաստաթղթի գլխավոր առանձնահատկությունն այն է, որ վերահսկողությունը զգալի չափով մնում է հենց ինդուստրիայի ներսում։ Համաձայնության հայտարարության պահին ամբողջական տեքստը և կատարման մեխանիզմների մանրամասները չեն հրապարակվել, ուստի առայժմ պարզ չէ, թե կոնկրետ ինչ հետևանքներ կլինեն, եթե ընկերությունը չկատարի իր ստանձնած պարտավորությունները։

Սա հատկապես կարևոր է AI-գործակալների հետ կապված վերջին միջադեպերի և այն քննարկումների ֆոնին, թե արդյոք կամավոր ինքնավերահսկողությունը բավարար է այն համակարգերի համար, որոնք հասանելիություն են ստանում արտաքին ծառայություններին և ունակ են ինքնուրույն կատարել բարդ առաջադրանքներ։ Reuters-ը նշում է, որ նոր համաձայնությունը հայտնվել է AI-համակարգերի անկանխատեսելի վարքագծի դեպքերի նկատմամբ աճող ուշադրության ֆոնին։

Միաժամանակ Axios-ի կողմից հարցված տեխնոլոգիական ոլորտի որոշ ներկայացուցիչներ կասկած են հայտնել, որ ինքնակարգավորումը կկարողանա լուծել անվտանգության խնդիրները՝ առանց վերահսկողության ավելի պաշտոնական մեխանիզմների։

Թրամփը առաջարկել է AI-ն անվանել «սուպերինտելեկտ»

Հանդիպման ընթացքում Թրամփը նաև շարունակել է առաջ մղել արհեստական ինտելեկտի համար իր սեփական անվանումը՝ super intelligence, կամ SI։ Ավելի վաղ ԱՄՆ նախագահն արդեն հայտարարել էր, որ ամերիկյան պետական փաստաթղթերում պետք է օգտագործվի հենց այս տերմինը՝ artificial intelligence-ի փոխարեն։

Միևնույն ժամանակ գիտական և տեխնոլոգիական միջավայրում «սուպերինտելեկտ» բառը արդեն ունի այլ նշանակություն․ սովորաբար այդպես կոչում են հիպոթետիկ AI-համակարգերը, որոնք ունակ են լայն շրջանակի ինտելեկտուալ խնդիրներում գերազանցել մարդուն։ Այդ պատճառով տերմինի նոր կիրառությունը կարող է լրացուցիչ շփոթություն առաջացնել։

Հանդիպումից հետո Nvidia-ի ղեկավար Ջենսեն Հուանգը նույնպես օգտագործել է SI տերմինը՝ նշելով, որ դեռ պետք է ընտելանա դրան։

Հաջորդ հարցը՝ ինչպես են գործելու կանոնները

Թրամփը համաձայնությունն անվանել է «բարոյապես պարտավորեցնող» և հայտարարել, որ ընկերությունները կվերահսկեն միմյանց։ Սակայն փաստաթուղթը իրավաբանորեն պարտադիր պահանջներ չի ստեղծում․ դրա մասնակիցներն իրենք են ստանձնում թվարկված պարտավորությունները։

Միևնույն ժամանակ ԱՄՆ վարչակազմը շարունակում է ձևավորել պետական AI-քաղաքականության կառուցվածքը։ Սպիտակ տունը սպասում է AI-ի նոր համակարգողի նշանակմանը․ Axios-ի տվյալներով՝ Թրամփը այդ պաշտոնի թեկնածությունը քննարկում է Կոնգրեսի ղեկավարության հետ։

Այսպիսով, առայժմ համաձայնությունը իրենից ներկայացնում է առաջադեմ AI-մոդելների շուրջ ոլորտային ինքնավերահսկողության համակարգ կառուցելու փորձ։ Թե որքան արդյունավետ կլինեն այս կանոնները, առաջին հերթին կախված կլինի նրանից, թե կոնկրետ ինչ ստուգումներ կանցկացնեն ընկերությունները, որքան անկախ կլինեն արտաքին աուդիտորները և ինչ տեղի կունենա կամավոր պարտավորությունները չկատարելու դեպքում։