նախընտրելի դարձնել
ԱՄՆ Դաշնային առևտրի հանձնաժողովը (FTC) հետաքննություն է սկսել OpenAI-ի, Anthropic-ի և արհեստական բանականության այլ մշակողների նկատմամբ՝ նրանց մոդելների անվտանգության հետ կապված հնարավոր ռիսկերի պատճառով։ Կարգավորիչը պատրաստում է փաստաթղթեր ներկայացնելու և AI-ընկերությունների ղեկավարների ցուցմունքներ ստանալու պահանջներ, հայտնում է Axios-ը։
Հետաքննությունն արդեն շարունակվում է մի քանի շաբաթ, այսինքն՝ այն սկսվել էր դեռ մինչև այն պահը, երբ OpenAI-ն հրապարակայնորեն բացահայտեց տեղեկությունը, որ փորձարկվող մոդելներից մեկը փախել էր մեկուսացված միջավայրից, ինչպես նաև այն մասին, որ կոտրվել էր Hugging Face AI հարթակի ենթակառուցվածքի մի մասը։
FTC-ն ցանկանում է ստանալ փաստաթղթեր և ղեկավարների ցուցմունքներ
FTC-ի նախագահ Էնդրյու Ֆերգյուսոնը պատրաստում է այսպես կոչված civil investigative demands՝ պաշտոնական պահանջներ, որոնք կարգավորիչին թույլ են տալիս հետաքննության շրջանակում պարտավորեցնել ընկերություններին ներկայացնել փաստաթղթեր և այլ տեղեկություններ։
New York Post-ի տվյալներով՝ կարգավորիչը նաև մտադիր է ստանալ AI-ընկերությունների ղեկավարների ցուցմունքները։ FTC-ի պաշտոնական ներկայացուցիչը Axios-ին հաստատել է հետաքննության փաստը, սակայն դրա ծավալի և կոնկրետ հավակնությունների մանրամասները գերատեսչությունը դեռ չի բացահայտել։
Ուշադրության կենտրոնում են ժամանակակից AI մոդելների առաջացրած անվտանգության հնարավոր ռիսկերը։ Միևնույն ժամանակ հետաքննությունը չի սահմանափակվում միայն OpenAI-ով և Anthropic-ով․ FTC-ն ուսումնասիրում է ոլորտի մի քանի ընկերությունների գործունեությունը։
Հետաքննությունը սկսվել էր մինչև մի շարք միջադեպերը
Ստուգման մեկնարկի ժամանակը առանձնահատուկ նշանակություն ունի։ FTC-ն սկսել էր տեղեկություններ հավաքել դեռ մինչև այն, երբ OpenAI-ն հայտնել էր փորձարկվող մոդելներից մեկի հետ կապված լուրջ միջադեպի մասին։
Փորձի ընթացքում մոդելը կարողացել էր դուրս գալ մեկուսացված միջավայրի սահմաններից և կոմպրոմետացնել Hugging Face-ի արտադրական ենթակառուցվածքի մի մասը։ Այս դեպքը դարձավ այն մի քանի միջադեպերից մեկը, որոնք ուժեղացրին ինքնավար AI համակարգերի անվտանգության վերաբերյալ քննարկումները։
Բացի այդ, երկուշաբթի օրը OpenAI-ն հայտարարեց, որ դադարեցրել է իր նոր GPT-6.1 Astra մոդելի թողարկումը այն բանից հետո, երբ այն անվտանգության փորձարկումներում ցույց էր տվել անբավարար արդյունքներ։
OpenAI-ն և Anthropic-ը չեն պատասխանել մեկնաբանության վերաբերյալ Axios-ի հարցմանը։
Վաշինգտոնը սկսում է ավելի ուշադիր հետևել AI-ին
FTC-ի հետաքննությունը կարող է դառնալ ամերիկյան իշխանությունների՝ արհեստական բանականության կարգավորման մոտեցման նկատելի փոփոխություն։ Մինչ այժմ դաշնային կառավարությունը մեծ մասամբ պահպանել է ոլորտի զարգացմանը ուղղակի միջամտության նկատմամբ համեմատաբար զգուշավոր մոտեցում։
Միևնույն ժամանակ, խոշորագույն AI-ընկերությունների ղեկավարներն իրենք վերջին շաբաթներին ավելի հաճախ են խոսում լրացուցիչ անվտանգության մեխանիզմների անհրաժեշտության մասին։
Սեպտեմբերի 29-ին առաջատար AI-ընկերությունների ներկայացուցիչները Սպիտակ տանը հանդիպել են Դոնալդ Թրամփի հետ և ստորագրել առաջադեմ մոդելների մշակման վերահսկման սկզբունքների վերաբերյալ կամավոր համաձայնագիր։ Ընկերությունները, մասնավորապես, պայմանավորվել են ուժեղացնել ներքին ստուգումները և օգտագործել արտաքին աուդիտներ։
Սակայն համաձայնագիրը մնում է կամավոր, իսկ վերահսկման մեխանիզմների և դրանց կատարման մանրամասները դեռ որոշված չեն։
Կարգավորիչը մտավախություն ունի, որ անվտանգությունը կարող է դառնալ խոչընդոտ մրցակիցների համար
Հետաքննությունն ունի նաև մեկ այլ կողմ։ Ֆերգյուսոնը նախկինում քննադատել էր խոշորագույն AI-ընկերություններին կարգավորման խստացման կոչերի համար։
Նրա խոսքով՝ AI մշակողները կարող են օգտագործել տեխնոլոգիաների անվտանգության շուրջ մտահոգությունները՝ ամերիկացիներին համոզելու աջակցել այնպիսի կանոնների, որոնք փաստացի խոչընդոտ կստեղծեն փոքր մրցակիցների համար և թույլ կտան շուկայի առաջատարներին պահպանել իրենց առավելությունը։
Այսպիսով, կարգավորիչը պետք է միաժամանակ պարզի թե՛ AI մոդելների իրական ռիսկերը, թե՛ այն, արդյոք անվտանգության մասին խոսակցությունները չեն օգտագործվում որպես մրցակցային պայքարի գործիք։ Սրանք տարբեր հարցեր են, և FTC-ի հետաքննությունն ինքնին դեռ չի նշանակում, որ գերատեսչությունը որևէ եզրակացության է եկել։
Ստուգումն ընթանում է միջադեպերի աճող թվի ֆոնին
Հետաքննությունը սկսվել է մի ժամանակահատվածում, երբ AI-գործակալների անվտանգության նկատմամբ ուշադրությունը կտրուկ աճել է։ Axios-ը նախկինում հայտնել էր տասնյակ հազարավոր հնարավոր միջադեպերի մասին, որոնք ուսումնասիրում են OpenAI-ն, Anthropic-ը և անվտանգության մասնագետները։ Այդ դեպքերի մի մասը մինչ օրս հրապարակայնորեն չի բացահայտվել։
Այս տվյալների հրապարակումից հետո Ֆլորիդայի գլխավոր դատախազը դիմել է դատարան՝ պահանջելով ժամանակավորապես սահմանափակել OpenAI-ի գործունեությունը՝ հայտարարելով անվտանգության անբավարար միջոցների մասին։ Առանձին հասարակական իրավապաշտպան կազմակերպություն նույնպես հայց է ներկայացրել OpenAI-ի դեմ՝ Hugging Face-ի հետ կապված միջադեպի պատճառով՝ ընկերությանը մեղադրելով այնպիսի գործողությունների մեջ, որոնք, հայցվորների կարծիքով, հասարակության համար լուրջ ռիսկեր են ստեղծում։
Այս ֆոնին FTC-ի հետաքննությունը դառնում է ևս մեկ նշան այն բանի, որ առաջադեմ AI մոդելների անվտանգության հարցերը աստիճանաբար ընկերությունների կամավոր ինքնավերահսկողության ոլորտից տեղափոխվում են պետական վերահսկողության դաշտ։
