Նախընտրելի
Արհեստական բանականության խոշորագույն մշակողները սկսել են համակարգել իրենց մոդելների անվտանգության ուղղությամբ ջանքերը՝ առաջադեմ համակարգերի զարգացման բերած ռիսկերի շուրջ աճող մտահոգությունների ֆոնին։ OpenAI-ը, Anthropic-ը և Google DeepMind-ը արդեն մի քանի շաբաթ բանակցություններ են վարում, մինչդեռ ԱՄՆ-ում միաժամանակ սրվում է վեճը, թե արդյոք ընդհանրապես պետք է դանդաղեցնել ԱԲ-ի զարգացումը։
Համագործակցության մասին երեքշաբթի պատմել է OpenAI-ի գլոբալ քաղաքականության ղեկավար Քրիս Լիհեյնը։ Ինչպես հայտնում է TechCrunch-ը՝ հղում անելով Bloomberg-ին, նա այժմ գտնվում է Վաշինգտոնում և ամերիկացի օրենսդիրների հետ աշխատում է ԱԲ-ի պոտենցիալ աղետալի ռիսկերի հետ կապված հարցերի վրա։
Մրցակիցները որոշել են միասին քննարկել անվտանգությունը
Այն, որ խոշորագույն AI-ընկերությունները կարող են համակարգել գործողությունները, հայտնի դարձավ Anthropic-ի ղեկավար Դարիո Ամոդեյի ելույթից հետո։ Սեպտեմբերի 12-ին հրապարակված էսսեում նա կոչ էր արել առաջադեմ մոդելներ մշակողներին համատեղ նվազեցնել ավելի ու ավելի հզոր ԱԲ-ի համար մղվող մրցավազքի տեմպը, որպեսզի կանխվեն աղետալի հետևանքները։
Գաղափարին աջակցեցին ոլորտի մի քանի խոշորագույն ընկերությունների ղեկավարներ։ OpenAI-ից Սեմ Ալթմանը հայտարարեց, որ իր ընկերությունը պատրաստ է հետևել Anthropic-ի առաջարկին և ներգրավել արտաքին մասնագետների, որոնք կկարողանան անկախ գնահատել մոդելների անվտանգությունը։ Google DeepMind-ից Դեմիս Հասաբիսը նույնպես աջակցեց նախաձեռնությանը։ Իր աջակցությունն արտահայտեց նաև Իլոն Մասկը։
Այժմ պարզվել է, որ խոսքը միայն հրապարակային հայտարարությունների մասին չէր։ OpenAI-ը, Anthropic-ը և Google DeepMind-ը իսկապես արդեն մի քանի շաբաթ է՝ միմյանց հետ քննարկում են անվտանգության հարցերը։
Միևնույն ժամանակ նման համագործակցությունը մրցակիցների համար ստեղծում է անսպասելի իրավական խնդիր։ Ընկերությունները, որոնք միաժամանակ պայքարում են ԱԲ-ի շուկայում առաջնորդության համար, չեն կարող առանց սահմանափակումների պայմանավորվել համատեղ գործողությունների շուրջ. նման համակարգումը կարող է հարցեր առաջացնել հակամենաշնորհային օրենսդրության տեսանկյունից։
Այդ պատճառով Ամոդեյն առաջարկել է օրենսդրության մեջ ստեղծել հատուկ նեղ բացառություն, որը AI-ընկերություններին թույլ կտա համագործակցել հենց անվտանգության հարցերում։ Լիհեյնի խոսքով՝ OpenAI-ը կարծում է, որ նման բանակցությունների համար առանձին պետական վերապահում պետք չէ։
Ընկերությունները ցանկանում են ստեղծել ընդհանուր կանոններ
Վերջին իրադարձությունները ցույց են տալիս, որ քննարկումը կարող է գնալ էլ ավելի հեռու։ Ավելի վաղ հայտնի էր դարձել, որ OpenAI-ը, Anthropic-ը և Google-ը աշխատում են ոլորտային մարմին ստեղծելու վրա, որը կզբաղվեր ԱԲ-ի անվտանգության ստանդարտներով։
Գաղափարն այն է, որ արդյունաբերությունը ստանա առավել հզոր մոդելների գնահատման ընդհանուր կանոններ։ Ինչպես հաղորդվել էր, Ալթմանը OpenAI-ի աշխատակիցներին ասել էր, որ նման մեխանիզմը պետք է ստեղծվի նույնիսկ առանց ԱՄՆ կառավարության մասնակցության։
Հասաբիսը դեռ հուլիսին կոչ էր արել Վաշինգտոնին ստեղծել առանձին մարմին, որը կկատարեր ԱԲ-ի զարգացման նկատմամբ վերահսկողի դեր։ Նրա հնարավոր լիազորությունների թվում են՝ առավել առաջադեմ մոդելների ստուգումը և դրանց մշակման դանդաղեցման համակարգումը, եթե վտանգի մակարդակը սկսի աճել։
Այսպիսով, խոսքն արդեն պարզապես մրցակիցների միջև կարծիքների փոխանակման մասին չէ։ Ընկերությունները փորձում են մշակել մեխանիզմ, որը թույլ կտա ոլորտին սահմանել անվտանգության միասնական չափանիշներ այն համակարգերի համար, որոնց հնարավորությունները արագորեն մոտենում են այն սահմաններին, որոնք իրենք՝ մշակողները, առայժմ միշտ չէ, որ կարող են հուսալի գնահատել։
Վաշինգտոնում կարծում են, որ դանդաղել չի կարելի
Միևնույն ժամանակ այս գաղափարն ունի լուրջ քաղաքական հակառակորդ։ Դոնալդ Թրամփի վարչակազմը դեմ է ԱԲ-ի կարգավորման խստացմանը և հնարավոր աղետալի ռիսկերի մասին նախազգուշացումներին։
Ինքը՝ Թրամփը, ԱԲ-ի անվտանգության վերաբերյալ մտահոգությունները խաբեություն էր անվանել և հայտարարել, որ ոլորտի զարգացման դանդաղեցումը կարող է տեխնոլոգիական մրցավազքում առավելություն տալ Չինաստանին։ Նրա ԱԲ-ի հարցերով խորհրդական Դևիդ Սաքսը նույնպես ասել էր, որ արհեստական բանականության էքզիստենցիալ ռիսկերի վերաբերյալ մտահոգությունները չափազանցված են։
Ստացվում է անսովոր իրավիճակ․ խոշորագույն AI-ընկերությունները, որոնք մրցում են ամենաարագ աճող տեխնոլոգիական ոլորտներից մեկում առաջնորդության համար, միաժամանակ փորձում են պայմանավորվել կանոնների շուրջ, որոնք կարող են սահմանափակել այս մրցավազքի արագությունը։ Իսկ ամերիկյան իշխանությունները, հակառակը, մտավախություն ունեն, որ նման սահմանափակումները կթուլացնեն ԱՄՆ-ի դիրքերը Չինաստանի հետ դիմակայությունում։
OpenAI-ը աջակցել է անկախ ստուգումներին
Նույն հանդիպման ժամանակ երեքշաբթի Լիհեյնը հայտարարել է, որ OpenAI-ը աջակցում է FRONTIER Act օրինագծի դրույթին, որը կպարտավորեցներ առաջադեմ AI-մոդելներ մշակող խոշորագույն լաբորատորիաներին թույլատրել անկախ կազմակերպություններին ստուգել իրենց համակարգերի անվտանգությունը։
Սա կարևոր տարբերություն է այն մոդելից, որի դեպքում հենց մշակողներն են որոշում, թե իրենց ստեղծած ԱԲ-ն որքանով է անվտանգ։ Անկախ ստուգումը պետք է արտաքին մասնագետներին հնարավորություն տա գնահատելու մշակման գործընթացը և բացահայտելու պոտենցիալ վտանգավոր խնդիրները։
Առայժմ հայտնի չէ, թե OpenAI-ի, Anthropic-ի և Google-ի ներկայիս բանակցությունները կհանգեցնե՞ն արդյոք պաշտոնական ոլորտային կանոնների։ Բայց նրանց համագործակցության փաստն ինքնին ցույց է տալիս, թե որքան լրջորեն են խոշորագույն մշակողները սկսել ընկալել խնդիրը․ ամենահզոր մոդելների համար մրցակցությունը շարունակվում է, սակայն ընկերությունները գնալով ավելի հաճախ են գալիս այն եզրակացության, որ անվտանգության որոշ հարցեր անհնար է արդյունավետ լուծել միայնակ։
