Նախընտրելի
Արհեստական բանականության ոլորտում թափ է հավաքում վեճը այն մասին, թե արդյոք պետք է դանդաղեցնել ամենահզոր մոդելների զարգացումը և ընդհանրապես ով է ի վիճակի ընկերություններին ստիպել դա անել։ Anthropic-ի ղեկավար Դարիո Ամոդեին առաջարկել է առաջատար համակարգերի զարգացման համար «տեմպ սահմանել», իսկ OpenAI-ի ղեկավարները և ոլորտի այլ ներկայացուցիչներ աջակցել են անվտանգության նկատմամբ ավելի խիստ վերահսկողության գաղափարին։ Սակայն TechCrunch Equity փոդքասթի մասնակիցները կասկածում են, որ այս հայտարարություններին կհետևեն իրական սահմանափակումներ։
Այս մոտեցման ամենանշանավոր ընդդիմախոսներից մեկը դարձավ Nvidia-ի ղեկավար Ջենսեն Հուանգը։ Նա հրապարակայնորեն հայտարարել է, որ թույլ չի տա ԱԲ-ի զարգացման դանդաղեցում, և աջակցել է Դոնալդ Թրամփի վարչակազմի դիրքորոշմանը, որը հանդես է գալիս լրացուցիչ սահմանափակումների դեմ։
Այս ֆոնին TechCrunch-ի լրագրողները քննարկել են, թե արդյոք խոշորագույն AI-ընկերությունները իսկապես պատրաստ են սահմանափակել իրենց իսկ մրցավազքը՝ ավելի հզոր մոդելների համար, թե խոսքը դեռ հիմնականում հայտարարությունների մասին է։
Ինչն են կոնկրետ առաջարկում դանդաղեցնել
Ամոդեին իր ծրագրում խոսում է ոչ այնքան ԱԲ-ի մշակումը կանգնեցնելու, որքան այն մասին, որ տեխնոլոգիաների զարգացման տեմպերը չգերազանցեն անվտանգության համակարգերի հնարավորությունները։ Առաջարկների թվում են անկախ արտաքին ստուգումները, որոնք պետք է գնահատեն մոդելների անվտանգությունը և դրանց հետ կապված միջադեպերը՝ ընկերությունների ներսում։
Մեկ այլ գաղափար ենթադրում է, որ ժողովրդավարական երկրներում խոշոր AI-ընկերությունները կհամակարգեն անվտանգության նկատմամբ մոտեցումները և կսահմանեն որոշակի սահմանափակումներ։ Վերջապես, խոսքը վերաբերում է այս ոլորտում միջազգային համակարգմանը։
Միևնույն ժամանակ, կոնկրետ մեխանիզմները դեռևս բավարար չեն, նշում են TechCrunch-ի լրագրողները։
«Մենք դեռևս չենք հասկանում բազմաթիվ մանրամասներ՝ ոչ միայն այն, թե ինչու են այս մարդիկ որոշակի սցենարներ վտանգավոր համարում, այլև այն, թե կոնկրետ ինչ են նրանք հասկանում դանդաղեցում ասելով», — նշել է լրագրող Շոն Օ'Քեյնը։
Նրա կարծիքով՝ «դանդաղեցում» բառն ինքնին կարող է ստեղծել ավելի խիստ սահմանափակումների տպավորություն, քան կա Ամոդեին առաջարկներում։ Եթե ընկերությունները պարզապես ներդնում են լրացուցիչ ստուգումներ և թույլ են տալիս անկախ մասնագետներին վերահսկել անվտանգությունը, դա դեռ չի նշանակում, որ նրանք պարտավորվում են նոր մոդելներն ավելի դանդաղ թողարկել, քան հիմա։
Ինչու է ոլորտի աջակցությունը հարցեր առաջացնում
Լրագրող Էնթոնի Հան նշել է, որ իրեն զարմացրել է այն արագությունը, որով ոլորտի ներկայացուցիչները սկսեցին աջակցել Ամոդեին գաղափարին։ Նրա ծրագրի հրապարակումից դեռ առաջ սոցիալական ցանցերում արդեն հայտնվում էին նմանատիպ առաջարկներ։
Մի կողմից՝ դա կարող է վկայել լրացուցիչ անվտանգության միջոցների անհրաժեշտության շուրջ ձևավորվող կոնսենսուսի մասին։ Հայի խոսքով՝ այս գաղափարներից շատերը վաղուց քննարկվում էին ԱԲ անվտանգության մասնագետների համայնքի ներսում։
Մյուս կողմից՝ խոշորագույն ընկերությունների այսքան արագ միավորումը ընդհանուր կանոնների շուրջ լրագրողների մոտ հարցեր է առաջացնում այն մասին, թե իրականում որքան հեռու են նրանք պատրաստ գնալ։
Քիրսթեն Կորոսեկը ուշադրություն է հրավիրել ևս մեկ խնդրի վրա. խոսքը նախևառաջ առաջատար լաբորատորիաների մասին է, որոնք մշակում են ամենահզոր մոդելները։ Հետևաբար, նրանց միջև ձեռք բերված պայմանավորվածությունները կարող են ունենալ երկիմաստ հետևանքներ։ Մի կողմից՝ անվտանգության համատեղ ստանդարտները կարող են պարզեցնել ոլորտի վերահսկողությունը։ Մյուս կողմից՝ խոշորագույն խաղացողների համակարգումը պոտենցիալ կարող է նվազեցնել մրցակցությունը նրանց միջև։
Ինչու է Ջենսեն Հուանգը դեմ դանդաղեցմանը
Փոդքասթի մասնակիցները հատուկ ուշադրություն են դարձրել Ջենսեն Հուանգի դիրքորոշմանը։ Կորոսեկը կարծում է, որ նրա հրապարակային ելույթը դանդաղեցման շուրջ քննարկման ֆոնին հատկապես ցուցադրական է. Nvidia-ն ուղիղ շահում է ԱԲ-ընկերությունների հաշվարկային պահանջների հետագա աճից, քանի որ հենց նրա արագացուցիչներն են օգտագործվում առաջատար մոդելների ուսուցման և աշխատանքի համար։
Օ'Քեյնը նշել է, որ Հուանգը հիմա զբաղեցնում է անսովոր միջնորդի դիրք տեխնոլոգիական ոլորտի և ԱՄՆ վարչակազմի միջև։ Նրա խոսքով՝ դեռ մի քանի տարի առաջ նման դերում շատերը տեսնում էին Microsoft-ի ղեկավար Սաթյա Նադելային, սակայն այժմ Հուանգը դարձել է Վաշինգտոնի հետ երկխոսությունում ոլորտի ամենատեսանելի ներկայացուցիչներից մեկը։
Լրագրողները ցուցադրական են համարում All-In Summit համաժողովում տեղի ունեցած դրվագը, երբ նախագահ Թրամփը զանգահարեց Հուանգին հենց նրա ելույթի ժամանակ։ Կորոսեկի կարծիքով՝ դա բավական բեմադրված էր թվում և միաժամանակ ընդգծում էր շահերի բախումը. Nvidia-ն ուղիղ օգուտ է ստանում AI-ենթակառուցվածքի հնարավորինս արագ ընդլայնումից։
Հան նաև ուշադրություն է դարձրել ձևակերպումների տարբերությանը։ Ամոդեին և Սեմ Ալթմանը իսկապես խոսում են ԱԲ-ի զարգացման համար «տեմպ սահմանելու» անհրաժեշտության մասին, մինչդեռ Հուանգն օգտագործում է ավելի ուղիղ ձևակերպում՝ «մենք թույլ չենք տա դանդաղեցում»։
Միևնույն ժամանակ, Ամոդեին առաջարկները պարտադիր չէ, որ պահանջեն մշակման փաստացի դանդաղեցում։ Տեսականորեն դրանք կարող են հանգեցնել լրացուցիչ ստուգումների և սահմանափակումների, բայց ինքնին չեն սահմանում կոնկրետ արագություն, որով պետք է զարգանան մոդելները։
Կարո՞ղ է արդյոք շուկան ինքնուրույն ստիպել ընկերություններին ավելի զգույշ լինել
Եվս մեկ հարց է՝ արդյոք գործող օրենքներն ու շուկայական մրցակցությունը կարող են ինքնուրույն ապահովել անվտանգության բավարար մակարդակ։
Տեսականորեն վտանգավոր արտադրանք թողարկած ընկերությունը պետք է բախվի լուրջ խնդիրների. կարգավորող մարմինները կարող են միջամտել, իսկ օգտատերերը՝ հրաժարվել ծառայությունից։ Սակայն Օ'Քեյնը կարծում է, որ ԱԲ շուկան ավելի բարդ է կառուցված։
Նա մատնանշում է սպառողական ճնշման թուլությունը։ Եթե խոշոր ընկերությունը լուրջ սխալ թույլ տա, օգտատերերի համար միշտ չէ, որ հեշտ է հրաժարվել նրա ծառայություններից և անցնել մրցակցի մոտ։ Սա հատկապես նկատելի է կորպորատիվ շուկայում, որտեղ AI-ծառայությունները դառնում են աշխատանքային գործընթացների մաս։
Կորպորացիաները հազիվ թե զանգվածաբար հրաժարվեն մի գործիքից հօգուտ մյուսի միայն մշակողի որևէ հարցի շուրջ սկզբունքային դիրքորոշման պատճառով, կարծում է լրագրողը։ Բացի այդ, խոշորագույն AI-ընկերությունները ստանում են այնքան մեծ ներդրումներ, որ հնարավոր ֆինանսական կորուստները կարող են նրանց համար պակաս ցավոտ լինել։
Ուստի շուկայական մրցակցությունն իսկապես կարող է խթաններ ստեղծել անվտանգ մշակման համար, սակայն TechCrunch Equity-ի մասնակիցների կարծիքով՝ առայժմ բավարար չէ հույսը դնել բացառապես այս մեխանիզմի վրա։
Գլխավոր հարցը մնում է բաց. եթե առաջատար լաբորատորիաներն իսկապես համարում են ԱԲ-ի հետագա զարգացումը պոտենցիալ վտանգավոր, արդյոք նրանք պատրա՞ստ են կամավոր ընդունել սահմանափակումներ, որոնք կարող են դանդաղեցնել իրենց իսկ մրցավազքը՝ ավելի հզոր համակարգերի համար։ Առայժմ «տեմպ սահմանելու» անհրաժեշտության մասին հայտարարությունները գոյակցում են հնարավորությունների և ենթակառուցվածքի ակտիվ ընդլայնման հետ, իսկ նման դանդաղեցման կոնկրետ սահմանները մնում են վեճի առարկա։
