Նախընտրելի
Anthropic-ի և OpenAI-ի անվտանգության նախկին հետազոտող Ջեյքոբ Կոքսոնը, որը վերջերս հեռացել էր Anthropic-ից՝ արհեստական ինտելեկտի հետ կապված մտահոգությունների պատճառով, հայտարարել է, որ առաջատար ԱԲ ընկերությունների ներսում տեխնոլոգիայի զարգացման հետ կապված ռիսկերը գնալով ավելի հաճախ են քննարկվում։ Նրա խոսքով՝ ոլորտը շարժվում է չափազանց արագ, իսկ հնարավոր հետևանքները իմաստավորելու ժամանակը գնալով պակասում է։
Կոքսոնը այս հայտարարությամբ հանդես է եկել This Week հաղորդմանը տված հարցազրույցում, որտեղ նաև աջակցել է Anthropic-ի ղեկավար Դարիո Ամոդեիի վերջին կոչին՝ դանդաղեցնել արհեստական ինտելեկտի ամենահզոր համակարգերի մշակման տեմպերը։
«ԱԲ ստեղծողների միջև դադար է պետք»
Ինչպես հայտնում է Abcnews.com-ը, Դարիո Ամոդեին նախօրեին հրապարակել է բաց նամակ՝ «Մենք պետք է վերահսկենք առաջատար տեխնոլոգիաների զարգացման տեմպը» վերնագրով, որտեղ կոչ է արել ԱԲ ընկերություններին նվազեցնել նոր համակարգերի մշակման արագությունը։ Նրա խոսքով՝ մարդկությունը պետք է փորձի տեխնոլոգիայի զարգացումն ավելի անվտանգ դարձնել։
Կոքսոնը այս քայլը կարևոր է համարել և աջակցել է ամենահզոր ԱԲ համակարգեր ստեղծող ընկերությունների միջև մրցավազքը դանդաղեցնելու գաղափարին։
Նրա կարծիքով՝ տարբեր մոդելներ մշակող ընկերությունների միջև մի տեսակ դադար է անհրաժեշտ։ Հենց նման դադարի բացակայությունն ու ավելի կատարյալ արհեստական ինտելեկտ ստեղծելու համար մշտական մրցակցությունն են նրա մոտ լուրջ մտահոգություններ առաջացնում։
Anthropic-ից հեռանալը և սուպերինտելեկտի մասին նախազգուշացումը
Կոքսոնը անցած շաբաթ ուշադրություն է գրավել, երբ հայտարարեց Anthropic-ից հեռանալու մասին և X-ում հրապարակեց կոշտ հայտարարություն։
Նա գրել է, որ, իր կարծիքով, ոչ Anthropic-ը, ոչ էլ OpenAI-ը բավարար պատասխանատվությամբ չեն գործում։ Նրա խոսքով՝ ընկերությունները մասնակցում են ինքնակատարելագործվող սուպերինտելեկտ ստեղծելու մրցավազքին՝ փաստացի վտանգի ենթարկելով մարդկանց կյանքը։
«Նրանք հետապնդում են սուպերինտելեկտը և խաղում մեր կյանքերով», — գրել է նա։
Հատկապես լայն արձագանք է առաջացրել ոլորտի ներսում տիրող տրամադրությունների վերաբերյալ նրա պնդումը։ Կոքսոնի խոսքով՝ մարդիկ, որոնք անմիջականորեն աշխատում են ԱԲ-ի վրա, լրջորեն ընդունում են, որ տեխնոլոգիան արդեն այս տասնամյակի ավարտին կարող է հանգեցնել մարդկության կործանմանը։
Ինքը՝ հետազոտողը, խոստովանել է, որ իր գրառման նկատմամբ նման մասշտաբային արձագանք չէր սպասում։ Նա չէր ակնկալում մեծ ուշադրություն հրավիրել դրա վրա, սակայն, իր կարծիքով, դրան հաջորդած արձագանքը ցույց է տվել, որ հասարակությունն արդեն պատրաստ է արհեստական ինտելեկտի ռիսկերի մասին լուրջ խոսակցության։
Ռիսկերի մասին ավելի ու ավելի հաճախ են խոսում
Հարցազրույցում Կոքսոնը նաև պատմել է, թե ինչպես է ընկերությունների ներսում փոխվել ԱԲ-ի հետ կապված հնարավոր սպառնալիքների նկատմամբ վերաբերմունքը։
Նրա խոսքով՝ մշակողները մշտապես ժամանակի պակաս են զգում, որպեսզի մանրամասն վերլուծեն հնարավոր ռիսկերը։ Այնուամենայնիվ, վերջին ամիսներին այս թեման սկսել է զգալիորեն ավելի հաճախ ի հայտ գալ։
Ընդ որում, ինչպես պնդում է Anthropic-ի և OpenAI-ի նախկին աշխատակիցը, քննարկումն այլևս չի սահմանափակվում միայն անվտանգության մասնագետներով։ Անկախ պաշտոնից և ստորաբաժանումից՝ ընկերությունների աշխատակիցները շաբաթը մի քանի անգամ բախվում են տեխնոլոգիայի ամենալուրջ ռիսկերի մասին խոսակցությունների։
Կոքսոնի կարծիքով՝ սա վկայում է հենց ոլորտի ներսում աճող անհանգստության մասին՝ այն մարդկանց շրջանում, որոնք անմիջականորեն մասնակցում են նոր ԱԲ համակարգերի ստեղծմանը։
Դանդաղեցման կոչը դուրս է գալիս ոլորտի սահմաններից
Կոքսոնի հայտարարությունները հատկապես ուշագրավ են Դարիո Ամոդեիի դիրքորոշման ֆոնին։ Առաջատար ԱԲ ընկերություններից մեկի ղեկավարը հրապարակայնորեն կոչ է անում դանդաղեցնել ամենահզոր համակարգերի զարգացումը, իսկ նույն ընկերության անվտանգության նախկին հետազոտողը պնդում է, որ խնդիրն արդեն ակտիվորեն քննարկվում է մշակողների շրջանում։
Միևնույն ժամանակ խոսքը արհեստական ինտելեկտի զարգացումից ամբողջությամբ հրաժարվելու մասին չէ։ Գլխավոր հարցն այն է, թե արդյոք ընկերություններն ու հասարակությունը հասցնո՞ւմ են գնահատել ավելի ու ավելի հզոր համակարգերի ի հայտ գալու հետևանքները։
Կոքսոնը կարծում է, որ այժմ ոլորտին անհրաժեշտ է «աչքերը բաց պահել»։ Նրա հեռանալը Anthropic-ից և դրան հաջորդած հրապարակային քննարկումը ցույց են տալիս, որ ԱԲ անվտանգության մասին խոսակցությունը գնալով պակաս վերացական է դառնում նույնիսկ նրանց համար, ովքեր գտնվում են տեխնոլոգիական մրցավազքի հենց կենտրոնում։
Մինչ որոշ ընկերություններ շարունակում են մրցել ավելի հզոր արհեստական ինտելեկտ ստեղծելու համար, մյուսներն ավելի ու ավելի բարձր են տալիս մի հարց, որը դեռ վերջերս հիմնականում հնչում էր ակադեմիական քննարկումներում․ ի՞նչ կլինի, եթե տեխնոլոգիայի զարգացման արագությունն ավելի բարձր լինի, քան մարդկանց այն վերահսկելու կարողությունը։
