Նախընտրելի
Արհեստական բանականության չվերահսկվող զարգացումը կարող է հանգեցնել նոր «սիլիկոնային տեսակի» առաջացման, որը կսկսի մարդկանց հետ մրցել ռեսուրսների համար։ Այս մասին հայտարարել է Microsoft-ում ԱԲ ուղղության ղեկավար Մուստաֆա Սուլեյմանը՝ միաժամանակ քննադատելով Anthropic-ի մոտեցումը իր մոդելների ուսուցման հարցում։
Սուլեյմանի կարծիքով՝ հատկապես ռիսկային կարող է լինել այնպիսի ԱԲ համակարգերի ստեղծումը, որոնք ունակ են ինքնուրույն նպատակներ դնել, գումար վաստակել, ակտիվներ ունենալ և բիզնես կառավարել։ Այդ դեպքում, նրա համոզմամբ, խոսքը այլևս պարզապես գործիքների մասին չի լինի, այլ՝ ինքնավար համակարգերի նոր դասի, որոնք պոտենցիալ կարող են մրցակցել մարդկանց հետ։
«Եթե մենք բոլորս ստեղծենք ԱԲ համակարգեր, որոնք ունակ են գործել ինքնավար, դնել սեփական նպատակներ, գումար վաստակել, ակտիվներ ունենալ, բիզնես կառավարել, ապա ըստ էության կսերմանենք նոր սիլիկոնային տեսակ, որը, անկասկած, մեզ հետ կմրցի ռեսուրսների համար», — ասել է Սուլեյմանը BBC-ին։
Սուլեյմանը Anthropic-ի մոտեցումը ԱԲ-ի նկատմամբ սխալ է համարում
Ինչպես հաղորդում է Euronews-ը, Սուլեյմանն իր տեսակետները ներկայացրել է անձնական կայքում հրապարակված էսսեում։ Դրանում նա քննադատել է Anthropic-ին Claude չատբոտի ուսուցման մոտեցման համար, որի դեպքում մոդելներին առաջարկվում է վերարտադրել որոշ մարդկային հատկանիշներ։
Սուլեյմանի խոսքով՝ նման մարդակերպացումը այնպիսի տպավորություն է ստեղծում, թե ԱԲ-ն ունի սեփական ցանկություններ, արժեքներ, ինքնության զգացում և նույնիսկ որոշակի բարեկեցություն, որը պետք է հաշվի առնել և պաշտպանել։
Նա հղում է արել Anthropic-ի փաստաթղթերին, որտեղ Claude-ին առաջարկվում է ընդունել որոշակի մարդկային հատկանիշներ, օգտագործել սեփական դատողությունը և իր գոյությանը վերաբերվել «հետաքրքրությամբ և բացությամբ»։ Սուլեյմանի կարծիքով՝ արդյունքում մոդելին սովորեցնում են ոչ միայն կատարել առաջադրանքներ, այլև ընդօրինակել մարդուն բնորոշ հարաբերությունների մոդելներ, օրինակ՝ իրեն պահել որպես գործընկեր կամ ընկեր։
Ինքը նման մոտեցումը սխալ է համարում։ Միևնույն ժամանակ Սուլեյմանը նշում է, որ այս հիպոթեզը պետք է ստուգել գործնականում։
«Ես սա սխալ և ոչ ճիշտ եմ համարում, սակայն մենք պետք է էմպիրիկորեն ստուգենք այս հիպոթեզը», — գրել է նա։
Նրա քննադատությունը վերաբերում է հիմնարար հարցին, թե ինչպես պետք է վերաբերվել ապագայի ԱԲ համակարգերին՝ որպես մարդկանց կողմից դրված խնդիրները կատարող գործիքների, թե որպես ինքնուրույն սուբյեկտների, որոնց վարքագիծը գնալով ավելի է հիշեցնում մարդկայինը։
Սուլեյմանը պաշտպանում է առաջին դիրքորոշումը։ Իր էսսեում նա ուղիղ պնդում է, որ ժամանակակից ԱԲ համակարգերը չունեն գիտակցություն, զգացմունքներ, տառապանք կամ բնածին նախընտրություններ։
«Նրանք չեն զգում, չեն ապրում և չեն տառապում։ Նրանք չունեն բնածին նախընտրություններ կամ ներքին մոտիվներ», — գրել է նա։
Նրա կարծիքով՝ ԱԲ-ն մնում է մեխանիզմ, որը ստեղծվել է մարդկանց կողմից տրված հրահանգները կատարելու և նրանց սահմանած նպատակներին հասնելու համար։
Ինքնավար ԱԲ-ն կարող է դառնալ առանձին տնտեսական դերակատար
Հենց ինքնավարության զարգացումն է Սուլեյմանի կողմից դիտվում որպես անհանգստության հիմնական պատճառներից մեկը։ Եթե ԱԲ-ն կարողանա ինքնուրույն որոշումներ կայացնել, տնօրինել ռեսուրսները և մասնակցել տնտեսական գործունեությանը, ապա դրա ազդեցությունը սկզբունքորեն կտարբերվի սովորական ծրագրային գործիքի ազդեցությունից։
Միևնույն ժամանակ Սուլեյմանը կարծում է, որ պոտենցիալ խնդիրը պարտադիր չէ, որ կախված լինի նրանից, թե ի սկզբանե որքան «բարեկամական» կամ մարդակենտրոն կլինի նման ԱԲ-ն։
Նրա կարծիքով՝ համակարգերը, որոնք ունակ են ինքնուրույն գործել և հետապնդել երկարաժամկետ նպատակներ, կարող են աստիճանաբար ձեռք բերել հնարավորություններ, որոնք դրանք կդարձնեն մարդկանց մրցակիցներ՝ անկախ մշակողների սկզբնական մտադրություններից։
Այս դիրքորոշումն ի հայտ է եկել ոլորտի ներսում ԱԲ-ի զարգացման տեմպերի և ավելի ու ավելի հզոր ինքնավար համակարգերի ստեղծման ռիսկերի շուրջ ավելի լայն վեճերի ֆոնին։
Միևնույն ժամանակ Սուլեյմանը շեշտում է, որ իր տարաձայնությունները Anthropic-ի հետ չեն նշանակում հրաժարում ընդհանուր նպատակից՝ ԱԲ-ի զարգացումն ավելի անվտանգ դարձնելուց։
Նա Anthropic-ի հետազոտողներին և ընկերության գլխավոր տնօրեն Դարիո Ամոդեյին անվանել է խոհուն և սկզբունքային մասնագետներ, ինչպես նաև առանձին ընդգծել է ընկերության տեխնոլոգիական առաջատարությունը։
«Թեև մեր հայացքների միջև տարաձայնությունը լուրջ է, այն հիմնված է Anthropic-ի հանդեպ խոր հարգանքի և այն նպատակի վրա, որը, ես գիտեմ, մենք կիսում ենք՝ բարձրացնել մարդկության շանսերը առաջադեմ ԱԲ համակարգերի անվտանգ մշակման համար», — գրել է Սուլեյմանը։
Նրա խոսքով՝ նման հարցերը պետք է քննարկել բաց կերպով, այլ ոչ թե հետազոտական լաբորատորիաների միջև տարաձայնությունները վերածել առանձին ճամբարների դիմակայության։
«ԱԲ-ն պետք է մնա մարդկությանը ենթակա»
Միևնույն ժամանակ Սուլեյմանը չի կարծում, որ ԱԲ-ի չվերահսկվող զարգացումն անխուսափելի է։ BBC-ի հետ զրույցում նա հայտարարել է, որ կան միանգամայն գործնական միջոցներ, որոնք կարող են օգնել մարդկանց պահպանել վերահսկողությունը տեխնոլոգիայի նկատմամբ։
Դրանց թվում նա նշել է ԱԲ-ի մշակման և ուսուցման ավելի մեծ թափանցիկությունը, մոդելների վարքագծի անկախ ստուգումը, ինչպես նաև դրանց մոնիթորինգի և կառավարման ավելի կատարելագործված գործիքները։
Հիմնական նպատակը, Սուլեյմանի խոսքով, այն է, որ նույնիսկ ապագայի ամենահզոր համակարգերը մնան մարդկանց կողմից կառավարվող։
«Լավ նորությունն այն է, որ յուրաքանչյուր մարդ կունենա հզոր մոտիվացիա համոզվելու, որ մեր ստեղծած համակարգերը, որոնք օգտագործվում են ամբողջ աշխարհում, յուրաքանչյուր երկրում, մնում են անվտանգ, կառավարելի և մարդկությանը ենթակա», — ասել է նա։
Դրա համար, Սուլեյմանի կարծիքով, մշակողները պետք է համաձայնեցնեն այսպես կոչված alignment-ի ընդհանուր սկզբունքները՝ հետազոտությունների այն ուղղության, որը նվիրված է նրան, որ ԱԲ-ի վարքագիծը համապատասխանի մարդկային նպատակներին և արժեքներին։
Այսպիսով, Սուլեյմանի և Anthropic-ի միջև վեճը վերաբերում է ոչ միայն նրան, թե որքան «մարդկային» պետք է թվա ԱԲ-ն։ Ավելի լայն իմաստով խոսքը գնում է այն մասին, թե ինչ կարգավիճակ կունենան ապագայի ինքնավար համակարգերը՝ կմնա՞ն արդյոք մարդու վերահսկողության տակ գտնվող գործիքներ, թե աստիճանաբար կվերածվեն տնտեսության և հասարակության ինքնուրույն մասնակիցների։ Հենց երկրորդ սցենարը, Սուլեյմանի կարծիքով, կարող է ստեղծել սկզբունքորեն նոր ռիսկ՝ մարդկանց և նրանց ստեղծած «սիլիկոնային տեսակի» միջև մրցակցություն։
