Իլոն Մասկը, Սթիվ Վոզնյակը եւ հազարավոր մասնագետներ կոչ են անում դադարեցնել առաջադեմ ԱԲ-ի մշակումը. ի՞նչ ռիսկեր են նրանք տեսնում

Tesla-ի եւ SpaceX-ի ղեկավար Իլոն Մասկը, Apple-ի հիմնադիրներից Սթիվ Վոզնյակը եւ արհեստական բանականության հազարավոր փորձագետներ եւ ոլորտի ղեկավարներ կոչ են անում դադարեցնել առաջադեմ արհեստական բանականության մշակումը: ԱԲ-ի շատ արագ զարգացման մեջ նրանք լուրջ ռիսկեր են տեսնում ժամանակակից հասարակության համար։

Բաց նամակում, որը հրապարակել է Future of Life Institute-ը, մասնագետները ԱԲ-լաբորատորիաներին խնդրում են գոնե 6 ամսով դադարեցնել OpenAI ընկերության GPT-4-ից ավելի հզոր համակարգերի ուսուցումը, մինչեւ կլինեն անվտանգության ընդհանուր արձանագրություններ: Իսկ եթե չհաջողվի բավական արագ կասեցնել ԱԲ-ի ուսուցումը, պետությունների իշխանությունները «պետք է միջամտեն եւ մորատորիում մտցնեն»։

«Արհեստական բանականության ժամանակակից համակարգերը հաջողությամբ մրցակցում են մարդկանց հետ բազմաթիվ խնդիրների լուծման հարցում, եւ մենք պետք է ինքներս մեզ հարցնենք՝ արդյոք մենք պետք է թույլ տանք, որ մեքենաները հեղեղեն մեր տեղեկատվական ալիքները քարոզչությամբ եւ ապատեղեկատվությամբ, արդյոք պետք է ավտոմատացնենք ցանկացած աշխատանք, ներառյալ այն աշխատանքը, որը մարդկանց գոհունակություն է պատճառում, արդյոք պետք է զարգացնենք ոչ մարդկային խելքը, որն, ի վերջո, կարող է գերազանցել, ստվերել եւ փոխարինել մեզ, եւ արդյոք պետք է վտանգենք մեր քաղաքակրթության վերահսկողությունը»,- ասվում է նամակում։

Նամակի հեղինակները պնդում են, որ արհեստական բանականության հզոր համակարգերը կարելի կլինի մշակել միայն այն ժամանակ, երբ մենք վստահ լինենք, որ դրանց ազդեցությունը կլինի դրական, իսկ ռիսկերը՝ կառավարելի:

Ինչպես հայտնում է Reuters-ը, այս նամակը ստորագրել են նաեւ Stability AI-ի գործադիր տնօրեն Էմադ Մոստակը, DeepMind-ի (պատկանում է Alphabet-ին) հետազոտողները եւ ԱԲ-ի ոլորտի հայտնի հետազոտողներ Յոշուա Բենջիոն (ում անվանում են «ԱԲ-ի կնքահայրերից մեկը») եւ Ստյուարտ Ռասելը (նույնպես այս ոլորտի առաջամարտիկներից մեկը): Ստորագրած մասնագետների ամբողջական ցանկը կարող եք տեսնել նամակի ներքեւում։

Ընդ որում, Alphabet-ի եւ Microsoft-ի գլխավոր տնօրեններ Սունդար Պիչայը եւ Սատյա Նադելլան նամակը չեն ստորագրել։ OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը նույնպես չի ստորագրել այն:

«ԱԲ-ն ինձ լարում է»,- վերջերս ասել է Իլոն Մասկը, որի անունն առաջիններից է նամակի տակ ստորագրողների ցուցակում:

Հետաքրքիր է, որ նա ChatGPT-ի եւ նոր GPT-4-ի մշակմամբ զվաղվող OpenAI ընկերության համահիմնադիրներից մեկն էր, եւ նրա Tesla ընկերությունն ակտիվորեն օգտագործում է ԱԲ-ը իր էլեկտրական մեքենաների ավտոպիլոտային համակարգում:

Որոշ մասնագետներ, այդ թվում՝ Քորնելի համալսարանի թվային եւ տեղեկատվական իրավունքի պրոֆեսոր Ջեյմս Գրիմելմանը, համարում են, որ Մասկի պահվածքը եւ վերը նշված բաց նամակի տակ ստորագրելու նրա որոշումը կեղծավոր են՝ հաշվի առնելով, թե որքան ակտիվ էր նա «պայքարում իր ինքնակառավարվող մեքենաներում թերի ԱԲ-ի համար պատասխանատվություն չստանձնելու համար»։

Այլ մասնագետներ նշում են, որ նամակը կատարյալ չէ, չափազանց վերացական է շարադրված եւ «լուրջ չի ընդունում կարգավորման խնդիրները», սակայն դրա ուղերձը ճիշտ է: Նյու Յորքի համալսարանի պրոֆեսոր Գարի Մարկուսի կարծիքով, որը նույնպես ստորագրել է նամակը, մասնագետները դեռ պետք է սպասեն, մինչեւ պարզ դառնա, թե որտեղ կարող է մեզ տանել ԱԲ-ի հետ կապված այս ողջ պատմությունը: