Ինչպե՞ս են իրականում «մտածում» մեծ լեզվական մոդելները. Հարցազրույց Էրիկ Արաքելյանի հետ

Ընդամենը մի քանի տարի առաջ այն հնարավորությունները, որոնց այսօր տիրապետում են մեծ լեզվական մոդելները, ավելի շատ գիտական ֆանտաստիկայի մաս էին թվում: Այժմ նման համակարգերն ունակ են աշխատելու տեղեկատվության հսկայական ծավալների հետ, վերլուծելու տեքստեր, պատասխանելու բարդ հարցերի և կատարելու առաջադրանքներ, որոնց համար նախկինում պահանջվում էր մարդու մասնակցությունը: Բայց չաթ-բոտի սովորական ինտերֆեյսից հետևում թաքնված է շատ ավելի բարդ գործընթաց. ինչպե՞ս է արհեստական բանականությունը ճշգրիտ սովորում հասկանալ լեզուն, ստանալ ու մշակել տեղեկատվությունը և, որոշակի իմաստով, «դատողություններ անել»:

Այս և շատ այլ հարցերի մասին «Բա իմացա՞ր» ծրագրի եթերում պատմել է NVIDIA-ի ավագ գիտաշխատողների խմբի ղեկավար Էրիկ Արաքելյանը:

Գիտության և տեխնոլոգիաների մասին հարցազրույցների շարքի գործընկերն է Team Telecom Armenia ընկերությունը:

Ինչպես է ուսուցանվում լեզվական մոդելը

Ըստ Արաքելյանի՝ մեծ լեզվական մոդելների ուսուցման հիմքը երկար ժամանակ մնում էին ամբողջ համացանցից հավաքված տեքստային տվյալները: Սակայն այսօր այդ հավաքածուն զգալիորեն ավելի լայն է. մոդելները սովորում են նաև պատկերների, տեսանյութերի և աուդիոյի վրա: Ընդ որում, ուսուցման բազային սկզբունքը կարելի է բացատրել բավականին պարզ. մոդելը պետք է սովորի կանխատեսել, թե որ բառն է ամենաբարձր հավանականությամբ հայտնվելու հաջորդիվ՝ հաշվի առնելով արդեն եղած կոնտեքստը:

Նա նշեց, որ յուրաքանչյուր նման կանխատեսում իրենից մաթեմատիկական խնդիր է ներկայացնում: Մոդելը վերլուծում է հնարավոր շարունակությունների բազմությունը և հաշվարկում դրանցից յուրաքանչյուրի հավանականությունը, ինչից հետո ընտրում է ամենահամապատասխան տարբերակը: Հենց օրինակների հսկայական քանակության շնորհիվ է նա աստիճանաբար սովորում որսալ լեզվի օրինաչափությունները, ոճերը և կոնտեքստը:

Ընդ որում, մոդելը պարզապես չի մտապահում շարունակության միակ տարբերակը: Բնական լեզվում գրեթե միշտ գոյություն ունեն արտահայտության զարգացման մի քանի հնարավոր ուղիներ, և համակարգը գնահատում է բազմաթիվ տարբերակների հավանականությունները: Որքան շատ բազմազան տվյալներ է նա ստանում ուսուցման գործընթացում, այնքան ավելի ճշգրիտ է դառնում այդ գնահատականը: Այդ պատճառով սխալներն ամբողջությամբ չեն անհետանում, սակայն ուսուցմանը զուգընթաց մոդելը գնալով ավելի լավ է կանխատեսում ամենահավանական շարունակությունը՝ հաշվի առնելով կոնտեքստը:

Ինչպես է մոդելը հասկանում կոնտեքստը

Բայց հաջորդ բառը կանխատեսելու միայն մեկ հմտությունը բավարար չէ, որպեսզի մոդելը կարողանա հասկանալ կոնտեքստը և կատարել հրահանգները: Ինչպես բացատրում է Արաքելյանը, մեծ լեզվական մոդելներում յուրաքանչյուր բառ փաստացի ներկայացված է թվերի հավաքածուի տեսքով, իսկ բառերիմիջև կապերն արտահայտվում են այդ թվային ներկայացումների միջև մաթեմատիկական մոտիկության միջոցով: Այդպես ձևավորվում է լեզվի յուրօրինակ քարտեզ, որտեղ բառերը կապված են լինում այլ բառերի, հասկացությունների և կոնտեքստների հետ: Օրինակ՝ «սեր» և «ատելություն» հասկացությունները, տարբեր էմոցիաները կամ մայրաքաղաքների անվանումները միմյանց հետունեն որոշակի մաթեմատիկական կապեր:

Երբ մոդելը ստանում է արտահայտությունը, նա փաստացի գնահատում է, թե թվային ներկայացումների որ հաջորդականությունն է ամենաբարձր հավանականությամբ պետք է հայտնվի հետո: Դրա համար օգտագործվում են մաթեմատիկական և օպտիմիզացիոն մեթոդներ, որոնք թույլ են տալիս ընտրել ամենահամապատասխան շարունակությունը՝ հաշվի առնելով նախորդող ամբողջ կոնտեքստը:

Սակայն լեզվական մոդելների էվոլյուցիայի հաջորդ կարևոր փուլը դարձավ հրահանգներին հետևելու ուսուցումը՝ instruction tuning-ը: Նախնական փուլում մոդելը սովորում է նախևառաջ կանխատեսել հաջորդականության հաջորդ տարրը, բայց դա դեռ չի նշանակում, որ նա ունակ է ճշգրիտ կատարել օգտատիրոջ խնդրանքը: Այդ պատճառով բազային ուսուցումից հետո մոդելին լրացուցիչ վարժեցնում են օրինակների վրա, որտեղ նրան ցույց են տալիս հրահանգները և դրանց ցանկալի պատասխանները:

Ով է որոշում ընդունելի պատասխանը

Այնուհետև հայտնվում է ուսուցման ևս մեկ մակարդակ՝ reinforcement learning-ը, այդ թվում՝ reinforcement learning from human feedback-ը: Ինչպես պատմում է Արաքելյանը, միևնույն հարցի համար հավաքվում են պատասխանի մի քանի տարբերակներ, որից հետո մարդիկ գնահատում են դրանք և նշում, թե դրանցից որն է ավելի ընդունելի կամ նախընտրելի: Նման տվյալների հիման վրա մոդելը սովորում է ոչ թե պարզապես շարունակել տեքստը բարձր հավանականությամբ, այլ ընտրել պատասխան, որը, մարդկանց գնահատմամբ, ավելի լավ է համապատասխանում դրված առաջադրանքին:

Հենց այս փուլում է առաջանում հարցն այն մասին, թե ով և ինչ չափանիշներով է որոշում, թե որ պատասխանն է համարվում «ճիշտ», ընդունելի կամ ցանկալի: Արաքելյանի խոսքով՝ նման գնահատականների տարբերությունները կարող են դրսևորվել նրանում, թե ինչպես է մոդելը հրաժարվում քննարկել որոշակի թեմաներ, որքան խիստ է հետևում որոշակի տրամաբանության կամ դրսևորում որոշակի մշակութային և գաղափարախոսական դիրքորոշումներ: Այդ պատճառով մոդելի բնութագրերը կախված են ոչ միայն ելակետային տվյալներից, այլև այն մարդկանցից ու չափանիշներից, որոնք մասնակցում են նրա ուսուցման հետագա փուլերին: