Խոշոր լեզվական մոդելները սովորել են ոչ միայն տեքստեր գրել, այլև լուծել բարդ մաթեմատիկական խնդիրներ: Սակայն դա դեռ չի նշանակում, որ դրանք իսկապես հասկանում են կատարվողը: ԱԲ-ի համար հաջորդ մեծ մարտահրավերը տրամաբանական մտածողություն և պատճառահետևանքային կապեր հասկանալ սովորելն է, գիտելիքները բոլորովին նոր իրավիճակների վրա փոխանցելը և սեփական որոշումների հետևանքները հասկանալը:

Այս մասին «Բա իմացա՞ր»-ը զրուցել է Մոնրեալի ServiceNow Research-ի մեքենայական ուսուցման հետազոտող և Multimodal Learning ծրագրի ղեկավար Փերուզ Թասլակյանի հետ:

Երբ հայտնվեցին առաջին խոշոր լեզվական մոդելները, դրանք լավ էին հաղթահարում այն, ինչի համար, կարծես թե, ստեղծված էին. շարունակում էին տեքստերը, պատասխանում հարցերին, բանաստեղծություններ և ծրագրային կոդ գրում: Սակայն նույնիսկ ամենապարզ մաթեմատիկան կարող էր դրանց հայտնվել փակուղում:

Պատճառն այն է, որ ի սկզբանե մոդելը մեծապես սովորում էր վերարտադրել օրինաչափությունները, որոնց արդեն հանդիպել էր տվյալներում: Եթե նա տեսնում էր նմանատիպ օրինակ, ապա կարող էր ճիշտ պատասխան տալ: Բայց դա դեռ չէր նշանակում, որ նա հասկանում էր բուն սկզբունքը:

Այսօր իրավիճակը փոխվել է:

Անգիր անելուց դեպի reasoning

Ժամանակակից մոդելները սովորել են բարդ խնդիրները բաժանել քայլերի հաջորդականության և ստուգել սեփական լուծման ընթացքը: Մաթեմատիկական խնդիրների համար դա հատկապես կարևոր է. պատրաստի պատասխանը հիշելու փորձի փոխարեն մոդելը կարող է կառուցել դատողությունների շղթա և հանգել արդյունքի:

Թասլակյանի խոսքով՝ հենց reasoning-ի զարգացումն է թույլ տվել ԱԲ-ին վերջերս հաղթահարել մի շարք մաթեմատիկական խնդիրներ, որոնք տասնամյակներ շարունակ բաց էին մնում հետազոտողների համար:

Բայց այստեղ առաջանում է կարևոր վերապահում. ճիշտ պատասխանը դեռ չի ապացուցում, որ մոդելն իսկապես ինքնուրույն է հանգել դրան:

Եթե լուծումն արդեն գոյություն է ունեցել հրապարակված նյութերում, անհնար է միշտ ճշգրիտ որոշել՝ արդյոք մոդելը դա արտածել է տրամաբանորեն, թե պարզապես ինչ-որ կերպ վերարտադրել է ուսուցման ընթացքում տեսածը:

Իսկ մաթեմատիկական խնդիրները խնդրի միայն մի մասն են:

Ամենադժվարը՝ հասկանալ, թե ինչը ինչի պատճառ դարձավ

Մարդը մշտապես փորձում է հաստատել պատճառահետևանքային կապեր: Եթե մարդը դեղ է ընդունել, և գլխացավն անցել է, մենք չենք կարող ավտոմատ կերպով եզրակացնել, որ օգնել է հենց դեղը. հնարավոր է՝ նա պարզապես լավ քնել է:

ԱԲ-ի համար նման իրավիճակները հատկապես բարդ են: Մոդելը կարող է հայտնաբերել, որ երկու իրադարձություն հաճախ տեղի են ունենում միասին, բայց դա դեռ չի նշանակում պատճառականության ընկալում:

Հենց այդ պատճառով, կարծում է Թասլակյանը, ԱԲ-ի զարգացման հաջորդ կարևոր աստիճանն է՝ սովորեցնել մոդելներին աշխատել ոչ միայն վիճակագրական կորելյացիաների, այլև պատճառահետևանքային կապերի հետ: Սա հատկապես կարևոր է այնտեղ, որտեղ համակարգը բախվում է իրավիճակի, որը նախկինում չի եղել նրա տվյալներում:

Պատկերացնենք, որ տեղի է ունենում բոլորովին նոր տնտեսական ճգնաժամ: Կամ հայտնվում է հիվանդություն, որի անալոգները դիտարկումների պատմության մեջ չեն եղել: Մոդելը, որը հենվում է գերազանցապես անցյալի օրինակների վրա, հայտնվում է բարդ դրության մեջ. նա բառացիորեն չունի ոչինչ, որի վրա կարող է հենվել:

Մարդը նման իրավիճակում փորձում է դատել մեխանիզմների մասին. ինչն ինչի վրա է ազդում, ինչ հետևանքներ կարող է առաջացնել մեկ գործոնի փոփոխությունը, համակարգի որ տարրերն են իսկապես կարևոր:

Հենց նման ունակությունն է թույլ տալիս գիտելիքները փոխանցել մի իրավիճակից մյուսը:

Ինչու է դա անհրաժեշտ ԱԲ-ին

Պատճառական մտածողությունը հատկապես կարևոր է, եթե մենք ցանկանում ենք ԱԲ-ն օգտագործել ոչ թե պարզապես որպես զրուցակից, այլ որպես գիտական հետազոտությունների և որոշումների կայացման գործիք:

Օրինակ՝ մոդելը կարող է օգնել փնտրել բուժման նոր մեթոդներ: Բայց դրա համար բավարար չէ իմանալ, որ որոշակի իրադարձություններ վիճակագրորեն կապված են միմյանց հետ: Պետք է հասկանալ, թե որ միջամտությունն է իսկապես հանգեցնում անհրաժեշտ արդյունքի: Նույնը վերաբերում է տնտեսագիտությանը, կլիմային, բժշկությանը և այլ բարդ համակարգերին, որտեղ միաժամանակ գործում են տասնյակ կամ հազարավոր գործոններ:

Խնդիրն այն է, որ նույնիսկ մարդիկ ամենևին էլ միշտ չէ, որ կարողանում են ճիշտ որոշել բարդ իրադարձությունների պատճառները:

Ուստի ԱԲ-ին պատճառական մտածողություն սովորեցնելը մնում է առանձին հետազոտական խնդիր: Հնարավոր է՝ դրա համար պահանջվի փոխել ոչ միայն մոդելների ուսուցման եղանակները, այլև բուն ճարտարապետությունները:

Արդյո՞ք reasoning-ը ԱԲ-ն կդարձնի ավելի անվտանգ

Ոչ պարտադիր:

Ավելի զարգացած դատողությունը կարող է նվազեցնել սխալների քանակը, բայց ԱԲ-ի անվտանգությունը շատ ավելի լայն խնդիր է:

Մոդելը կարող է տալ տրամաբանորեն ճիշտ պատասխան, որը կոնկրետ իրավիճակում վտանգավոր կստացվի: Այստեղ արդեն բավարար չէ հասկանալ, թե ինչպես ստանալ արդյունքը: Պետք է հասկանալ՝ իմաստ ունի՞ արդյոք այն ստանալ, և որոնք են հետևանքները:

Սա հատկապես ակնհայտ է իրավիճակներում, որտեղ սխալի գինը շատ բարձր է:

Եղանակի ոչ ճիշտ կանխատեսումն անհաճո է, բայց այն կարելի է հաղթահարել: Ռազմական համատեքստում որոշում կայացնող կամ մարդկային կյանքի վրա ազդող համակարգի սխալն ունի հետևանքների բոլորովին այլ մասշտաբ:

Բացի այդ, մոդելները բախվում են արժեքների խնդրին: Մարդը հասկանում է, որ մարդկային կյանքն արժեք ունի, իսկ որոշակի գործողություններ անթույլատրելի են ոչ միայն այն պատճառով, որ դրանք հանգեցնում են ոչ ճիշտ հաշվարկային արդյունքի:

Ընդ որում՝ հենց մարդիկ ամենևին էլ միշտ չէ, որ ընդունակ են միանշանակ պատասխանել այն հարցերին, թե ինչը համարել ճիշտ:

Եվ այստեղ առաջանում է պարադոքս. ԱԲ-ն ժառանգում է ոչ միայն մարդկության գիտելիքները, այլև նրա սխալները, տրամաբանական մոլորությունները և հակասությունները:

Եթե պատասխանները դառնում են էժան, գլխավոր հմտությունը դառնում է հարցը

Թասլակյանի կարծիքով՝ ԱԲ-ի թռիչքաձև զարգացումը կփոխի ոչ միայն տեխնոլոգիաները և գիտությունը, այլև կրթությունը:

Եթե համակարգերն ավելի ու ավելի լավ են պատասխանում գրեթե ցանկացած հարցի, մարդու համար նվազ կարևոր է դառնում պարզապես որոշակի ծավալի տեղեկատվության տիրապետելը: Շատ ավելի կարևոր է դառնում հասկանալը, թե հատկապես ինչ հարցնել:

«Հարցը ճիշտ ձևակերպելն արդեն դառնում է հմտություն, որը մենք շատ ավելի շատ պետք է զարգացնենք»:

Սա կարող է հանդիսանալ կրթության մեջ ամենագլխավոր փոփոխություններից մեկը:

Խնդիրն այն է, որ առայժմ ոչ ոք ճշգրիտ չգիտի, թե ինչ տեսք պետք է ունենա կրթական համակարգը մի աշխարհում, որտեղ յուրաքանչյուր աշակերտի կողքին գտնվում է հզոր ԱԲ-մոդել:

Ակնհայտ է միայն մի բան. սովորեցնել այնպես, ինչպես սովորեցնում էին տասը կամ քսան տարի առաջ, արդեն բավարար չէ:

Ինչու՞ են դեռ պետք մարդիկ, եթե ԱԲ-ն գրեթե ամեն ինչ գիտի

Հենց այս հարցն է ընկած արհեստական բանականության ամառային դպրոցի հիմքում, որը Թասլակյանը գործընկերների հետ արդեն երրորդ տարին է կազմակերպում է Հայաստանում:

Դպրոց են հրավիրում մասնագետների այլ երկրներից, որոնք ուսանողներին պատմում են ԱԲ-ում ամենաթարմ հետազոտությունների և մշակումների մասին: Մասնակիցները ոչ միայն լսում են դասախոսություններ, այլև աշխատում են գործնական խնդիրների վրա:

Առաջին հայացքից առաջանում է ակնհայտ հարց. ինչո՞ւ ժամանակ ծախսել դպրոցի վրա, եթե նույն տեղեկատվությունը կարելի է խնդրել ChatGPT-ից:

Թասլակյանը խոստովանում է. տեխնիկապես ChatGPT-ն իսկապես կարող է պատմել վերջին մշակումների մասին:

Բայց ուսուցումը ոչ միայն տեղեկատվություն ստանալն է:

Յուրաքանչյուր հետազոտող ունի փորձ, որը դեռ չի հասցրել վերածվել հոդվածի կամ դասագրքի: Կա ինտուիցիա, մասնագիտական սովորություններ, սեփական սխալներ և դիտարկումներ: Կան հարցեր, որոնք առաջանում են միայն կենդանի քննարկման ժամանակ:

Եվ կան այլ ուսանողներ:

Մեկ մարդը կարող է տալ մի հարց, որը երբեք մտքով չէր անցնի մյուսի: Քննարկումը ստիպում է ճշգրտել սեփական մտքերը, վիճել, փնտրել բացատրություններ և նկատել այն, ինչըմեն-մենակ հեշտ է բաց թողնել:

Ուստի կազմակերպիչները դպրոցը միտումնավոր անցկացնում են առկա ձևաչափով:

Քանի դեռ ԱԲ-ն չունի մարդկային մարմին և սեփական կյանքի պատմություն, մարդու մոտ մնում է տեղեկատվության աղբյուր, որը չկա տեքստային տվյալներում՝ իրական աշխարհի հետ փոխազդեցության անմիջական փորձը:

Եվ սա, թերևս, ամենակարևոր բաներից մեկն է, որն ԱԲ-ն առայժմ չի կարողանում ստանալ ինտերնետից: