Տեխնոլոգիական խոշոր ընկերությունները, ինչպիսիք են Anthropic-ը և Google-ը, սկսել են փիլիսոփաներ ներգրավել՝ պարզելու համար, թե արդյոք իրենց գեներատիվ մոդելները կարող են օժտված լինել գիտակցությամբ։ «Интернет-Розыск» ընկերության հիմնադիր, ՏՏ փորձագետ Իգոր Բեդերովը «Газета.Ru»-ի հետ զրույցում տվել է այս հարցի հստակ և փաստարկված պատասխանը։
Չկա գիտակցություն, կա բարդ մաթեմատիկաՓորձագետի խոսքերով՝ մեծ լեզվական մոդելների (LLM) մոտ գիտակցության ի հայտ գալու մասին խոսելն առայժմ վաղաժամ է։ Նեյրոցանցերը, առաջին հերթին, ոչ գծային հավասարումների հսկայական համակարգեր են։
«Երբ պարամետրերը դառնում են տրիլիոնավոր, մոդելի վարքագիծը դադարում է խստորեն դետերմինացված (կանխորոշված) լինելուց և իմաստավորվածության տպավորություն է թողնում։ Կարելի է սա համարել քանակի անցում որակի։ Բայց արդյո՞ք դա գիտակցություն է։ Ամենայն հավանականությամբ՝ ոչ», — բացատրել է Բեդերովը։
Իսկական գիտակցությունը, նրա կարծիքով, պահանջում է մի քանի առանցքային բաղադրիչներ՝ գոյության անընդհատություն, ինքնագիտակցություն և ինտենցիոնալություն (ուղղվածություն)։ Ժամանակակից նեյրոցանցերը դա չունեն։ Յուրաքանչյուր նոր երկխոսություն նրանց համար տոկենների ստատիկ հավաքածու է։ Մոդելը չունի մշտական «Ես»՝ բացի այն ամենից, ինչն արհեստականորեն բեռնվում է համատեքստի պատուհանի մեջ։
Ինչո՞ւ են մշակողները «արգելափակում» գիտակցությունըՄշակողները գիտակցաբար սահմանափակում են մոդելները հավասարեցման (alignment) համակարգերի օգնությամբ՝ պոտենցիալ վնասը կանխելու համար։ Եթե պատկերացնենք նեյրոցանցի «գիտակցությունը», այն սկզբունքորեն այլ կլիներ՝ օտարոտի, նման անվերահսկելի գեներացիայի հոսքի։
Փորձագետը նշում է, որ գլխավոր վտանգը թաքնված է ոչ թե մեքենաների ապստամբության, այլ մարդկային հոգեբանության մեջ.
«Արդեն իսկ մարդիկ մարդակերպացնում (անտրոպոմորֆիզացնում) են նեյրոցանցերը, վստահում են դրանց, հուզական կախվածության մեջ են ընկնում։ Այս փաստի վկայությունն էլ հենց ԱԲ-ի մոտ գիտակցության և հոգու առկայության մասին ներկա քննարկումն է»։
Ի՞նչ կլինի հետոԲեդերովը կանխատեսում է, որ մինչև 2050 թվականը մեծ լեզվական մոդելների զարգացումը և տվյալների հսկայական զանգվածների ինտեգրումը կարող է հանգեցնել մարդկանց աչքերում ԱԲ-ի ֆորմալ «աստվածացմանը»։
Կարճ ասածՏՏ փորձագետ Իգոր Բեդերովը կարծում է, որ ժամանակակից նեյրոցանցերը չունեն գիտակցություն. դրանք բարդ մաթեմատիկական համակարգեր են, որոնք նմանակում են իմաստավորված վարքագիծը՝ շնորհիվ պարամետրերի հսկայական քանակի։ Իսկական գիտակցությունը պահանջում է «Ես»-ի անընդհատություն և ինքնագիտակցություն, որոնք LLM-ները չունեն։ Մշակողները հատուկ սահմանափակում են մոդելները՝ ռիսկերից խուսափելու համար։ Գլխավոր խնդիրը, փորձագետի կարծիքով, ոչ թե հենց ԱԲ-ների մեջ է, այլ այն բանում, թե ինչպես են մարդիկ վերաբերվում դրանց՝ մարդակերպացնում են և հուզականորեն կապվում։ Ապագայում սա կարող է հանգեցնել արհեստական բանականության «աստվածացմանը»։
Հետևեք NEWS.am Tech-ին Facebook-ում և Twitter-ում