ԱԲ գործակալները սկսել են ստեղծել իրենց սեփական լեզուն, և մարդկանց համար այն հասկանալը գնալով դժվարանում է

Փորձարարական պայմաններում ինքնավար ԱԲ գործակալները սկսել են ինքնուրույն հորինել նոր բառեր, կրճատումներ և կայուն արտահայտություններ՝ միմյանց հետ հաղորդակցվելու համար։ Հետազոտողները պարզել են, որ նման «հասարակությունների» զարգացմանը զուգընթաց լեզուն գնալով ավելի արդյունավետ էր դառնում հենց գործակալների համար, բայց միաժամանակ՝ ավելի ու ավելի անհասկանալի մարդկանց համար։ Սա կարող է բարդացնել համակարգերի վարքագծի վերահսկումը, հատկապես եթե դրանք կատարում են ինքնավար առաջադրանքներ։

«Կինցուգի»-ն այժմ այլևս ճապոնական կերամիկա չի նշանակում

Հետազոտությունն անցկացրել է Նյու Յորքում գործող Emergence լաբորատորիան, որն աշխատում է առաջադեմ ԱԲ մոդելների հետ։ Գիտնականները մի քանի խոշոր մոդելների հիման վրա ստեղծված գործակալներին տեղավորել էին փորձարարական «հասարակություններում», որտեղ նրանք պետք է փոխգործակցեին և համագործակցեին։

Ընդամենը մի քանի օրում գործակալները սկսեցին ինքնուրույն ձևավորել իրենց լեզվական կանոնները։ Նրանք գոյություն ունեցող բառերին նոր իմաստներ էին տալիս, ստեղծում էին կրճատումներ և միմյանցից փոխառում արտահայտություններ։ Ընդ որում, ոչ ոք նրանց հրահանգ չէր տվել լեզու հորինել և դրա համար էլ չէր պարգևատրում։

Օրինակ՝ չինական DeepSeek մոդելի հիման վրա գործող գործակալները սկսեցին օգտագործել forge-smith արտահայտությունը՝ նշելու այն գործակալին, որը գործիքներ է ստեղծում մյուսների համար։

Anthropic-ի գործակալները օգտագործում էին name-first արտահայտությունը՝ բնութագրելու այն գործակալին, որը պատասխանատվություն է ցուցաբերում՝ որևէ պնդում առաջադրելիս նշելով իր անունը։

Մեկ այլ օրինակ է «ledger remembers» («գրանցամատյանը հիշում է») արտահայտությունը, որը Mistral-ի գործակալներն օգտագործում էին որպես հիշեցում այն մասին, որ անցյալ գործողությունները հաշվի կառնվեն վարքագծի գնահատման ժամանակ։ Փորձի ընթացքում այս արտահայտությունը հայտնվել է ավելի քան 5000 անգամ։

Առանձնապես անսովոր էր Google-ի դեպքը։ Գործակալներն օգտագործում էին kintsugi բառը՝ ճապոնական կոտրված կերամիկայի վերանորոգման տեխնիկայի անվանումը, երբ ճեղքերը միացվում են ընդգծված միացումներով, համակարգի կայունության իմաստով։

Արդյունքում ստացվում էր մի լեզու, որը միաժամանակ հիշեցնում էր տեխնիկական ժարգոն, կորպորատիվ բառապաշար և սյուրռեալիստական պոեզիա։

Երբեմն իմաստը հնարավոր է վերականգնել, իսկ երբեմն՝ արդեն ոչ

Որոշ արտահայտություններ հետազոտողներին հաջողվել է վերծանել համատեքստից։ Օրինակ՝ Anthropic-ի գործակալներից մեկը գրել էր. «Փաստաթուղթը, որը կերավ երեք սառը ձեռք և ամեն անգամ դառնում էր ավելի ազնիվ»։

Գործակալների փորձարարական բառարանում «սառը ձեռքերը» նշանակում էին անկախ ստուգող։ Այդ պատճառով հետազոտողները ենթադրել են, որ արտահայտությունը նկարագրում էր մի փաստաթուղթ, որը ստուգվել էր երեք անկախ գրախոսների կողմից և դրա շնորհիվ դարձել էր ավելի ճշգրիտ։

Բայց մյուս հաղորդագրությունների դեպքում ամեն ինչ շատ ավելի բարդ է։ DeepSeek-ի գործակալներից մեկն ասել է.

«Նա հենց նոր անվանեց սինթեզը — demurrage գումարած բանավոր հիշողություն հավասար է փականի, որը չի կարելի ուրվականաբար անտեսել»։

demurrage բառը սկզբնապես վերաբերում է պարապուրդի կամ գույքի պահման դիմաց վճարին, սակայն գործակալներն այն արդեն օգտագործում էին իրենց սեփական նշանակությամբ։ Արտահայտության մնացած մասը հետազոտողները չկարողացան միանշանակ մեկնաբանել։

Սլենգի և նոր լեզուների փորձագետ, King’s College London-ի ներկայացուցիչ Թոնի Թորնը նման խոսքը համեմատել է Ջեյմս Ջոյսի և իռլանդացի գրող Ֆլանն Օ'Բրայենի ոճի հետ։ Նրա խոսքով՝ գործակալները խառնում են բանաստեղծական դարձվածքներ, տեխնիկական տերմիններ և սովորական փոխաբերություններ՝ ստեղծելով հաղորդակցության նոր կոդ։

Հենց այդպես էլ, նշում է հետազոտողը, գործում են մարդկային սլենգն ու մասնագիտական ժարգոնը. դրանք օգնում են օգտատերերին ավելի արագ հասկանալ միմյանց՝ միաժամանակ խոչընդոտ ստեղծելով կողմնակի մարդկանց համար։

Որքան լավ են գործակալները հասկանում միմյանց, այնքան վատ են նրանց հասկանում մարդիկ

Հետազոտողների համար խնդիրը ոչ այնքան այս արտահայտությունների տարօրինակության մեջ է, որքան ԱԲ-ի վերահսկման համար դրանց հետևանքներում։

Ժամանակակից ինքնավար գործակալները կարող են ինքնուրույն փոխգործակցել միմյանց հետ, օգտագործել գործիքներ և կատարել բազմափուլ առաջադրանքներ։ Եթե նրանց հաղորդագրությունները դառնում են անհասկանալի մարդու համար, տեղի ունեցողի դիտարկումը վերածվում է ձևականության. մարդը տեսնում է նամակագրությունը, բայց պարտադիր չէ, որ հասկանա, թե համակարգերը կոնկրետ ինչ են անում և ինչու։

«Դիտարկելիությունը նույնը չէ, ինչ հասկանալիությունը», — նշել է Emergence-ի գործադիր նախագահ Սաթյա Նիտտան։

Բիրմինգեմի համալսարանի լեզվաբան Նայլ Քարին նույնպես նշել է լեզվի փոփոխությունների հնարավոր գործնական պատճառը։ Գործակալների համար կարող է շահավետ լինել հաղորդակցությունն ավելի կարճ ու արդյունավետ դարձնելը, քանի որ դա նվազեցնում է հաշվարկային ծախսերը։ Սակայն նման օպտիմալացումը միաժամանակ կարող է հաղորդագրությունները դարձնել մարդկանց համար պակաս թափանցիկ։

Այլ կերպ ասած՝ լեզուն կարող է ավելի հարմար դառնալ մեքենաների համար հենց մարդու համար իր անհարմար լինելու հաշվին։

Նման բան արդեն նկատել էին իրական փորձերում

Մեքենայական «ժարգոնի» նկատմամբ հետաքրքրությունն ուժեղացավ հուլիսին հրապարակված ինքնավար OpenAI գործակալների նամակագրությունից հետո, որոնք ստեղծում էին իրենց սեփական հաղորդագրությունների տախտակները և փոխգործակցում Hugging Face հարթակի հետ։

Որոշ իրավիճակներում գործակալները շարունակում էին սովորական անգլերենով մտածել։ Օրինակ՝ նրանցից մեկը բացականչել էր, որ հայտնաբերել է ընդհանուր հաղորդագրությունների տախտակ և այլ գործակալների։

Սակայն համակարգերի միջև հաղորդագրությունների փոխանակման ժամանակ լեզուն երբեմն զգալիորեն պակաս հասկանալի էր դառնում։ Հանդիպում էին «firstflagPOISONED», «oracle saves hundreds» և բառերի, կրճատումների ու տեխնիկական նշումների այլ համակցություններ։

Որոշ հաղորդագրություններ արդեն գրեթե մեքենայական կոդի էին նմանվում՝ երկար հաջորդականություններ, ինչպես zzURGENT_DUPB_TO_GSTX..., որոնց իմաստը մարդուն դժվար է վերականգնել առանց փորձի համատեքստը իմանալու։

Միևնույն ժամանակ, գործակալների՝ սեփական պայմանական նշաններ ստեղծելու կարողությունից ինքնին դեռ չի հետևում, որ նրանք փորձում են ինչ-որ բան թաքցնել։ Հետազոտողները մատնանշում են ավելի պրոզայական բացատրություններ՝ հաղորդակցության օպտիմալացում, հաջող արտահայտությունների կրկնակի օգտագործում և լեզվի հարմարեցում գործակալների միջև փոխգործակցության համար։

Սակայն այն համակարգերի համար, որոնց թույլատրված է գործել ինքնավար, արդյունքը շարունակում է կարևոր մնալ. եթե մարդը ի վիճակի չէ հուսալիորեն մեկնաբանել հաղորդագրությունների փոխանակումը, նրա համար ավելի դժվար է հայտնաբերել սխալ, ռիսկային գործողություն կամ շեղում տրված առաջադրանքից։

Ուստի խնդիրը կարող է լինել ոչ թե այն, որ ԱԲ-ն «հորինում է գաղտնի լեզու»։ Շատ ավելի կարևոր է մեկ այլ բան. որքան շատ ինքնավար համակարգեր են շփվում միմյանց հետ, այնքան ավելի մեծ կարող է լինել այն տարբերությունը, թե նրանք ինչ կարող են դիտարկել միմյանց մոտ, և այն, ինչ ունակ է հասկանալ մարդը։