Musubi ընկերությունը ներկայացրել է PolicyLM-1.7B-ը՝ իրական ժամանակում բովանդակության մոդերացիայի համար նախատեսված արհեստական բանականության կոմպակտ մոդել։ Այն պետք է կիրառի հարթակի կանոնները հաղորդագրությունների նկատմամբ 50 միլիվայրկյանից պակաս ժամանակում և, ի տարբերություն ավանդական ավտոմատ մոդերացիայի բազմաթիվ համակարգերի, քաղաքականության յուրաքանչյուր փոփոխության դեպքում նորից ուսուցում չպահանջի։ Մշակողները ակնկալում են, որ այս մոտեցումը սոցիալական ցանցերին թույլ կտա ավելի արագ հարմարեցնել կանոնները և վերլուծել հրապարակումների աճող ծավալները։

Մոդելը թողարկվել է բաց քաշերով, ուստի այն կարելի է գործարկել ինքնուրույն։ Musubi-ն այն ներկայացնում է որպես այլընտրանք այն դասակարգիչներին, որոնք սոցիալական հարթակներն արդեն օգտագործում են արգելված կամ անցանկալի բովանդակությունը հայտնաբերելու համար, հայտնում է TechCrunch-ը։

Տեքստ գեներացնելու փոխարեն՝ կոնկրետ որոշում

PolicyLM-1.7B-ը պատկանում է այսպես կոչված որոշում ընդունող մոդելների դասին։ Ի տարբերություն սովորական մեծ լեզվային մոդելների, որոնք տեքստ են գեներացնում, նման համակարգերը տալիս են արդյունքների հավանականություններ կամ ընտրում են նախապես սահմանված տարբերակներից մեկը։

PolicyLM-1.7B-ի դեպքում խնդիրը բերված է երկակի դասակարգման՝ արդյոք հաղորդագրությունը պատկանում է տրված կատեգորիային, թե ոչ։ Օրինակ, մոդելը պետք է կարողանա գնահատել բովանդակությունը հարթակի ձևակերպված կանոնների համաձայն, այլ ոչ թե պարզապես որոնել նախապես հայտնի բառեր ու արտահայտություններ։

Հնարավոր պատասխանների թվի սահմանափակումը նման մոդելներին թույլ է տալիս աշխատել ավելի արագ և ավելի էժան, քան լիարժեք լեզվային մոդելները՝ միաժամանակ պահպանելով տրանսֆորմերների ճարտարապետության ճկունությունը։

Musubi-ի հայտարարության համաձայն՝ PolicyLM-1.7B-ը նախատեսված է արագության և արժեքի համար, որոնք համադրելի են մոդերացիայի համակարգերում օգտագործվող ավանդական ԱԲ դասակարգիչների հետ։ Միևնույն ժամանակ այն պետք է կարողանա հաղթահարել ավելի բարդ կանոններ՝ առանց յուրաքանչյուր նոր խնդրի համար հատուկ ուսուցման։

Կանոնները կարելի է փոխել առանց վերավարժեցման

Մշակման առանցքային առանձնահատկությունը մոդերացիայի չափանիշները սովորական անգլերենով սահմանելու հնարավորությունն է։ Հարթակի թիմը նկարագրում է, թե ինչ բովանդակություն պետք է հայտնաբերվի, իսկ մոդելը այդ հրահանգները կիրառում է հաղորդագրությունների նկատմամբ։

Եթե կանոնները փոխվում են, մշակողներից չի պահանջվում մոդելը կրկին ուսուցանել։ Սա կարող է հեշտացնել այն թիմերի աշխատանքը, որոնք ստիպված են պարբերաբար ճշտել հրապարակումների քաղաքականությունը, արձագանքել անցանկալի բովանդակության նոր տեսակներին և շտկել գնահատման չափանիշները։

Musubi-ի համահիմնադիր և ընկերության արհեստական բանականության տնօրեն Ֆիլիպ Յանկովիչը կարծում է, որ հարթակների համար կարևոր է ոչ միայն հեռացնել արդեն հայտնաբերված խախտումները, այլև ավելի ամբողջական պատկերացում ստանալ կատարվողի մասին։ Բովանդակության ծավալների կտրուկ աճի պայմաններում հրապարակումները մասշտաբային և ճկուն դասակարգելու հնարավորությունը հատկապես օգտակար է դառնում։

Սակայն վերավարժեցման անհրաժեշտության բացակայությունն ինքնին ճշգրտություն չի երաշխավորում։ Մոդերացիայի որակը նախկինի պես կախված է նրանից, թե որքան ճիշտ է մոդելը հասկանում կանոնները և որքան հուսալի է դրանք կիրառում կոնկրետ հաղորդագրությունների նկատմամբ։

ԱԲ գործակալների վերահսկումից՝ մարդկանց մոդերացիա

Որոշում ընդունող մոդելների նկատմամբ հետաքրքրությունը նկատելիորեն աճել է TypeSafe AI-ի Jev-ի սեպտեմբերյան թողարկումից հետո։ Շուտով այս տիպի սեփական մշակումները ներկայացրին նաև OpenAI-ն ու Amazon-ը։

Նման համակարգերի կիրառման առաջին ուղղություններից մեկը դարձել էր ԱԲ գործակալների վարքի վերահսկումը։ Այժմ նույն սկզբունքն առաջարկվում է օգտագործել թվային միջավայրում մարդկանց գործողությունները գնահատելու համար՝ առաջին հերթին հաղորդագրությունների և հրապարակումների մոդերացիայի նպատակով։

Այնուամենայնիվ, Յանկովիչը պնդում է, որ նման տեխնոլոգիաներով հետաքրքրվել էր դեռ Jev-ի հայտնվելուց առաջ։ Նա մոտեցման ակունքները կապում է GLiNER նախագծի հետ, որը ներկայացվել էր 2024 թվականին և նախատեսված էր տեքստում անվանական էությունների ճանաչման համար։

Musubi-ն չի թաքցնում իր մշակումի նմանությունը այլ որոշում ընդունող մոդելների հետ։ Ընդհակառակը, ընկերությունը հույս ունի օգտագործել ԱԲ-ի այս կատեգորիայի նկատմամբ աճող հետաքրքրությունը, որպեսզի ուշադրություն հրավիրի PolicyLM-1.7B-ի վրա՝ որպես բաց քաշերով մասնագիտացված մոդերացիոն գործիքի։

Կկարողանա՞ արդյոք այսպիսի մոդելը փոխել մոդերացիան

Սոցիալական հարթակների համար նման համակարգերի գլխավոր առավելությունը հաղորդագրությունների հսկայական հոսքի նկատմամբ փոփոխվող կանոններն արագ կիրառելու հնարավորությունն է։ Եթե մոդելն իսկապես ապահովի հայտարարված արագությունն ու արժեքը, այն կարող է դառնալ հարմար գործիք բովանդակության նախնական դասակարգման և հարթակում կատարվողը վերլուծելու համար։

Բայց ավտոմատ դասակարգումը չի լուծում մոդերացիայի բոլոր խնդիրները։ Ձևակերպումները կարող են լինել երկիմաստ, համատեքստը՝ բարդ, իսկ հրապարակման թույլատրելիությունը՝ կախված իրավիճակից։ Այդ պատճառով մոդելի՝ արագ պատասխան տալու կարողությունը դեռ չի նշանակում, որ այդ պատասխանը միշտ ճիշտ կլինի։

PolicyLM-1.7B-ը ցույց է տալիս, թե ինչպես ԱԲ-ի զարգացումը կարող է փոխել մոդերացիայի նկատմամբ հենց մոտեցումը․ յուրաքանչյուր խնդրի համար առանձին դասակարգիչ ստեղծելու փոխարեն հարթակները հնարավորություն են ստանում կանոնները սահմանել բնական լեզվով և փոխել դրանք առանց ուսուցման նոր շրջափուլի։ Թե որքան հուսալի դա կաշխատի գործնականում, դեռ պետք է ստուգվի իրական պայմաններում։