Anthropic-ը ներկայացրել է FlashProve հետազոտական նախագիծը՝ բաց համակարգ, որը պետք է թույլ տա ստուգել արհեստական բանականության պատասխանների ծագումը: Կրիպտոգրաֆիկական ապացույցի միջոցով օգտատերը կկարողանա համոզվել, որ արդյունքն իրոք ստեղծվել է այն մոդելի կողմից, որը խոստացել էին տրամադրել, այլ ոչ թե ավելի էժան կամ պակաս հզոր փոխարինողի:

Մշակումը կոչված է լուծելու ԱԲ-ծառայությունների նկատմամբ վստահության խնդիրը. այսօր օգտատերը միշտ չէ, որ կարող է ստուգել, թե կոնկրետ որ մոդելն է մշակել իր հարցումը: Սա հատկապես կարևոր է այն ընկերությունների համար, որոնք ԱԲ-ն օգտագործում են կրիտիկական նշանակություն ունեցող խնդիրներում կամ հայտարարում են, որ արդյունք են ստացել առաջատար մոդելից, պատմում է TechCrunch-ը:

Ինչպես ապացուցել, թե որ մոդելն է պատասխանել հարցմանը

FlashProve-ն իրականացնում է մոտեցում, որը հետազոտողներն անվանում են provable inference՝ ապացուցելի եզրակացություն: Ըստ էության, խոսքը կոնկրետ պատասխանի ստացման կրիպտոգրաֆիկական հաստատման մասին է որոշակի մոդելի միջոցով:

Anthropic-ն այս միտքը համեմատում է էլեկտրոնային փոստի թվային ստորագրությունների հետ: Դրանք ստացողին թույլ են տալիս ստուգել, թե արդյոք հաղորդագրությունն իրոք ուղարկվել է նրա կողմից, ում անունից այն եկել է: Նմանապես, FlashProve-ը պետք է հաստատի ԱԲ-ի պատասխանի ծագումը և պաշտպանի համակարգը մի մոդելը մյուսով ներկայացնելու փորձերից:

Նման ստուգումը կարող է օգտակար լինել նույնիսկ այն իրավիճակում, երբ փոխարինումը փորձում է իրականացնել հենց մոդելը մշակած և սպասարկող ընկերությունը: Օրինակ՝ ԱԲ-ծառայությունների մատակարարը տեսականորեն կարող է աննկատ կերպով թանկ մոդելը փոխարինել ավելի էժանով՝ ծախսերը նվազեցնելու համար՝ պահպանելով օգտատերերին տրված նախկին խոստումները: Հնարավոր է նաև հակառակ իրավիճակը. ընկերությունը կարող է հայտարարել ավելի հզոր մոդելի արդյունքների մասին, թեև փաստացի օգտագործել է այլ մոդել:

FlashProve-ը մտածված է որպես նման փոխարինումները հայտնաբերելի դարձնելու միջոց:

Ինչու է սա անհրաժեշտ ԱԲ-ծառայությունների սահմաններից դուրս

Համակարգը կարող է պետք գալ ոչ միայն չաթ-բոթերի պատասխանները ստուգելու համար: Այն նաև թույլ կտա հաստատել երրորդ կողմի ընկերությունների հայտարարությունները այն մասին, թե որ մոդելներն են օգտագործվել որոշակի խնդիրներ կատարելիս:

Օրինակ՝ ծրագրային ապահովման մշակողը կարող է պնդել, որ իր գրադարանը խոցելիությունների առկայության ստուգման է ենթարկել կիբեռանվտանգության առաջատար մոդելը: Կամ ընկերությունը կարող է հայտարարել, որ իր բիզնես-պլանն ստացել է նման գնահատման համար հարմար ԱԲ-համակարգի հավանությունը:

Երկու դեպքում էլ առաջանում է միևնույն հարցը. ինչպես համոզվել, որ հայտարարված մոդելն իրոք մասնակցել է աշխատանքին:

Anthropic-ի հետազոտողները կարծում են, որ արդյունքի ծագման կրիպտոգրաֆիկական հաստատումը կարող էր օգտատերերին տալ նման հնարավորություն: Սա հատկապես կարևոր է այնքանով, որքանով ԱԲ լուծումներն սկսում են օգտագործվել այնպիսի գործընթացներում, որտեղ պատասխանի որակի և ծագման նկատմամբ վստահությունն ունի գործնական նշանակություն:

Մոդeli դրոշմապատկերը առանց դրա կառուցվածքի բացահայտման

FlashProve-ի աշխատանքի համար ԱԲ մշակողները ստիպված կլինեն հրապարակել թողարկված յուրաքանչյուր մոդելի հատուկ թվային «դրոշմապատկեր» (հետք): Հետագայում այն հնարավոր կլինի համեմատել համակարգի աշխատանքի արդյունքների հետ և ստուգել կրիպտոգրաֆիկական եղանակով:

Ընդ որում, դրոշմապատկերը չի բացահայտում մոդելի կշիռները՝ ներքին թվային պարամետրերը, որոնք որոշում են դրա վարքագիծը: Հենց այս տվյալները փակ համակարգերի մշակողները, ներառյալ Anthropic-ը և OpenAI-ը, սովորաբար չեն հրապարակում, քանի որ դրանք ներկայացնում են գլխավոր կոմերցիոն արժեքներից մեկը:

Այսպիսով, ընկերությունները կկարողանան մասնակցել պատասխանների ծագման հաստատման համակարգին՝ առանց բացելու իրենց մոդելների ներքին կառուցվածքի հասանելիությունը: Սա սկզբունքային պայման է տեխնոլոգիայի կիրառման համար ոչ միայն բաց, այլև կոմերցիոն ԱԲ-ապրանքներում:

FlashProve-ին ներկայացվող ևս մեկ պահանջ է հաշվողական փոքր ծանրաբեռնվածությունը: Ապացույցի ստուգումը պետք է իրականացվի անմիջապես օգտատերերի լոկալ սարքում՝ առանց մոդելի մշակողի հզոր ենթակառուցվածքին դիմելու անհրաժեշտության:

Anthropic-ը բացել է կոդը, բայց առայժմ չի պլանավորում ներդնել համակարգը

Անոնսի հետ միասին հետազոտողները հրապարակել են FlashProve-ի մանրամասն տեխնիկական բնութագիրը և նախագծի առանձին բաղադրիչների աշխատանքային կոդը: Նյութերը հասանելի են բաց հասանելիությամբ GitHub-ում՝ open source լիցենզիայի ներքո:

Սակայն մշակումը դեռևս մնում է հետազոտական: Anthropic-ը չի հայտարարել FlashProve-ն սեփական արտադրանքում ներդնելու կամ համակարգն այլ ԱԲ-ընկերությունների գործնական օգտագործման համար փոխանցելու պլանների մասին:

Հեղինակներն ընդգծում են, որ հրապարակված նյութերն արտացոլում են աշխատանքի միջանկյալ փուլը, այլ ոչ թե ավարտված հետազոտական ծրագիրը: Նրանք ակնկալում են, որ այլ մասնագետներ կուսումնասիրեն առաջարկված մոտեցումը, կստուգեն դրա հնարավորությունները և կառաջարկեն բարելավումներ:

Եթե FlashProve-ը հաջողվի հասցնել գործնական կիրառման, այն կարող է դառնալ ԱԲ շուկայի թափանցիկության կարևոր գործիք: Այսօր ընկերությունները մրցում են նախևառաջ մոդելների որակով և դրանց հնարավորություններով: Սակայն նման ծառայությունների տարածմանը զուգընթաց ավելի ու ավելի կարևոր է դառնալու մեկ այլ հարց ևս. արդյոք օգտատերն իրոք ստացել է պատասխանն այն համակարգից, որի համար վճարել է կամ որը խոստացել են տրամադրել նրան: