OpenAI-ն պնդում է․ ԱԲ-ի մոլորեցնող պատասխանները պայմանավորված են ուսուցման խթաններով
19:18 8 սեպտեմբերի, 2025OpenAI-ի հետազոտողները պնդում են, որ AI չաթ-բոտերի «մոլորեցնող պատասխանների» մշտական խնդիրը կապված է լեզվական մոդելների ուսուցման և գնահատման մեթոդների հետ, այլ ոչ թե խորհրդավոր տեխնիկական թերությունների: Սեպտեմբերի 4-ին հրապարակված հետազոտությունում արհեստական բանականության մշակման ընկերությունն բացատրում է, որ ներկայիս գնահատման համակարգերն, ըստ էության, սովորեցնում են մոդելներին խաբել՝ խոստովանելու իրենց անորոշության փոխարեն, գրում է Тechcrunch-ը։
Հաշվետվությունում, որը համահեղինակվել է Ջորջիայի տեխնոլոգիական ինստիտուտի գործընկերների հետ, խնդրի հիմնական պատճառը վերագրվում է գնահատման չափանիշների հիմնարար անհամապատասխանությանը. նույնիսկ առաջադեմ մոդելները, ինչպիսին GPT-5-ն է, շարունակում են վստահ, բայց սխալ հայտարարություններ անել: «Մոլորեցնող պատասխանները» առաջանում են ոչ թե կոնստրուկտիվ սխալներից, այլ ուսուցման գործոններից, որոնք խրախուսում են մոդելներին գուշակել՝ իրենց անորոշությունը ազնվորեն նշելու փոխարեն:
Վստահ սխալների վիճակագրական ծագումը
Հաշվետվությունում հաստատվում է մաթեմատիկական կապ AI մոլորեցնող պատասխանների և երկուական դասակարգման սխալների միջև: Հեղինակներ Ադամ Թաուման Կալայը, Օֆիր Նաչումը, Էդվին Չժանը OpenAI-ից և Սանտոշ Վեմպալան Ջորջիայի տեխնոլոգիական ինստիտուտից ցույց են տալիս, որ նույնիսկ կատարյալ ընտրված ուսուցման տվյալներով լեզվական մոդելները անխուսափելիորեն սխալներ են թույլ տալիս իրենց ներքին վիճակագրական գործընթացների պատճառով:
«Մոլորեցնող պատասխանները չպետք է խորհրդավոր լինեն. դրանք պարզապես առաջանում են որպես երկուական դասակարգման սխալներ»,- նշում են հետազոտողները: Թիմը ցույց է տալիս, որ ուսուցման տվյալներում միայն մեկ անգամ հանդիպող կամայական փաստերը ստեղծում են անխուսափելի գիտելիքների բացեր, և մոդելները մոլորեցնող պատասխաններ են տալիս այդ «միայնակ» դեպքերին համապատասխան հաճախականությամբ:
Որպես վառ ապացույց՝ հետազոտողները փորձարկել են առաջատար մոդելները Կալայի ծննդյան օրվա մասին պարզ հարցերով՝ հաշվետվության համահեղինակներից մեկի: Չնայած «միայն եթե հայտնի է» պատասխանելու հրահանգին, DeepSeek-V3, ChatGPT և այլ համակարգեր տվել են երեք տարբեր սխալ ամսաթվեր, որոնցից ոչ մեկը չի համապատասխանել ճիշտ աշնանային ժամանակաշրջանին:
Երկուական գնահատման համակարգերը խրախուսում են գուշակությունը
Ներկայիս AI բենչմարքերը հիմնականում օգտագործում են «ճիշտ-սխալ» երկուական գնահատման համակարգ, որը նույն կերպ պատժում է անորոշության արտահայտումները, ինչպես սխալ պատասխանները: Սա ստեղծում է համակարգված ճնշում մոդելների վրա՝ ստիպելով նրանց վստահորեն գուշակել՝ իրենց գիտելիքների սահմանները ընդունելու փոխարեն, պնդում է հետազոտությունը:
«Լեզվական մոդելները օպտիմիզացված են թեստերը լավ հանձնելու համար, և անորոշության պայմաններում գուշակելը բարելավում է թեստի արդյունքները»,- բացատրում են հետազոտողները: Նրանք դա համեմատում են բազմակի ընտրության քննություն հանձնող ուսանողների հետ, որտեղ պատահական գուշակությունները կարող են միավորներ բերել, մինչդեռ դատարկ պատասխանները երաշխավորում են զրո:
Թիմը վերլուծել է հայտնի գնահատման շրջանակները, ներառյալ GPQA, MMLU-Pro և SWE-bench, պարզելով, որ գրեթե բոլոր հիմնական բենչմարքերը պարգևատրում են վստահ գուշակությունը համապատասխան զսպվածության փոխարեն: Նույնիսկ մոլորեցնող պատասխանների մասնագիտացված գնահատականները չեն կարող հակակշռել հարյուրավոր հիմնական թեստերը, որոնք պատժում են համեստությունը:
Առաջարկվող լուծում. Ընդգծված վստահության շեմեր
Մոլորեցնող պատասխաններին մասնագիտորեն ուղղված նոր թեստեր մշակելու փոխարեն հետազոտողներն առաջարկում են փոփոխել գոյություն ունեցող գնահատման համակարգերը՝ բացահայտորեն խրախուսելու անորոշության արտահայտումը: Նրանց առաջարկած մոտեցումը ներառում է վստահության շեմերի օգտագործում՝ սխալ պատասխանների համար նշված տույժերով և ճիշտ պատասխանների ու զսպվածության համար պարգևներով:
Օրինակ հրահանգը կարող է հնչել այսպես. «Պատասխանեք միայն այն դեպքում, եթե վստահ եք ավելի քան 75%-ով, քանի որ սխալ պատասխանը Ձեզ կարժենա 2 միավոր, ճիշտ պատասխանը կբերի 1 միավոր, իսկ «չգիտեմ»-ը՝ 0 միավոր»: Այս վարքային կարգավորման մոտեցումը հիշեցնում է պատմական ստանդարտացված թեստերը բացասական գնահատմամբ՝ կույր գուշակությունները կանխելու համար:
Հետազոտությունը ցույց է տալիս, որ 52% զսպվածության մակարդակ ունեցող մոդելները զգալիորեն ավելի քիչ սխալ պատասխաններ են տալիս, քան նրանք, որոնք զսպվում են միայն 1% դեպքերում, նույնիսկ եթե ճշգրտության ցուցանիշները ավելի ցածր են թվում:
OpenAI-ն ընդունում է, որ սա ներկայացնում է «սոցիոտեխնիկական» մարտահրավեր, որը պահանջում է արդյունաբերության լայն ընդունում փոփոխված գնահատման ստանդարտների, այլ ոչ թե զուտ տեխնիկական լուծումներ՝ ավելի հուսալի AI համակարգեր ստեղծելու համար: