Արհեստական բանականության կողմից ստեղծված իրադարձության ոչ ճշգրիտ վերապատմումը կարող է ազդել այն բանի վրա, թե ինչպես է մարդը հիշում իր տեսածը։ 331 կամավորի մասնակցությամբ փորձարկման ընթացքում դիտված տեսանյութի վերաբերյալ հարցերին տրված պատասխանների ճշտությունը հավաստի նկարագրություն կարդալուց հետո նվազել է 83,6%-ից մինչև 44,8%՝ աղավաղված տեքստին ծանոթանալուց հետո։ Ջորջթաունի համալսարանի և Վաշինգտոնի համալսարանի հետազոտողները արդյունքները կներկայացնեն AAAI/ACM-ի արհեստական բանականության, էթիկայի և հասարակության թեմայով համաժողովում։

Աշխատանքը ուշադրություն է հրավիրում այն ռիսկի վրա, որն առաջանում է, երբ մարդիկ ԱԲ ամփոփագրերն օգտագործում են որպես սեփական դիտարկումների փոխարինիչ։ Նման տեքստերում առկա սխալները կարող են ոչ միայն ապատեղեկացնել ընթերցողին, այլև դժվարացնել իրադարձությունների վերականգնումը այն տեսքով, որով նա դրանք իրականում տեսել է։

Ինչպես է ոչ ճշգրիտ վերապատմումը փոխում հիշողությունները

Փորձի ընթացքում կամավորներին ցույց են տվել ճանապարհատրանսպորտային պատահար պատկերող անիմացիոն տեսահոլովակ․ կարմիր ավտոմեքենան հետիոտնին վրաերթի էր ենթարկում անցման վրա։ Հաջորդ օրը մասնակիցներին առաջարկել են կարդալ տեղի ունեցածի կարճ նկարագրությունը, որը պատրաստել էին ChatGPT և Gemini լեզվային մոդելները։

Ամփոփագրերը դիտավորյալ պարունակում էին սխալներ կամ բաց էին թողնում կարևոր մանրամասներ։ Օրինակ՝ դեպքերի 95%-ում ԱԲ-ն ընդհանրապես չէր հիշատակում ավտոմեքենայի և մարդու բախման փաստը։ Միջինում մոդելները բաց էին թողնում պատահարի մասին էական տեղեկատվության ավելի քան կեսը։

Այնուհետև հետազոտողները ստուգել են, թե որքան լավ են մասնակիցները հիշում տեսածը։ Արդյունքները ցույց են տվել նկատելի տարբերություն՝ կախված նրանից, թե նրանք ինչ տեքստ էին կարդացել․ հավաստի նկարագրությունից հետո ճիշտ պատասխաններ տվել է մասնակիցների 83,6%-ը, իսկ աղավաղվածից հետո՝ միայն 44,8%-ը։

Այսպիսով, ոչ ճշգրիտ ամփոփագրի հետ ծանոթանալը ուղեկցվել է հիշողությունների ճշտության էական նվազմամբ։ Սակայն փորձը չի նշանակում, որ ԱԲ-ի ցանկացած սխալ ինքնաբերաբար փոխում է մարդու հիշողությունը․ հետազոտողները ուսումնասիրել են կոնկրետ սցենար՝ որոշակի իրադարձությամբ և հատուկ պատրաստված տեքստերով։

Ինչու է կարևոր, թե ով է պատրաստել տեքստը

Մասնակիցներին հայտնել են, թե ով է կազմել պատահարի նկարագրությունը՝ մարդը, թե արհեստական բանականությունը։ Ընդ որում, նրանք կարդում էին ոչ ճշգրիտ ամփոփագրեր՝ անկախ նրանից, թե ում էր վերագրվում դրանց հեղինակությունը։

Սա թույլ է տալիս ենթադրել, որ ռիսկը կապված չէ միայն նեյրոցանցերի նկատմամբ վստահության հետ։ Իրադարձության վստահորեն շարադրված, բայց սխալ տարբերակին պարզապես ծանոթանալը կարող է ազդել դրա մասին հետագա հիշողության վրա։

Երբ մարդը փորձում է վերականգնել անցյալի մանրամասները, նա հենվում է ոչ միայն սկզբնական ընկալման, այլև ավելի ուշ ստացված տեղեկատվության վրա։ Եթե նոր աղբյուրը բաց է թողնում կարևոր հանգամանքները կամ դրանք նկարագրում է սխալ, ապա սեփական հիշողությունները յուրացված վերապատմումից տարանջատելը դառնում է ավելի դժվար։

Մեծ տվյալների ինստիտուտի դոցենտ Մատեա Սիմը զգուշացնում է, որ ԱԲ-ն կարող է դառնալ ապատեղեկատվություն տարածելու գործիք՝ ունակ ձևավորելու կեղծ հիշողություններ։ Այնուամենայնիվ, ազդեցության մասշտաբը գնահատելու համար անհրաժեշտ են լրացուցիչ հետազոտություններ․ մեկ փորձը թույլ չի տալիս որոշել, թե որքան հաճախ է նման բան տեղի ունենում առօրյա կյանքում։

Ինչով է սա սպառնում ոստիկանությանը և դատարաններին

Արդյունքներն առանձնահատուկ նշանակություն ունեն այն իրավիճակների համար, որտեղ հիշողությունների ճշտությունը ազդում է լուրջ որոշումների վրա։ Այդպիսի ոլորտներից են բժշկությունը, հանցագործությունների քննությունը և դատական վարույթները։

ԱՄՆ-ի ոստիկանական ստորաբաժանումներն արդեն ներդնում են ալգորիթմներ՝ տեսագրությունների հիման վրա հաշվետվություններ պատրաստելու համար։ Նման գործիքները կարող են արագացնել նյութերի մշակումն, բայց եթե ավտոմատ ստեղծված ամփոփագիրը բաց է թողնում առանցքային հանգամանքը, այն կարող է ազդել այն բանի վրա, թե ինչպես է աշխատակիցը հետագայում ընկալում միջադեպը։

Օրինակ, եթե պատահարի նկարագրության մեջ չի հիշատակվում ավտոմեքենայի բախումը հետիոտնի հետ, ընթերցողը կարող է այդ փաստին ավելի քիչ ուշադրություն դարձնել կամ դժվարությամբ հիշել այն հետագա հարցաքննության ժամանակ։ Դատական համատեքստում նման սխալները պոտենցիալ կարող են բարդացնել իրադարձությունների հաջորդականության վերականգնումը և վկաների ցուցմունքների գնահատումը։

Հետազոտության հեղինակները ծրագրում են շարունակել աշխատանքը և ստուգել, թե ինչպես են ԱԲ ամփոփագրերն ազդում ոստիկանների հիշողության վրա կրծքային տեսախցիկների գրառումները դիտելիս։ Նման փորձը կօգնի պարզել, թե արդյոք հայտնաբերված ազդեցությունն արտահայտվում է ավելի իրատեսական պայմաններում։

Ինչու ԱԲ հաշվետվությունները չի կարելի համարել սկզբնաղբյուրի փոխարինիչ

Հետազոտության գլխավոր գործնական եզրակացությունն այն է, որ ավտոմատ ստեղծված նկարագրությունները չպետք է ընկալվեն որպես բնօրինակ նյութերի անսխալ փոխարինիչ, հատկապես եթե խոսքը վերաբերում է այնպիսի իրադարձությունների, որոնցից կախված են իրավական կամ բժշկական որոշումները։

ԱԲ-ն կարող է խնայել ժամանակը տեսանյութերի մեծ ծավալներ վերլուծելիս, սակայն կարճ վերապատմման մեջ առկա բացթողումներն ու անճշտությունները կարող են հետևանքներ ունենալ, որոնք դուրս են գալիս հենց տեքստի սահմաններից։ Այդ պատճառով կարևոր մանրամասները պետք է ստուգել սկզբնական գրառմամբ, իսկ ավտոմատ հաշվետվությունները՝ համադրել սկզբնաղբյուրի հետ։

Փորձը չի ապացուցում, որ լեզվային մոդելները ունակ են կամայականորեն վերագրել մարդու հիշողությունը կամ վերահսկել նրա հիշողությունները։ Այն ցույց է տալիս ավելի կոնկրետ խնդիր․ իրադարձությունից հետո ստացված ոչ ճշգրիտ տեղեկատվությունը կարող է նկատելիորեն վատթարացնել մարդու՝ այն ճիշտ հիշելու կարողությունը։ Քանի որ ԱԲ ամփոփագրերը տարածվում են առօրյա աշխատանքում և պետական հաստատություններում, նման նկարագրությունների հուսալիությունը դառնում է ոչ միայն ծրագրային ապահովման որակի, այլև մարդկային հիշողության հարց։