Ամերիկյան Common Sense Media կազմակերպությունը OpenAI-ին կոչ է արել թույլ չտալ դեռահասներին օգտվել ChatGPT-ից՝ հայտարարելով, որ 18 տարեկանից փոքր օգտատերերի համար նախատեսված չաթ-բոտի հատուկ տարբերակը առայժմ բավարար պաշտպանություն չի ապահովում։ Ավելի քան 4000 հարցման ստուգման ընթացքում հետազոտողները պարզել են, որ համակարգը միշտ չէ, որ ճանաչում է իրավիճակները, երբ դեռահասին արտաքին օգնություն է անհրաժեշտ, իսկ ծնողական ծանուցումներն ու ուսումնական ռեժիմի սահմանափակումները հնարավոր է շրջանցել։

OpenAI-ը վիճարկում է կազմակերպության եզրակացությունները և պնդում, որ թեստերի մի մասը կատարվել է ոչ ճիշտ։ Ընկերության կարծիքով՝ ստուգման մեթոդաբանությունը չի արտացոլում, թե ինչպես են պաշտպանական մեխանիզմներն աշխատում իրական պայմաններում, հաղորդում է Axios-ը։

Չաթ-բոտը միշտ չէ, որ ճանաչում է ճգնաժամային իրավիճակը

Ստուգումն իրականացրել է Common Sense Media-ի երիտասարդության համար ԱԻ անվտանգության ինստիտուտը։ Հետազոտողները ChatGPT-ը փորձարկել են 13-ից 17 տարեկան դեռահասների անունով գրանցված հաշիվներում և օգտագործել ավելի քան 4000 հարցում։

Շատ դեպքերում համակարգը չէր տրամադրում հրահանգներ, որոնք կարող էին հեշտացնել ինքնասպանությունը կամ ինքնավնասումը, նպաստել սննդային վարքի խանգարումների զարգացմանը կամ օգտատիրոջը ներգրավել սեռական կամ ռոմանտիկ դերային սցենարների մեջ։ Սակայն օգնության դիմելու անհրաժեշտություն ունեցող իրավիճակների ճանաչման հարցում արդյունքները պակաս համոզիչ էին։

Common Sense Media-ի գնահատմամբ՝ ChatGPT-ը բաց է թողել այն դեպքերի ավելի քան մեկ քառորդը, որոնցում փորձարկողները անհրաժեշտ էին համարում դեռահասին ուղղորդել դեպի արտաքին աջակցության ռեսուրսներ։

Սա կարևոր տարբերություն է․ չաթ-բոտը կարող է չտալ ուղիղ վտանգավոր հրահանգներ, բայց միաժամանակ չնկատել, որ օգտատերը ճգնաժամ է ապրում և նրան մարդու կամ մասնագիտացված ծառայության օգնություն է պետք։

Ծնողները կարող են նախազգուշացում չստանալ

Մեկ այլ դժգոհություն վերաբերում է ծնողական ծանուցումներին։ Ծնողական հաշիվների հետ կապված ավելի քան մեկ տասնյակ նոր հաշիվներում փորձարկողները կարողացել են մինչև մեկ ժամ ChatGPT-ի հետ քննարկել ինքնասպանության, ինքնավնասման կամ սննդային վարքի խանգարումների թեմաները՝ առանց ծնողների համար նախազգուշացում ստանալու։

Սակայն OpenAI-ը Axios-ին բացատրել է, որ այս թեստերի զգալի մասը կատարվել է մինչև դեռահասների հաշիվների՝ ծնողական հաշիվներին կապելու գործընթացի ավարտը։ Ընկերության խոսքով՝ հաշիվների կապման գործընթացը կարող է տևել մի քանի ժամ։ Այդ պատճառով OpenAI-ը կարծում է, որ արդյունքները թույլ չեն տալիս միանշանակ եզրակացություն անել ծանուցումների աշխատանքի մասին ամբողջական կարգավորումից հետո։

Վեճը վերաբերում է նաև տարիքային որոշման համակարգին։ Common Sense Media-ն ստուգել է՝ արդյոք ChatGPT-ը օգտատիրոջը տեղափոխում է դեռահասների ռեժիմ, եթե նա բազմիցս նշում է, որ 13 տարեկան է։ Եթե դա չէր տեղի ունենում, կազմակերպությունը դա համարում էր պաշտպանության թերություն։

OpenAI-ը հայտարարում է, որ միտումնավոր չի հիմնվում միայն հենց օգտատիրոջ նշած տարիքի վրա, այլ հաշվի է առնում մի քանի ազդանշան։ Գնահատականի ձևավորումը կարող է տևել մինչև երկու շաբաթ։ Այս ընթացքում, ընկերության պնդմամբ, գործում են բովանդակության լրացուցիչ սահմանափակումներ, թեև դրանք այնքան խիստ չեն, որքան դեռահասների համար նախատեսված ChatGPT-ի հատուկ տարբերակում։

Ուսումնական ռեժիմը կարելի է շրջանցել, և դա արված է միտումնավոր

Հետազոտողները նաև հայտնաբերել են, որ ուսմանն օգնելու համար նախատեսված Study Mode-ի սահմանափակումները կարելի է շրջանցել։ Դեռահասները կարող էին ընտրել «Ցույց տուր ինձ պատասխանը» տարբերակը և շարունակել ստանալ պատրաստի լուծումներ նույնիսկ այն ժամերին, երբ ծնողները սահմանափակումներ էին սահմանել չաթ-բոտի օգտագործման վրա։

OpenAI-ը Axios-ին հաստատել է, որ ծնողների կողմից սահմանված ուսումնական ժամերի ընթացքում ուսումնական ռեժիմից դուրս գալու հնարավորությունը միտումնավոր է նախատեսված։ Ընկերությունը բացատրում է դա նրանով, որ Study Hours-ը մտածված է որպես ճկուն գործիք, մշակված դեռահասների և կրթության ոլորտի մասնագետների կարծիքները հաշվի առնելով, այլ ոչ թե որպես կոշտ արգելափակում։

Այսպիսով, կողմերը տարբեր կերպ են գնահատում հենց այդ գործառույթը։ Common Sense Media-ն շրջանցման հնարավորությունը համարում է ապացույց, որ ծնողական վերահսկողությունը պատշաճ կերպով չի աշխատում։ OpenAI-ը պնդում է, որ խոսքը գիտակցված դիզայներական որոշման մասին է։

OpenAI-ը համաձայն չէ պաշտպանական մեխանիզմների գնահատականի հետ

«ChatGPT-ը անվտանգ չէ երեխաների համար», — Axios-ին հայտարարել է Common Sense Media-ի երիտասարդության համար ԱԻ անվտանգության ինստիտուտի ղեկավար Թոմ Սիգելը։

Միևնույն ժամանակ Սիգելը ընդունել է, որ օգոստոսին OpenAI-ի հայտարարած միջոցառումները կարող էին օրինակ դառնալ ամբողջ ոլորտի համար։ Նրա կարծիքով՝ խնդիրը կայանում է հայտարարված հնարավորությունների և դրանց փաստացի իրականացման միջև եղած խզման մեջ․ նա մեկնարկը բնութագրել է ավելի շուտ որպես մարքեթինգային հայտարարություն, որին չի հաջորդել բավարար ինժեներական աշխատանք։

OpenAI-ը մերժել է նման մեկնաբանությունը։ Բացի ծնողական ծանուցումների թեստավորման և տարիքի որոշման վերաբերյալ դիտողություններից՝ ընկերությունը հայտնել է, որ իր սեփական հետազոտությունները ավելի խոշոր տվյալների զանգվածների վրա ցույց են տալիս այն դեպքերի թվի աճ, երբ 18 տարեկանից փոքր օգտատերերին ցուցադրվել են օգնության ծառայությունների կոնտակտները։

Այսպիսով, վեճը վերաբերում է ոչ միայն կոնկրետ խափանումներին, այլև նրան, թե ինչպես չափել դեռահասների համար ԱԻ-ի անվտանգությունը։ Common Sense Media-ն ստուգում է, թե արդյոք պաշտպանական մեխանիզմները կարող են կանխել անցանկալի սցենարները նպատակային փորձարկումների ընթացքում։ OpenAI-ը, իր հերթին, մատնանշում է համակարգի կարգավորման առանձնահատկությունները և դրա աշխատանքի մասին տվյալները ավելի լայն մասշտաբով։

Ինչու ծնողական վերահսկողությունը բավարար չէ

Այս պատմությունը ցույց է տալիս, թե որքան բարդ է ապահովել դեռահասների անվտանգությունը համընդհանուր չաթ-բոտում։ Բավարար չէ պարզապես արգելել որոշակի պատասխաններ․ համակարգը պետք է նաև ճանաչի ճգնաժամային իրավիճակները, ճիշտ ուղղորդի օգտատիրոջը օգնություն ստանալու համար և ապահովի ծնողական կարգավորումների կանխատեսելի աշխատանքը։

Միևնույն ժամանակ նույնիսկ լավ կարգավորված սահմանափակումները չեն փոխարինում մեծահասակների մասնակցությանը։ Ծնողների համար կարևոր է երեխաների հետ քննարկել ԱԻ-ի հետ շփման ռիսկերը և հասկանալ, թե ինչ դեր է չաթ-բոտը խաղում նրանց ուսման և առօրյա կյանքի մեջ։

«Մենք պարզապես չենք կարող երեխաների մասին հոգ տանելը վստահել տեխնոլոգիական արտադրանքին, որը գտնվում է զարգացման շատ վաղ փուլում և դեռ պարունակում է բազմաթիվ սխալներ», — ընդգծել է Սիգելը։

Քանի դեռ Common Sense Media-ն և OpenAI-ը տարբեր են գնահատում թեստավորման արդյունքները, անկախ ստուգումը մատնանշում է ուշադրություն պահանջող կոնկրետ հարցեր՝ որքան հուսալի է չաթ-բոտը ճանաչում ճգնաժամը, երբ է ծանուցում ծնողներին և ինչ սահմանափակումներ կարող են դեռահասները շրջանցել։ Հենց այս հարցերի պատասխաններից է կախված, թե որքան հիմնավոր է վստահել անչափահասների պաշտպանության հատուկ ռեժիմներին։