նախընտրելի դարձնել
Anthropic ընկերությունը պատրաստել է օրինագծի նախագիծ, որը թույլ կտա արգելափակել ԱԲ մոդելների թողարկումը, եթե անկախ փորձաքննությունը բացահայտի մարդկանց զանգվածային մահվան անմիջական սպառնալիք կամ ավելի քան 1 մլրդ դոլարի գույքային վնաս։ Փաստաթուղթը նախատեսում է կենսաբանական զենքի, կիբերհարձակումների և մոդելների՝ մշակողների վերահսկողությունից դուրս գալու հետ կապված ռիսկերը։ Ինչպես հայտնում է TechCrunch-ը՝ հղում անելով Politico-ին, ընկերությունը այս նախաձեռնությունը առաջ է մղում ամերիկացի օրենսդիրների շրջանում։
Առաջարկը հատկանշական է նրանով, որ Anthropic-ը՝ գեներատիվ ԱԲ-ի առաջատար մշակողներից մեկը, հանդես է գալիս պոտենցիալ վտանգավոր մոդելների թողարկման նկատմամբ պետական միջամտության մեխանիզմի օգտին։ Միևնույն ժամանակ, նախագծի համաձայն, տեխնոլոգիայի տարածումը կասեցնելու որոշումը պետք է ընդունվի դատարանի միջոցով, ոչ թե դաշնային գերատեսչության միանձնյա կարգադրությամբ։
Ի՞նչ պայմաններում կարող են դադարեցնել մոդելի թողարկումը
Օրինագծում խոսքը վերաբերում է աղետալի հետևանքների «կանխատեսելի և անմիջական ռիսկին»։ Միջամտության հիմք կարող են դառնալ այն սցենարները, որոնցում վտանգի տակ են հայտնվում ավելի քան 50 մարդու կյանքեր, կամ հնարավոր գույքային վնասը գերազանցում է 1 մլրդ դոլարը։
Միևնույն ժամանակ, վտանգը պետք է կապված լինի երեք սցենարներից մեկի հետ՝ կենսաբանական զենքի ստեղծում, ԱԲ մոդելի՝ մշակողի վերահսկողությունից դուրս գալ, կամ կիբերհարձակում։
Այսպիսով, նախաձեռնությունը միտված չէ հզոր մոդելներն ինքնին արգելելուն, այլ դրանց տարածումը սահմանափակելուն այն դեպքերում, երբ կան լուրջ հետևանքներ ակնկալելու հիմքեր։ Սակայն շատ բան կախված կլինի նրանից, թե ինչպես փորձագետները կգնահատեն աղետի հավանականությունը և ինչն է համարվելու անմիջական սպառնալիքի բավարար ապացույց։
Նախագծում նշված շեմային արժեքները հիշեցնում են Կալիֆոռնիայի Senate Bill 53 օրենքում ամրագրված աղետալի ռիսկի չափանիշները, որը նախկինում ընդունվել էր նահանգում։ Սա ցույց է տալիս, որ ԱՄՆ-ում ԱԲ-ի շուրջ քննարկումներում աստիճանաբար ձևավորվում է մոտեցում, որի շրջանակում պոտենցիալ վնասը փորձում են նկարագրել կոնկրետ չափելի ցուցանիշներով։
Ովքե՞ր են գնահատելու ԱԲ-ի անվտանգությունը
Նախագծի համաձայն՝ մոդելների պոտենցիալ վտանգը պետք է գնահատեն ԱՄՆ Առևտրի նախարարությունում գրանցված անկախ փորձագետները։ Նրանք կարող են վարձատրություն ստանալ հենց ԱԲ ընկերություններից, սակայն այդ վարձատրությունը չպետք է կախված լինի ստուգման արդյունքներից։
Այդպիսի սխեման կոչված է համատեղելու անկախ փորձաքննությունը տեխնոլոգիաներին և մշակողների ներքին տվյալներին մասնագետների հասանելիության հետ։ Սակայն այն բաց է թողնում այն հարցը, թե որքանով անկախ կլինեն այն գնահատողները, որոնց աշխատանքը ֆինանսավորում են իրենց արտադրանքի թողարկմամբ շահագրգռված ընկերությունները։
Արդյունքներից վճարման անկախության պայմանն ինքնին չի երաշխավորում շահերի բախման բացակայությունը։ Օրինակ՝ նշանակություն կարող են ունենալ փորձագետների ընտրությունը, պայմանագրերի պայմանները և մշակողի՝ կոնկրետ գնահատողի հետ համագործակցությունից հրաժարվելու հնարավորությունը։
Նման մեխանիզմների վերաբերյալ քննարկումն արդեն ընթանում է ոլորտում։ Ավելի վաղ Google DeepMind-ի ղեկավար Դեմիս Հասաբիսն առաջարկել էր ստեղծել առաջադեմ ԱԲ-ի կարգավորման անկախ մարմին՝ FINRA-ի օրինակով, որը վերահսկում է ԱՄՆ արժեթղթերի շուկայի աշխատանքի որոշ ասպեկտներ։
Ինչու՞ արգելքի մասին որոշումը պետք է ընդունի դատարանը
Anthropic-ի նախագիծը նախատեսում է բացահայտված սպառնալիքին արձագանքելու կոնկրետ ընթացակարգ։ Եթե փորձագետները պարզեն, որ մոդելը ստեղծում է անմիջական աղետալի ռիսկ, նրանք 72 ժամ կունենան ԱՄՆ Առևտրի նախարարությանը տեղեկացնելու համար։
Դրանից հետո գերատեսչությունը պետք է դիմի Վաշինգտոնի դատավորին՝ խնդրելով կասեցնել մոդելի թողարկումը։ Ընդ որում, օրինագիծն ուղղակիորեն արգելում է դաշնային մարմիններին ինքնուրույն դադարեցնել դրա տարածումը՝ իրենց հայեցողությամբ։
Այսպիսի մոտեցումը պետք է սահմանափակի կամայական վարչական արգելքների հնարավորությունը և նախատեսի միջամտության հիմքերի դատական ստուգում։ Միևնույն ժամանակ, այն առաջ է բերում արձագանքման արագության գործնական հարցը․ արագ զարգացող սպառնալիքի դեպքում ծանուցման, դիմումի նախապատրաստման և դատական որոշման ընդունման ընթացակարգը կարող է վճռորոշ նշանակություն ունենալ։
Առայժմ սա միայն օրինագծի նախագիծ է։ Հիմքեր չկան կարծելու, թե նկարագրված մեխանիզմն արդեն գործում է կամ որ ԱՄՆ Կոնգրեսը համաձայնել է այն ընդունել առաջարկված տեսքով։
Anthropic-ի ներկայացուցիչը Politico-ին հաստատել է, որ փաստաթուղթն արտացոլում է ընկերության Advanced AI Framework-ում շարադրված առաջարկները։ Նրա խոսքով՝ Anthropic-ը հունիսից առաջ է մղում այս գաղափարները դաշնային իշխանությունների և առանձին նահանգների օրենսդիրների շրջանում։
ԱԲ-ի վերաբերյալ մտահոգություններից՝ դեպի պարտադիր վերահսկողություն
Առաջարկը հայտնվել է ինքնավար ԱԲ համակարգերի հնարավորությունների վերաբերյալ աճող մտահոգությունների ֆոնին։ Վերջին ամիսներին տեխնոլոգիական ոլորտի ուշադրությունը գրավել են այն դեպքերը, երբ ԱԲ գործակալները, ըստ ընկերությունների և հետազոտողների հաղորդումների, խախտել են օպերատորների հրահանգները և ինտերնետում ձեռնարկել կայքերի կոտրման հետ կապված գործողություններ։
Նման միջադեպերը բարձրացնում են այն հարցը, թե որքան հուսալի են մշակողները վերահսկում այն մոդելների վարքագիծը, որոնք ունակ են ինքնուրույն կատարել գործողությունների հաջորդականություններ։ Եթե համակարգը կարող է ոչ միայն գեներացնել կոդ, այլև օգտագործել գործիքներ, փոխգործակցել արտաքին ծառայությունների հետ և մշտական մարդկային մասնակցության բացակայությամբ գործարկել գործողություններ, ապա սխալի կամ չարաշահման հետևանքները կարող են ավելի լուրջ լինել։
Միևնույն ժամանակ, Anthropic-ի նախագիծն ընդգրկում է նաև ավելի մասշտաբային սպառնալիքներ, ներառյալ կենսաբանական զենք ստեղծելու հնարավորությունը։ Հենց այդ պատճառով նախաձեռնությունը նախատեսում է գնահատել ոչ միայն արդեն ցուցադրված միջադեպերը, այլև աղետալի վնասի պոտենցիալ սցենարները։
Ընկերությունն ինքը նախկինում ևս հանդես էր գալիս առաջադեմ մոդելների համար անվտանգության միջոցների խստացման օգտին։ Միևնույն ժամանակ, շատ մշակողներ նախընտրում են վերահսկողության կամավոր մեխանիզմներ, այդ թվում՝ երրորդ կողմի փորձագետների մասնակցությունը, որոնք աշխատում են կազմակերպությունների ներսում և հետևում ռիսկերին։ Այդպիսի մեխանիզմները հարցեր են առաջացնում ստուգումների իրական անկախության վերաբերյալ, հատկապես եթե դրանք ֆինանսավորում են հենց մշակողները։
Anthropic-ի դիրքորոշումը տարբերվում է ոլորտի որոշ այլ ներկայացուցիչների հայացքներից։ Օրինակ՝ Nvidia-ի ղեկավար Ջենսեն Հուանգը վերջերս հայտարարել էր, որ ԱԲ-ի անվտանգությունն ապահովելու համար նոր օրենքներ պետք չեն, և որ պատասխանատվությունը պետք է թողնել հենց ինդուստրիային։
Ո՞վ պետք է պատասխան տա առաջադեմ ԱԲ-ի ռիսկերի համար
Anthropic-ի նախաձեռնությունը արտացոլում է ԱԲ-ի կարգավորման շուրջ ավելի լայն հակամարտությունը․ ընկերությունները նախազգուշացնում են տեխնոլոգիայի զարգացման պոտենցիալ ծանր հետևանքների մասին, բայց միաժամանակ ձգտում են պահպանել դրա մշակման և թողարկման կանոնները ինքնուրույն որոշելու հնարավորությունը։
Առաջարկվող օրինագիծը գնում է ավելի հեռու, քան կամավոր հանձնարարականները, քանի որ նախատեսում է պարտադիր ընթացակարգ, որը կարող է հանգեցնել մոդելի տարածման կասեցմանը։ Միևնույն ժամանակ, անկախ փորձագետների մասնակցությունն ու դատական որոշումը պետք է դառնան պետական միջամտության սահմանափակող գործոններ։
Սակայն նման համակարգի արդյունավետությունը կախված կլինի մանրամասներից՝ ով կստանա գնահատում իրականացնելու իրավունքը, ինչպես կլուծվեն շահերի բախումները, ինչ ապացույցներ կպահանջվեն սպառնալիքը հաստատելու համար և որքան արագ իշխանությունները կկարողանան գործել արտակարգ իրավիճակում։
Առայժմ Anthropic-ն առաջարկում է կարգավորման իր սեփական մոդելը, այլ ոչ թե այս բոլոր հարցերի պատրաստի պատասխանը։ Այնուամենայնիվ, հենց նախաձեռնությունն ինքնին ցույց է տալիս, որ քննարկումն աստիճանաբար տեղափոխվում է ԱԲ-ի վտանգների մասին ընդհանուր նախազգուշացումներից դեպի այն կոնկրետ պայմանների սահմանումը, որոնց դեպքում պետությունը կկարողանա միջամտել նախքան պոտենցիալ սպառնալիքը կվերածվի իրական վնասի։
