Anthropic-ը կոչ է արել համաշխարհային սառեցում մտցնել ԱԲ-ի մշակման ոլորտում. 25 տոկոս հավանականությամբ ԱԲ-ն կարող է դուրս գալ մեր վերահսկողությունից

Anthropic ընկերությունը (Claude չաթ-բոտի ստեղծողն ու այսօր աշխարհի ամենաթանկ արհեստական բանականության ընկերությունը՝ $965 միլիարդ դոլար գնահատմամբ) հանդես է եկել արմատական առաջարկությամբ՝ սահմանել համաշխարհային դադար ամենահզոր արհեստական բանականության համակարգերի զարգացման մեջ: Ընկերության ղեկավարության կարծիքով՝ մարդկությունը ռիսկի է ենթարկում կորցնել վերահսկողությունը տեխնոլոգիայի նկատմամբ:

Ընկերության գլխավոր առաջարկը

Anthropic-ի կայքում հրապարակված մանրամասն էսսեում բարձրաստիճան ղեկավարները հայտարարել են, որ եթե իսկապես հնարավոր լիներ դանդաղեցնել ԱԲ-ի զարգացումը, որպեսզի հասարակությանը ավելի շատ ժամանակ տրվի հետևանքների ընկալման համար, դա օգտակար կլիներ աշխարհի համար:

«Եթե մենք կարողանայինք արդյունավետորեն դանդաղեցնել այս տեխնոլոգիայի զարգացումը, որպեսզի մեզ ավելի շատ ժամանակ տանք դրա հսկայական հետևանքների վրա աշխատելու համար, մենք կարծում ենք, որ դա, հավանաբար, լավ գաղափար կլիներ», — նշել են հեղինակները:

Նրանք իրավիճակը համեմատել են զինահսկողության դասական խնդրի հետ և ընդգծել, որ տեխնոլոգիայի կարգավորման հնարավորության պատուհանն արագ փակվում է:

Տագնապի պատճառները

Anthropic-ը զգուշացնում է «ռեկուրսիվ ինքնակատարելագործման» պահի մոտենալու մասին, երբ ԱԲ-ն կկարողանա ինքնուրույն կատարելագործել իր ալգորիթմներն ու ճարտարապետությունը: Սա կարող է հանգեցնել հնարավորությունների պայթյունավտանգ աճի, բայց միևնույն ժամանակ ստեղծում է լուրջ ռիսկ՝ վերահսկողության լիակատար կորստի մարդու կողմից:

Ընկերությունն արդեն իսկ հետաձգում է իր ամենահզոր Mythos մոդելի թողարկումը՝ վախենալով, որ այն կարող է օգտագործվել լայնածավալ կիբերհարձակումների համար:

Համաշխարհային դադարի իրականությունները

Anthropic-ն ընդունում է, որ համաձայնեցված համաշխարհային սառեցում կազմակերպելը չափազանց դժվար է: Շուկայի հիմնական խաղացողները կատաղի մրցակցության մեջ են, հատկապես ԱՄՆ-ի և Չինաստանի միջև: Ավելին, մոդելների ուսուցումը հեշտ է թաքցնել, իսկ ստուգման մեխանիզմները գործնականում բացակայում են:

«Զգալի դանդաղեցումը կամ դադարը կպահանջեն, որ մի քանի առաջատար լաբորատորիաներ տարբեր երկրներում միաժամանակ համաձայնեն կանգ առնել նույն պայմաններով», — նշում են հեղինակները:

Համատեքստ և արձագանք

Anthropic-ը ավանդաբար դիրքավորվում է որպես ընկերություն, որն ամենաշատ է մտահոգված ԱԲ-ի անվտանգությամբ: Ընկերության հիմնադիր և գործադիր տնօրեն Դարիո Ամոդեին նախկինում գնահատել էր «շատ վատ սցենարի» զարգացման հավանականությունը 25 տոկոս:

Սառեցման կոչը հնչել է ընկերության՝ ֆոնդային բորսա դուրս գալու հնարավորության ակտիվ նախապատրաստման ֆոնին: Փորձագետները նշում են, որ նման հայտարարությունները կարող են լինել նաև կարգավորող միջոցներ առաջ մղելու փորձ, որոնք խոչընդոտներ կստեղծեն մրցակիցների համար:

Կարճ ասած

Anthropic-ը կոչ է արել համաշխարհային դադար մտցնել ամենահզոր ԱԲ մոդելների մշակման մեջ՝ զգուշացնելով տեխնոլոգիայի նկատմամբ վերահսկողության կորստի ռիսկի մասին: Ընկերությունը պատրաստ է դադարեցնել իր աշխատանքները, եթե մյուս առաջատար խաղացողները նույնը անեն: Սակայն փորձագետները թերահավատորեն են գնահատում նման սցենարի իրատեսականությունը կատաղի միջազգային մրցակցության պատճառով: Կոչը հնչել է Anthropic-ի՝ հնարավոր IPO-ին նախապատրաստվելու և արհեստական բանականության անվտանգության վերաբերյալ աճող մտահոգությունների ֆոնին: