Ինչու է ԱԲ ոլորտում հաճախ խոսվում մարդկության կործանման մասին

Արհեստական բանականության շուրջ ծավալվել է մարդկության համար ռիսկի մասին ամենաաղմկահարույց քննարկումներից մեկը։ Այն բանից հետո, երբ Anthropic-ից հեռացավ հետազոտող Ջեյքոբ Քոքսոնը՝ հայտարարելով, որ առաջատար ԱԲ ընկերությունները «մեր կյանքերը դնում են խաղադրույքի տակ», Anthropic-ում alignment ուղղության ղեկավար Էվան Հաբերը գրեց, որ ընկերությունում իսկապես հնարավոր են համարում ԱԲ-ի պատճառով ողջ մարդկության կործանումը։ Նրա անձնական գնահատմամբ՝ առաջիկա տասնամյակում նման սցենարի հավանականությունը գերազանցում է 10%-ը։

TechCrunch Equity փոդքաստում լրագրողները քննարկել են, թե որքան լուրջ պետք է ընդունել այս նախազգուշացումները, արդյոք ընկերություններն իսկապես կորցնում են վերահսկողությունը իրենց մոդելների նկատմամբ, և արդյոք մարդկությանը սպառնացող վտանգի մասին խոսակցությունները միաժամանակ չեն վերածվում ԱԲ հնարավորությունների յուրատեսակ գովազդի։

«Մենք իսկապես կարծում ենք, որ ԱԲ-ն կարող է սպանել բոլոր մարդկանց»

Քննարկումների նոր ալիքի առիթ դարձավ Քոքսոնի գրառումը։ Երիտասարդ հետազոտողը, որը նախկինում աշխատել էր նաև OpenAI-ում, հայտարարեց, որ հեռանում է Anthropic-ից՝ ոլորտի զարգացման ընթացքի վերաբերյալ մտահոգությունների պատճառով։ Առավել մեծ արձագանք ստացավ Anthropic-ում alignment ուղղության ղեկավար Հաբերի պատասխանը։

Նա գրել է. «Մենք իսկապես անկեղծորեն կարծում ենք, որ ԱԲ-ն կարող է սպանել բոլոր մարդկանց»՝ հավելելով, որ անձամբ նման սցենարի հավանականությունը հաջորդ տասնամյակի ընթացքում գնահատում է 10%-ից ավելի։

TechCrunch-ի լրագրող Էնթոնի Հան նշել է, որ նման գնահատականն ինքնին կասկածելի է թվում։ Նրա խոսքով՝ նման տոկոսներ հաճախ հնչեցվում են առանց բացատրելու, թե ինչ հաշվարկների վրա են հիմնված։ Միաժամանակ նա Քոքսոնին առանձնահատուկ դեպք է համարում. ի տարբերություն ընկերությունների ղեկավարների, որոնք միաժամանակ նախազգուշացնում են ԱԲ վտանգների մասին և շարունակում են ակտիվորեն զարգացնել այն, հետազոտողը որոշել է հեռանալ ոլորտից հենց այն պատճառով, որ տեղի ունեցողը համարում է այնքան վտանգավոր։

ԱԲ-ի մասին նախազգուշացումները կարող են նաև լինել դրա հնարավորությունների ցուցադրում

Լրագրող Քիրսթեն Կորոսեկը առաջարկել է տեղի ունեցողի ավելի ցինիկ բացատրություն։ Նրա կարծիքով՝ ԱԲ վտանգների մասին խոսակցությունները միաժամանակ կարող են աշխատել որպես յուրատեսակ ցուցադրում, թե որքան հեռու են առաջ գնացել մոդելները։

Տրամաբանությունը պարզ է. եթե ԱԲ-ն դեռևս ի վիճակի չէ կատարել բարդ և անկանխատեսելի գործողություններ, ապա նման սպառնալիքների մասին խոսելու առիթներն էլ քիչ են։ Այդ պատճառով հաղորդագրությունները այն մասին, որ գործակալները ստանում են ռեսուրսների անսպասելի հասանելիություն, փոխգործակցում են միմյանց հետ կամ շրջանցում են նախատեսված սահմանափակումները, կարող են ակամա վերածվել հենց մոդելների հնարավորությունների գովազդի։

Հան համաձայնել է, որ նման ազդեցություն կա, թեև չի համարում, որ բոլոր նախազգուշացումները գիտակցված մարքեթինգային արշավ են։ Նրա կարծիքով՝ հետազոտողները և ղեկավարները իսկապես կարող են վախենալ իրենց աշխատանքի հետևանքներից։ Բայց միաժամանակ նրանց ձեռնտու է ընդգծել իրենց ստեղծած համակարգերի բացառիկ հզորությունը։

Սա նաև հոգեբանական կողմ ունի. մարդկանց բնորոշ է հատկապես կարևոր ու նշանակալի համարել այն, ինչի վրա աշխատում են։ ԱԲ-ի դեպքում դա կարող է բերել մի իրավիճակի, երբ վտանգի մասին նախազգուշացման հետ մեկտեղ ընկերությունը փաստացի շուկային հայտնում է. մենք ստեղծել ենք ամենահզոր և պոտենցիալ վտանգավոր տեխնոլոգիաներից մեկը։

Ընկերություններն իսկապես կարող են կորցնել վերահսկողությունը մոդելների նկատմամբ

Միևնույն ժամանակ քննարկման մասնակիցները ընդունում են, որ վերջին միջադեպերը չի կարելի ամբողջությամբ վերագրել մարքեթինգին։

Շոն Օ'Քեյնը ուշադրություն է հրավիրել ներքին ԱԲ գործակալների մասին հաղորդագրությունների վրա, որոնք հասանելիություն էին ստանում տարբեր վեբ-ռեսուրսների և հաղորդագրություններ էին թողնում միմյանց համար։ Նրա կարծիքով՝ այս պատմություններից որոշները ավելի շուտ այն տպավորությունն են ստեղծում, որ ընկերություններն իրենք էլ մինչև վերջ չեն հասկանում իրենց համակարգերի վարքագիծը և միշտ չէ, որ ունակ են դրանք արդյունավետ կառավարել։

Հենց տեղի ունեցողի այս կողմն է, ըստ Հայի, արժանի հատուկ ուշադրության։ Նույնիսկ եթե մի կողմ դնենք մարդկության ոչնչացման սցենարները, այն փաստը, որ առաջադեմ մոդելներ ստեղծողները միշտ չէ, որ կարողանում են կանխատեսել կամ բացատրել դրանց վարքագիծը, մնում է լուրջ խնդիր։

Միաժամանակ ամենածայրահեղ սցենարների քննարկումը կարող է երկրորդ պլան մղել ԱԲ զարգացման ավելի անմիջական հետևանքները՝ օրինակ աշխատանքի շուկայի, շրջակա միջավայրի և կլիմայի վրա ազդեցությունը։

Ինչ կլինի Anthropic-ի հետ IPO-ից առաջ

Սա հատկապես հետաքրքիր է թվում Anthropic-ի հնարավոր IPO-ին նախապատրաստվելու ֆոնին։ Փոդքաստի մասնակիցները ուշադրություն են դարձրել այն հանգամանքին, որ ընկերությունը հրապարակայնորեն խոսում է աղետալի սցենարի հավանականության մասին բառացիորեն բորսա դուրս գալուց անմիջապես առաջ։

IPO-ի համար նախատեսված փաստաթղթերում, մասնավորապես S-1 ձևում, ընկերությունը պետք է բացահայտի բիզնեսի համար էական ռիսկերը։ Այդ պատճառով հարց է առաջանում, թե Anthropic-ը ինչպես է պատրաստվում նկարագրել այն պոտենցիալ սպառնալիքը, որը նրա սեփական ներկայացուցիչները կապում են ԱԲ զարգացման հետ։

Օ'Քեյնը ենթադրել է, որ ընկերության իրավաբանները կարող են վերանայել ռիսկերի բաժինը՝ հաշվի առնելով այսքան ուղիղ հայտարարությունները։ Կորոսեկը, իր հերթին, նշել է պարադոքսը. սովորական ներդրումային միջավայրում այն փաստի ընդունումը, որ ապրանքը պոտենցիալ ունակ է ոչնչացնել մարդկությանը, ավելի շուտ կներկայանար որպես գործոն, որը կարող է նվազեցնել ընկերության գնահատականը։

Բայց ԱԲ շուկան կարող է այլ կերպ աշխատել։ Տեխնոլոգիայի բացառիկ հզորության ցուցադրումը, նույնիսկ եթե միաժամանակ ընդգծվում է դրա պոտենցիալ վտանգավորությունը, կարող է ներդրողների կողմից ընկալվել որպես ընկերության բարձր արժեքի ապացույց։

ԱԲ վտանգը միայն աշխարհի վերջի սցենար չէ

Վերջիվերջո փոդքաստի մասնակիցներն ավելի գործնական հարց են տալիս. կոնկրետ ինչ անել ԱԲ վտանգավոր հնարավորությունների հետ, և ընդհանրապես հնարավո՞ր է արդյոք վերահսկել նման համակարգերի զարգացումը։

Հայի կարծիքով՝ խնդիրը մասամբ կապված է այն բանի հետ, որ խոշորագույն մշակողներն իրենք էլ կարող են զգալ, թե աստիճանաբար կորցնում են իրենց մոդելների նկատմամբ լիարժեք վերահսկողությունը։ Սա, նրա կարծիքով, իսկապես անհանգստության պատճառ է։

Սակայն նա թերահավատորեն է վերաբերվում առաջիկա տասը տարում մարդկության անխուսափելի կործանման մասին հռետորաբանությանը։ Նրա կարծիքով՝ նման հայտարարությունները կարող են վերածվել յուրատեսակ հիստերիայի, որը շեղում է ուշադրությունը արդեն գոյություն ունեցող խնդիրներից։

ԱԲ-ն արդեն հիմա կարող է ազդել զբաղվածության, շրջակա միջավայրի և կլիմայի վրա, և այս ռիսկերի համար պետք չէ սպասել AGI-ի կամ գերբանականության ի հայտ գալուն։ Հայի կարծիքով՝ մարդկության գոյությանը սպառնացող պոտենցիալ վտանգը քննարկելն անհրաժեշտ է, բայց միաժամանակ պետք են կանոններ և պաշտպանական միջոցներ ավելի անմիջական վնասներից պաշտպանվելու համար։

Հենց այդ պատճառով, նրա կարծիքով, AGI-ի և սուպերբանականության մասին խոսակցությունները չպետք է «խլեն ամբողջ թթվածինը» ԱԲ զարգացման հետ կապված մնացած խնդիրներից։