Anthropic ընկերության հետազոտող Ջեյքոբ Քոքսոնը հրաժարական է տվել՝ հայտարարելով, որ արհեստական ինտելեկտի առաջատար լաբորատորիաները վտանգավոր մրցավազք են վարում դեպի ինքնակատարելագործվող համակարգերը և դրանով իսկ ռիսկի են ենթարկում մարդկանց կյանքը: Հեռանալու մասին հայտնել է The Wall Street Journal-ը՝ նշելով, որ սա առաջին հանրային դեպքերից մեկն է, երբ Anthropic-ի աշխատակիցը լքել է ընկերությունը հենց ԱԲ-ի անվտանգության վերաբերյալ մտահոգությունների պատճառով:

Ինչ է ասել Քոքսոնը

Քոքսոնը զբաղվում էր նոր մոդելների նախաուսուցմամբ (նախնական ուսուցմամբ)՝ սկզբում OpenAI-ում, այնուհետև Anthropic-ում, ընդհանուր առմամբ մոտ երեք տարի: X սոցիալական ցանցում իր հայտարարության մեջ նա գրել է, որ այդ ընկերություններից և ոչ մեկը չի գործում պատասխանատու կերպով: Նրա խոսքով՝ լաբորատորիաները ձգտում են որքան հնարավոր է արագ ստեղծել ինքնակատարելագործվող գերինտելեկտ և «խաղում են մարդկանց կյանքերի հետ»: Նա նախազգուշացրել է, որ նման համակարգերը շուտով կարող են գերազանցել մարդուն. կոտրել (խակել) գրեթե ցանկացած բան, կարճ ժամանակում փոխել ամբողջական ոլորտներ և ստանալ իրական իշխանություն ու ռեսուրսներ: Այս ուղղություններով առաջընթացը, ընդգծել է հետազոտողը, չի դանդաղում: Քոքսոնը նաև հայտարարել է, որ մարդիկ, որոնք անմիջականորեն ստեղծում են ԱԲ-ն, լրջորեն ընդունում են, որ տեխնոլոգիան կարող է ոչնչացնել մարդկությունը արդեն մինչև տասնամյակի վերջը: Սա, նրա կարծիքով, գովազդային քայլ չէ: Հանրային ելույթներում ղեկավարներն ու առաջատար մասնագետները հաճախ մտքերը ձևակերպում են զսպված, սակայն մասնավոր զրույցներում արտահայտում են նույն վախը: Մարդկային ոչ մի այլ գործունեություն, նշել է նա, չի պարունակում վտանգավորության համադրելի մակարդակ:

Ինչու է մշակումը շարունակվում

Հետազոտողն առանձին բացատրել է, թե ինչու ընկերությունները չեն կանգնում՝ չնայած նման մտահոգություններին: OpenAI-ում, նրա գնահատմամբ, շատ աշխատակիցներ մինչև վերջ չեն գիտակցել խաղադրույքների քաղաքակրթական մասշտաբը: Anthropic-ում խաղադրույքները հասկանում են, байց իրենց համարում են «փակված» մրցավազքում. եթե ոչ ոք ուրիշը չի գործելու պատասխանատու կերպով, իրենք ստիպված են փորձել ինքնուրույն զբաղեցնել առաջատար դիրքեր՝ նույնիսկ ռիսկի գնով: The Wall Street Journal-ի հետ զրույցում Քոքսոնը հաստատել է, որ չի ցանկանում մասնակցել ինքն իրենց բարելավելու ունակ համակարգերի ստեղծման համաոլորտային շտապողականությանը: Նա անհանգստանում է, որ նման մոդելները կարող են դուրս գալ վերահսկողությունից և ոչնչացնել մարդկությունը: Նրա խոսքով՝ շատ գործընկերներ արդեն օգտագործում են «crunchtime» և «endgame» տիպի արտահայտություններ՝ նկարագրելով շարժումը դեպի ինքնակատարելագործվող համակարգերը:

Կոչ գործընկերներին և կարգավորողներին

Քոքսոնը դիմել է լաբորատորիաների հետազոտողներին՝ խնդրելով մտածել, թե իրականում ինչպիսին են լինելու առաջիկա տարիները: Նա հարց է բարձրացրել. արժե՞ արդյոք ամրապնդող ուսուցման (reinforcement learning) մեթոդով գործարկել գերինտելեկտի ուսուցման ցիկլեր՝ չունենալով խիստ պատկերացում այն մասին, թե ինչպես է կառուցված նման համակարգի «մտածողությունը»: Պե՞տք է արդյոք պարզապես գլուխը կախել «մեկ է, դա տեղի է ունենալու» խոսքերով, թե՞ փորձել հասնել այլ պայմանների: Ավելի վաղ նա նաև միացել էր ԱԲ ոլորտի ավելի քան հազար մասնագետների, որոնք ստորագրել էին հայտարարություն՝ կառավարությունների գլոբալ կոորդինացման կոչով: Փաստաթղթի հեղինակներն առաջարկում են ստեղծել մեխանիզմ, որն ունակ է անհրաժեշտության դեպքում դանդաղեցնել մշակումը, եթե հայտնվեն մոդելներ, որոնք ունակ են ինքնուրույն բարելավել իրենց:

Կարճ ասած

OpenAI-ում աշխատանքի փորձ ունեցող Anthropic-ի հետազոտող Ջեյքոբ Քոքսոնը հեռացել է աշխատանքից՝ հայտարարելով, որ ԱԲ առաջատար լաբորատորիաները անպատասխանատու կերպով ընկնում են ինքնակատարելագործվող գերինտելեկտի հետևից և դրանով իսկ վտանգի տակ դնում մարդկությունը: Նրա խոսքով՝ շատ մշակողներ լրջորեն ընդունում են աղետալի ռիսկերը արդեն մինչև տասնամյակի վերջը, սակայն շարունակում են մրցավազքը՝ համարելով, որ հակառակ դեպքում առաջնորդությունը կանցնի ավելի քիչ զգույշ խաղացողներին: Քոքսոնը կոչ է արել գործընկերներին վերանայել աշխատանքի տեմպերը և աջակցել է միջազգային մեխանիզմի գաղափարին, որը կարող է անհրաժեշտության դեպքում արգելակել ինքնաբարելավվող համակարգերի զարգացումը: