Մեքենայական բանականության հետազոտությունների ոչ առևտրային ինստիտուտի (MIRI) նախագահ Նեյթ Սոարեսը կարծում է, որ առաջիկա տասը տարում արհեստական բանականության պատճառով մարդկության կործանման հավանականությունը գերազանցում է 50%-ը։ Նրա խոսքով՝ ինքը այնքան լուրջ է վերաբերվում այս ռիսկին, որ արդեն մոտ տասը տարի չի ավելացնում իր կենսաթոշակային խնայողությունները։

«Այժմ ես կենսաթոշակի համար գումար չեմ կուտակում։ Ինձ մոտ պահպանվել է 401(k) կենսաթոշակային հաշիվը, որը բացել եմ Google-ում աշխատելիս, բայց արդեն տասը տարի է՝ այնտեղ գումար չեմ մուծել», — պատմել է Սոարեսը The Atlantic-ի գլխավոր տնօրեն Նիկոլաս Թոմփսոնին՝ նրա «Ամենահետաքրքիրը ԱԲ-ի մասին» շարքի համար տված հարցազրույցում։

Սոարեսն ավելի քան 12 տարի զբաղվում է արհեստական բանականության անվտանգության խնդրով։ Նա մասնագիտացած է ԱԲ-ի նպատակների համահունչեցման ոլորտում․ այս ուղղությունն ուսումնասիրում է, թե ինչպես ապահովել, որ հզոր համակարգերը գործեն մարդկանց մտադրություններին համապատասխան։ Մինչև Բերքլիում տեղակայված MIRI-ում աշխատելը նա ինժեներ է եղել Google-ում և Microsoft-ում։ Սոարեսը նաև If Anyone Builds It, Everyone Dies («Եթե որևէ մեկը ստեղծի այն, բոլորը կմահանան») գրքի համահեղինակն է։

Ինչու է Սոարեսը մտավախություն հայտնում ԱԲ-ի զարգացման առնչությամբ

Սոարեսի գնահատականը զգալիորեն ավելի հոռետեսական է, քան որոշ այլ հայտնի մասնագետների կանխատեսումները։ Ջեֆրի Հինթոնը, որին անվանում են «ԱԲ-ի կնքահայրերից» մեկը, տասը տարվա ընթացքում արհեստական բանականության՝ մարդկության կործանման հանգեցնելու հավանականությունը գնահատել է 10%։ Anthropic-ի հետազոտող Էվան Հուբինգերը նույնպես նման սցենարի հավանականությունը գնահատել է 10%-ից բարձր։

Սոարեսը կարծում է, որ այդ ռիսկը գերազանցում է 50%-ը։

Նրա կարծիքով՝ բավականաչափ հզոր ԱԲ-ն կարող է ձևավորել մարդկանց շահերին հակասող նպատակներ, սովորել շրջանցել վերահսկողության մեխանիզմները և ինքնուրույն կատարելագործել իր կարողությունները։ Հետագայում նման համակարգը կարող է ստեղծել ավտոմատացված ենթակառուցվածք, որն անհրաժեշտ կլինի առանց մարդու մասնակցության աշխատելու համար։

Ծայրահեղ սցենարի դեպքում ԱԲ-ն կսկսի շրջակա աշխարհը վերափոխել իր նպատակներին համապատասխան, նույնիսկ եթե դրա հետևանքով մոլորակն անպիտան դառնա մարդկային կյանքի համար։

Սա կանխատեսում և ռիսկի գնահատում է, այլ ոչ թե ժամանակակից ԱԲ համակարգերի արդեն դիտարկվող վարքագծի նկարագրություն։ Սոարեսն ինքը շեշտում է, որ իրադարձությունների նման զարգացումը կանխորոշված չէ։

Իլոն Մասկը նույնպես կասկածում է կենսաթոշակային խնայողությունների անհրաժեշտությանը, բայց այլ պատճառով

Հարցը, թե ինչպիսի ապագա կբերի արհեստական բանականությունը, Իլոն Մասկին ստիպել է կասկածել, թե արդյոք մարդիկ ընդհանրապես ստիպված կլինեն կենսաթոշակի համար գումար կուտակել։ Սակայն ապագայի մասին նրա պատկերացումներն արմատապես տարբերվում են Սոարեսի հայացքներից։

Հունվարին Tesla-ի և SpaceX-ի գլխավոր տնօրենը ենթադրել է, որ 10–20 տարի անց մարդիկ, հնարավոր է, այլևս ստիպված չլինեն ծերության համար գումար կուտակել։ Ըստ նրա՝ ԱԲ-ի, ռոբոտատեխնիկայի և էներգետիկայի զարգացումը կհանգեցնի այնքան բարձր արտադրողականության, որ կենսաթոշակային խնայողությունները կկորցնեն իրենց նշանակությունը։

Մասկն ապագան նկարագրում է որպես առատության դարաշրջան․ ապրանքներն ու ծառայությունները կէժանանան և ավելի հասանելի կդառնան, իսկ մարդիկ կկարողանան բարձր եկամուտ ստանալ՝ անկախ նրանից՝ աշխատում են, թե ոչ։ Նա նաև հնարավոր է համարում, որ ժամանակի ընթացքում փողն ընդհանրապես կկորցնի իր նախկին նշանակությունը, քանի որ ԱԲ-ն և ռոբոտները կկարողանան գրեթե ցանկացած առաջադրանք կատարել մարդուց ավելի արդյունավետ։

Սակայն Business Insider-ի հարցմանը մասնակցած ֆինանսական փորձագետներն ու ԱԲ մասնագետները վիճարկել են այն եզրակացությունը, թե արդեն հիմա կարելի է դադարել կենսաթոշակի համար գումար կուտակել։

Սոարեսը նույն տեխնոլոգիական հեռանկարներին բոլորովին այլ կերպ է նայում։ Նրա համար չափազանց հզոր ԱԲ-ի ի հայտ գալը ոչ թե համընդհանուր բարեկեցության ուղի է, այլ գոյաբանական հնարավոր սպառնալիք։

Սոարեսը կոչ է անում դադարեցնել ԱԲ-ի համընդհանուր նշանակության մոդելների ուսուցումը

Սոարեսը կողմ է արհեստական բանականության առավել հզոր համակարգերի մշակման տեմպերը սահմանափակելու գաղափարին։ Նրա կարծիքով՝ կառավարությունները պետք է կասեցնեն խնդիրների լայն շրջանակ լուծելու ունակ համընդհանուր նշանակության մոդելների ուսուցումը և կենտրոնանան կոնկրետ օգտակար կիրառությունների համար տեխնոլոգիաների մշակման վրա, օրինակ՝ քաղցկեղի հետազոտությունների և ինքնավար մեքենաների անվտանգության բարձրացման։

Նրա դիրքորոշումը համահունչ է տեխնոլոգիական ոլորտի մի շարք ներկայացուցիչների կոչերին՝ առաջատար ԱԲ համակարգերն ավելի զգուշորեն զարգացնելու և հնարավոր սպառնալիքներին ավելի մեծ ուշադրություն դարձնելու վերաբերյալ։

«Լուծումն այն է, որ չստեղծենք մի բան, որը կսպանի բոլորին», — հայտարարել է Սոարեսը Թոմփսոնի հետ զրույցում։

Միևնույն ժամանակ նա աղետն անխուսափելի չի համարում։ Նրա խոսքով՝ ինքը հնարավոր ամեն ինչ անում է՝ նման ելքը կանխելու համար։

Այսպիսով, Սոարեսի՝ կենսաթոշակային խնայողություններ կուտակելուց հրաժարվելը կապված է ոչ թե տեխնոլոգիական առատության վրա հիմնված ապագայի հանդեպ համոզվածության հետ, ինչպես Մասկի դեպքում, այլ մարդկության վերացման ռիսկի իր անձնական գնահատականի։ Սակայն նման սցենարի հավանականությունը մնում է փորձագիտական վեճերի առարկա, այլ ոչ թե հաստատված գիտական փաստ։