«Հետևանքները կարող են լինել ծայրահեղ դիստոպիական». Սեմ Ալթմանը ընդունել է, որ ԱԲ-ն կարող է դուրս գալ մարդու վերահսկողությունից — և կոչ արել դանդաղեցնել մրցավազքը

OpenAI-ի ղեկավար Սեմ Ալթմանը հայտարարել է, որ ապագայում արհեստական բանականությունը իսկապես կարող է դուրս գալ մարդու վերահսկողությունից, իսկ առաջատար ԱԲ տեխնոլոգիաների կենտրոնացումը մեկ ընկերության, մեկ մարդու կամ մեկ պետության ձեռքում կարող է հանգեցնել «ծայրահեղ դիստոպիական» հետևանքների։ Այս ռիսկերի ֆոնին նա կոչ է արել դանդաղեցնել ավելի հզոր մոդելների համար մղվող մրցավազքը, որպեսզի անվտանգության միջոցները հասցնեն համընթաց զարգանալ դրանց հետ։

Fortune-ին տված հարցազրույցում Ալթմանը նաև հաստատել է, որ OpenAI-ն չի նախատեսում 2026 թվականին դուրս գալ բորսա։ Նրա խոսքով՝ ԱԲ անվտանգության շուրջ ստեղծված իրավիճակի ֆոնին այժմ IPO-ի համար անհաջող պահ կլիներ, և այժմ որպես ուղենիշ դիտարկվում է 2027 թվականը։

«Մենք պետք է զսպենք frontier-ը»

Ալթմանի հայտարարությունները հնչեցին քիչ անց այն բանից հետո, երբ Anthropic-ի ղեկավար Դարիո Ամոդեյը կոչ արեց առաջատար ԱԲ ընկերություններին դանդաղեցնել առաջատար համակարգերի մշակումը։ Ալթմանը հրապարակայնորեն աջակցեց այս դիրքորոշմանը՝ X-ում գրելով. «Ես համաձայն եմ Դարիոյի հետ, որ մենք պետք է զսպենք frontier-ը»։

Միևնույն ժամանակ, դանդաղեցման տակ նա չի հասկանում հետազոտությունների դադարեցում։ Առանձին հրապարակումների շարքում Ալթմանը պարզաբանել է, որ ԱԲ-ի զարգացումը կշարունակվի, սակայն ընկերությունները պետք է գիտակցաբար հրաժարվեն հնարավոր առավելագույն արագությունից, եթե այն հանգեցնում է նրան, որ մոդելների հնարավորությունները սկսում են առաջ անցնել անվտանգության միջոցներից։

Նրա խոսքով՝ ժամանակակից գործիքները, ինչպիսիք են պատասխանատու մասշտաբավորման քաղաքականությունները և նախապատրաստական ընթացակարգերը, առաջին հերթին ստեղծվել էին արդեն պատրաստ մոդելները վերահսկելու համար։ Այժմ դա այլևս բավարար չէ․ անվտանգությունը պետք է հաշվի առնել անմիջապես նոր համակարգերի մշակման և ուսուցման ընթացքում։

Ինչպես պատմել է Ալթմանը, OpenAI-ում ուսուցման որոշ առանձնապես կարևոր փուլերից առաջ արդեն նախապես ձևավորվում են հատուկ անվտանգության գնահատումներ՝ մասնավորապես այնպիսի ուսուցման մեկնարկներից առաջ, որոնք կարող են զգալիորեն մեծացնել մոդելի հնարավորությունները։ Ընկերությունը նաև օգտագործում է մոնիթորինգ և ցանկանում է, որ այլ մշակողներ էլ առաջարկեն իրենց սեփական մոտեցումները։

Ալթմանը չի բացառում վերահսկողության կորուստը

OpenAI-ի ղեկավարի ամենաանհանգստացնող թեզը վերաբերում է այն հնարավորությանը, որ մարդիկ ինչ-որ պահի դադարեն վերահսկել իրենց ստեղծած համակարգերը։

Fortune-ին տված հարցազրույցում Ալթմանը խոստովանել է, որ նման սցենարը «բացարձակապես» հնարավոր է։ Միևնույն ժամանակ նա կարծում է, որ անվտանգության գործող ստանդարտներն առայժմ բավականաչափ հուսալի չեն, որպեսզի առանց վերապահումների շարունակեն մեծացնել ԱԲ-ի հնարավորությունները։

Իր հրապարակումներում նա խնդիրը ձևակերպել է ավելի լայն՝ մարդկությունը մի օր կարող է «կորցնել վերահսկողությունը ապագայի նկատմամբ» արհեստական բանականության պատճառով։ Ալթմանը նաև նախազգուշացրել է մեկ այլ սցենարի մասին՝ չափազանց մեծ իշխանության կենտրոնացում մեկ ընկերության, մեկ մարդու կամ մեկ պետության ձեռքում, որոնք հասանելիություն են ստացել ամենահզոր համակարգերին։ Իրադարձությունների նման զարգացման հետևանքները նա անվանել է պոտենցիալ չափազանց մռայլ, նույնիսկ «ծայրահեղ դիստոպիական»։

Միևնույն ժամանակ Ալթմանը ընդգծել է, որ OpenAI-ն պետք է մնա մարդկության կողմում, իսկ արհեստական բանականությունը պետք է ծառայի մարդկանց։

Հենց այստեղ է անցնում նրա դիրքորոշման կարևոր սահմանը․ նա չի առաջարկում հրաժարվել ավելի հզոր ԱԲ ստեղծելուց, բայց անընդունելի է համարում այն իրավիճակը, երբ տեխնոլոգիական հնարավորությունները զարգանում են ավելի արագ, քան մարդիկ կարողանում են վերահսկել դրանց հետևանքները։

«Ոչ մի մրցակցային ճնշում չի արդարացնում անխոհեմությունը»

Ալթմանը առանձին հանդես է եկել ԱԲ-ի առաջատար մշակողների համար միասնական անվտանգության կանոնների օգտին։ Նրա կարծիքով՝ ամերիկյան ընկերություններին անհրաժեշտ են համաձայնեցված պահանջներ դաշնային մակարդակում, ինչպես նաև ոլորտային ընդհանուր ստանդարտներ մոնիթորինգի, անվտանգության և այսպես կոչված misalignment-ի ոլորտում՝ իրավիճակի, երբ համակարգի վարքագիծը շեղվում է մարդու կողմից տրված նպատակներից։

Նա նաև աջակցել է անկախ աուդիտորների գաղափարին։

Միևնույն ժամանակ OpenAI-ի ղեկավարը կարծում է, որ ընկերությունները չպետք է սպասեն, մինչև կառավարությունները ընդունեն բոլոր անհրաժեշտ օրենքները։ Աշխատանքի մի մասը ոլորտը կարող է կատարել ինքնուրույն՝ մշակելով ընդհանուր ստանդարտներ և պայմանավորվածություններ։

Նրա կարծիքով՝ պետությունների համար հատկապես կարևոր է համագործակցել միջազգային մակարդակում։ Առաջատար ԱԲ համակարգերի զարգացումն արդեն անհնար է դիտարկել բացառապես որպես առանձին ընկերությունների կամ երկրների ներքին հարց։

Ալթմանը նաև ընդգծել է. ԱՄՆ-ի տեխնոլոգիական առաջնորդության համար մրցակցության հետ կապված ոչ մի ճնշում չպետք է արդարացնի անխոհեմությունը կամ թույլ տա, որ ԱԲ-ի հնարավորությունները առաջ անցնեն համաձայնեցման և վերահսկողության համակարգերից։

Ավելի ու ավելի շատ խոսակցություններ՝ դանդաղեցման անհրաժեշտության մասին

Ալթմանի հայտարարությունները հնչել են ԱԲ-ի զարգացման վերաբերյալ ընդհանուր անհանգստության աճի ֆոնին՝ անմիջապես հենց ոլորտի ներսում։

Վերջերս Anthropic-ի նախկին հետազոտող Ջեյքոբ Կոքսոնը լքել է ընկերությունը ԱԲ անվտանգության վերաբերյալ մտահոգությունների պատճառով և հայտարարել է, որ առաջատար լաբորատորիաները չափազանց արագ են շարժվում դեպի ինքնակատարելագործվող գերբանականության ստեղծում։ Նրա խոսքով՝ տեխնոլոգիայի լուրջ ռիսկերի մասին խոսակցությունները ընկերությունների ներսում ավելի ու ավելի հաճախ են առաջանում։

Այժմ այս խոսակցությանը հրապարակայնորեն միացել է նաև խոշորագույն ԱԲ ընկերություններից մեկի ղեկավարը։ Ընդ որում, Ալթմանը փաստացի ընդունում է հենց այդ մտահոգությունների հիմքը․ ավելի հզոր համակարգերը կարող են դառնալ ավելի դժվար վերահսկելի, իսկ ներկայիս անվտանգության միջոցները պարտադիր չէ, որ հասցնեն համընթաց լինել դրանց զարգացման տեմպերին։

Միաժամանակ նա չի առաջարկում տեխնոլոգիական մրցավազքը դնել դադարի վրա։ Նրա դիրքորոշումն այլ է․ ԱԲ-ն պետք է զարգացնել ավելի դանդաղ, քան դա տեխնիկապես հնարավոր է, եթե ավելի բարձր արագությունը նշանակում է հրաժարում բավարար նախազգուշական միջոցներից։

OpenAI-ի IPO-ն կհետաձգվի մինչև 2027 թվականը

Այս ֆոնին փոխվում է նաև OpenAI-ի վերաբերմունքը սեփական ֆինանսական ապագայի նկատմամբ։ Ալթմանը հաստատել է, որ ընկերությունը 2026 թվականին բորսա չի դուրս գա։

Նա ներկայիս պահը IPO-ի համար ոչ հարմար է անվանել հենց ԱԲ անվտանգության հետ կապված իրավիճակի պատճառով։ Նրա խոսքով՝ OpenAI-ն ճնշում չի զգում և պատրաստ է դուրս գալ հանրային շուկա այն ժամանակ, երբ դրան պատրաստ լինեն և՛ ընկերությունը, և՛ հասարակությունը։ 2027 թվականի մասին հարցին Ալթմանը պատասխանել է դրական։

Այսպիսով, անվտանգությունը OpenAI-ի համար դառնում է ոչ միայն տեխնիկական կամ էթիկական խնդիր։ Այն ավելի ու ավելի նկատելիորեն ազդում է մշակման տեմպերի, այլ ԱԲ ընկերությունների հետ հարաբերությունների, կարգավորման և նույնիսկ հենց OpenAI-ի ապագա հանրային կարգավիճակի հետ կապված որոշումների վրա։

Միևնույն ժամանակ Ալթմանը նախկինի պես ելնում է այն բանից, որ արհեստական բանականության զարգացումը կշարունակվի արագ տեմպերով։ Այժմ գլխավոր հարցն այլևս այն չէ, թե կհաջողվի արդյոք կանգնեցնել այս մրցավազքը, այլ այն, թե արդյոք մշակողները կկարողանա՞ն պայմանավորվել այն մասին, թե որտեղ է արագությունն արդեն դառնում չափազանց բարձր գործող վերահսկման մեխանիզմների համար։