Ալթմանին հեռացնելուց առաջ OpenAl-ի տնօրենների խորհուրդը նամակ է ստացել՝ ԱԲ ոլորտում վտանգավոր առաջընթացի մասին

Սեմ Ալթմանին OpenAl-ից հեռացնելուց առաջ տնօրենների խորհուրդը նամակ է ստացել, որում ընկերության մի քանի հետազոտողներ հայտնել են արհեստական ​բանականության (ԱԲ) ոլորտում առաջընթացի մասին, որը, ըստ նրանց, կարող է սպառնալ մարդկությանը։ Այս մասին Reuters-ին հայտնել են իրավիճակին ծանոթ երկու մարդ։

Գործակալության աղբյուրների համաձայն՝ այդ նամակը ավելացել է տնօրենների խորհրդի դժգոհությունների երկար ցանկին և դարձել գործոններից մեկը, որը հանգեցրել է Ալթմանի պաշտոնանկությանը։ Նրանք նաև մտահոգություններ են ունեցել ընկերության ձեռքբերումների առևտրայնացման վերաբերյալ՝ նախքան դրանց հետևանքները հասկանալը: Սակայն Reuters-ը չի կարողացել ծանոթանալ բուն նամակի տեքստին, իսկ այն գրած աշխատակիցները չեն պատասխանել մեկնաբանությունների վերաբերյալ գործակալության խնդրանքներին։

Երբ Reuters-ը կապ է հաստատել OpenAI-ի ներկայացուցիչների հետ, որոնք նույնպես հրաժարվել են մեկնաբանել, աշխատակիցներին ուղղված ներքին գրությունում ընկերությունը խոստովանել է Q* կոչվող նախագծի և նամակի գոյությունը, որը խորհուրդն ստացել էր Աթլմանին աշխատանքից ազատելուն նախորդած շաբաթավերջից կարճ ժամանակ առաջ։ OpenAI-ի ներկայացուցիչն ասել է, որ գործադիր տնօրեն Միրա Մուրատիի ուղարկած հաղորդագրությունն աշխատակիցներին զգուշացրել է լրատվամիջոցներում առկա որոշ հաղորդումների մասին՝ չմեկնաբանելով դրանց իսկությունը:

OpenAI-ում ոմանք կարծում են, որ Q*-ը (արտասանվում է Q-Star) կարող է առաջընթաց լինել, այսպես կոչված, արհեստական ​​ընդհանուր բանականության (AGI) որոնման մեջ, Reuters-ին ասել է զրուցակիցներից մեկը: OpenAI-ը AGI-ները սահմանում է որպես ինքնավար համակարգեր, որոնք գերազանցում են մարդկանց տնտեսական տեսանկյունից արժեքավոր առաջադրանքների մեծ մասի դեպքում:

Նոր մոդելը, որն ստացել է հաշվողական հսկայական ռեսուրսներ, կարողացել է լուծել որոշ մաթեմատիկական խնդիրներ, անանունության պայմանով Reuters-ին ասել է աղբյուրը: Ըստ աղբյուրի՝ թեև Q*-ն մինչ այժմ միայն դպրոցական մակարդակում է լուծել մաթեմատիկական խնդիրներ, այս առաջադրանքների հաջող կատարումը հետազոտողներին լավատեսություն է ներշնչում Q*-ի հետագա հաջողությունների հարցում։

Ինչո՞վ է առանձնահատուկ մաթեմատիկական խնդիրներ լուծող մոդելը:

Հետազոտողները կարծում են, որ մաթեմատիկան գեներատիվ արհեստական ​​բանականության ամենազարգացած փուլն է: Ներկայումս գեներատիվ արհեստական բանականությունը կարող է գրել տեքստեր և թարգմանել, և նույն հարցի պատասխանները կարող են շատ տարբեր լինել: Սակայն ունակության յուրացումը՝ լուծելու մաթեմատիկական խնդիրներ, որոնցում կա միայն մեկ ճիշտ պատասխան, ենթադրում է, որ արհեստական բանականությունը բանական ավելի մեծ ունակություններ կունենա և ավելի նման կլինի մարդկային բանականությանը: Այնուհետև այն կարող է օգտագործվել, օրինակ, նոր գիտական ​​հետազոտություններում, ասում են արհեստական բանականության հետազոտողները:

Ի տարբերություն հաշվիչի, որը կարող է կատարել միայն սահմանափակ թվով գործողություններ, AGI-ը կարող է ընդհանրացումներ աննել, սովորել և հասկանալ:

Տնօրենների խորհրդին ուղղված նամակում հետազոտողները նշել են արհեստական բանականության հզորության և դրա հնարավոր վտանգների մասին: Այնուամենայնիվ, Reuters-ի աղբյուրները չեն նշել անվտանգության կոնկրետ խնդիրների մասին, որոնք հաղորդվել էին այդ նամակում: