OpenAI-ն իսկապե՞ս զարգացնում է գերբանականություն, որը վտանգ է ներկայացնում մարդկությանը․ Սեմ Ալթմանը մեկնաբանել է այդ լուրերը

OpenAI ընկերության ղեկավար Սեմ Ալթմանը The Verge պարբերականին տված հարցազրույցում մեկնաբանել է լուրերն այն մասին, թե ընկերությունը մշակում է արհեստական ​​գերբանականություն, որը կարող է վտանգ ներկայացնել մարդկությանը։

Լուրերն այն մասին, թե OpenAI-ը նման զարգացման է հասել իր մշակումներում, ԶԼՄ-ներում հայտնվեցին անմիջապես այն բանից հետո, երբ Ալթմանը հեռացվեց գլխավոր տնօրենի պաշտոնից: Ինչպես հաղորդում է Reuters-ը, հեռացման պատճառը եղել է հենց այն, որ Ալթմանը չի տեղեկացրել տնօրենների խորհրդին այդ մշակման մասին։

The Verge-ի հետ զրույցում Ալթմանը գերբանականության մասին մանրամասներ չի հայտնել, սակայն դրա մասին տեղեկությունները «մտահոգիչ արտահոսք» է անվանել։

«Մենք ակնկալում ենք, որ այս տեխնոլոգիայի առաջընթացը նախկինի պես արագ կլինի, մենք նաև ակնկալում ենք շարունակել շատ ծանր աշխատանքը՝ պարզելու, թե ինչպես դա անվտանգ և օգտակար դարձնել»,- ասաց նա:

Ալթմանը հավելել է, որ հետազոտություններն անհրաժեշտ են առաջընթացի համար, և այս գործընթացն անխուսափելիորեն ուղեկցվում է տարբեր դժվարություններով։ Առայժմ, նրա խոսքով, OpenAI-ը ձգտում է քննարկել այդ խնդիրները հանրության հետ և որոշել, թե ինչպես առաջ շարժվել, որպեսզի իրենց բոլոր ջանքերը հնարավորինս անվտանգ և օգտակար լինեն:

Հիշեցնենք, որ OpenAI-ի մշակած Q* (արտասանվում է Q-Star) կոչվող նախագիծը, ըստ որոշ փորձագետների, կարող է բեկում լինել այսպես կոչված արհեստական ​​ընդհանուր բանականության (AGI) ոլորտում։ Q*-ին հաջողվել է լուծել որոշ մաթեմատիկական առաջադրանքներ, և թեև դա արվել է ընդամենը դպրոցական խնդիրների մակարդակով, այդ առաջադրանքների հաջող կատարելու փաստը շատ բանի մասին է խոսում։

Ինչո՞վ է առանձնահատուկ մաթեմատիկական խնդիրներ լուծող մոդելը:

Շատ հետազոտողների կարծիքով՝ մաթեմատիկան գեներատիվ արհեստական ​​բանականության առաջադեմ զարգացումն է: Ներկայումս արհեստական բանականությունը կարող է գրել տեքստեր և թարգմանել դրանք, և նույն հարցի պատասխանները կարող են շատ տարբեր լինել: Բայց մաթեմատիկական խնդիրներ լուծելու ունակության յուրացումը, որոնցում կա միայն մեկ ճիշտ պատասխան, ենթադրում է, որ արհեստական բանականությունը բանական ավելի մեծ ունակություններ կունենա և ավելի նման կլինի մարդկային բանականությանը: Այն կարող է օգտագործվել, օրինակ, նոր գիտական ​​հետազոտություններում:

Ի տարբերություն հաշվիչի, որը կարող է կատարել միայն սահմանափակ թվով գործողություններ, AGI-ը կարող է ընդհանրացնել, սովորել և հասկանալ: Ճիշտ է, դեռ պարզ չէ, թե ինչ ռիսկեր կարող են թաքնված լինել դրանում։