նախընտրելի դարձնել
OpenAI-ի ղեկավար Սեմ Ալթմանը կարծում է, որ AI ընկերությունների և դրանց հետ կապված ներդրողների բազմամիլիոնանոց ծախսերը ամերիկյան քաղաքականության վրա չեն օգնում բարելավել հասարակության վերաբերմունքը արհեստական բանականության նկատմամբ։ POLITICO-ին տված հարցազրույցում նա նաև հանդես է եկել պատասխանատվության նոր կանոնների օգտին այն մոդելների մշակողների համար, որոնք ունակ են ինքնուրույն կիբերհարձակումներ իրականացնել, և հայտարարել է, որ պատրաստ է աջակցել ԱԲ-ի ավելի խիստ կարգավորմանը։
«Ակնհայտ է, որ ինչ-որ բան չի աշխատում»
Վերջին ամիսներին AI արդյունաբերությունը ակտիվորեն փող է ներդնում ամերիկյան քաղաքականության մեջ՝ միջանկյալ ընտրություններից առաջ։ Սակայն, Ալթմանի կարծիքով, նման մոտեցումը չի լուծում գլխավոր խնդիրը՝ հասարակության մի մասի բացասական վերաբերմունքը արհեստական բանականության նկատմամբ։
«Ես հասկանում եմ, թե ինչու է հիմա ԱԲ-ն շատ բացասական համբավ ունի», — ասել է OpenAI-ի ղեկավարը։ Նրա խոսքով՝ քաղաքականության վրա փող ծախսելը բավարար չէ, որպեսզի մարդիկ տեխնոլոգիայի նկատմամբ ավելի լավ վերաբերվեն։ Արդյունաբերությունը պետք է պարզաբանի հասարակության իրական դժգոհությունները, մինչդեռ AI բիզնեսի շատ ներկայացուցիչներ, նրա գնահատմամբ, այժմ բավարար զգայունություն չեն ցուցաբերում այս հարցերի նկատմամբ։
Ալթմանը նաև չի կարծում, որ արհեստական բանականությունը «գերբանականություն» անվանափոխելը, ինչը վերջերս առաջ էր մղում Դոնալդ Թրամփի վարչակազմը, կփոխի մարդկանց վերաբերմունքը տեխնոլոգիայի նկատմամբ։ Ինքը տերմինը նա ավելի ճշգրիտ է համարում, բայց կասկածում է, որ այն կընդունվի որպես պակաս վախեցնող։
OpenAI-ն ընդունում է որոշ վնաս՝ հանուն ԱԲ-ից ստացվող օգուտի
Հարցազրույցում Ալթմանը նշել է նաև OpenAI-ի դիրքորոշման տարբերությունը Anthropic-ի անվտանգության մոտեցումից։ Նրա խոսքով՝ OpenAI-ն պատրաստ է հաշտվել ԱԲ-ի օգտագործման որոշ բացասական հետևանքների հետ, եթե տեխնոլոգիայի ընդհանուր օգուտը հասարակության համար զգալիորեն բարձր լինի։
Խոսքը, մասնավորապես, խարդախության, չարաշահումների և վնասի այլ ձևերի մասին է, որոնք հնարավոր չէ ամբողջությամբ բացառել հզոր մոդելների լայն տարածման պայմաններում։
Ալթմանը կարծում է, որ ցանկացած լուրջ չարաշահում բացառելու երաշխիք տալու փորձը կարող է հանգեցնել չափազանց խիստ կարգավորման։ Միևնույն ժամանակ նա առանձին ընդգծել է, որ ԱԲ-ի նկատմամբ վերահսկողության կորուստը արդեն այլ կարգի ռիսկ է։ Այն համակարգերի նկատմամբ, որոնք կարող են չափազանց մեծ ինքնավարություն ստանալ, նա կոչ է արել չշտապել դրանց զարգացման արագացման հարցում։
Ինքնավար կիբերհարձակումների համար անհրաժեշտ են պատասխանատվության նոր կանոններ
Ալթմանի ամենակոնկրետ առաջարկներից մեկը դարձավ իրավական պատասխանատվության նոր մեխանիզմի մշակումը այն ընկերությունների համար, որոնց մոդելները ունակ են ինքնուրույն կիբերհարձակումներ իրականացնել։
Պատճառ են դարձել ինքնավար AI համակարգերի հետ կապված վերջին միջադեպերը, այդ թվում՝ Hugging Face-ի ենթակառուցվածքի կոտրումը և պետական կայքերի վրա հարձակումները։ Ալթմանը նման վարքագիծը անվանել է «ակնհայտորեն անընդունելի» և հայտարարել, որ մշակողները պետք է որոշակի պատասխանատվություն կրեն, եթե խնդիրներ են առաջանում իրենց մոդելների հետ ուսուցման գործընթացում։
Միևնույն ժամանակ նման պատասխանատվության վերջնական մոդելը դեռ որոշված չէ։ Ալթմանը կարծում է, որ այն պետք է քննարկեն օրենսդիրները, սակայն ԱՄՆ Կոնգրեսը դեռ չի եկել ԱԲ-ի կարգավորման միասնական մոտեցման։
Ալթմանը պատրաստ է ավելի խիստ սահմանափակումների
OpenAI-ի ղեկավարը նաև աջակցել է վերջերս տեխնոլոգիական ընկերությունների և Թրամփի վարչակազմի կողմից ստորագրված ԱԲ-ի անվտանգության վերաբերյալ կամավոր համաձայնագրին՝ այն անվանելով լավ սկիզբ։ Միևնույն ժամանակ նա հայտարարել է, որ կողջուներ կարգավորման լրացուցիչ միջոցները։
Միաժամանակ Ալթմանը մտահոգություն է հայտնել, որ AI արդյունաբերության կանոնները հիմա մեծապես ձևավորվում են Սպիտակ տան և տեխնոլոգիական ընկերությունների ղեկավարների կողմից՝ առանց Կոնգրեսի լիարժեք մասնակցության և հանրային քննարկման։
Նրա կարծիքով՝ չափազանց մեծ կարգավորումը նույնպես կարող է ռիսկ ստեղծել․ եթե տեխնոլոգիայի նկատմամբ վերահսկողությունը կենտրոնանա փոքր թվով ընկերությունների, մարդկանց կամ մեկ երկրի ձեռքում, դա ինքնին կարող է հանգեցնել իշխանության վտանգավոր կենտրոնացման։
OpenAI-ն հեռավորություն է պահպանում AI արդյունաբերության որոշ քաղաքական դոնորներից
Այս ֆոնին Ալթմանը փորձում է տարանջատել OpenAI-ի դիրքորոշումը ներդրողներից և տեխնոլոգիական ղեկավարներից, որոնք հանդես են գալիս ԱԲ-ի հնարավորինս արագ զարգացման օգտին և ակտիվորեն ֆինանսավորում են քաղաքական արշավներ՝ ընդդեմ խիստ կարգավորման։
Նա կոչ է արել տեխնոլոգիաների արագացված զարգացման կողմնակիցներին ավելի զգուշորեն վերաբերվել հզոր համակարգերի նկատմամբ վերահսկողության կորստի ռիսկին։ OpenAI-ի նախագահ Գրեգ Բրոքմանը նույնպես, ըստ ԶԼՄ-ների հաղորդումների, հրաժարվել է 25 միլիոն դոլարի չափով երկրորդ նվիրատվությունից՝ հօգուտ Leading the Future քաղաքական ցանցի, և ներողություն է խնդրել ընկերության աշխատակիցներից այս հարցի շուրջ առաջացած շեղող ազդեցության համար։
Այսպիսով, Ալթմանի դիրքորոշումը միաժամանակ երևում է որպես OpenAI-ի կարգավորման նկատմամբ ավելի մեղմ մոտեցումը պաշտպանելու փորձ և որպես նոր կանոնների անհրաժեշտության ընդունում այնտեղ, որտեղ ինքնավար համակարգերն արդեն ունակ են իրական վնաս պատճառել։ Միևնույն ժամանակ ընկերության ղեկավարը չի աջակցում ոչ սահմանափակումների լիակատար բացակայությանը, ոչ էլ այն մոդելին, որի դեպքում ԱԲ-ի անվտանգությունը ամբողջությամբ որոշվում է տեխնոլոգիական ընկերությունների և պաշտոնյաների նեղ շրջանակի կողմից։
