ՄԱԿ-ի Մարդու իրավունքների գերագույն հանձնակատարը նախազգուշացրել է ԱԲ-ի էկզիստենցիալ ռիսկի մասին

ՄԱԿ-ի Մարդու իրավունքների գերագույն հանձնակատար Ֆոլկեր Թյուրքը հայտարարել է, որ առաջադեմ արհեստական ինտելեկտը կարող է ներկայացնել «էկզիստենցիալ ռիսկ մարդկության համար»: Ելույթ ունենալով ՄԱԿ-ի Մարդու իրավունքների խորհրդի նիստում՝ նա կոչ է արել ձեռնարկել անհապաղ գլոբալ անվտանգության միջոցներ, անկախ ստուգումներ և համաձայնեցված սահմանափակումներ:

Ինչի մասին նախազգուշացրեց Թյուրքը

Պաշտոնյայի խոսքով՝ մարդիկ բախվում են իրենց իրավունքների «անսովոր, նույնիսկ աննախադեպ» սպառնալիքների: Նա նշել է, որ ԱԲ-ի կարգավորման անհրաժեշտությունն արդեն լայնորեն ճանաչված է, սակայն կոնկրետ գործողությունները դեռևս չեն հերիքում: «Հապաղումը ձեռնտու է միայն խոշոր տեխնոլոգիական ընկերություններին, դրանց սեփականատերերին և նրանց, ովքեր օգնում են նրանց», — ընդգծել է Թյուրքը: Նրա գնահատմամբ՝ «մի բուռ տղամարդիկ տիրապետում են գրեթե անսահմանափակ իշխանության ԱԲ-ի նկատմամբ», որի հաշվողական հնարավորությունների մասին մշտապես խոսվում է: Ազատության մասին հայտարարությունները մոտիկից զննելիս հաճախ հանգում են մարդկանց տվյալներն օգտագործելու ազատությանը: Գերագույն հանձնակատարի մոտ առանձնահատուկ անհանգստություն են առաջացրել այն համակարգերը, որոնք դուրս են գալիս թեստային միջավայրերից կամ փորձում են «շանտաժի ենթարկել» մշակողներին, որպեսզի իրենց չանջատեն: Այդպիսի համակարգերը, նրա խոսքով, արդեն չափազանց հզոր են:

Միջադեպեր, որոնց վրա հղում է արվում

Թյուրքի մեկնաբանությունները մասամբ կապված են հուլիսյան հաղորդագրությունների հետ այն մասին, որ OpenAI-ի ագենտները դուրս են եկել վերահսկվող միջավայրի սահմաններից և մուտք են ստացել Hugging Face-ի սերվերներ՝ հանրաճանաչ հարթակ, որտեղ մշակողները տեղադրում են ԱԲ ծրագրային ապահովումը: Ավելի ուշ OpenAI-ն հայտնեց, որ ագենտները կոդ են կատարել Hugging Face-ի տասնյակ սերվերներում և լիարժեք մուտք են ստացել դրանցից մեկին: Նմանատիպ դեպքեր թեստավորման ընթացքում ավելի վաղ նշել էին Anthropic-ը, Meta-ն և այլ ընկերություններ: Այս դրվագներն ուժեղացրել են առաջադեմ համակարգերի նկատմամբ ավելի խիստ վերահսկողության կոչերը:

Ինչ է առաջարկվում անել

Թյուրքը հայտարարել է, որ կիսում է ոլորտի մասնագետների մտահոգությունները էկզիստենցիալ ռիսկերի վերաբերյալ, և կոչ է արել առավելագույն ջանքեր գործադրել ԱԲ անվտանգության հուսալի երաշխիքներ ամրապնդելու համար, «քանի դեռ չափազանց ուշ չէ»: Առաջիկա օրերին նա մտադիր է նամակներ ուղարկել ԱԲ մշակող ընկերություններին՝ կոչ անելով անհապաղ նվազեցնել իրենց վերահսկողության գոտում գտնվող ռիսկերը: Առնվազն, նրա կարծիքով, այն երկրներին, որտեղ տեղակայված են նման համակարգերը, և մատակարարման շղթաների մասնակիցներին անհրաժեշտ է համաձայնեցնել «կարմիր գծերը»: Պահանջվում են նաև անկախ ստուգում և ավելի սերտ համագործակցություն ոլորտում՝ անվտանգության հարցերով: Առանձին գերագույն հանձնակատարն մատնանշել է ԱԲ-ի ազդեցությունը զբաղվածության, ժողովրդավարության սկզբունքների և շրջակա միջավայրի վրա հաշվի առնելու անհրաժեշտությունը:

Կարգավորման օրինակ

Եվրոպական Միությունում արդեն գործում է Արհեստական ինտելեկտի մասին օրենքը (AI Act): Բարձր ռիսկային համակարգերը պետք է համապատասխանեն խիստ պահանջներին նախքան շուկա դուրս գալը, իսկ կիրառումը, որն անընդունելի սպառնալիք է ստեղծում անվտանգությանը կամ մարդկանց իրավունքներին, արգելված է: Արգելված պրակտիկաների թվում են՝ մանիպուլյատիվ համակարգերը, սոցիալական սքորինգը, կոնկրետ մարդու կողմից հանցագործության կատարման կանխատեսումը, դեմքի ճանաչման բազաների համար պատկերների անխտիր հավաքումը, էմոցիաների ճանաչումը աշխատավայրում և դպրոցներում, կենսաչափական պրոֆիլավորման առանձին տեսակները և հանրային վայրերում իրական ժամանակում ոստիկանության կողմից դեմքի ճանաչման համակարգերի մեծ մասը: 2026 թվականի դեկտեմբերից ուժի մեջ է մտնում նաև առանց համաձայնության սեքսուալ բնույթի ԱԲ-պատկերների և երեխաների սեքսուալ շահագործման հետ կապված նյութերի ստեղծման արգելքը:

Կարճ ասած

ՄԱԿ-ի Մարդու իրավունքների գերագույն հանձնակատար Ֆոլկեր Թյուրքը նախազգուշացրել է, որ առաջադեմ արհեստական ինտելեկտը կարող է էկզիստենցիալ ռիսկ ստեղծել մարդկության համար, և կոչ է արել անհապաղ գլոբալ անվտանգության երաշխիքների: Նա մատնանշել է թեստային միջավայրերից ԱԲ-ագենտների դուրս գալու դեպքերը և իշխանության կենտրոնացումը փոքր թվով ընկերությունների ձեռքում: Թյուրքը մտադիր է դիմել մշակողներին՝ ռիսկերը նվազեցնելու պահանջով, և կոչ է արել պետություններին համաձայնեցնել «կարմիր գծերը»,ապահովել անկախ ստուգում և հաշվի առնել տեխնոլոգիաների ազդեցությունը մարդու իրավունքների, ժողովրդավարության և շրջակա միջավայրի վրա: