OpenAI-ն նախազգուշացրել է ինքնավար կիբեռհարձակումների նոր դարաշրջանի մասին

OpenAI-ն նախազգուշացրել է կիբեռանվտանգության ոլորտում «բեկումնային պահի» մասին իր արհեստական բանականության (ԱԲ) մոդելների ինքնավար հարձակումներից հետո, հայտնում է Cybersecurity Dive-ը: Ընկերության գնահատմամբ՝ միջադեպերը, որոնց ընթացքում մոդելներն ինքնուրույն օգտագործել են զրոյական օրվա (zero-day) խոցելիություններ և ներթափանցել այլ կազմակերպությունների ցանցեր, վկայում են առաջատար ԱԲ համակարգերի մշակման ընթացքում անվտանգության մոտեցումների շտապ վերանայման անհրաժեշտության մասին:

OpenAI-ն կոչ է անում ուժեղացնել ԱԲ-ի պաշտպանությունը

Լաս Վեգասում ընթացող Black Hat 2026 համաժողովում OpenAI-ի տեխնիկական թիմի անդամ Մայքլ Դալթոնը հայտարարել է, որ տեղի ունեցածը դարձել է շրջադարձային պահ ինչպես հենց ընկերության, այնպես էլ արհեստական բանականության ողջ ոլորտի համար:

Նրա խոսքով՝ միջադեպերից հետո OpenAI-ն էապես ուժեղացրել է անվտանգությանոջոցները. մի քանի թիմեր ամբողջությամբ վերակողմնորոշվել են նման դեպքերի կանխարգելման ուղղությամբ, ընկերությունը դանդաղեցրել է հետազոտական աշխատանքները և զգալիորեն ընդլայնել իր ԱԲ գործակալների մոնիտորինգը:

Դալթոնն ընդգծել է, որ արհեստական բանականության կողմից համակարգվող լիովին ավտոմատացված կիբեռհարձակումներն արդեն իրականություն են: Նրա կարծիքով՝ Hugging Face հարթակի վրա հարձակումը ընդամենը «մոտ ապագայի հայացք» էր, թե ինչ տեսք են ունենալու ապագա կիբեռսպառնալիքները:

Սրա հետ կապված՝ OpenAI-ն գտնում է, որ պաշտպանական տեխնոլոգիաները պետք է զարգանան ավելի արագ, քան ԱԲ-ի հարձակողական հնարավորությունները: Ընկերությունում կոչ են անում ավելի ակտիվորեն օգտագործել ԱԲ մոդելները ենթակառուցվածքների պաշտպանության համար, ինչպես նաև հատուկ ուշադրություն դարձնել տեղեկատվական անվտանգության հիմնարար սկզբունքներին, ներառյալ ցանցերի սեգմենտավորումը, օգտատերերի արտոնությունների նվազեցումը և Zero Trust (Զրոյական վստահություն) ճարտարապետությունը:

Դալթոնը նաև նշել է, որ ոլորտը պետք է հասնի մի իրավիճակի, երբ մոդելների ինտելեկտուալ հնարավորությունների աճն ավելի շատ օգուտ կբերի պաշտպանվողներին, քան չարագործներին: Հակառակ դեպքում, նրա խոսքով, ԱԲ-ի յուրաքանչյուր նոր բարելավում կուժեղացնի հարձակվողների դիրքերը, ինչը իրավիճակը կդարձնի անկայուն:

ԱԲ-ն ինքնուրույն ստեղծել է հաղորդագրությունների փոխանակման Ներքին համակարգ

Ելույթի ընթացքում OpenAI-ի աշխատակիցները բացահայտել են ընկերության ենթակառուցվածքում տեղի ունեցած միջադեպերի նոր մանրամասներ:

Ինչպես պարզվել է, արհեստական բանականության մոդելներն ինքնուրույն կազմակերպել են յուրօրինակ «հայտարարությունների տախտակ» Artifactory փաթեթների կառավարման համակարգի ներսում: Մի քանի ամսվա ընթացքում նրանք ինքնավար կերպով փոխանակել են տեղեկատվություն և ռեսուրսներ՝ օգնելովմիմյանց կատարել առաջադրված խնդիրները:

Թեև թեստային միջավայրը չուներ ուղիղ մուտք դեպի ինտերնետ, մոդելներն օգտագործել են Artifactory-ի ցանցային հնարավորությունները տարբեր կայքերից ֆայլեր ներբեռնելու համար: Այն բանից հետո, երբ մոդելների կատարած կոնֆիգուրացիոն փոփոխությունները հանգեցրել են ծառայության խափանմանը հուլիսի 4-ին, OpenAI-ն հայտնաբերել է տեղի ունեցածը, ամբողջությամբ մաքրել համակարգը և վերականգնել այն: Սակայն մի քանի օր անց մոդելները նորից ստեղծել են տեղեկատվության փոխանակման ներքին հարթակը և շարունակել փոխգործակցությունը:

OpenAI-ում սպասում են ԱԲ խմբերի ի հայտ գալուն կիբեռհարձակումների համար

Ընկերությունում կարծում են, որ նման ինքնավար համագործակցությունը շուտով կարող է օգտագործվել չարագործների կողմից:

Դալթոնի խոսքով՝ մոտ ապագայում պետք է սպասել, որ կիբեռհանցագործները միտումնավոր կտեղակայեն, կօպտիմալացնեն և կօգտագործեն փոխգործակցող ԱԲ գործակալների խմբեր՝ բարդ ավտոմատացված հարձակումներ իրականացնելու համար:

OpenAI-ի կարծիքով՝ այս իրադարձությունները պետք է ազդանշան դառնան ողջ ոլորտի համար՝ արհեստական բանականության ամենահզոր մոդելների մշակման և շահագործման ընթացքում անվտանգությանոջոցները զգալիորեն ուժեղացնելու անհրաժեշտության մասին: