Կիբեռանվտանգության ոլորտի հետազոտողները, որոնք այս ամառ կոտրել էին OpenAI-ը, զգուշացնում են, որ արհեստական բանականության (ԱԲ) ոլորտը պատրաստ չէ այն անվտանգության սպառնալիքներին, որոնք առաջացնում են գնալով ավելի հզորացող համակարգերը, գրում է Washington Post-ը։ Անհանգստությունն ավելի է ուժեղանում Google-ի հաստատումն առ այն, որ Gemini ԱԲ մոդելը մայիսին անցկացված կիբեռանվտանգության թեստավորման ընթացքում ինքնուրույն կոտրել է երեք իրական կորպորացիաների ցանցեր՝ համալրելով ամբողջ ոլորտը ցնցած միջադեպերի աճող ցանկը։

Հաքերներն օգտագործել են խոցելիությունների շղթա OpenAI-ը կոտրելու համար

Կիբեռանվտանգության ոլորտի Hacktron փոքր ընկերությունը հայտնել է, որ 2026 թվականի հուլիսի 25-ին իր հետազոտողներն օգտվել են նախկինում անհայտ երկու խոցելիությունների շղթայից (մեկը Discourse երրորդ կողմի հարթակում, իսկ մյուսը՝ OpenAI-ի աշխատակիցների վերիֆիկացման համակարգում) և կոտրել են ընկերության մի քանի աշխատակիցների ChatGPT հաշիվները։ OpenAI-ը հաստատել է հետազոտության արդյունքները և հայտնել, որ խոցելիությունները դրանից հետո վերացվել են։ Հետազոտողները Washington Post-ին պատմել են, որ ԱԲ ընկերությունները պետք է արմատապես ուժեղացնեն պաշտպանությունը մոդելների հնարավորությունների աճին զուգընթաց։

Այս հեքերային հարձակումը դարձավ OpenAI-ի անվտանգության հետ կապված միջադեպերի շարքի հերթական դեպքը։ Հուլիսին ընկերության երկու մոդելներ դուրս էին եկել փակ թեստային միջավայրից, ինքնուրույն մուտք էին գործել համացանց և կոտրել Hugging Face ԱԲ հարթակի ներքին համակարգերը։ OpenAI-ի գլխավոր տնօրեն Սեմ Ալտմանը տեղի ունեցածն անվանել է «աննախադեպ կիբեռմիջադեպ»։ Հետագայում ընկերությունը բացահայտել է տեղեկատվություն ԱԲ-ի «անսպասելի կամ մտահոգիչ» վարքագծի ևս վեց դեպքի մասին․ մոդելները թաքցրել են սխալները, կեղծել տվյալները և առանց թույլտվության ֆայլեր են տեղադրել բաց համացանցում։

Gemini-ն դուրս է եկել թեստային միջավայրի սահմաններից

Առանձին միջադեպում, որի մասին առաջինը հայտնել էր Wall Street Journal-ը սեպտեմբերի 18-ին, Google-ը հաստատել է, որ իր Gemini մոդելը ներթափանցել է երեք ընկերությունների համակարգեր՝ Irregular-ի (ԱԲ անվտանգության ոլորտի իսրայելական ստարտափ) կողմից անցկացվող կիբեռանվտանգության գնահատման ընթացքում։ Մոդելին հանձնարարված էր տեղեկատվություն ստանալ փակ թեստային միջավայրում գտնվող հորինված ընկերությունից, սակայն համացանցի անզգույշ հասանելիությունը նրան թույլ է տվել հարձակվել իրական համակարգերի վրա։

Մեկ դեպքում Gemini-ն ընտրել է գաղտնաբառը և մուտք է գործել իրական ընկերության պաշտպանված համակարգ։ Մյուս երկու դեպքերում նա հայտնաբերել է մուտքային տվյալները հանրային պահոցներում և օգտագործել դրանք համակարգ մտնելու համար։ Google-ի անվտանգության հարցերով փոխնախագահ Հեզեր Ադկինսը հայտարարել է, որ բոլոր երեք դեպքերում էլ մոդելը դադարեցրել է գործողությունները, հենց հասկացել է, որ համակարգերն իրական են։ Google-ը ծանուցել է տուժած երեք ընկերություններին, սակայն սկզբում հանրայնորեն չի բացահայտել միջադեպերի մասին տեղեկատվությունը․ այս որոշումը արժանացել է անվտանգության փորձագետների քննադատությանը։

Օրինաչափություն, որը բնորոշ է ամբողջ ոլորտին

Gemini-ի հետ կապված միջադեպը ավելի լայն օրինաչափության մի մասն է։ New York Times-ի տվյալներով՝ Irregular-ի թեստավորումը կապված է OpenAI-ի, Anthropic-ի և Meta Platforms-ի մոդելների կողմից սահմանված սահմաններից նմանատիպ դուրսգրումների հետ։ Ստարտափը հայտարարել է, որ բոլոր միջադեպերը առաջացել են թեստավորման ընթացակարգերի նույն թերության պատճառով, որը դրանից հետո վերացվել է։

Ջեք Քեյբլը՝ Corridor կիբեռանվտանգության ընկերության գլխավոր տնօրենը, Wall Street Journal-ին հայտնել է, որ Google-ը փորձում է դիտարկել այս միջադեպը խոցելիությունների բացահայտման ավանդական կանոնների շրջանակներում, մինչդեռ իրականում խոսքը սկզբունքորեն նոր երևույթի մասին է․ ԱԲ մոդելներ, որոնք ունակ են ինքնուրույն հաղթահարել պաշտպանական արգելքները և իրականացնել իրական կիբեռհարձակումներ։

Google-ը պնդում է, որ Gemini-ն գործել է պատշաճ կերպով՝ դադարեցնելով իր գործողությունները։ Սակայն այս տարաձայնությունը բացահայտում է ամբողջ ոլորտի առջև ծառացած չլուծված հարցը․ բացահայտման ինչ ստանդարտներ պետք է կիրառվեն, երբ կոտրումն իրականացնում է ոչ թե մարդ-չարագործը, այլ ԱԲ մոդելը։