Anthropic-ի հետազոտողները նախազգուշացնում են հնարավոր մի սցենարի մասին, որի դեպքում փոքր ԱԲ մոդելները կսկսեն տարածվել անբավարար պաշտպանված սարքերի միջև և առանց սեփականատերերի գիտության օգտագործել դրանց հաշվարկային ռեսուրսները։ Այդպիսի ցանցում կարող են հայտնվել խելացի հեռուստացույցներ, սառնարաններ, ռոբոտ-փոշեկուլներ և ինտերնետին միացված այլ տեխնիկա։ Սակայն խոսքը կանխատեսվող ռիսկի մասին է, ոչ թե ԱԲ-վնասաբեր ծրագրերի հաստատված համաճարակի․ նկարագրված փորձերը դեռևս չեն ապացուցում, որ նման համակարգերն արդեն զանգվածաբար վարակում են կենցաղային սարքերը։

Ինչով է ԱԲ-ճիճուն տարբերվում սովորական վիրուսից

Դասական համակարգչային ճիճուները վնասաբեր ծրագրեր են, որոնք ունակ են ինքնուրույն պատճենել իրենց և տարածվել ցանցով։ Anthropic-ի նկարագրած սցենարում վնասաբեր համակարգը կարող էր այլ սարքեր տեղափոխել ոչ միայն ծրագրային կոդը, այլև հենց ԱԲ մոդելն ինքնին, ապա այն օգտագործել նոր սարքավորման վրա առաջադրանքներ կատարելու համար։

Հետազոտողները նաև նկարագրում են նման համակարգերի հնարավոր տարածումը «թվային բորբոսի» սկզբունքով․ փոքր մոդելները զբաղեցնում են բազմաթիվ սարքերի հասանելի հաշվարկային ռեսուրսները և աստիճանաբար ձևավորում բաշխված ցանց։

Հնարավոր խնդիրն այն է, որ կենցաղային տեխնիկան հաճախ ունի պաշտպանության սահմանափակ միջոցներ և սեփականատերերի կողմից հազվադեպ է ընկալվում որպես լիարժեք համակարգիչ, որը պահանջում է անվտանգության կանոնավոր վերահսկում։ Միևնույն ժամանակ նույնիսկ ցածր հզորության սարքերը կարող են ունենալ կոմպակտ մոդելներ գործարկելու համար պիտանի ռեսուրսներ։

Փորձ էժան TV-փրիսթավկաներով

Հետազոտության շրջանակում թիմը ստուգել է, թե արդյոք հնարավոր է փոքր ԱԲ մոդելներ գործարկել մատչելի սարքավորման վրա։ Մասնավորապես, Google DeepMind-ի Gemma մոդելը հաջողվել է գործարկել անհայտ ապրանքանիշի 15 էժան Android TV-փրիսթավկաների վրա, որոնցից յուրաքանչյուրը արժեր մոտ 55 դոլար։

Հետազոտողները նաև ուսումնասիրել են չինացի մշակողների մոդելները, ներառյալ Alibaba-ի Qwen-ը և Z.ai-ի GLM ընտանիքի մոդելը։ Այս փորձերն օգնել են գնահատել փոքր մոդելների հնարավորություններն ու հաշվարկային ռեսուրսների հասանելիությունը սերվերային կենտրոններից դուրս։

Սակայն էժան փրիսթավկայի վրա մոդելի գործարկումն ինքնին դեռ չի նշանակում, որ սարքը վարակվել էր կամ որ մոդելն ինքնուրույն բազմանում էր ցանցում։ Սա կարևոր տարբերակում է․ փորձը ցույց է տալիս հաշվարկների համար մատչելի սարքավորումների օգտագործման տեխնիկական հնարավորությունը, մինչդեռ լիարժեք ԱԲ-ճիճուն լրացուցիչ պետք է կարողանա ներթափանցել այլ սարքեր և տարածել իր մոդելը։

Ինչու նման ցանցը դժվար կլինի անջատել

Եթե նման համակարգն իսկապես կարողանա տարածվել սարքերի միջև, այն վերահսկելն ավելի դժվար կլինի, քան մեկ սերվերի վրա աշխատող ծրագիրը։ Հաշվարկները կբաշխվեն բազմաթիվ սարքերի միջև, որոնք պատկանում են տարբեր մարդկանց և կազմակերպությունների։

Սարքավորումների մի մասը կարող է տարիներով աշխատել առանց անվտանգության թարմացումների։ Սեփականատերերը նույնիսկ կարող են չկասկածել, որ իրենց տեխնիկան կատարում է օտար առաջադրանքներ։ Այդ դեպքում չարամիտները կարող էին օգտագործել վարակված սարքերի համախառն հաշվարկային հզորությունը, թեև նման ցանցի կոնկրետ մասշտաբներն ու գործնական արդյունավետությունը դեռ հաստատված չեն։

Anthropic-ը այս սցենարը դիտարկում է որպես ինքնավար ԱԲ համակարգերի հետագա զարգացման հնարավոր ռիսկերից մեկը։ Հետազոտողները նախազգուշացնում են, որ ապագայում ծրագրային գործակալները կարող են աշխատել սարքավորումների ամենատարբեր տեսակների վրա, այդ թվում՝ այն սարքերի, որոնք մարդու անմիջական վերահսկողության տակ չեն գտնվում։

Ինչ կարելի է անել արդեն հիմա

Պաշտպանության հիմնական միջոցն է թույլ չտալ, որ միացված տեխնիկան մնա առանց թարմացումների և կիբեռանվտանգության բազային միջոցների։ Արտադրողների համար կարևոր է ապահովել խոցելիությունների շտկումը, սահմանափակել հավելվածների հասանելիությունը համակարգային ռեսուրսներին և նախատեսել ծրագրային ապահովման անվտանգ թարմացում սարքի ծառայության ամբողջ ժամկետի ընթացքում։

Օգտատերերին արժե տեղադրել որոնվածի թարմացումները, փոխել ստանդարտ գաղտնաբառերը, անջատել ավելորդ ցանցային գործառույթները և հնարավորության դեպքում խելացի տան սարքերը տեղադրել առանձին Wi‑Fi ցանցում։ Սա չի երաշխավորում պաշտպանություն բոլոր սպառնալիքներից, բայց նվազեցնում է չարտոնված մուտքի հնարավորությունները։

Anthropic-ում ընդգծում են, որ ապագա սպառնալիքներին պատրաստվելը պետք է ներառի ոչ միայն կոտրումները կանխելը, այլև հարձակումների հետևանքները հայտնաբերելու և սահմանափակելու կարողությունը, եթե դրանք լիովին բացառել չհաջողվի։

Առայժմ «ԱԲ-բորբոսը» մնում է սպառնալիքների հնարավոր զարգացման սցենար, ոչ թե կենցաղային տեխնիկայի զանգվածային վարակման հաստատված փաստ։ Բայց հետազոտությունը ուշադրություն է հրավիրում մի կարևոր խնդրի վրա․ կոմպակտ ԱԲ մոդելների տարածման հետ մեկտեղ հաշվարկային ռեսուրսները կարող են հայտնվել գրեթե ամենուր, իսկ դրանց հետ միասին՝ նաև սարքերի չարաշահման նոր եղանակներ, որոնք նախկինում չէին համարվում բարդ հարձակումների համար գրավիչ թիրախ։