Իլոն Մասկն անվանել է անվտանգ ԱԲ-ի երեք առանցքային բաղադրիչները

Միլիարդատեր Իլոն Մասկը հերթական անգամ զգուշացրել է Արհեստական Բանականության (ԱԲ) վտանգների մասին և մատնանշել երեք հիմնական սկզբունքներ, որոնք, ըստ նրա, կապահովեն այդ տեխնոլոգիայի դրական ապագան։ Tesla-ի, SpaceX-ի, xAI-ի, X-ի և The Boring Company-ի ղեկավարը ելույթ է ունեցել հնդիկ միլիարդատեր, Zerodha բրոքերային ընկերության համահիմնադիր Նիխիլ Կամաթի փոդքասթում։

Զգուշացումներ ԱԲ-ի վտանգների մասին

Մասկը, ով OpenAI-ի համահիմնադիրներից է (նա լքել է տնօրենների խորհուրդը 2018-ին և հետագայում քննադատել ընկերությանը ChatGPT-ի գործարկումից հետո անվտանգ ԱԲ-ի զարգացման ոչ առևտրային առաքելությունից հրաժարվելու համար), ընդգծել է, որ հզոր տեխնոլոգիաները միշտ ռիսկեր են պարունակում։ 2023 թվականին նրա xAI-ը թողարկեց սեփական Grok չաթ-բոթը։

«Այնպես չէ, որ մեզ երաշխավորված է դրական ապագա ԱԲ-ի հետ», – ասել է Մասկը փոդքասթում։ – «Միանշանակ վտանգ կա, երբ ստեղծում եք հզոր տեխնոլոգիա. այն կարող է պոտենցիալ կործանարար լինել»։

Ավելի վաղ Մասկը զգուշացրել էր, որ ԱԲ-ը քաղաքակրթության համար հիմնական ռիսկերից մեկն է, որը գերազանցում է նույնիսկ մեքենաները, ինքնաթիռները կամ դեղամիջոցները։ Կամաթի հետ զրույցում նա նշել է, որ առանց ճշմարտությանը խստիվ հետևելու, ԱԲ-ը ռիսկի է դիմում կլանել կեղծ տեղեկատվություն ինտերնետից, ինչը կհանգեցնի իրականության հետ անհամատեղելի եզրակացությունների։

«Դա կարող է շատ վտանգավոր լինել», – հավելել է նա։

Երեք բաղադրիչները. Ճշմարտություն, Գեղեցկություն և Հետաքրքրասիրություն

Ըստ Մասկի՝ ԱԲ-ի դրական զարգացման բանալին երեք սկզբունքներում է. ճշմարտություն, գեղեցկություն և հետաքրքրասիրություն։

1. Ճշմարտությունը անհրաժեշտ է, որպեսզի ԱԲ-ը «չխելագարվի». եթե ստիպենք նրան հավատալ ստին, եզրակացությունները սխալ կլինեն։ Առանց ճշմարտության ԱԲ-ը կկլանի բազմաթիվ ստեր օնլայն աղբյուրներից և չի կարողանա ճիշտ դատել։
2. Գեղեցկությունը նույնպես կարևոր է. «Գեղեցկության որոշակի ըմբռնում անհրաժեշտ է», – նշել է Մասկը՝ հավելելով, որ «դուք այն ճանաչում եք, երբ տեսնում եք»։
3. Հետաքրքրասիրությունը պետք է դրդի ԱԲ-ին ավելին իմանալ իրականության մասին, քանի որ մարդկությունը ավելի հետաքրքիր է, քան մեքենաները։ «Ավելի հետաքրքիր է տեսնել մարդկության շարունակությունը, եթե ոչ բարգավաճումը, քան նրա ոչնչացումը», – ասել է նա։

«Հալյուցինացիաների» խնդիրը և փորձագետների կարծիքները

Հալյուցինացիաները՝ ոչ ճիշտ կամ մոլորեցնող պատասխանները, մնում են ԱԲ-ի գլխավոր խնդիրներից մեկը։ 2025 թվականի սկզբին Apple Intelligence ֆունկցիան iPhone-ներում կեղծ նորություններ էր գեներացնում, օրինակ՝ սխալմամբ հայտնելով դարթսիստ Լյուկ Լիթլերի հաղթանակի մասին PDC World Darts Championship-ում եզրափակչից մեկ օր առաջ։ Apple-ը հետագայում թարմացրեց համակարգը՝ տեքստի աղբյուրը նշելու համար։

Համակարգչային գիտնական Ջեֆրի Հինթոնը, Google-ի նախկին փոխնախագահը և «ԱԲ-ի կնքահայրը», Diary of a CEO փոդքասթում գնահատել է, որ ԱԲ-ը մարդկությունը ոչնչացնելու 10–20% հավանականություն ունի։ Կարճաժամկետ ռիսկերի թվում նա նշել է հալյուցինացիաները և սկզբնական աշխատատեղերի ավտոմատացումը։ «Հույսը կայանում է նրանում, որ եթե բավարար քանակությամբ խելացի մարդիկ անցկացնեն բավարար հետազոտություններ՝ բավարար ռեսուրսներով, մենք կգտնենք դրանք ստեղծելու միջոց, որպեսզի նրանք երբեք չցանկանան մեզ վնասել», – հավելել է Հինթոնը։

Կարճ ասած

Իլոն Մասկը Նիխիլ Կամաթի հետ փոդքասթում զգուշացրել է ԱԲ-ի վտանգների մասին և անվանել դրա դրական զարգացման երեք առանցքային սկզբունքները. ճշմարտություն (կեղծ եզրակացություններից խուսափելու համար), գեղեցկություն և հետաքրքրասիրություն (որպեսզի ԱԲ-ը հետաքրքրվի մարդկությամբ)։ Սա համահունչ է հալյուցինացիաների խնդրին, ինչպես Apple Intelligence-ի դեպքում, և Ջեֆրի Հինթոնի զգուշացումներին 10–20% ոչնչացման ռիսկի մասին։ Մասկն ընդգծում է. առանց այս բաղադրիչների հզոր ԱԲ-ը կարող է կործանարար դառնալ։