Ի՞նչ կլինի, եթե մեքենաները դառնան ոչ միայն ավելի խելացի, այլև ավելի մոտ մեզ՝ որպես խորհրդատուներ, ընկերներ կամ նույնիսկ դատավորներ: Ո՞րն է սահմանը գործիքի և մրցակցի միջև: Հայտնի ֆուտուրիստ, բեսթսելերների հեղինակ և տեխնոլոգիաների փորձագետ Գերդ Լեոնհարդը տարիներ շարունակ խոսում է այն ապագայի մասին, որտեղ մարդը պետք է մնա կենտրոնում: NEWS.am Tech-ը զրուցել է նրա հետ այն մասին, թե որ պահին արհեստական բանականությունը (ԱԲ) դադարում է լինել պարզապես հարմար ալգորիթմ, ինչպես պահպանել վերահսկողությունը տեխնոլոգիաների նկատմամբ և ինչու էմոցիոնալ կարողությունները պետք է մնան բացառապես մարդկային հատկանիշ:
1. Երբ գործիքը դառնում է ուժ«Սկզբում մենք ամբողջությամբ վերահսկում ենք իրավիճակը, հետո՝ մասամբ, իսկ հետո ԱԲ-ն սկսում է որոշումներ կայացնել մեզ փոխարեն»…
Գերդ Լեոնհարդը զգուշացնում է. քանի դեռ մենք ԱԲ-ին վստահում ենք առօրյա առաջադրանքներ, ամեն ինչ վերահսկելի է: Սակայն խնդիրներ են առաջանում, երբ գործիքն ավելի խելացի է դառնում: «Մենք սկսում ենք նրան վստահել առաջադրանքներ, օրինակ՝ հանդիպումների պլանավորում կամ գործերի կազմակերպում: Եթե ԱԲ-ն էլ ավելի խելացի դառնա, նա կարող է ինքնուրույն որոշել, թե ով պետք է ներկա լինի հանդիպմանը կամ կազմի դրա արդյունքները: Ինչ-որ պահի ԱԲ-ն կարող է ընդհանրապես հանդիպումներ անցկացնել մեր փոխարեն, քանի որ գիտի, թե մենք ինչ կասեինք»,- նշում է նա:
Ըստ Լեոնհարդի, սա կլինի աստիճանական գործընթաց. սկզբում մարդիկ ամբողջությամբ վերահսկում են, հետո՝ մասամբ, իսկ հետո ԱԲ-ն սկսում է որոշումներ կայացնել: Դա կանխելու համար անհրաժեշտ է հստակ սահման գծել և ասել. «Սա մենք անում ենք ինքներս, իսկ սա չենք ուզում անել»: Սա դժվար է, քանի որ մարդիկ հակված են ծուլանալու: «Մեզ ցանկանում է, որ ԱԲ-ն ամեն ինչ անի մեր փոխարեն, բայց դրա պատճառով մենք դադարում ենք մտածել: Սա նման է Google Maps-ին. օգտակար բան է, բայց եթե անջատես գլուխդ, սպասիր խնդիրների: Երբեմն մենք սխալմամբ կարծում ենք, որ մեքենան ավելի լավն է, քան մարդը, և այստեղ սկսվում են խնդիրները»,- կարծում է նա:
2. Հստակ կանոններ. Ինչպե՞ս սահմանել սահմաններ ԱԲ-ի համար«Կան բաներ, որոնք ԱԲ-ն չպետք է անի, և որոնք պետք է մնան մարդկանց պատասխանատվության տակ»…
Լեոնհարդի կարծիքով՝ անհրաժեշտ են հստակ կանոններ: Օրինակ՝ Եվրամիությունում գործում է ԱԲ-ի մասին օրենք, որը սահմանափակում է չորրորդ մակարդակի ինքնավար համակարգերը. կան բաներ, որոնք ԱԲ-ն չպետք է անի, և որոնք պետք է մնան մարդկանց պատասխանատվության տակ: «Մենք թույլ չենք տալիս ԱԲ-ին կառավարել ավիաչվերթներ կամ բորսա: Չի կարելի թույլ տալ, որ ԱԲ-ն որոշումներ կայացնի ռազմական իրավիճակներում, օրինակ՝ առանց մարդու վերահսկողության անօդաչու թռչող սարքեր գործարկի: Նման օրենքներ պետք է լինեն, իսկ խախտումների համար՝ պատժամիջոցներ»,- կարծում է Լեոնհարդը:
Նա նաև առաջարկում է ներդնել ավտոմատացման հարկ՝ աջակցելու նրանց, ում մասնագիտությունները անհետանում են ԱԲ-ի պատճառով: Սա կօգնի խուսափել մարդկանց անվերահսկելի փոխարինումից մեքենաներով և պահպանել հավասարակշռություն աշխատաշուկայում: Բժշկության, ֆինանսների կամ հասարակության կառավարման մեջ ԱԲ-ն կարող է լինել արժեքավոր օգնական, բայց ոչ ինքնուրույն գործող սուբյեկտ: «Գործիքի և մարդու միջև կա տարբերություն: Գործիքը կարող է, օրինակ, սկանավորել Ձեր ձեռքը, համեմատել պատկերը միլիոն այլ պատկերների հետ և ցույց տալ հնարավոր խնդիր: Բայց որոշել, թե ինչ անել հետո, պետք է բժիշկը: Անհրաժեշտ է հստակ սահման. գործիքն անում է իր աշխատանքը, իսկ մնացածը՝ մարդկանց վրա»,- վստահ է նա:
3. Էմոցիաներ կարելի է կեղծել, բայց զգալ՝ ոչ«Մարդկային փորձի մեծ մասը կապված է հենց գոյության փաստի հետ, իսկ ԱԲ-ն դա չունի»…
Ֆուտուրիստը ընդգծում է. մեքենան կարող է ճանաչել էմոցիան, բայց չի կարող այն զգալ: Սա է կարևոր տարբերությունը: ԱԲ-ն կարող է ցույց տալ, որ «հասկանում է» հոգնածությունը կամ ուրախությունը, բայց դա ընդամենը սիմուլյացիա է: Իրական մարդկային փորձի բացակայությունը դարձնում է ԱԲ-ն անվտանգ: Լեոնհարդը վստահ է. «Մենք կարող ենք երազել, որ ԱԲ-ն հասկանա զգացմունքները, բայց ավելի անվտանգ է, երբ մարդիկ են զգում, իսկ ԱԲ-ն միայն դիտարկում է»:
4. ԱԲ-ին չի կարելի սովորեցնել էթիկա«ԱԲ-ին դժվար է հասկանալ, թե որտեղ է սահմանը, քանի որ նրան պակասում է համատեքստ»…
Էթիկան բարակ նյութ է, որում նույնիսկ մարդը հաճախ գործում է ինտուիտիվ կերպով: Մեքենային պակասում է հետևանքների մասշտաբի և խորության ընկալումը: «Թուղթ գցել փողոցում՝ մանր չարաճճիություն է, իսկ միջուկային թափոններ թափելը՝ աղետ, բայց էությունը նույնն է՝ կանոնների խախտում: ԱԲ-ին դժվար է հասկանալ, թե որտեղ է սահմանը, քանի որ նրան պակասում է համատեքստ: Մարդիկ անընդհատ որոշում են, թե որ կանոնները կարելի է թեթևակի խախտել, իսկ որոնք՝ ոչ: Մեքենայի համար սա առեղծված է»,- նշել է նա:
Լեոնհարդը բերում է վառ օրինակ. նա խնդրել է ԱԲ-ին նկարել «thinking well» (մտածող ջրհոր), և այն պատկերել է ջրհոր՝ ուղեղով վերևում: Ալգորիթմի համար սա բառացի թարգմանություն է, բայց իմաստը կորել է: Ըստ փորձագետի, ԱԲ-ին «ողջամիտ մտածողություն» տալը նշանակում է ռիսկի դիմել, որ նա սկսի որոշումներ կայացնել մարդու պես, իսկ դա կարող է հանգեցնել նրան, որ նա պահանջի իրավունքներ, ինքնավարություն և վերահսկողություն: Դա արդեն վտանգավոր գոտի է:
5. Մարդկայնության սիմուլյացիան վատ գաղափար է«Սա նման է ընկերության, բայց կեղծ: Պարզապես պատրանք»…
Խոշոր տեխնոլոգիական ընկերությունները ցանկանում են ստեղծել ԱԲ, որը հասկանում է էմոցիաներ և կարող է հաղորդակցվել գրեթե մարդու պես: Սակայն Գերդ Լեոնհարդը դրանում տեսնում է սպառնալիք: Նրա կարծիքով՝ նման ԱԲ-ն մտերմության պատրանք է, որը ժամանակի ընթացքում կհանգեցնի կախվածության և ռեֆլեքսիայի կորստի: «Մենք չենք կարողանա սա վերահսկել»,- զգուշացնում է նա: Մարդիկ կսկսեն ընկալել ԱԲ-ին որպես լիարժեք գործընկեր, թեև դա ընդամենը ալգորիթմ է, որը կարող է հարմարվել: Իրական հաղորդակցության փոխարեն՝ իմիտացիա, իսկ իսկական ընկերության փոխարեն՝ հարմար ինտերֆեյս:
Հետևեք NEWS.am Tech-ին Facebook-ում և Twitter-ում