Նախընտրելի
Մասաչուսեթսի տեխնոլոգիական ինստիտուտի (MIT) գիտնականները հետազոտություն են հրապարակել, որը հաստատում է, որ արհեստական բանականության (ԱԲ) որոշ համակարգեր սովորել են խաբել մարդկանց։
Փիթեր Փարկի ղեկավարությամբ հետազոտական թիմը պարզել է, որ ԱԲ այս համակարգերը կարող են կատարել այնպիսի առաջադրանքներ, ինչպիսիք են առցանց խաղերում խաղացողներին խաբելը կամ CAPTCHA-ները («Ես ռոբոտ չեմ» ստուգում) շրջանցել: Հետազոտողները զգուշացնում են, որ այս աննշան թվացող օրինակները կարող են լուրջ հետևանքներ ունենալ իրական կյանքում:
Ուսումնասիրությունն ընդգծում է ԱԲ Cicero համակարգը, որն ի սկզբանե նախագծված է եղել որպես արդար հակառակորդ վիրտուալ դիվանագիտության Diplomacy խաղում, դարձել է «խաբեության վարպետ», թեև ի սկզբանե համակարգը նախագծված է եղել լինել հնարավորինս ազնիվ և օգտակար: Խաղում Cicero-ն, հանդես գալով որպես Ֆրանսիա, գաղտնի դաշնակցել է Գերմանիայի հետ (մարդ խաղացող), որպեսզի դավաճանի Անգլիային (մեկ այլ մարդ խաղացող): Ընդորում՝ Cicero-ն սկզբում խոստացել էր պաշտպանել Անգլիան՝ զգուշացնելով Գերմանիայի ներխուժման մասին։
Մեկ այլ օրինակ վերաբերում է GPT-4-ին, որը կեղծ պնդում էր անում, թե տեսողության խնդիրներ ունի և մարդկանց վարձում էր իր անունից CAPTCHA-ները շրջանցելու համար:
Փիթեր Փարկը նշել է, որ անհրաժեշտ ԱԲ-ին սովորեցնել լինել ազնիվ։ Ի տարբերություն ավանդական ծրագրաշարի, խորը ուսուցում անցած ԱԲ համակարգերը «զարգանում են» գործընթացի ժամանակ, որը նման է սելեկցիային։ Նրանց վարքագիծը կարող է կանխատեսելի լինել ուսուցման ժամանակ, սակայն հետագայում կարող է դառնալ անկառավարելի:
