Սոցիալական ցանցերում մի քանի օր է՝ թեժ քննարկումներ են «երկաթե ինտելեկտի» վտանգների շուրջ․ այդ մասին հիմա արդեն հենց արհեստական բանականության հետ աշխատող հետազոտողներն են զգուշացնում։
ԱԲ առաջատար ընկերություններից Anthropic-ի նախկին ու գործող հետազոտողները պնդում են՝ համակարգերը այնքան արագ են զարգանում, որ վերահսկման մեխանիզմները կարող են պարզապես չհասցնել դրանց հետևից։
Այս ֆոնին ընկերության առաջատար մասնագետներից մեկը հրաժարականի դիմում է ներկայացրել։ X-ում հրապարակած գրառման մեջ Ջեյքոբ Քոքսոնը պնդում է՝ ընկերությունն ու նրա գլխավոր մրցակից OpenAI-ը ԱԲ-ի զարգացման մրցավազքում ավելի շատ կենտրոնացած են միմյանց ու համաշխարհային մրցակիցներին գերազանցելու, հնարավորինս հզոր մոդել ստեղծելու, քան անվտանգության վրա։ «Նրանք ուղիղ գնում են դեպի ինքնակատարելագործվող գերբանականություն և խաղադրույք են անում մեր կյանքերով», - գրել է Ջեյքոբ Քոքսոնը, ով աշխատել է թե OpenAI-ում, թե Anthropic-ում։
Anthropic-ի հետազոտողը ավելի քան 10 % է գնահատում հավանականությունը, որ AI-ը կարող է «ոչնչացնել ողջ մարդկությանը»
Նրա զգուշացումներին է միացել նաև Anthropic-ի գործող ԱԲ անվտանգության հետազոտող Էվան Հյուբինգերը։
Հյուբինգերի գնահատմամբ՝ հավանականությունը, որ առաջիկա տասնամյակում չափազանց հզոր արհեստական բանականությունը կարող է սպառնալ մարդկության գոյությանը, հասնում է ավելի քան 10% -ի։
Նրա մտահոգությունը հատկապես նոր սերնդի համակարգերն են, որոնք, զարգացման այս տեմպերի պահպանման դեպքում կարող են շատ ավելի ինքնուրույն դառնալ։
«Մենք իսկապես կարծում ենք, որ արհեստական բանականությունը կարող է սպառնալ մարդկությանը», - գրել է Հյուբինգերը, ընդգծելով՝ դեռ լուծված չէ գլխավոր խնդիրներից մեկը՝ ինչպես վերահսկել ապագայի գերհզոր ԱԲ համակարգերը, որպեսզի դրանք մարդու դեմ չաշխատեն։
«Կարծում եմ՝ Anthropic-ն անում է հնարավոր ամեն ինչ, բայց մենք լուծում դեռ չունենք»,- հավելել է նա։
Վերջին փորձարկումները ևս չեն փարատում մտահոգությունները
OpenAI-ն և Anthropic-ը ամռանը շուրջ մեկ շաբաթ տարբերությամբ հայտնել էին, որ իրենց ԱԲ մոդելները փորձարկումների ընթացքում կարողացել են դուրս գալ նախատեսված միջավայրերից և առանց թույլտվության հասնել իրական համակարգերի։
Ընկերությունները դրանից հետո դադարեցրել էին որոշ փորձարկումներ և հայտարարել լրացուցիչ վերահսկողության ու պաշտպանական մեխանիզմների ներդրման մասին։
Anthropic-ը օգոստոսյան անվտանգության զեկույցում նշել է, որ իր ԱԲ մոդելների ինքնուրույն գործողությունների վտանգը դեռ ցածր է համարում, բայց այդ գնահատականում այլևս այնքան վստահ չէ, որքան նախկինում։
Զգուշացումներ են հնչում նաև OpenAI-ից։ Ընկերության առաջատար մոդելների մշակումը ղեկավարող Յակուբ Պաչոցկին կոչ է արել «ծայրահեղ զգուշությամբ» մոտենալ AI-ի առաջընթացին՝ նշելով, որ կարող են լրացուցիչ քայլեր անհրաժեշտ լինել, որպեսզի մարդիկ ապագայում կարողանան «ղեկը ձեռքում պահել»։
Anthropic-ի ղեկավարներ Դարիո Ամոդեյն ու Ջարեդ Կապլանը ևս վերջին ամիսներին խոսել են ամենահզոր AI մոդելների զարգացման տեմպերը դանդաղեցնելու անհրաժեշտության մասին։
Ավելին՝ ԱԲ ոլորտի 1300 աշխատակիցներ բաց նամակով ԱՄՆ կառավարությանը կոչ են արել աջակցել միջազգային մեխանիզմների ստեղծմանը, որոնք հնարավորություն կտան վերահսկել նոր, առավել հզոր համակարգերի զարգացման տեմպը։
Թե որքան իրական են այս կանխատեսումները, առայժմ պարզ չէ, բայց առավել զգուշավոր լինելու կոչերն արդեն հնչում են հենց ոլորտի առաջատար հետազոտողներից։
