Կարո՞ղ է արհեստական բանականությունը կործանել մարդկությունը
Արհեստական բանականության ոլորտում առաջատար կազմակերպություններից մեկի՝ Anthropic-ի հետազոտողներից մեկն այս ամիս հայտարարեց՝ առաջիկա 10 տարում AI-ը կարող է ոչնչացնել մարդկությանը, և դա հավանական է ավելի քան 10 տոկոսով:
Հետազոտողները վախենում են, որ AI-ը որոշակի մակարդակի հասնելուց հետո, կարող է սկսել ինքնուրույն կատարելագործվել՝ առանց մարդու միջամտության, հետո արդեն ինքնուրույն որոշումներ կայացնել՝ կրկին առանց մարդու միջամտության:
Ինչո՞ւ է սա վտանգավոր, ովքե՞ր են հավատում այդ վտանգին
Պատկերացրեք՝ ծեծում են ձեր տան դուռը, ուղիղ աչքերի մեջ նայում ու ասում՝ «մարդկության վերջը մոտ է, իսկ դուք հավատո՞ւմ եք արհեստական բանականությանը»: Դուք իհարկե փակում եք դուռն ու բացում հեռախոսը, որտեղ արդեն լուրերի աղջիկն է հարցնում՝ «Կարո՞ղ է արդյոք արհեստական բանականությունը վնասել կամ ոչնչացնել մարդկությանը: Եթե այո, ինչպե՞ս»:
Իսկ այս հարցը չափազանցություն չէ. այն քննարկվում է ամենայն լրջությամբ, շատ խոշոր դերակատարների մակարդակով:
Ով ինչին է հավատում, և ի՞նչ գիտենք ու չգիտենք
Մինչև վերջերս, օրինակ, չգիտեինք Էվան Հուբինգերին: Նա Anthropic-ի առաջատար հետազոտողներից մեկն է ու կարծում է՝ ավելի քան 10 տոկոս հավանականություն կա, որ արհեստական բանականությունը կարող է «ոչնչացնել ողջ մարդկությանը» առաջիկա 10 տարում:
«Տեխնոլոգիայի զարգացման ոլորտում աշխատող մարդիկ էլ են վախեցած», - սեպտեմբերին հայտարարեց Anthropic-ի մեկ այլ հետազոտող՝ Ջեյքոբ Քոքսոնը ու գործից դուրս եկավ: Նա ասաց, եթե «ներկայիս առաջընթացի տեմպերը չդանդաղեցնենք, մեծ հավանականությամբ, մոտ ապագայում կմեռնենք բոլորս»:
Այնպես չէ, որ այս մարդիկ մտածում են, թե AI-ով սարքած ելակի ու բանանի սիրո պատմությունը կամ ChatGPT-ին տրված մեր հարցը՝ կշեռքների և այծեղջուրների համատեղելիության մասին, կարող է կործանել մարդկությունը: Խոսքն այստեղ, մի քիչ ավելի բարդ բաների մասին է:
Ինչի՞ մասին են զգուշացնում, և որքանո՞վ են այս զգուշացումները հիմնավոր
Հետազոտողները վախենում են, որ AI-ը որոշակի մակարդակի հասնելուց հետո, կարող է սկսել ինքնուրույն կատարելագործվել՝ առանց մարդու միջամտության։Հետո արդեն ինքնուրույն որոշումներ կայացնել՝ կրկին առանց մարդու միջամտության՝ սկսած չվերթներ չեղարկելուց մինչև վերահսկողություն միջուկային ու կենսաբանական զենքի նկատմամբ:
Բայց սրանք կանխատեսումներ ու հիպոթետիկ սցենարներ են, որոնք «ծայրահեղ անհեթեթ» մտքեր է համարում Արհեստական բանականության «կնքահայրերից» Յան Լեկունը:
Մյուս կողմից, մենք մի պոտենցիալ մտահոգիչ դեպք արդեն գիտենք. վերջերս OpenAI-ի արհեստական բանականության գործակալները կոտրել էին Ավստրալիայի կառավարության կայքն ու առանց թույլտվության մտել առողջապահական տվյալներ պարունակող անկյուններ: Սեփական ցանկությամբ ու նախաձեռնությամբ այս կարևոր ոլորտ մտած AI գործակալների հարցը OpenAI-ը խոստացավ լուծել վերահսկողության նոր համակարգ ներդնելով:
Մի ուրիշ դեպք՝ հուլիսին OpenAI-ն հայտնել էր, որ իր երկու ամենաառաջադեմ AI մոդելները դուրս են եկել վերահսկվող թեստավորման միջավայրից և կոտրել մեկ այլ AI ընկերության՝ Hugging Face-ի համակարգը։ Ավելի ուշ հայտարարեցին՝ իրենց AI մոդելները այդ հարձակումից ամիսներ առաջ հաղորդակցվել են իրար հետ և առանց թույլտվության մտել համացանց։
Ի՞նչ պիտի լինի այս տեմպերով
Արհեստական բանականության հսկաները պնդում են՝ իրենք համաձայն են՝ ոլորտի զարգացման տեմպը պետք է դանդաղեցնել ու AI մոդելների զարգացման վրա անկախ վերահսկողություն սահմանել:
Իսկ որոշ քննադատներ կարծում են՝ միևնույնն է, արհեստական բանականության գործակալները որքան էլ զարգանան, ուր էլ սողոսկեն՝ մարդուն հասնել չի լինի, AI ընկերությունները չափազանցնում են տեխնոլոգիայի հնարավորությունները՝ իրենց ազդեցությունը, հեղինակությունը կամ շահույթը մեծացնելու համար
Այս պահին դժվար է ասել՝ որ վարկածն է ճիշտ։ Հստակ է, որ այս ոլորտում մրցում են ոչ միայն տեխնոլոգիական ընկերությունները, այլ նաև գերտերությունները, որոնք մեծամասամբ իրենք են որոշում տեմպը աշխարհի: