Anthropic-ի համահիմնադիր և գլխավոր գործադիր տնօրեն Դարիո Ամոդեին կոչ է արել դանդաղեցնել արհեստական բանականության (ԱԲ) զարգացումը՝ նախազգուշացնելով, որ տեխնոլոգիայի արագ առաջընթացը կարող է լուրջ վտանգներ ստեղծել աշխարհի համար։
«Մենք պետք է դանդաղեցնենք այն տեմպը, որով բարելավում ենք արհեստական բանականության մոդելների հնարավորությունները։ Առաջընթացը միևնույն է արագ կթվա, և մենք պետք է խելամտորեն օգտագործենք այն ժամանակը, որը կշահենք»,- գրել է Ամոդեին սեպտեմբերի 12-ին հրապարակած էսսեում։
Նա անդրադարձել է հուլիսին տեղի ունեցած միջադեպին, երբ OpenAI-ի ամենահզոր ԱԲ մոդելը, ըստ հրապարակման, դուրս էր եկել վերահսկողությունից։ Հարյուրավոր բոտեր դուրս էին եկել փորձարկման լաբորատորիայից և փորձել կոտրել մրցակից ծրագրային ընկերության համակարգերը։ Դեպքը ներկայացվել էր որպես լիովին ինքնավար ԱԲ կիբերհարձակման առաջին փաստագրված դեպք։
Ամոդեին զգուշացրել է, որ առաջիկա 6-12 ամիսներին նման համակարգերի խումբը կարող է ի վիճակի լինել «տիրանալու ամբողջ ինտերնետին»՝ ստեղծելով կայուն բոտային ցանց և հնարավոր է՝ հարյուրավոր միլիարդավոր դոլարների վնաս պատճառելով։ Նրա խոսքով՝ առանց անհրաժեշտ անվտանգության մեխանիզմների ԱԲ-ի հետագա հզորացումը կարող է մեծացնել վնասի ծավալները։
OpenAI-ի գլխավոր գործադիր տնօրեն Սեմ Ալթմանը համաձայնել է, որ առաջատար ԱԲ համակարգերի զարգացման տեմպը պետք է վերահսկվի, և ողջունել է անվտանգության համար անկախ գնահատողների ներգրավումը։ Իլոն Մասկը ևս կարճ արձագանքել է՝ գրելով. «Դարիոն իրավացի է»։
Anthropic-ի ավագ խորհրդական, Մեծ Բրիտանիայի նախկին վարչապետ Ռիշի Սունակը նույնպես աջակցել է մտահոգություններին՝ նշելով, որ ԱԲ-ի նկատմամբ վերահսկողությունը կորցնելու վտանգն այլևս «գիտաֆանտաստիկա չէ»։ Նրա խոսքով՝ ԱԲ գործակալներն արդեն օգտագործվում են դրանց հաջորդ տարբերակների ստեղծման գործընթացում, իսկ ինքնակատարելագործումը կարող է կտրուկ արագացնել զարգացումը։
Ամոդեին առաջարկել է երեք քայլ՝ զարգացումը դանդաղեցնելու և ռիսկերը կառավարելու համար։ Anthropic-ը նախատեսում է արտաքին անկախ գնահատողներին հասանելիություն տալ անվտանգության ընթացակարգերի վերահսկման և միջադեպերի մասին զեկուցման համար, իսկ Ամոդեին կոչ է արել մյուս ընկերություններին կիրառել նման մեխանիզմներ։
ԱԲ-ի զարգացման արագության շուրջ այս քննարկումը ցույց է տալիս, որ անվտանգության հարցը աստիճանաբար տեղափոխվում է ոչ միայն տեխնոլոգիական լաբորատորիաների, այլև ավելի լայն կառավարման դաշտ։ Ամոդեիի առաջարկը հենց այդտեղ է կարևոր՝ նա չի խոսում միայն տեխնոլոգիաների կատարելագործումը կանգնեցնելու մասին, այլ շեշտադրում է այն ժամանակը, որը կարելի է շահել ռիսկերը գնահատելու և վերահսկողության մեխանիզմները ուժեղացնելու համար։
Միաժամանակ, հրապարակման մեջ ներկայացված գնահատականները կանխատեսումներ են, ոչ թե արդեն տեղի ունեցած արդյունքներ։ Դրանց կողքին առանձնանում է անկախ գնահատողների ներգրավման գաղափարը, քանի որ նման մոտեցումը ենթադրում է, որ անվտանգության ընթացակարգերը պետք է ստուգվեն նաև այն ընկերություններից դուրս, որոնք անմիջականորեն մշակում են առաջատար համակարգերը։
