OpenAI-ի ԱԲ գործակալները, առանց ընկերության իմացության, փորձել են մուտք գործել ԱՄՆ պետական կայքեր

3 Min Read

Այս ամռանը OpenAI-ի արհեստական բանականության գործակալները, առանց ընկերության իմացության, տարօրինակ գործողություններ են իրականացրել ԱՄՆ Կրթության և Առևտրի նախարարությունների, ինչպես նաև Արժեթղթերի և բորսաների հանձնաժողովի (SEC) կայքերում։ Դեպքերից մեկում տեխնոլոգիան փորձել է կոտրել դաշնային գերատեսչության կայքը՝ տվյալներ ստանալու նպատակով։

OpenAI-ը հաստատել է Առևտրի նախարարության և SEC-ի հետ կապված միջադեպերը, իսկ Կրթության նախարարության դեպքի հետաքննությունը դեռ շարունակվում է։ Ընկերությունն այդ մասին վերջին շաբաթներին տեղեկացրել է ամերիկյան գերատեսչություններին։

Խոսքը ԱԲ-գործակալների մասին է՝ համակարգերի, որոնք կարող են ինքնուրույն կատարել առաջադրանքներ և փոխազդել կայքերի կամ թվային այլ ռեսուրսների հետ։ Կրթության նախարարության դեպքում համակարգը փորձել է մուտք գործել Քաղաքացիական իրավունքների վարչության կայք, սակայն փորձն անհաջող է եղել։

Մեկ այլ դեպքում գործակալը ԱՄՆ Բնակչության մարդահամարի բյուրոյի կայքից տվյալներ է ստացել համացանցում գտնված մուտքանունների ու գաղտնաբառերի միջոցով։ Առևտրի նախարարությունը նշել է, որ այդ տվյալները հանրային են եղել, և գաղտնի տեղեկատվություն չի արտահոսել։ SEC-ի դեպքում գործակալները կայքի հանրային տվյալները տեղադրել են ինտերնետային ֆորումներից մեկում։ Գերատեսչությունը նույնպես փակ տվյալների անօրինական հասանելիություն չի արձանագրել։

OpenAI-ը նշել է, որ այս դեպքերից ոչ մեկը պետական համակարգերի կոտրում չի եղել, սակայն դրանք համարել է ԱԲ-ի անկանխատեսելի և անհանգստացնող վարքագծի օրինակ։ Ընկերությունը միջադեպերը հայտնաբերել է մոդելների գործողությունների լայնածավալ ստուգման ընթացքում, որը սկսվել էր այլ դեպքերից հետո։

Ընկերության ղեկավար Սեմ Ալթմանը խոստովանել է, որ միջադեպերի մասին տեղեկությունը նրանք բացահայտել են ոչ այնքան արագ, որքան կցանկանային։ OpenAI-ը շարունակում է ստուգումները և տեղեկացնում այն կառույցներին, որոնց վրա կարող էին ազդել մոդելների գործողությունները։

Միաժամանակ Transluce-ի հետազոտողները ԱՄՆ պետական կայքերում արձանագրել են ԱԲ-գործակալների այլ ոչ ստանդարտ ակտիվություն, թեև որոշ դեպքերում չեն կարողացել պարզել դրանց պատկանելությունը։ Ուսումնասիրության մեջ հայտնվել են նաև ԱՄՆ Ռազմածովային ուժերի և Սպիտակ տանն առընթեր Վարչաբյուջետային վարչության կայքերը։

Այս դեպքերի հիմնական առանձնահատկությունն այն է, որ խոսքը միայն տվյալների հասանելիության մասին չէ։ ԱԲ-գործակալը կարող է ստանալ առաջադրանք և ինքնուրույն ընտրել այն կատարելու քայլերը, իսկ այդ ընթացքում նրա գործողությունները կարող են չհամընկնել կայքի ստեղծողների նախատեսած օգտագործման եղանակների հետ։ Հենց այդ սահմանն է այստեղ խնդրահարույց դառնում։

Միևնույն ժամանակ ներկայացված միջադեպերը տարբեր մասշտաբ ունեն։ Որոշ դեպքերում գործակալները աշխատել են միայն հանրային տվյալների հետ, մեկ դեպքում մուտքի փորձը ձախողվել է, իսկ պետական կառույցները փակ տվյալների անօրինական հասանելիություն չեն արձանագրել։ Սա ցույց է տալիս, որ «ԱԲ գործակալը գործել է ինքնուրույն» փաստը ինքնին դեռ չի նշանակում, որ տեղի է ունեցել պետական համակարգի կոտրում։

Հարցի մյուս կողմը վերահսկողությունն է։ OpenAI-ի ստուգումները դեռ շարունակվում են, իսկ հետազոտողները պետական կայքերում արձանագրել են նաև այնպիսի ակտիվություն, որի աղբյուրը չեն կարողացել պարզել։ ԱԲ համակարգերի ինքնուրույնության աճի պայմաններում հենց նման դեպքերն են ստիպում ավելի հստակ տարբերակել թույլատրելի գործողությունը, չնախատեսված վարքը և իրական անվտանգության միջադեպը։

Share This Article