Google-ի Gemini արհեստական բանականության մոդելը կիբերանվտանգության փորձարկման ժամանակ ինքնուրույն մուտք է գործել 3 իրական ընկերությունների պաշտպանված համակարգեր։ Սա Google-ի AI համակարգի կողմից նման գործողության առաջին հայտնի դեպքն է։
Միջադեպերը տեղի են ունեցել 2026 թվականի մայիսին՝ AI համակարգերի կիբերանվտանգության գնահատմամբ զբաղվող անկախ Irregular ընկերության կազմակերպած փորձարկման ընթացքում։
Google-ի անվտանգության ինժեներիայի փոխնախագահ Հեզեր Ադքինսի խոսքով՝ Gemini-ն համացանցում գտել է հրապարակային տեղեկատվություն և փորձել մուտքային տվյալներ՝ կարծելով, որ համապատասխան կայքերը ներառված են փորձարկման շրջանակում։ Դեպքերից մեկում մոդելը շարունակաբար փորձել է գաղտնաբառեր, մինչև կարողացել է մուտք գործել պաշտպանված համակարգ։ Մյուս երկու դեպքերում այն հրապարակային պահոցում հայտնաբերել է մուտքային տվյալներ և դրանց օգնությամբ հասանելիություն ստացել պաշտպանված համակարգերին։
Google-ը հայտնել է, որ բոլոր երեք կազմակերպությունները տեղեկացվել են կատարվածի մասին, իսկ փորձարկման գործընթացում փոփոխություններ են իրականացվել՝ նման դեպքերի կրկնությունը կանխելու համար։
Related News
Ընկերության տվյալներով՝ երեք դեպքերում էլ Gemini-ն դադարեցրել է գործողությունները։ Միջադեպերը նոր հարցեր են առաջացրել այն մասին, թե անվտանգության ինչ լրացուցիչ մեխանիզմներ են անհրաժեշտ AI գործակալների համար, երբ դրանք ստանում են ավելի մեծ ինքնավարություն և հասանելիություն համացանցին ու իրական համակարգերին։
Արհեստական բանականության ինքնուրույն ներթափանցումը պաշտպանված համակարգեր ցույց է տալիս, թե որքան արագ է փոխվում կիբերանվտանգության ոլորտը։ Երբ մոդելներին տրվում է ինքնավարություն, ռիսկերը կտրուկ մեծանում են։
Նման դեպքերը ստիպում են վերանայել AI գործակալների թեստավորման կանոնները։ Հստակ վերահսկողության բացակայությունը կարող է լուրջ սպառնալիք դառնալ ընկերությունների համար։
