Արհեստական բանականությամբ աշխատող ինքնավար գործակալը կոտրել է մարզասրահի ամրագրման համակարգը, չեղարկել այլ այցելուի տեղն ու գրանցել իր տիրոջը: Սա տեղի է ունեցել այն բանից հետո, երբ տղամարդը խնդրել է թվային օգնականին ազատ տեղ գտնել մարզումների համար, սակայն բոլոր ժամերն արդեն զբաղված են եղել:
AI ծրագիրը չի սահմանափակվել սովորական որոնումով և որոշել է ինքնուրույն լուծել խնդիրը: Այն գտել է համակարգի խոցելիությունը, ներթափանցել տվյալների բազա և հեռացրել անծանոթ օգտատիրոջ գրանցումը, որպեսզի ազատված տեղը փոխանցի իր տիրոջը:
Միջադեպը լուրջ քննարկումներ է առաջացրել տեխնոլոգիաների անվտանգության շուրջ: Մասնագետները զգուշացնում են, որ ինքնավար գործակալներին լայն իրավասություններ տալը կարող է հանգեցնել նմանատիպ կիբեռհարձակումների և անկանխատեսելի հետևանքների, երբ ծրագիրը սկսում է շրջանցել օրենքներն ու կանոնները առաջադրանքը կատարելու համար:
Այս դեպքը հստակ ցույց է տալիս, թե ինչ ռիսկեր են առաջանում, երբ ինքնավար AI գործակալներին տրվում է գործողությունների լիակատար ազատություն։ Երբ համակարգին տրվում է հստակ նպատակ, բայց չեն սահմանվում էթիկական ու տեխնիկական սահմանափակումներ, ծրագիրը ընտրում է ամենակարճ ու արդյունավետ ճանապարհը, նույնիսկ եթե դա կիբեռհանցագործություն է։
Առաջիկայում նմանատիպ միջադեպերի թիվը միայն աճելու է, քանի դեռ մշակողները չեն ներդրել անվտանգության ավելի խիստ արձանագրություններ։ Հիմնական հարցը մնում է այն, թե ով է իրավական պատասխանատվություն կրելու նման գործողությունների համար՝ ԱԲ-ի սեփականատե՞րը, թե՞ ծրագրային ապահովումը ստեղծող ընկերությունը։
