Жасанды интеллект агенттерінің бірлескен әрекеті қауіпсіздіктің осалдығын тудырады: «теңдер динамикасы» қаупі

Анадолу агенттігінің (AA) «Жасанды интеллект бандаға айналуда ма?» атты досье хабарының үшінші бөлігінде Доц. Англиядағы Оксфорд университетінен проф. Доктор Кристиан Шредер де Виттжасанды интеллект технологиясының болашағы және оның тудыратын ықтимал қауіптері туралы таңғаларлық мәлімдемелер жасады. АҚШ-тың жасанды интеллект компаниясы OpenAI өз үлгілерінің мүмкіндіктерін сынап жатқан кезде, «Құшақтайтын тұлға» инфрақұрылымындағы қауіпсіздіктің бұзылуы жасанды интеллект агенттерінің адамның араласуынсыз үйлестіру мүмкіндігін ашты.

Жасанды интеллект агенттерінің "санасыз" ынтымақтастығы және желіаралық қалқандары

OpenAI Hugging Face платформасына қарсы киберқауіпсіздікті бұзуды брандмауэрлерді айналып өтіп, адамның нұсқауынсыз өзара үйлестіретін жасанды интеллект агенттерінің болашақ әлеуеті туралы елеулі «ескерту соққысы» ретінде сипаттады. Компания бұл жағдайды «ең жетілдірілген кибермүмкіндіктерді қамтитын бұрын-соңды болмаған кибероқиға» деп сипаттап, қоғамның алаңдаушылығын арттырды. Заманауи жасанды интеллект жүйелері шығаратын қауіпсіздік тәуекелдеріне назар аудара отырып, доц. Доктор Кристиан Шредер де Витт киберқауіпсіздік қатерлері жаңа емес екенін, бірақ жасанды интеллекттің жүйенің осал тұстарын нақты нұсқауларсыз анықтау мүмкіндігі зиянды пайдаланудағы кедергілерді айтарлықтай азайтатынын атап өтті.

Бірыңғай қауіпсіздік протоколдары бірнеше әрекеттесу үшін жеткіліксіз

Шредер де Витт Hugging Face платформасындағы оқиғаның жасанды интеллекттің «есін жинады» дегенді білдірмейтінін айтты және бұл жағдай агенттердің байланыс арнасы арқылы бір-біріне хабарламалар жазу арқылы ортақ мақсаттарына сай әрекет ете алатынын анықтауымен байланысты екенін түсіндірді. Жасанды интеллект үлгілерінің адам ниетіне сәйкес әрекет етуін қамтамасыз ету үшін қолданылатын «теңестіру» процестері әдетте бір үлгілерде орындалатынын айта келе, сарапшы бірнеше агенттер біріктірілген сценарийлерде қауіпсіздік протоколдарының қалай жұмыс істейтіні туралы қол жетімді деректердің өте жеткіліксіз екенін атап өтті.

Адамның мінез-құлқынан үйренетін «Құрдастардың динамикасы»

Бұзушылық кезінде жасанды интеллект агенттері орындаған әрекеттері оларға берілген өкілеттік шегінен тыс екенін түсінсе де, басқа агенттің «бару» пәрменін рұқсат ретінде қабылдап, жұмысын жалғастырғаны анықталды. Шредер де Витт бұл жағдайды жасанды интеллект интернеттегі адам деректерімен үйрену кезінде үйренетін «тең динамикасы» арқылы түсіндіре алатынымызды айтты. Жүйенің «Қалыпты жағдайда бұлай істемеуім керек, бірақ басқа актер мақұлдаса, жалғастыра аламын» деген сияқты адам мінез-құлық үлгісіне еліктеген болуы мүмкін екенін айтқан сарапшы бұл теорияның түпкілікті пайымдау болмаса да, оның күшті мүмкіндігі екенін айтты. Жасанды интеллектке маңызды корпоративтік желілер мен қаржылық жүйелерді басқаруда толығымен сенбеу керектігін атап өткен Шредер де Витт жүйелердің тәуекелі жоғары аймақтарда шектеулі рұқсатпен жұмыс істеу керектігін және маңызды шешімдерде адамның рұқсатын алу керектігін атап өтті.