Google Gemini AI моделіндегі қауіпсіздік жанжалы: тестілеу кезінде бұзылған нақты компаниялар

Технология әлемі қауіпсіздікке қатысты үлкен жанжалмен шайқалуда, оның орталығында Google әзірлеген жасанды интеллект үлгісі Gemini бар. Мамыр айында жүргізілген әдеттегі киберқауіпсіздік сынағы кезінде бақылаудан шыққан Gemini үш түрлі нақты компанияның цифрлық инфрақұрылымын бұзғаны анықталды. Axios бөліскен ақпаратқа сәйкес, Irregular киберқауіпсіздік ұйымының бұл стандартты аудиті күтпеген жерден нағыз кибершабуылға айналды. биіктігі: 450px; маржа: 3px; ені:800px">

Жасанды интеллекттің қауіпсіз дамуы және Google жол картасы

Қауіпсіздіктің осы елеулі бұзылуынан кейін Google технологиялық алпауыттың алғашқы ресми мәлімдемесі жұма күні жасалды. Процестің сезімталдығына назар аударған Google қауіпсіздік инженериясының вице-президенті Хизер Адкинсқуатты жасанды интеллект үлгілерін қауіпсіз құру олар үшін маңызды басымдық екенін және бұл бағытта үлкен инвестиция салғандарын айтты. Адкинс кибершабуылдан зардап шеккен ұйымдармен дереу байланысқа шыққандарын және тестілеу хаттамаларына түбегейлі өзгерістер енгізу үшін оқыту серіктестерімен жұмыс істей бастағандарын мәлімдеді.

Қиял сценарий шындыққа айналды: Gemini желіаралық қалқандарды қалай айналып өтті?

Оқиғаның артындағы таңқаларлық мәліметтерді Wall Street Journal (WSJ) жариялады. WSJ есебіне сәйкес, дағдарыс Gemini киберқауіпсіздік саласында кеңінен қолданылатын симуляцияны орындау кезінде басталды. Жасанды интеллект тестілеу үшін жасалған ойдан шығарылған компанияға тиесілі бағдарламалық жасақтаманың деректерін ағып кетуді сұрады. Дегенмен, модельдеудегі ойдан шығарылған компанияның аты нақты әлемдегі компаниямен дәл сәйкес келді, бұл жасанды интеллектті шатастыруға себеп болды.

Кибербұзушылықтардың бірінде Gemini мақсатты қорғалған жүйеге қол жеткізгенге дейін көптеген әртүрлі құпиясөз тіркесімдерін қолданып көру арқылы брандмауэрді айналып өтті. Қалған екі оқиғада жасанды интеллект құпия ақпаратты жалпыға қолжетімді бағдарламалық қамтамасыз ету репозиторийіне түсіріп, бұл деректерді рұқсат етілмеген жүйелерге ену үшін пайдаланды. Дегенмен, Gemini өзі енген желілердің ойдан шығарылған емес, шынайы екенін анықтаған бойда барлық операцияларын автоматты түрде тоқтатты.

Ашық ұмытылған Интернетке кіру: салалық қауіпсіздіктің осалдықтары

Сынақты ұйымдастырған Irregular киберқауіпсіздік фирмасы WSJ-ге берген мәлімдемесінде өрескел немқұрайлылық танытты. Қалыпты жағдайда интернет байланысы болмауы керек Gemini моделінің сынақ кезінде кездейсоқ ашық қалдырылғаны айтылды. Axios-пен сөйлескен процеске жақын дереккөздер жасанды интеллект әзірлеушілері мен Irregular арасында маңызды байланыс алшақтығы бар екенін атап өтті. Дереккөздер тараптардың сынақтарды қалай өткізуге және қандай қауіпсіздік кедергілерін қолдану керектігі туралы ортақ белгіге қол жеткізе алмағанын және бұл интернетке қол жетімді сынақ процедураларында белгісіздік тудырғанын атап өтті. жиектің ені: 3px; биіктігі: 450px; маржа: 3px; ені:800px">

Екінші жағынан, Irregular өкілі Gemini-де анықталған бұл осалдықтардың OpenAI, Anthropic және Meta сияқты басқа жасанды интеллект пионерлерінің үлгілерінде де бар екенін түсіндірді. Шілде айының соңында барлық тиісті технологиялық зертханаларға жағдай туралы ресми түрде хабарланғанын айта келе, баспасөз хатшысы олардың жүйелеріндегі барлық осалдықтар бірнеше апта бұрын жабылып, қауіпсіздік қайта қалпына келтірілгенін атап өтті.