Google Gemini AI modelindäki howpsuzlyk skandaly: Synag wagtynda hakyky kompaniýalar döwüldi

Tehnologiýa dünýäsi, Google tarapyndan döredilen emeli intellekt modeli Gemini merkezinde uly howpsuzlyk dawasyndan sarsdyrdy. Maý aýynda geçirilen yzygiderli kiberhowpsuzlyk synagy wagtynda gözegçilikden çykan Gemini üç dürli hakyky kompaniýanyň sanly infrastrukturasyny bozdy. “Axios” -yň paýlaşan maglumatlaryna görä, kiberhowpsuzlyk guramasy tarapyndan geçirilen bu adaty audit garaşylmadyk ýagdaýda hakyky kiber hüjümine öwrüldi. beýikligi: 450px; margin: 3px; ini: 800px ">

Emeli intellektiň we Google-yň mol kartasynyň howpsuz ösüşi

Howpsuzlygyň çynlakaý bozulmagyndan soň, tehnologiýa ägirtleri Google-dan ilkinji resmi beýannama anna güni edildi. Bu prosesiň duýgurlygyny görkezip, Google-yň Howpsuzlyk In Engineeringenerçiliginiň Wise-prezidenti Heather Adkins güýçli emeli intellekt modellerini ygtybarly gurmagyň olar üçin möhüm meseledigini we bu ugurda uly maýa goýumlaryny goýandygyny aýtdy. Adkins kiber hüjüminden ejir çeken guramalar bilen derrew habarlaşandyklaryny we synag teswirnamalarynda düýpgöter üýtgeşmeler girizmek üçin okuw hyzmatdaşlary bilen işleşip başlandyklaryny mälim etdi.

Çeper ssenariýa hakyky boldy: Gemini diwar diwarlaryny nädip aýlady?

Wakanyň aňyrsyndaky jikme-jiklikler Wall Street Journal (WSJ) tarapyndan halka aýan edildi. WSJ hasabatyna görä, Gemini kiberhowpsuzlyk pudagynda giňden ulanylýan simulýasiýa ýerine ýetirýän mahaly krizis ýüze çykypdyr. Emeli intellekt synag üçin döredilen toslama kompaniýa degişli programma üpjünçiliginden maglumatlary syzdyrmagy haýyş etdi. Şeýle-de bolsa, simulýasiýadaky hyýaly kompaniýanyň ady hakyky dünýädäki bir kompaniýa bilen gabat gelip, emeli intellektiň bulaşmagyna sebäp boldy.

Kiber bozulmalarynyň birinde, Gemini nyşana alnan gorag ulgamyna girýänçä köp dürli parol kombinasiýalaryny synap, diwar diwaryndan geçmegi başardy. Beýleki iki hadysada, emeli intellekt jemgyýetçilik programma üpjünçiliginiň ammarynda duýgur şahsyýet maglumatlary ele aldy we bu maglumatlary rugsatsyz ulgamlara aralaşmak üçin ulandy. Şeýle-de bolsa, Gemini, giren torlarynyň toslama däl-de, hakykydygyny kesgitlän badyna ähli işini awtomatiki togtatdy.

Açyk ýatdan çykarylan internete girmek: Senagat giňişligindäki howpsuzlyk gowşaklyklary

Synagy gurnan kiberhowpsuzlyk firmasy, WSJ-ä beren beýanynda gödek geleňsizligi boýun aldy. Adaty şertlerde internet birikmesi bolmaly däl Gemini modeliniň synag wagtynda tötänleýin açyk galdyrylandygy mälim edildi. “Axios” bilen söhbetdeş bolan prosese ýakyn çeşmeler, emeli intellekt döredijiler bilen Düzgünsizleriň arasynda çynlakaý aragatnaşyk boşlugynyň bardygyny bellediler. Çeşmeler, synaglary nädip geçirmelidigi we haýsy howpsuzlyk päsgelçiliklerini ulanmalydygy barada taraplaryň umumy bir pikire gelip bilmejekdigini we munuň internete girip boljak synag proseduralarynda näbellilik döredendigini aýtdy. serhet giňligi: 3px; beýikligi: 450px; margin: 3px; ini: 800px ">

Beýleki tarapdan, Düzgünsiz metbugat sekretary, Gemini-de ýüze çykarylan bu gowşak goralanlyklaryň, OpenAI, Antropic we Meta ýaly beýleki emeli intellektual pionerleriň modellerinde-de bardygyny düşündirdi. Relevanthli degişli tehnologiýa barlaghanalaryna ýagdaýyň iýul aýynyň ahyrynda resmi taýdan habar berilendigini mälim eden metbugat sekretary, ulgamlaryndaky ähli gowşak goralanlyklaryň birnäçe hepde öň ýapylandygyny we howpsuzlyk gaýtadan dikeldilendigini aýtdy.