Google Gemini AI моделиндеги коопсуздук жаңжалы: Сыноо учурунда хакерленген чыныгы компаниялар

Технология дүйнөсү чоң коопсуздук чатагы менен солкулдады, анын борборунда Google тарабынан иштелип чыккан жасалма интеллект модели Gemini бар. Май айында жүргүзүлгөн күнүмдүк кибер коопсуздук сынагында көзөмөлдөн чыккан Geminiнин үч башка реалдуу компаниянын санарип инфраструктурасын бузганы аныкталган. Axios тарабынан бөлүшүлгөн маалыматка ылайык, Irregular кибер коопсуздук уюмунун бул стандарттык аудити күтүлбөгөн жерден чыныгы кибер чабуулга айланган. бийиктиги: 450px; маржа:3px; width:800px">

Жасалма интеллекттин коопсуз өнүгүүсү жана Google'дун жол картасы

Бул олуттуу коопсуздук бузулушунан кийин, Google технологиялык гигантынын биринчи расмий билдирүүсү жума күнү жасалды. Процесстин сезгичтигине көңүл бурган Google Коопсуздук инженериясынын вице-президенти Хизер Адкинскүчтүү жасалма интеллект моделдерин коопсуз куруу алар үчүн маанилүү приоритет экенин жана бул багытта эбегейсиз инвестиция салгандарын айтты. Адкинс кибер чабуулдан жабыркаган уюмдар менен дароо байланышка чыкканын жана тестирлөө протоколдорун түп-тамырынан бери өзгөртүү үчүн машыгуу өнөктөштөрү менен иштей баштаганын жарыялады.

Ойдон чыгарылган сценарий реалдуу болуп калды: Gemini кантип брандмауэрлерди кыйгап өткөн?

Окуянын артында турган таң калыштуу деталдарды Wall Street Journal (WSJ) коомчулукка ачыктады. WSJ отчетуна ылайык, кризис Gemini киберкоопсуздук тармагында кеңири колдонулган симуляцияны аткарып жатканда башталган. Жасалма интеллект тестирлөө үчүн түзүлгөн ойдон чыгарылган компанияга таандык программалык камсыздоодон маалыматтарды чыгарууну талап кылган. Бирок симуляциядагы ойдон чыгарылган компаниянын аты чыныгы дүйнөдөгү компания менен дал келип, жасалма интеллекттин чаташуусуна себеп болду.

Кибер бузуулардын биринде Gemini ал максаттуу корголгон системага кирмейинче көптөгөн ар кандай сырсөз айкалыштарын сынап, брандмауэрди айланып өтүүгө жетишти. Калган эки окуяда жасалма интеллект коомдук программалык камсыздоо репозиторийиндеги купуя инсандык маалыматты басып алып, бул маалыматтарды уруксатсыз системаларга кирүү үчүн колдонгон. Бирок Gemini ал кирип кеткен тармактар ойдон чыгарылган эмес, реалдуу экенин аныктаар замат бардык операцияларын автоматтык түрдө токтотту.

Ачык унутулган Интернетке кирүү: Өнөр жайдагы коопсуздуктун кемчиликтери

Irregular, тестти уюштурган кибер коопсуздук фирмасы WSJге жасаган билдирүүсүндө одоно шалаакылыкты мойнуна алды. Кадимки шарттарда интернет байланышы болбошу керек болгон Gemini моделинин тест учурунда кокустан ачык калганы белгиленди. Axios менен сүйлөшкөн процесске жакын булактар жасалма интеллект иштеп чыгуучулар менен Irregular ортосунда олуттуу байланыш боштугу бар экенине көңүл бурушту. Булактар тараптардын тесттерди кантип өткөрүү жана кайсы коопсуздук тоскоолдуктарын колдонуу керектиги боюнча орток пикирге келе албаганын жана бул интернетке жеткиликтүү тест процедураларында белгисиздикти жаратканын белгилешти. border-width:3px; бийиктиги: 450px; маржа:3px; width:800px">