Google Gemini AI modelində təhlükəsizlik qalmaqalı: Sınaq zamanı sındırılmış real şirkətlər

Texnologiya dünyası böyük bir təhlükəsizlik qalmaqalı ilə sarsılır və onun mərkəzində Google tərəfindən hazırlanmış süni intellekt modeli Gemini var. May ayında həyata keçirilən adi kibertəhlükəsizlik testi əsnasında nəzarətdən çıxan Əkizlərin üç fərqli real şirkətin rəqəmsal infrastrukturunu pozduğu müəyyən edilib. Axios tərəfindən paylaşılan məlumata görə, Irregular kibertəhlükəsizlik təşkilatının bu standart auditi gözlənilmədən əsl kiberhücuma çevrildi. hündürlük: 450px; kənar: 3px; eni:800px">

Süni İntellektin Təhlükəsiz İnkişafı və Google Yol Xəritəsi

Bu ciddi təhlükəsizlik pozuntusundan sonra texnologiya nəhəngi Google-dan cümə günü ilk rəsmi açıqlama verildi. Prosesin həssaslığına diqqət çəkən Google-un Təhlükəsizlik Mühəndisliyi üzrə vitse-prezidenti Heather Adkinsgüclü süni intellekt modellərini təhlükəsiz şəkildə qurmağın onlar üçün kritik prioritet olduğunu və bu istiqamətdə böyük sərmayələr etdiklərini bildirib. Adkins, kiberhücumdan təsirlənən təşkilatlarla dərhal əlaqə saxladıqlarını və sınaq protokollarında köklü dəyişikliklər etmək üçün təlim tərəfdaşları ilə işə başladıqlarını açıqladı.

Uydurma Ssenari reallaşdı: Əkizlər Firewall-dan necə yan keçdi?

Hadisənin arxasındakı təəccüblü təfərrüatlar Wall Street Journal (WSJ) tərəfindən ictimaiyyətə açıqlanıb. WSJ hesabatına görə, böhran Əkizlər bürcü kibertəhlükəsizlik sahəsində geniş istifadə edilən simulyasiyanı həyata keçirərkən baş verdi. Sınaq üçün yaradılmış uydurma şirkətə məxsus proqram təminatından məlumat sızdırmaq üçün süni intellekt tələb olunub. Lakin simulyasiyadakı xəyali şirkətin adı real dünyadakı bir şirkətlə tam olaraq üst-üstə düşərək süni intellektin çaşqın olmasına səbəb oldu.

Kiber pozuntulardan birində Əkizlər hədəf aldığı qorunan sistemə daxil olana qədər bir çox fərqli parol birləşmələrini sınayaraq firewalldan yan keçməyi bacardı. Digər iki insidentdə süni intellekt ictimai proqram təminatı anbarında həssas şəxsiyyət məlumatlarını ələ keçirdi və bu məlumatları icazəsiz sistemlərə sızmaq üçün istifadə etdi. Lakin Əkizlər sızdığı şəbəkələrin uydurma deyil, real olduğunu müəyyən edən kimi avtomatik olaraq bütün əməliyyatlarını dayandırdı.

Açıq şəkildə unudulmuş İnternet: Geniş Sənaye Təhlükəsizliyi Zəiflikləri

Sınamanı təşkil edən kibertəhlükəsizlik firması Irregular WSJ-yə verdiyi açıqlamada kobud səhlənkarlığı etiraf edib. Normal şəraitdə internet bağlantısı olmaması lazım olan Əkizlər modelinin sınaq zamanı təsadüfən açıq qaldığı bildirilib. Axios ilə danışan prosesə yaxın mənbələr, süni intellekt tərtibatçıları ilə Irregular arasında ciddi bir ünsiyyət boşluğu olduğuna diqqət çəkdi. Mənbələr, tərəflərin testlərin necə keçiriləcəyi və hansı təhlükəsizlik maneələrinin tətbiq ediləcəyi ilə bağlı ortaq məxrəcə gələ bilmədiklərini və bunun internetə giriş test prosedurlarında qeyri-müəyyənlik yaratdığını qeyd etdi. sərhəd eni: 3px; hündürlük: 450px; kənar: 3px; eni:800px">

Digər tərəfdən, Irregular sözçüsü izah etdi ki, Əkizlər bürcündə aşkar edilən bu zəifliklər OpenAI, Anthropic və Meta kimi digər süni intellekt qabaqcıllarının modellərində də mövcuddur. İyulun sonunda vəziyyətlə bağlı bütün müvafiq texnoloji laboratoriyalara rəsmi məlumat verildiyini deyən sözçü, sistemlərindəki bütün zəifliklərin həftələr əvvəl bağlandığını və təhlükəsizliyin bərpa olunduğunu vurğulayıb.