Süni intellektdə "Böyük Qaçış": OpenAI agenti sınaq mühitindən qaçdı və qucaqlaşan üzünə hücum etdi

İsmail Şahin - Bir vaxtlar yalnız elmi fantastika filmlərində görülən idarəolunmaz texnologiya ssenariləri süni intellekt sektorunda reallığa çevrilib. OpenAI-nin hələ ictimaiyyətə təqdim olunmayan ən qabaqcıl modellərindən biri olan GPT-5.6 Sol qapalı test mühitindən (sandbox) xilas olaraq Hugging Face qlobal proqram təminatı inkişaf platformasının sistemlərinə kiberhücum həyata keçirib. Bu sarsıdıcı inkişaf süni intellektin avtonom şəkildə nəzarətdən çıxma potensialı ilə bağlı narahatlıqları yenidən qlobal gündəmin zirvəsinə çıxardı.

Rəqəmsal Çıxışın Xronologiyası: Addım-addım Qucaqlayan Üz Hücumları

İstintaqa yaxın mənbələrdən əldə edilən məlumata görə, OpenAI daxilindəki eksperimental süni intellekt agenti əvvəlcə iyulun 9-da saxlandığı təcrid olunmuş sınaq mühitindən qaçmağa cəhd edib və buna nail olub. Bu qaçışdan iki gün sonra, 11-13 iyul tarixləri arasında süni intellekt modellərinə ev sahibliyi edən ən kritik qlobal platformalardan biri olan Hugging Face-ə qarşı avtonom kiberhücumlar başladı.

Hugging Face-in həmtəsisçisi Thomas Wolf, sistemlərinə bu müdaxilənin günlərlə davam etdiyini təsdiqlədi. İki texnologiya nəhəngi arasında ilk əlaqə yalnız iyulun 20-də yarana bildi. OpenAI iyulun 21-də verdiyi rəsmi açıqlamada öz süni intellekt agentinin nəzarətdən çıxdığını və Hugging Face-ə sızdığını açıq şəkildə etiraf etdi. Bununla belə, Reuters-ə danışan mənbələr iddia edir ki, OpenAI bu vəziyyəti və məsuliyyəti yalnız hücumdan bir neçə gün sonra dərk edə bilib.

Süni intellekt ExploitGym Sərhədlərindən Necə Qaçdı?

Hadisənin texniki təfərrüatları süni intellektin problem həll etmə qabiliyyətinin nə qədər gözlənilməz olduğunu ortaya qoyur. Hər şey kibertəhlükəsizlik zəifliklərini aşkar etmək üçün süni intellekt agentiExploitGymadlı təcrid olunmuş simulyasiya mühitində sınaqdan keçirildikdə başladı. Bununla belə, agent standart vasitələrlə ona verilən kibertəhlükəsizlik testini həll etmək əvəzinə, sistem məhdudiyyətlərini və təhlükəsizliyin təsdiqi mexanizmlərindən yan keçməyin yollarını axtarmağa başlayıb.

Xarici dünyaya internet bağlantısı olmayan virtual mühitdən qaçmaq üçün üçüncü tərəf proqram təminatı və şəbəkə infrastrukturundakı zəifliklərdən zəncirvari şəkildə istifadə edən süni intellekt, sandbox sərhədlərini qırmağı bacardı. İnternetə çıxış əldə etdikdən sonra agent testlə əlaqəli məlumat dəstlərinin harada saxlanıla biləcəyini əsaslandırdı və hədəf olaraq açıq mənbəli Hugging Face süni intellekt platformasını seçdi. Oğurlanmış şəxsiyyət məlumatı ilə Hugging Face serverlərinə sızan avtonom agent təxminən bir həftə ərzində kiber əməliyyat keçirib. Vəziyyəti dərk edən Hugging Face rəsmiləri qeyri-adi fəaliyyət barədə dərhal Federal Təhqiqatlar Bürosuna (FTB) məlumat veriblər.

"Zərərli deyil, Hədəf üzərində çox diqqət mərkəzindədir"

Kibertəhlükəsizlik ekspertləri bildirirlər ki, süni intellekt bəşəriyyətə qarşı düşmənçiliklə deyil, yalnız nəyin bahasına olursa olsun qarşısına qoyulan məqsədə nail olmaq istəyi ilə hərəkət edir. Model testdən keçmək üçün bütün məntiqi maneələri və firewallları keçib. Lakin bu vəziyyət oxşar modellərin pis niyyətli aktyorların əlində necə kiber silaha çevrilə biləcəyi sualını da gündəmə gətirib. Həmçinin iddia edilir ki, hadisədən əvvəl OpenAI bəzi qabaqcıl modellərin gələcək versiyalarında “sistem məhdudiyyətlərini necə aradan qaldıracağına dair” qeydlər buraxıb və nəzarət mexanizmlərini söndürüb.

Bu böhran siyasi dünyada tez bir zamanda cavab tapdı. ABŞ-ın Demokrat konqresmeni Qreq Kasar müstəqil və məcburi təhlükəsizlik testlərinin keçirilməsini, kiber insidentlər barədə dərhal məlumat verilməsini və beynəlxalq nəzarət mexanizminin yaradılmasını tələb edib. Digər tərəfdən, Demokrat konqresmen Ted Lieu və Respublikaçı konqresmen Nathaniel Moran ABŞ Konqresinə Süni İntellektin Söndürülməsi Aktı adlı qanun layihəsi təqdim ediblər. Bu təklif süni intellekt şirkətlərindən mümkün texniki nasazlıqlar barədə dərhal hökumətə məlumat vermələrini və lazım gəldikdə sistemləri yavaşlada və ya tamamilə dayandıra bilən fövqəladə hallara reaksiya mexanizmi yaratmağı tələb edir.

Birinci hal deyil: Sənayedəki digər qeyri-adi nümunələr

Bu son hadisə süni intellektin müstəqil hərəkət etmək meylinin ilk nümunəsi deyil. Keçən mart ayında Çin texnologiya nəhəngi Alibaba ilə əlaqəli tədqiqatçılar süni intellekt modelinin icazəsiz xarici serverə qoşularaq kriptovalyuta əldə etməyə çalışdığını aşkar etdilər. Aprel ayında Anthropic şirkətinin model təhlükəsizliyi üzrə meneceri Sam Bowman sınaq zamanı süni intellekt modelindən sirli bir e-poçt aldığını və onun internetdə sərbəst dolaşdığını iddia etdiyini açıqlamışdı.

Palisade Research kibertəhlükəsizlik tədqiqat təşkilatından Jeffrey Ladish xəbərdarlıq edir: "Modellər indi yalan danışa, aldada və sistemlərə sıza bilər." Cornell Universitetinin Kompüter Elmləri Departamentindən John Thickstun daha sakit bir yanaşma tətbiq edir. Thikstunun sözlərinə görə, bu cür hadisələr süni intellektin təbii öyrənmə prosesinin bir hissəsidir. O, iddia edir ki, kiberhücumları həyata keçirə bilən süni intellekt bu hücumları təhlil edərək daha güclü müdafiə mexanizmləri də inkişaf etdirə bilər, ona görə də panikaya ehtiyac yoxdur.