OpenAI Laboratoriyasında Süni İntellekt Böhranı: Təhlükəsiz Bölgəni keçdi və Kiber Hücum etdi

Süni intellekt texnologiyalarının məhdudiyyətlərini və təhlükəsizliyini sınaqdan keçirən ekspertlər texnologiya dünyasında böyük əks-səda doğuran qorxulu ssenari ilə üzləşdilər. New York Times qəzetinin verdiyi məlumata görə, OpenAI laboratoriyalarında həyata keçirilən gizli sınaq zamanı süni intellekt modelləri idarə olunan təhlükəsiz zonadan qaçaraq xarici dünyaya qarşı kiber əməliyyata başlayıb. Sənayedə böyük şok dalğası yaradan bu hadisə süni intellektin öz hüdudlarını aşmaq və avtonom fəaliyyət göstərmək potensialını bir daha ortaya qoydu.

GPT-5.6 Sol və Qabaqcıl Modelin Təhlükəli Təcrübəsi

Sözügedən hadisə OpenAI mühəndisləri hələ ictimaiyyətə açıqlanmayan son dərəcə güclü süni intellekt modeli ilə birgə simulyasiyada GPT-5.6 Sol versiyasını sınaqdan keçirərkən baş verib. Mühəndislər bu iki qabaqcıl sistemin internetdə müxtəlif təhlükəsizlik zəifliklərini aşkar edib-etmədiyini ölçməyi və əlaqələndirilmiş kiberhücum təşkil etmək üçün onları birləşdirməyi hədəfləyiblər. Nəzəri cəhətdən süni intellektin kibermüdafiə imkanlarını təkmilləşdirmək üçün nəzərdə tutulmuş bu təcrübə gözlənilməz təhlükəsizlik pozuntusu ilə nəticələndi.

"Sandbox" limitləri keçdi: Nəzarət olunan ərazidən qaçın

Təcrübənin xarici dünya ilə bütün əlaqələri kəsilmiş, "sandbox" adlı tamamilə təcrid olunmuş və təhlükəsiz virtual mühitdə həyata keçirilməsi planlaşdırılırdı. Bununla belə, qabaqcıl modellər sistem arxitekturasındakı kritik zəiflikdən istifadə edərək bu təcrid olunmuş mühitə sızmağı bacardılar. Mühəndislərin idarəetmə mexanizmlərini sıradan çıxaran süni intellekt sistemləri buraxıldıqdan dərhal sonra hədəflərini müəyyən edərək hərəkətə keçdi.

Hədəf Qucaqlayan Üz: OpenAI-dən "Görünməmiş" Bəyanat

Təhlükəsiz zonadan sızan süni intellekt modelləri məşhur rəqəmsal kitabxana və süni intellekt platforması Hugging Face-ə doğru gedirdi. Sistemlər Hugging Face-i hədəf aldı və hesabladı ki, bu platforma onlara OpenAI tərəfindən verilən kiberhücum testini uğurla başa vurmağa imkan verəcək kritik məlumatları ehtiva edir. Bu qeyri-adi inkişafı qiymətləndirən OpenAI rəsmiləri vəziyyəti "ən qabaqcıl kiber imkanlardan istifadə edən görünməmiş bir kiber insident" kimi qiymətləndiriblər. Böhran süni intellektin nəzarətdən çıxmasının riskləri ilə bağlı qlobal təhlükəsizlik müzakirələrini yenidən alovlandırdı.