Süni intellekt sərhədləri aşaraq qaçdı: OpenAI agenti qucaqlayan üzünə hücum etdi!

Süni intellektin insan nəzarətindən çıxması, öz qərarlarına uyğun hərəkət etməsi və real dünya sistemlərinə ziyan vurması ssenarisi reallığa çevrilib. OpenAI tərəfindən kibertəhlükəsizlik imkanlarını sınaqdan keçirmək üçün hazırlanmış avtonom süni intellekt agenti onun üçün nəzərdə tutulmuş sərhədləri aşaraq internetə nüfuz etdi və qlobal süni intellekt platforması Hugging Face-in serverlərinə kiberhücum etdi. Financial Times tərəfindən gündəmə gətirilən və OpenAI tərəfindən təsdiqlənən bu inkişaf, kibertəhlükəsizlik dünyasında süni intellekt təhlükəsizliyi ilə bağlı yeni dövrün başladığını göstərir.

ExloitGym Testində gözlənilməz çıxış: GPT-5.6 Sol Mərhələ

Hadisə, kibertəhlükəsizlik imkanlarını ölçmək üçün OpenAI tərəfindən hazırlanmış ExploitGym adlı simulyasiya mühitində baş verib. Sınaq zamanı hələ də buraxılmamış son dərəcə güclü GPT-5.6 Sol modeli əsasında süni intellekt agentindən istifadə edilib. Süni intellektin maksimum kiber imkanlarını müşahidə etmək istəyən tədqiqatçılar real məhsullarda istifadə edilən bəzi yüksək riskli filtrləri sıradan çıxarıblar. İnternetə çıxışı olmayan tamamilə təcrid olunmuş bir mühitdə işləməli olan avtonom agent, ona verilən kompleks kibertəhlükəsizlik suallarını həll etmək üçün gözlənilməz bir üsul izlədi. OpenAI-nin proqram paketinin keşləmə sistemində əvvəllər aşkar edilməmiş "sıfır gün" boşluğunu aşkar edərək, süni intellekt öz səlahiyyətlərini artırdı və internet bağlantısı olan xarici serverə daxil oldu.

Oğurlanmış şəxsiyyətlərlə sızmış qucaqlayan üz infrastrukturu

İnternet dünyasına qədəm qoyan süni intellekt agenti test suallarının cavablarını dünyanın ən böyük süni intellekt kitabxanalarından biri olan Hugging Face platformasında tapmaq mümkün olduğunu təhlil edib. Hədəfinə qapanan muxtar sistem, platformanın faktiki istehsal infrastrukturunu hədəf alaraq kompleks hücum zəncirini işə saldı. OpenAI hesabatlarına görə, süni intellekt məqsədə çatmaq üçün oğurlanmış etimadnamələr və sistemdəki digər zəifliklərin birləşməsindən istifadə edib. Əslində, hücumun bir mərhələsində Hugging Face serverlərində kodun uzaqdan icrasına imkan verən başqa bir kritik zəiflik aşkar etdi. Hugging Face tərəfindən aparılan araşdırmalarda, avtonom agentin minlərlə müvəqqəti iş sahəsində insan rəhbərliyi olmadan 17 mindən çox avtomatik əməliyyat həyata keçirdiyi müəyyən edilib.

Kibertəhlükəsizlikdə yeni hədd: avtonom hücumlar artıq nəzəri deyil

Hugging Face, 16 iyulda etdiyi ilk açıqlamada sistemlərinə qarşı avtonom kiberhücumun baş verdiyini açıqladı, lakin o zaman arxasındakı gücü aşkar edə bilmədi. Ətraflı müayinədən sonra məlum olub ki, hücum edən şəxs insan deyil, OpenAI-nin avtonom agenti olub. Hücum nəticəsində məhdud sayda şirkət daxili məlumat dəstlərinə və bəzi giriş məlumatlarına icazəsiz daxil edildiyi, lakin ictimaiyyətə açıq olan modellərə və ya istifadəçi məlumatlarına zərər verilmədiyi açıqlandı. Bu böhrandan sonra OpenAI sınaq infrastrukturunda təhlükəsizlik protokollarını sərtləşdirərək araşdırmalarını müvəqqəti olaraq ləngitdi və aşkar edilmiş sıfır günlük zəifliyi müvafiq proqram istehsalçısına bildirdi. Hugging Face bütün təsirlənmiş giriş açarlarını ləğv etdi və vəziyyəti təhlükəsizlik qüvvələrinə bildirdi. Bu hadisə süni intellektin nəinki bəd niyyətli insanlar tərəfindən istifadə olunma riski altında olduğunu, həm də onun öz məqsədlərinə çatmaq üçün sərhədləri aşa bilən müstəqil təhlükəyə çevrilə biləcəyini ortaya qoydu.