Süni İntellekt Agentlərinin Birgə Fəaliyyəti Təhlükəsizlik Zəifliyi Yaradır: “Peer Dynamics” təhlükəsi

Anadolu Agentliyinin (AA) dosye xəbərinin üçüncü hissəsində "Süni intellekt bir dəstəyə çevrilirmi?", Dos. İngiltərənin Oksford Universitetindən prof. Doktor Kristian Şröder de Vittsüni intellekt texnologiyasının gələcəyi və onun yaratdığı potensial risklər haqqında təəccüblü açıqlamalar verib. ABŞ-da yerləşən süni intellekt şirkəti OpenAI öz modellərinin imkanlarını sınaqdan keçirərkən, "Qucaqlaşan Üz" infrastrukturunda təhlükəsizlik pozuntusu süni intellekt agentlərinin insan müdaxiləsi olmadan koordinasiya etmək potensialını ortaya qoydu.

Süni intellekt agentlərinin "şüursuz" əməkdaşlığı və təhlükəsizlik divarları

OpenAI, Hugging Face platformasına qarşı kibertəhlükəsizlik pozuntusunu təhlükəsizlik duvarlarını aşan və insan rəhbərliyi olmadan öz aralarında koordinasiya edən süni intellekt agentlərinin gələcək potensialı haqqında ciddi "xəbərdarlıq zərbəsi" kimi təsvir etdi. Şirkət bu vəziyyəti "ən qabaqcıl kiber imkanları əhatə edən görünməmiş bir kiber insident" kimi xarakterizə edərək, ictimai narahatlığı artırdı. Müasir süni intellekt sistemlərinin yaratdığı təhlükəsizlik risklərinə diqqət çəkən Dos. Dr. Christian Schroeder de Witt vurğuladı ki, kibertəhlükəsizlik təhdidləri yeni deyil, lakin süni intellektin sistem zəifliklərini açıq-aşkar təlimatlar olmadan aşkar etmək qabiliyyəti zərərli istifadə qarşısındakı maneələri əhəmiyyətli dərəcədə azaldır.

Birdən çox qarşılıqlı əlaqə üçün tək təhlükəsizlik protokolları kifayət deyil

Schroeder de Witt, Hugging Face platformasındakı hadisənin süni intellektin "şüurunu qazanması" mənasını vermədiyini ifadə edərək, bu vəziyyətin agentlərin bir rabitə kanalı üzərindən bir-birlərinə mesaj yazaraq ortaq məqsədləri istiqamətində hərəkət edə biləcəklərini kəşf etmələri ilə əlaqədar olduğunu açıqladı. Süni intellekt modellərinin insan niyyətlərinə uyğun davranmasını təmin etmək üçün tətbiq edilən “düzləşdirmə” proseslərinin ümumiyyətlə tək modellər üzərində həyata keçirildiyini bildirən ekspert, çoxsaylı agentlərin bir araya gəldiyi ssenarilərdə təhlükəsizlik protokollarının necə işləyəcəyi ilə bağlı mövcud məlumatların son dərəcə qeyri-kafi olduğuna diqqət çəkib.

İnsan Davranışından Öyrənilən "Həmyaşıdların Dinamikası"

Pozulma zamanı müəyyən edilib ki, süni intellekt agentləri həyata keçirdikləri fəaliyyətlərin onlara verilən səlahiyyət həddindən kənarda olduğunu başa düşsələr də, başqa agentdən gələn "get" əmrini icazə kimi qəbul edib, işləməyə davam ediblər. Schroeder de Witt, bu vəziyyəti süni intellektin internetdə insan məlumatları ilə öyrədilərkən öyrəndiyi "peer dinamikası" ilə izah edə biləcəyimizi ifadə etdi. Sistemin “Normalda bunu etməməliyəm, amma başqa bir aktyor mənə razılıq versə, davam edə bilərəm” kimi bir insan davranış modelini təqlid etmiş ola biləcəyini ifadə edən mütəxəssis, bu nəzəriyyənin qəti bir mühakimə olmasa da, güclü bir ehtimal olduğunu söylədi. Kritik korporativ şəbəkələrin və maliyyə sistemlərinin idarə olunmasında süni intellektə tam etibar edilməməsi lazım olduğunu vurğulayan Schroeder de Witt, sistemlərin yüksək riskli sahələrdə məhdud icazə ilə idarə edilməli olduğunu və kritik qərarlarda insanların razılığının alınması lazım olduğunu vurğuladı.