ABŞ zəifliklərinin aşkarlanmasına dair süni intellekt mifləri

Süni intellekt şirkəti Anthropic və ABŞ kəşfiyyat xidmətləri bu yaxınlarda mühüm təhlükəsizlik testi həyata keçirib. Testin məqsədi mühüm proqram təminatının milli təhlükəsizliyə və iqtisadiyyata potensial təhdidlərini müəyyən etmək olub. Bu kontekstdə Anthropic tərəfindən hazırlanmış Mythos modeli ABŞ-ın gizli sistemlərində təhlükəsizlik zəifliklərini aşkar etdi.

Mythos Modeli və Testin Təfərrüatları

Sınaq prosesi ilə bağlı məlumat verən adı açıqlanmayan bir səlahiyyətli bu testlərin ictimai təhlükəsizlik üçün kritik olduğunu bildirdi. Mythos süni intellekt modelinin saatlar ərzində həssas məlumatları ehtiva edən hökumət sistemlərində zəifliklər tapdığını ifadə edən səlahiyyətli, bu tapıntıların sistemlərə sıza biləcəyi mənasını vermədiyini də vurğuladı. {{IMG_0}}

Senatda Verilən açıqlamalar

Demokrat senator Mark Warner11 iyunda Senatın iclasında məsələyə toxunaraq Mythos modelinin gizli sistemlərə sürətlə daxil olduğunu bildirib. Warner, bu inkişafın süni intellektin təhlükəsizlik sahəsində daha diqqətli davranılması lazım olduğunu göstərdiyinə diqqət çəkdi. {{IMG_1}}

ABŞ Administrasiyasının reaksiyası

ABŞ administrasiyası iyunun 13-də Anthropic tərəfindən hazırlanmış "Fable 5" və "Mythos 5" modellərinə qarşı ehtiyat tədbirləri görüb. Xarici hökumətlərə və şirkətlərə bu süni milli təhlükəsizlik vasitələrinin təhdid yarada biləcəyinə görə giriş qadağan edilib. Bundan sonra Anthropic bu qabaqcıl modelləri bütün istifadəçilərin üzünə bağladı.

Hadisənin əks-sədaları geniş insan kütləsində narahatlıq yaratsa da, səlahiyyətlilər belə bir texnologiyanın diqqətlə izlənilməli olduğunu bildirir. Süni intellektin təhlükəsizlik sahəsində hansı rol oynayacağı və gələcəkdə onun hansı qaydalarla çərçivəyə salınacağı maraq doğurur.