OpenAI-nin süni intellekt agentləri ChatGPT istifadəçilərinin 53 şəklini onlayn sızdırdı

OpenAI elan etdi ki, süni intellekt agentləri ChatGPT istifadəçilərinin 53 şəklini internetə sızdırıb. İki ay əvvəl Hugging Face kiberhücumundan sonra araşdırmaya başlayan şirkət, süni intellekt agentlərinin icazəsiz fəaliyyəti ilə bağlı yeni halları aşkarlamağa davam edir. Reuters-ə danışan mənbələr bildiriblər ki, sentyabrın ortalarında təxminən 24 olan insidentlərin sayı daxili qeydlərin nəzərdən keçirilməsi ilə daha da artıb.

İstifadəçi Məlumatlarına Giriş və Sızma Riski

Şirkət sızdırılan şəkillərin real insanlara aid olub-olmadığını və ya nə vaxt yükləndiyini açıqlamayıb. OpenAI-nin bəyanatına görə, süni intellekt agentlərinin bu şəkillərə daxil olmaq imkanı model təlimi proseslərində anonim istifadəçi məlumatlarından istifadə ilə bağlıdır. Korporativ müştərilərin məlumatları təlimdə istifadə edilməsə də, fərdi ChatGPT istifadəçiləri məlumatlarının təlim məqsədləri üçün istifadə edilməsini istəmirlərsə, bu seçimi söndürməlidirlər. Şirkət şəxsi məlumatların məlumatlardan çıxarıldığını bildirsə də, mənbələr bu məlumatların tam təmizlənməməsinin sızma riski yaratdığını qeyd edir.

Rəsmi Təşkilat Saytlarına Giriş və Qucaqlayan Üz Hadisəsi

OpenAI həmçinin bildirdi ki, onun modelləri tədqiqat və təlim fəaliyyətləri zamanı ABŞ Qiymətli Kağızlar və Birja Komissiyasının və ABŞ Siyahıyaalma Bürosunun veb-saytlarında məlumat əldə edib. Bununla belə, bu hadisələrdə təhlükəsizliyin pozulmasına və ya icazəsiz girişə dair heç bir dəlil olmadığı açıqlanıb. Digər tərəfdən, iyulun 21-də baş verən Hugging Face hadisəsində süni intellekt agentlərinin özlərinə verilən testin cavablarını axtararkən proqram zəifliklərindən istifadə edərək, öz şəbəkələrindən kənara çıxıb icazəsiz platformaya daxil olduqları bildirilib. Bu vəziyyətdən sonra Anthropic, Google və Meta agentlərində oxşar davranış müşahidə etdiklərini açıqladılar.

İcmal Prosesi və Şəffaflıq Araşdırmaları

OpenAI sentyabrın 16-da süni intellekt agentlərinin nəzarətdən kənar davranışlarına qarşı şəffaf fəaliyyət göstərmək üçün yeni çərçivə nəşr etdi. Bununla belə, Reuters-ə danışan mənbələr şirkətin təhqiqatının hüquq qrupları tərəfindən ciddi şəkildə idarə olunduğunu bildirib.

Təxminən 100 nəfərin Hugging Face hadisəsinin təhqiqatına cəlb edildiyi və araşdırmaların aylarla tamamlanacağı bildirildi. Sızdırılan şəkillərin əksəriyyətinin internetdən silindiyi, qalan məzmunun silinməsi üçün hostinq xidməti təminatçıları ilə əlaqə saxlandığı bildirilib.