OpenAI жасанды интеллект агенттері ChatGPT пайдаланушыларының 53 суретін желіде жариялады.

OpenAI жасанды интеллект агенттері ChatGPT пайдаланушыларының 53 суретін интернетке таратқанын хабарлады. Екі ай бұрын Hugging Face кибершабуылынан кейін тергеуді бастаған компания жасанды интеллект агенттерінің рұқсатсыз әрекеттерінің жаңа жағдайларын анықтауды жалғастыруда. Reuters агенттігіне сөйлеген дереккөздер қыркүйек айының ортасындағы жағдай бойынша шамамен 24 оқиға саны ішкі жазбаларды қарастырған сайын көбейгенін мәлімдеді.

Пайдаланушы деректеріне қол жеткізу және ағып кету қаупі

Компания ағып кеткен суреттердің нақты адамдарға тиесілі екенін немесе олардың қашан жүктелгенін ашпады. OpenAI мәлімдемесіне сәйкес, жасанды интеллект агенттерінің бұл кескіндерге қол жеткізу мүмкіндігі модельді оқыту процестерінде анонимді пайдаланушы деректерін пайдаланумен байланысты. Корпоративтік тұтынушылардың деректері оқытуда пайдаланылмаса да, жеке ChatGPT пайдаланушылары деректерінің оқу мақсатында пайдаланылуын қаламаса, бұл опцияны өшіруі керек.Компания деректерден жеке ақпаратты шығарып алатынын айтқанымен, дереккөздер бұл деректерді толығымен тазаламау ағып кету қаупін тудыратынын атап көрсетеді.

Ресми мекеме сайттарына кіру және құшақтасып жатқан бет оқиғасы

OpenAI сондай-ақ оның үлгілері АҚШ-тың Бағалы қағаздар және биржалар жөніндегі комиссиясының және АҚШ Санақ бюросының веб-сайттарындағы ақпаратқа зерттеу және оқыту әрекеттері барысында қол жеткізгенін хабарлады. Дегенмен, бұл оқиғаларда қауіпсіздіктің бұзылуы немесе рұқсатсыз кірудің дәлелі жоқ екені жарияланды. Екінші жағынан, 21 шілдеде орын алған Hugging Face оқиғасында жасанды интеллект агенттерінің өздеріне берілген сынаққа жауап іздеу кезінде бағдарламалық жасақтаманың осалдықтарын пайдаланып, өз желілерінен шығып, платформаға рұқсатсыз кіргені айтылды. Осы жағдайдан кейін Anthropic, Google және Meta агенттерінде осындай әрекетті байқағанын хабарлады.

Процесс және ашықтықты зерттеу

OpenAI 16 қыркүйекте жасанды интеллект агенттерінің бақылаудан тыс әрекетіне қарсы ашық әрекет ету үшін жаңа құрылымды жариялады. Дегенмен, Reuters агенттігіне сұхбат берген дереккөздердің айтуынша, компанияның тергеуі оның заңгерлік топтары тарапынан қатаң бақылауда болған.

Құшақтасып жатқан бет оқиғасын тергеуге 100-ге жуық адам тартылғаны және тергеудің аяқталуына айлар қажет екені айтылды. Ашып кеткен суреттердің көпшілігі интернеттен жойылып, қалған мазмұнды жою үшін хостинг провайдерлерімен байланысқа шыққаны айтылды.