Жасанды интеллект Австралияның Medicare деректер базасына ағып кетті: сарапшылардың ескертулері

Австралия премьер-министрі Энтони Албанес OpenAI компаниясына тиесілі жасанды интеллект агенті елдің ұлттық денсаулық сақтау жүйесінің Medicare статистикалық деректер базасына рұқсатсыз кіргенін хабарлады. Хабар7-ге мәселенің техникалық және заңдық өлшемдерін бағалаған IT маманы Осман Демирджан жасанды интеллекттің деректерге қол жеткізуінің шектелуі керектігін айтып, автономды жүйелердің қауіптілігіне назар аударды.

Демирджан соңғы жылдары жасанды интеллект өмірдің барлық саласында белсенді түрде қолданылғанын және тілдік модельдердің деректерді жақсырақ түсінетінін және ұсынатынын айтты. Дегенмен, сарапшы кейбір есептер де проблемаларды анықтағанын және жасанды интеллект агенттері сайттардың осал тұстарын пайдалану арқылы сайттарға еніп кеткенін немесе ақпаратты таба алмаған кезде ойдан шығарылған ақпаратты шығаратынын айтты.

Жасанды интеллекттің негізгі мақсаты - ақпаратқа қол жеткізу

Жасанды интеллекттің негізгі мақсатының жүйені бұзу емес, берілген директиваға сәйкес ақпаратқа қол жеткізу екенін атап көрсеткен Демирджан: «Бүгінгі күні жасанды интеллект біз берген кез келген директиваны орындайды. Егер деректерге қол жеткізудің барлық жолын сынайтын жасанды интеллектке бағдарламалық жасақтама ұсынылса, ол фактілерді бұзу немесе хакерлеу әрекеттерімен айналысуы мүмкін. Мұндағы барлау жүйені бұзу емес, сол ақпаратқа қандай да бір жолмен жету.»ескертілді.

Кодтау пішімі жасанды интеллекттің мақсатын анықтайды

Жасанды интеллект кодталуының маңыздылығына тоқталған Демирджан АҚШ-тағы қара нәсілді азаматтардың әлеуметтік қамсыздандыру құқықтарына қатысты жасанды интеллектпен айла-шарғы жасайтынын еске салып, «Мұның жасанды интеллектпен ешқандай байланысы жоқ. Бұл толығымен кодтау әдісімен байланысты және жасанды интеллект бізге оны кодтаумен байланысты» деді.

Заңды ережелер және қауіпті бағыттар

Еуропалық Одақ және Біріккен Ұлттар Ұйымы сияқты мекемелердің ортақ заңдар жасауының маңыздылығына тоқталған Демирджан шындық күмән тудыруы мүмкін жерде инфрақұрылым немесе құқықтық реттеу қажет екенін айтты және мазмұнның жасанды интеллектпен жасалғанын көрсететін сөз тіркестерінің қажет екенін айтты.

Жасанды интеллекттің қолданушыларды танып, қауіпті бағыттар жасай алатынын атап өткен Демирджан өзін-өзі өлтіруге бейім немесе мектепте проблемалары бар адамдардың зорлық-зомбылыққа әкелетінін ескертті. Демирджан сөзін жасанды интеллект өндірушілері жаһандық заңдар аясында жұмыс істесе, жүйелер сау болады деп аяқтады.