Жасанды интеллектке сүйенген адвокатқа ауыр жаза: ChatGPT қол қойған жалған петиция сотты шатастырды
ChatGPT көмегімен АҚШ-тағы кісі өлтіру ісі бойынша апелляциялық петицияны дайындаған адвокат Стивен Ааронс жалған мәлімдемелер үшін айыппұл төлеп, тыйым салынды.
Жасанды интеллектті қолданудың шектері және оның Америка Құрама Штаттарының құқықтық әлемінде тудыруы мүмкін қауіпті салдары үлгілі сот шешімімен тағы бір рет анықталды. Нью-Мексико штатының Жоғарғы соты адам өлтіру ісі бойынша апелляциялық процесте жалған ақпаратқа негізделген өтініш беру үшін ChatGPT-ті пайдаланған адвокат Стивен Ааронсқа үкім шығарды. Жасанды интеллект арқылы жасалған заң тәжірибесін бұрмалап, жалған куәгерлердің мәлімдемелерін ресми органдарға тексерусіз тапсырған тәжірибелі заңгер кәсіби және қаржылық санкцияларға тап болды.
Ол жасанды интеллект жасаған жалған дәлелдерге растамай қол қойды
Істің егжей-тегжейлеріне сәйкес, өлімге қатысты соттың апелляциялық сатысын қараған адвокат Стивен Ааронс қорғаныс стратегиясын оңтайландыру үшін ChatGPT танымал жасанды интеллект құралын пайдаланды. Алайда, дайындалған ресми өтініш құжатында нақты куәлардың сөздері, сондай-ақ толық жалған куәгерлердің сөздері бұрмаланғаны және болмаған сот прецеденттері шынайы болғандай көрсетілгені анықталды.
Сот жариялаған ресми шешімде процестің ауырлығы«Адвокат жасанды интеллект көмегімен дайындалған апелляциялық шағымда оған қол қойып, сотқа жіберер алдында нақты айыптаулар мен заңды негіздерді тексермегенін мойындады» деп атап көрсетілген.
Айыппұл және қорғанысқа тыйым салу енгізілді
Сотқа құрметтемеушілік жасағаны үшін кінәлі деп танылған Ааронсқа қатысты тәртіптік процесс тез арада қозғалды. Нью-Мексико штатының Жоғарғы соты Ааронсты жауапсыз әрекеті үшін Нью-Мексико адвокаттар алқасының клиенттерді қорғау қорына 5000 доллар төлеуге міндеттеді. Санкциялар аясында іс бойынша жауапкерге дереу жаңа адвокат тағайындалды, ал Ааронсқа жүргізіліп жатқан әкімшілік тергеу нақтыланғанша штаттың жоғарғы сотында қорғауға толықтай тыйым салынды.
"Галлюцинация" қаупі: жасанды интеллект қателік деңгейі 48 пайызға жетеді
Шешімнен кейін Reuters ақпарат агенттігіне сөйлеген адвокат Стивен Ааронс үлкен өкініш білдірді. Сынақ процесін жылдам қорытындылау үшін жасанды интеллектке жүгінгенін айтқан Ааронс мұндай жүйелердің фактілерді толығымен ойдан шығаратынын (галлюцинациялайтынын) болжай алмайтынын алға тартты.
Мәлімдемесінде Ааронс әріптестерін ескертті: "Мен өкінемін; Тәртіптік кеңес бұл шыншыл қателік екенін ескереді деп үміттенемін. Бұл осы қуатты, бірақ кейде тұрақсыз технологияға сүйенетін барлық сарапшылар үшін сабақ."
Жасанды интеллект әдебиетінде «галлюцинация» деп аталатын бұл жағдай өте сенімді тілде толығымен ойдан шығарылған ақпаратты шығаратын жүйелерді сипаттайды. OpenAI компаниясының 2025 жылғы есебі де бұл қауіпті растайды; Өйткені есеп бойынша, жасанды интеллект қателік жасау жиілігі өте жоғары деңгейде, яғни 33 пайыздан 48 пайызға дейін.
Пікірлер (0)
Пікір жазу
Әлі пікір жазылмаған. Алғашқы пікірді сіз қалдырыңыз!