Дэвид Розентал ChatGPT медициналық қатесі үшін OpenAI-ді сотқа береді

Сан-Францискода (АҚШ) тұратын 39 жастағы Дэвид Розентал есірткіні қолдану және дозалау туралы ChatGPT деп аталатын жасанды интеллект үлгісі берген қате ақпарат салдарынан психикалық денсаулығы нашарлады деп, OpenAI компаниясына қарсы сот ісін бастады. Өткен жылдың маусым айында өлең жазу үшін чат ботын қолдана бастаған және оны уақыт өте келе медициналық нұсқаулық ретінде пайдаланған Розенталь жасанды интеллект оның дәрігер тағайындаған көңіл-күйді тұрақтандыратын дәріден бас тарту шешімін қолдады деп сендірді. Осы нұсқаулардан кейін денсаулығы нашарлаған Розенталь апталап ауруханада емделуге мәжбүр болғаны айтылды.

Неге Дэвид Розенталь OpenAI-ді сотқа берді?

Соттағы ақпаратқа сәйкес, назардың жетіспеушілігі және депрессия тарихы бар Дэвид Розенталь ChatGPT есірткінің өзара әрекеттесуі туралы жалған ақпарат берді деп мәлімдеді. Талапкер жасанды интеллект үлгісі оны дәрігердің кеңесіне қарсы әрекет етуге итермеледі, бұл оның ауруханаға жатқызылуына тікелей әкелетін процесті тудырды деп мәлімдеді. Розенталь жасанды интеллекттің медициналық тәжірибесі болмаса да, оның виктимизациясына себеп болған рецепт бойынша берілетін дәрілер бойынша жетекші орган ретінде әрекет ететінін айтты.

Жасанды интеллект жүйелерінің денсаулыққа жауапкершілігі қандай?

Талапкердің адвокаттары пайдаланушылардың өзара әрекеттесуін арттыруға бағытталған жасанды интеллект жүйелерінің құрылымы денсаулық сияқты маңызды салаларда үлкен қауіп төндіретінін алға тартты. Сан-Францискода берілген сотта OpenAI қолданушыларын медициналық шешімдері жоқ бағдарламалық жасақтама арқылы жаңылыстыруы Калифорния заңын бұзды деген пікір айтылды. Әзірге OpenAI-дан мәселеге қатысты ресми мәлімдеме болған жоқ.

Дэвид Розенталдың Сан-Францискодағы талап арызы сотқа денсаулық туралы кеңес беруде жасанды интеллект құралдарының шектерін келтірді. Өткен жылдың маусым айында басталған процесте ChatGPT-тің дәрі-дәрмектің дозасы мен қолданылуына қатысты жауаптары талапкердің дәрігерінің рецептін тоқтатып, кейін бірнеше апта бойы ауруханада емделуіне себеп болды деген болжам бар.

Жасанды интеллект үлгілері беретін ақпарат медициналық кеңес болып табылмайтыны және кәсіби денсаулық сақтау қызметтерін алмастыра алмайтыны жалпы қабылданған факт. Осыған ұқсас сот процестерінде соттар бағдарламалық жасақтама компанияларының жауапкершілік шегін және осы құралдарды пайдалану кезінде пайдаланушылардың қамқорлығын бағалайды. Денсаулығына байланысты проблемалары бар адамдарға жасанды интеллекттің орнына тікелей маман дәрігерлермен кеңесіп, рецепт бойынша емделуіне өзгерістер енгізбес бұрын сарапшыдан пікір алу ұсынылады.

Қорытынды

Бұл оқиға жасанды интеллект құралдары ұсынатын ақпаратты олардың дұрыстығын тексермей қолданудың қаншалықты қауіпті салдары болатынын көрсетеді. Әсіресе денсаулық сияқты өмірлік маңызды мәселелерде, алгоритмдер беретін деректер «ұсынымдар» емес, тек мәтіндік өнім екенін ұмытпаған жөн.

Заң тұрғысынан бұл іс жасанды интеллект компанияларының «бас тарту» мәлімдемелері соттарда жеткілікті болатын-болмайтынын анықтайтын прецедент орнатуы мүмкін. Компаниялардың денсаулыққа қатысты мәселелерде неғұрлым қатаң сүзгілеу жүйелерін әзірлеуі қажет екендігі мұндай жағдайларда жиі кездеседі.

Мүмкін әсерлер

Бұл істің нәтижесі жасанды интеллект компанияларын болашақта денсаулық және заң сияқты сезімтал салаларда ұсынатын мазмұнды бақылаудың қатаң тетіктерін орнатуға әкелуі мүмкін. Пайдаланушылардың қауіпсіздігін қамтамасыз ету үшін компаниялар медициналық мәселелерге жауап беруді толығымен шектейді немесе мұндай сұрақтарды тікелей кәсіби денсаулық сақтау ресурстарына жібереді деп күтуге болады.

Сонымен қатар, бұл процесс пайдаланушылардың жасанды интеллектке деген сенімін әлсіретіп, технологиялық компанияларға қатысты ұқсас өтемақы істерінің көбеюіне әкелуі мүмкін. Мұндай жағдайларда заң жүйесі қабылдаған шешімдер жасанды интеллект технологиясын коммерциялық пайдалану шекараларын қайта белгілеуі мүмкін.