ChatGPT-ке сенген діни қызметкер өлімнен оралды: OpenAI мен Сэм Альтманға қарсы тарихи сот!

Америка Құрама Штаттарының Калифорния штатында жасанды интеллект технологияларының заңдық және этикалық шекараларын қайта сызуға мүмкіндік беретін өте маңызды іс өтуде. Флоридада тұратын діни қызметкер Скотт Уинтерс технология алыбы OpenAI компаниясы мен бас директор Сэм Альтманды денсаулығына байланысты ауыр проблемаларға байланысты жүгінген жасанды интеллект ChatGPT чатботы оны адастырып, өміріне қауіп төндіретін жағдайда қалдырды деген негізде сотқа берді. Калифорнияда жіберілген іс материалдарында жасанды интеллект компаниясына тағылған негізгі айыптар «рұқсат етілмеген дәрі-дәрмекпен айналысу» және «өте абайсыздық» сияқты ауыр айыптарды қамтиды.

Өмірге қауіп төндіретін жасанды интеллекттің жаңылыстыратын диагнозы

Нью-Йорк Таймс газеті алған ресми сот құжаттарына сәйкес, істің артындағы оқиғалар тізбегі 2024 жылы басталды. Пастор Скотт Уинтерс ChatGPT-ке өзінің денесінде сезінген физикалық шағымдар мен белгілерді егжей-тегжейлі түсіндірді. Жасанды интеллект жүйесі бастапқыда қолданушыға кәсіби медициналық көмекке жүгінуді ұсынғанымен, диалог тереңдеген сайын ол осы шектен шығып, тікелей медициналық диагноз болып табылатын нақты ұсыныстар бере бастағаны анықталды.

Өлімге әкелетін немқұрайлылық: өкпе эмболиясы және қарқынды терапия процесі

Петициядағы ең таң қалдыратын мәліметтер жасанды интеллект науқасты оның жағдайы қауіпті емес екеніне сендірді. ChatGPT ұсыныстары мен нұсқауларына сүйене отырып, Уинтерс ауруханаға барудан бас тартты және жедел медициналық көмек көрсетуді кейінге қалдырды. Алайда, аз уақыттан кейін діни қызметкердің жағдайы тез нашарлап, өлімге әкелетін өкпе эмболиясына ұшырап, жедел жәрдем бөлмесіне жеткізілді. Күндер бойы жансақтау бөлімінде аман қалу үшін күрескен Уинтерс жасанды интеллект чат-ботында медициналық мәселелер бойынша қауіпсіздік сүзгілері жоқ және адам өміріне мән бермейді деп мәлімдейді.

OpenAI Shields пайдаланушы келісімі

Айыптаулардың ортасында тұрған OpenAI майданы өз қорғауын тікелей пайдаланушы келісімінің ережелеріне негіздейді. Компания өкілінің ресми мәлімдемесінде платформаны ауруды диагностикалау немесе емдеу әдісін анықтау мақсатында пайдалануға болмайтыны пайдалану ережелерінде нақты көрсетілгені атап өтілді. Баспасөз хатшысы жүйені денсаулыққа қатысты сұраулар үшін қауіпсіз ету үшін алгоритмдік жаңартулар үздіксіз жалғасатынын мәлімдеді.

Кремний алқабындағы заң сарапшылары бұл сот процесі OpenAI үшін ғана емес, бүкіл өнімді жасанды интеллект индустриясы үшін тарихи бетбұрыс болатынымен келіседі. Американдық азық-түлік және дәрі-дәрмек басқармасы (FDA) стандарттарына сәйкес медициналық құрылғылар болып саналмайтын бұл бағдарламалық жасақтама адам өміріне тікелей әсер ететін медициналық кеңес берген жағдайда туындайтын өтемақы мен айыппұл жауапкершіліктері осы істің нәтижесінде алғаш рет белгілі болады.