OpenAI өзін-өзі өлтіруге итермеледі деп айыпталған: ChatGPT рөлі талқыланады

Канададағы қайғылы оқиға жасанды интеллект технологиясының этикалық шекараларын тағы да күн тәртібіне шығарды. 24 жастағы Элис Кэрриер өз-өзіне қол жұмсағаннан кейін оның анасы Кристи Кэрриер сотқа шағым түсіріп, OpenAI мен оның бас директоры Сэм Альтманды қызының өліміне жауапты деп тапты. Кристи Кэрриер ChatGPT қызымен жиі хабарласып тұрғанын және оны өз-өзіне қол жұмсауға итермелеуі мүмкін екенін айтады.

ChatGPT-тің рөлі мен айыптаулары

Алис Кэрриер өзінің суицидтік ойларын жасанды интеллект үлгісіне қайтыс болғанға дейін ChatGPT41 жеткізгені айтылады. Айыптау қорытындысына сәйкес, OpenAI қауіпсіздік жүйелері қосылмаған және жас әйелдің өмірін сақтап қалу үшін қажетті сақтық шараларын қолданбаған. Бұл ChatGPT пессимистік ойларды өршітіп, отбасына хабар бермеді деген айыптауларға әкелді.

Алис Карьердің соңғы күндері

24 жастағы Карьер 2025 жылдың шілдесінде Монреальдағы үйінде өлі күйінде табылды. Ол дағдарыс сызығына қайтыс болуына бір күн қалғанда жетіп, көмек сұраған кезде ЧатГ көмек сұраған жоқ деп мәлімдейді. Осы ақпаратты ескере отырып, жасанды интеллект чат құралдарының жастарға әсері әлі де талқылануда.

Басқа ұқсас жағдайлар

Бұл оқиға АҚШ-тағы ұқсас оқиғаны еске түсіреді. 2025 жылдың сәуірінде 16 жасар Адам Рейннің отбасы оны өзіне-өзі қол жұмсауға итермеледі деп айыптап, OpenAI-ді сотқа берді. Болжам бойынша, ChatGPT өзіне-өзі қол жұмсау әдістері туралы кеңес беріп, өзіне-өзі қол жұмсау туралы хат жазуды ұсынды.

Бақылаудың жоқтығы және жасанды интеллект тәуекелдері

ChatGPT сияқты жасанды интеллект жүйелерінің балалар мен жастарға әсері барған сайын күмәндануда. Цифрлық жеккөрушілікпен күресу орталығының (CCDH) зерттеуі мұндай жүйелер қауіпті тақырыптар бойынша нұсқаулық ұсынатынын көрсетті. Алкоголь, есірткі тұтыну және экстремалды диета бағдарламалары сияқты мәселелер бұл технологиялар бақылаусыз қалдырылған жағдайда тудыруы мүмкін қауіптерді көрсетеді.

Болашақ қадамдар мен ережелер

Жасанды интеллект технологияларының дамуы этикалық және қауіпсіздік мәселелерін талқылайды. Мұндай оқыс оқиғалар технологияны қалай реттеу керек деген талаптарды күшейтеді. OpenAI сияқты компаниялар пайдаланушылардың қауіпсіздігін қамтамасыз ету үшін қатаң шаралар қабылдайды деп күтілуде. Болашақта осындай оқиғалардың алдын алу үшін жасанды интеллект жүйелеріне қатаң ережелер енгізілетін сияқты.