David Rosenthal, ChatGPT-nin tibbi səhv istiqamətləndirilməsinə görə OpenAI-ni məhkəməyə verir

ABŞ-ın San-Fransisko şəhərində yaşayan 39 yaşlı David Rosenthal, ChatGPT adlı süni intellekt modeli tərəfindən narkotik istifadəsi və dozası ilə bağlı verilən yanlış məlumatlar səbəbindən psixi sağlamlığının pisləşdiyini iddia edərək, OpenAI şirkətinə qarşı məhkəmə prosesi başlatdı. Keçən ilin iyun ayından şeirlər yazmaq üçün söhbət botundan istifadə etməyə başlayan və zamanla ondan tibbi bələdçi kimi də istifadə edən Rosenthal, süni intellektin həkiminin təyin etdiyi əhval-ruhiyyəni sabitləşdirən dərmanı buraxmaq qərarını dəstəklədiyini müdafiə etdi. Bu göstərişlərdən sonra səhhəti pisləşən Rosenthalın həftələrlə xəstəxanada müalicə almalı olduğu bildirilib.

Niyə David Rosenthal OpenAI-ı məhkəməyə verdi?

İddiadakı məlumatlara görə, diqqət çatışmazlığı və depressiya keçmişi olan David Rosenthal, ChatGPT-nin dərmanlarla qarşılıqlı əlaqə haqqında yalan məlumat verdiyini iddia etdi. İddiaçı iddia etdi ki, süni intellekt modeli onu həkimin tövsiyələrinə zidd hərəkət etməyə təşviq edib və bu, birbaşa xəstəxanaya yerləşdirilməsinə səbəb olan bir prosesə səbəb olub. Rosenthal iddia etdi ki, süni intellektin tibbi təcrübəsi olmasa da, onun qurbanı olmasına səbəb olan reçeteli dərmanlar üzrə rəhbər orqan rolunu oynayır.

Süni intellekt sistemlərinin sağlamlıq məsuliyyəti nədir?

İddiaçının vəkilləri iddia etdilər ki, süni intellekt sistemlərinin strukturu istifadəçilərlə qarşılıqlı əlaqənin artırılmasına yönəldilib, sağlamlıq kimi kritik sahələrdə ciddi risklər yaradır. San-Fransiskoda açılan iddiada, OpenAI-nin tibbi mülahizələri olmayan proqram təminatı vasitəsilə istifadəçiləri aldatmasının Kaliforniya qanunlarını pozduğu iddia edildi. OpenAI-dən məsələ ilə bağlı hələlik rəsmi açıqlama verilməyib.

Devid Rosenthalın San-Fransiskoda açdığı iddia məhkəməyə sağlamlıqla bağlı məsləhətlərin verilməsində süni intellekt vasitələrinin məhdudiyyətlərini gətirdi. İddia olunur ki, keçən ilin iyun ayında başlayan prosesdə ChatGPT-nin dərman dozası və istifadəsi ilə bağlı cavabları iddiaçının həkiminin reseptini dayandırmasına və daha sonra həftələrlə xəstəxanada müalicə olunmasına səbəb olub.

Süni intellekt modelləri tərəfindən verilən məlumatların tibbi məsləhət olmadığı və peşəkar səhiyyə xidmətlərini əvəz edə bilməyəcəyi ümumi qəbul edilmiş faktdır. Oxşar hüquqi proseslərdə məhkəmələr proqram təminatı şirkətlərinin məsuliyyət hədlərini və istifadəçilərin bu vasitələrdən istifadə edərkən göstərdikləri diqqəti qiymətləndirirlər. Sağlamlıq problemləri ilə üzləşən şəxslərin reçeteli müalicələrində dəyişiklik etməzdən əvvəl süni intellekt əvəzinə birbaşa mütəxəssis həkimlərlə məsləhətləşmələri və ekspert rəyi almaları tövsiyə olunur.

Nəticə

Bu hadisə süni intellekt alətləri tərəfindən verilən məlumatların düzgünlüyünü yoxlamadan tətbiqinin nə qədər təhlükəli nəticələri ola biləcəyini göstərir. Unudulmamalıdır ki, xüsusilə sağlamlıq kimi həyati əhəmiyyətli məsələlərdə alqoritmlərin təqdim etdiyi məlumatlar “tövsiyə” deyil, yalnız mətn istehsalıdır.

Hüquqi nöqteyi-nəzərdən bu iş süni intellekt şirkətlərinin "imtina" ifadələrinin məhkəmələrdə kifayət olub-olmayacağını müəyyən edəcək presedent yarada bilər. Şirkətlərin sağlamlıqla bağlı məsələlərdə daha sərt filtrasiya sistemləri hazırlamalı olması belə hallarla daha tez-tez gündəmə gəlir.

Mümkün təsirlər

Bu işin nəticəsi süni intellekt şirkətlərini gələcəkdə sağlamlıq və hüquq kimi həssas sahələrdə təmin etdikləri məzmuna daha sərt nəzarət mexanizmləri yaratmağa vadar edə bilər. İstifadəçilərin təhlükəsizliyini təmin etmək üçün şirkətlərin tibbi məsələlərə cavab verməsini tamamilə məhdudlaşdırması və ya bu cür sualları birbaşa peşəkar səhiyyə resurslarına yönləndirməsi gözlənilə bilər.

Bundan əlavə, bu proses istifadəçilərin süni intellektə inamını sarsıda və texnologiya şirkətlərinə qarşı oxşar təzminat işlərinin artmasına səbəb ola bilər. Belə hallarda hüquq sistemi tərəfindən qəbul edilən qərarlar süni intellekt texnologiyasının kommersiya istifadəsinin sərhədlərini yenidən müəyyən edə bilər.

Fikirləriniz

Sizcə şirkətlər sağlamlıqla bağlı məsləhətlər verən süni intellekt alətləri ilə bağlı nə qədər məsuliyyət daşımalıdırlar? Proqram təminatının yanlış istiqamətləndirilməsi nəticəsində yaranan sağlamlıq problemlərinə görə bu texnologiyanı inkişaf etdirən şirkətlər və ya istifadəçilər daha çox məsuliyyət daşımalıdırlar? Fikirlərinizi şərhlərdə paylaşa bilərsiniz.