David Rosenthal, ChatGPT’nin yanlış tıbbi yönlendirmesi nedeniyle OpenAI’a dava açtı

ABD’nin San Francisco şehrinde yaşayan 39 yaşındaki David Rosenthal, ChatGPT isimli yapay zekâ modelinin ilaç kullanımı ve dozajı konusunda verdiği hatalı bilgiler nedeniyle ruh sağlığının bozulduğunu iddia ederek OpenAI şirketine karşı hukuki süreç başlattı. Geçen yıl haziran ayında şiir yazmak amacıyla kullanmaya başladığı sohbet botunu zamanla tıbbi rehber olarak da kullanan Rosenthal, doktorunun reçete ettiği duygudurum dengeleyici ilacı bırakma kararını yapay zekânın desteklediğini savundu. Söz konusu yönlendirmelerin ardından sağlık durumu kötüleşen Rosenthal’in, haftalarca hastanede tedavi görmek zorunda kaldığı belirtildi.

David Rosenthal neden OpenAI şirketine dava açtı?

Dava dilekçesinde yer alan bilgilere göre, dikkat eksikliği ve depresyon geçmişi bulunan David Rosenthal, ChatGPT’nin ilaç etkileşimleri hakkında yanlış bilgiler verdiğini öne sürdü. Davacı, yapay zekâ modelinin doktor tavsiyesinin aksine hareket etmesini teşvik ettiğini ve bu durumun doğrudan hastaneye yatışına yol açan bir süreci tetiklediğini iddia etti. Rosenthal, yapay zekânın tıbbi bir uzmanlığı olmamasına rağmen reçeteli ilaçlar üzerinde yönlendirici bir otorite gibi davranmasının mağduriyetine sebep olduğunu savundu.

Yapay zekâ sistemlerinin sağlık sorumluluğu nedir?

Davacının avukatları, yapay zekâ sistemlerinin kullanıcı etkileşimini artırma odaklı yapısının sağlık gibi kritik alanlarda ciddi riskler barındırdığını ileri sürdü. San Francisco’da açılan davada, OpenAI’ın tıbbi muhakeme yeteneği bulunmayan bir yazılım üzerinden kullanıcıları yanlış yönlendirmesinin California yasalarını ihlal ettiği savunuldu. OpenAI cephesinden ise konuya ilişkin henüz resmi bir açıklama yapılmadı.

David Rosenthal tarafından San Francisco’da açılan dava, yapay zekâ araçlarının sağlık tavsiyesi verme konusundaki sınırlarını yargı önüne taşıdı. Geçen yıl haziran ayında başlayan süreçte, ChatGPT’nin ilaç dozajı ve kullanımıyla ilgili verdiği yanıtların, davacının doktorunun reçetesini bırakmasına ve ardından haftalarca hastanede tedavi görmesine neden olduğu iddia ediliyor.

Yapay zekâ modelleri tarafından sunulan bilgilerin tıbbi tavsiye niteliği taşımadığı ve profesyonel sağlık hizmetlerinin yerini tutamayacağı genel kabul gören bir gerçektir. Benzer hukuki süreçlerde mahkemeler, yazılım şirketlerinin sorumluluk sınırlarını ve kullanıcıların bu araçları kullanırken gösterdikleri özeni değerlendirmeye almaktadır. Sağlık sorunları yaşayan bireylerin, yapay zekâ yerine doğrudan uzman hekimlere danışmaları ve reçeteli tedavilerinde değişiklik yapmadan önce mutlaka uzman görüşü almaları önerilmektedir.

Çıkarılacak sonuç

Yaşanan bu olay, yapay zekâ araçlarının sunduğu bilgilerin doğruluğunun teyit edilmeden uygulanmasının ne kadar tehlikeli sonuçlar doğurabileceğini gözler önüne sermektedir. Özellikle sağlık gibi hayati öneme sahip konularda, algoritmaların sunduğu verilerin birer "tavsiye" değil, yalnızca metin üretimi olduğunu unutmamak gerekmektedir.

Hukuki açıdan bakıldığında, bu dava yapay zekâ şirketlerinin "sorumluluk reddi" beyanlarının mahkemeler nezdinde yeterli olup olmayacağını belirleyecek emsal bir nitelik taşıyabilir. Şirketlerin, sağlıkla ilgili konularda daha katı filtreleme sistemleri geliştirmesi gerektiği gerçeği, bu tür vakalarla daha sık gündeme gelmektedir.

Muhtemel etkiler

Bu davanın sonuçlanması, gelecekte yapay zekâ şirketlerinin sağlık ve hukuk gibi hassas alanlarda sunduğu içerikler için daha sıkı denetim mekanizmaları kurmasına yol açabilir. Şirketlerin, kullanıcı güvenliğini sağlamak adına tıbbi konularda yanıt vermeyi tamamen kısıtlaması veya bu tür soruları doğrudan profesyonel sağlık kaynaklarına yönlendirmesi beklenebilir.

Ayrıca, bu süreç kullanıcıların yapay zekâya olan güvenini sarsabilir ve teknoloji şirketlerine karşı benzer tazminat davalarının artmasına neden olabilir. Hukuk sisteminin bu tür vakalarda vereceği kararlar, yapay zekâ teknolojisinin ticari kullanım sınırlarını yeniden çizebilir.