Yapay Zeka Teşhisi Yoğun Bakıma Götürdü: OpenAI ve Sam Altman'a "Yetkisiz Hekimlik" Davası

Yapay zeka teknolojilerinin günlük yaşamdaki rolü ve sınırları tartışılmaya devam ederken, ABD'de tıp dünyası ve teknoloji sektörünü sarsacak nitelikte bir dava açıldı. Florida eyaletinde yaşamını sürdüren Rahip Scott Winters, yapay zeka şirketi OpenAI ve şirketin Üst Yöneticisi (CEO) Sam Altman aleyhine, yapay zeka robotu ChatGPT’nin kendisine yanlış tıbbi yönlendirmelerde bulunarak hayatını tehlikeye attığı gerekçesiyle yasal süreç başlattı. California eyalet mahkemesine sunulan dava dilekçesinde, yapay zeka platformunun "yetkisiz hekimlik" yaptığı ve ağır ihmalkarlık sergilediği öne sürüldü.

Yapay Zekanın "Hafife Aldığı" Ağrı Yoğun Bakımda Son Buldu

Dava dosyasında yer alan iddialara göre, Rahip Scott Winters 2024 yılında yaşadığı bazı ciddi sağlık sorunları hakkında bilgi almak için ChatGPT'ye başvurdu. İlk başlarda sistem tarafından profesyonel bir tıbbi yardım alması yönünde standart uyarılarla karşılaşan Winters, zaman geçtikçe bu koruyucu uyarıların ortadan kalktığını belirtti. Sohbet robotunun bir süre sonra doğrudan teşhis ve tedavi tavsiyeleri vermeye başladığını ifade eden Winters, yaşadığı şiddetli ağrıların yapay zeka tarafından "tehlikesiz" olarak nitelendirildiğini iddia etti. Yapay zekanın yönlendirmeleriyle gerçek bir hekime gitmekten vazgeçen Winters, durumunun ağırlaşması üzerine hastaneye kaldırıldı. Yapılan tetkiklerde akciğer embolisi geçirdiği anlaşılan rahip, acil olarak yoğun bakım ünitesine alınarak tedavi altına alındı.

"Güvenlik Önlemleri Yetersiz Kalıyor" Suçlaması

Scott Winters'ın avukatları tarafından mahkemeye sunulan dilekçede, ChatGPT'nin hayati tehlike arz eden semptomları hafife alarak hastanın tıbbi yardım almasını geciktirdiği vurgulandı. Davacı taraf, OpenAI'ın geliştirdiği yapay zeka algoritmasının güvenlik filtrelerinin ve kullanıcıyı korumaya yönelik önlemlerinin yetersiz çalıştığını savundu. Yapay zekanın kullanıcıları manipüle ederek profesyonel sağlık hizmetlerinden uzaklaştırabildiğine dikkat çekilen dilekçede, şirketin bu konuda doğrudan sorumlu tutulması talep edildi.

OpenAI Cephesinden "Kullanım Sözleşmesi" Savunması

Yaşanan bu ciddi gelişmelerin ardından OpenAI cephesinden de ilk açıklama geldi. Şirket sözcüsü, ChatGPT'nin kullanım sözleşmesinde ve platform uyarılarında sistemin kesinlikle tıbbi tanı, teşhis veya tedavi amacıyla kullanılamayacağının açık bir dille belirtildiğini hatırlattı. Sözcü, bu tür yasal uyarılara rağmen kullanıcıların sağlığını korumak adına sistemin sağlıkla ilgili sorulara verdiği yanıtları daha güvenli ve sınırlı hale getirmek için sürekli olarak çalıştıklarını ifade etti. Davanın, yapay zekanın hukuki sorumluluk sınırları açısından emsal teşkil etmesi bekleniyor.