ChatGPT'ye Güvenen Rahip Ölümden Döndü: OpenAI ve Sam Altman'a Tarihi Dava!

Amerika Birleşik Devletleri'nin California eyaleti, yapay zeka teknolojilerinin hukuki ve etik sınırlarını yeniden çizecek son derece kritik bir davaya ev sahipliği yapıyor. Florida eyaletinde ikamet eden rahip Scott Winters, yaşadığı ciddi sağlık sorunları nedeniyle başvurduğu yapay zeka sohbet robotu ChatGPT'nin kendisini yanlış yönlendirdiği ve hayati tehlikeyle baş başa bıraktığı gerekçesiyle teknoloji devi OpenAI şirketi ile CEO Sam Altman'ı mahkemeye verdi. California'da açılan davanın dosyasında, yapay zeka şirketine yöneltilen ana suçlamalar arasında "yetkisiz hekimlik yapmak" ve "ağır ihmalkarlık" gibi ciddi ithamlar yer alıyor.

Yapay Zekanın Yanıltıcı Teşhisi Hayati Tehlike Yarattı

The New York Times gazetesinin ulaştığı resmi adli belgelere göre, davanın arka planındaki olaylar zinciri 2024 yılında başladı. Rahip Scott Winters, vücudunda hissettiği fiziksel şikayetleri ve semptomları detaylı bir şekilde ChatGPT'ye aktardı. Yapay zeka sisteminin başlangıçta kullanıcıya profesyonel bir tıbbi destek almasını önermesine rağmen, diyalog derinleştikçe bu sınırları aşarak doğrudan tıbbi teşhis niteliği taşıyan kesin tavsiyeler vermeye başladığı tespit edildi.

Ölümcül İhmal: Akciğer Embolisi ve Yoğun Bakım Süreci

Dava dilekçesinde yer alan en sarsıcı detay ise yapay zekanın, hastayı durumunun tehlikeli olmadığına ikna etmesi oldu. ChatGPT'nin telkinlerine ve yönlendirmelerine güvenen Winters, hastaneye gitmekten vazgeçti ve acil tıbbi tedavisini erteledi. Ancak kısa bir süre sonra durumu hızla kötüleşen rahip, ölümcül bir akciğer embolisi geçirerek acil servise kaldırıldı. Günlerce yoğun bakım ünitesinde yaşam mücadelesi veren Winters, yapay zeka sohbet robotunun tıbbi konularda hiçbir güvenlik filtresine sahip olmadığını ve insan hayatını hiçe saydığını iddia ediyor.

OpenAI Kullanıcı Sözleşmesini Kalkan Yapıyor

Suçlamaların odağında yer alan OpenAI cephesi ise savunmasını doğrudan kullanıcı sözleşmesi kuralları üzerine kuruyor. Şirket sözcüsü tarafından yapılan resmi açıklamada, platformun kesinlikle bir hastalık tanısı koyma veya tedavi yöntemi belirleme amacıyla kullanılamayacağının kullanım kurallarında açıkça belirtildiği vurgulandı. Sözcü, sağlıkla ilgili sorgularda sistemi en güvenli hale getirmek için algoritmik güncellemelerin aralıksız sürdürüldüğünü ifade etti.

Silikon Vadisi'ndeki hukuk uzmanları, bu adli sürecin yalnızca OpenAI için değil, tüm üretken yapay zeka sektörü için tarihi bir dönüm noktası olacağı görüşünde birleşiyor. Amerikan Gıda ve İlaç Dairesi (FDA) standartlarına göre tıbbi cihaz statüsünde kabul edilmeyen bu yazılımların, insan hayatına doğrudan etki eden tıbbi tavsiyeler vermesi halinde doğacak tazminat ve ceza yükümlülükleri, ilk kez bu davanın sonucunda netlik kazanacak.