Epilepsi ilacını ChatGPT'nin hazırladığı takvimle bırakmasının ardından hayatını kaybeden 28 yaşındaki Bowen Wan'ın ailesi OpenAI şirketine dava açtı.
Epilepsi ilacını bıraktıktan sonra hayatını kaybeden 28 yaşındaki bir kadının ailesi, yapay zeka şirketinin genç kadını hayati önemdeki ilacı kesmeye teşvik ettiğini belirterek OpenAI aleyhine dava açtı.
The New York Times gazetesinin haberine göre ABD'nin Seattle kentinde yaşayan Çin asıllı Bowen Wan, Şubat 2023'te ChatGPT ile yazışmaya başladı ve yapay zeka sohbet robotunu bir tür dert ortağı haline getirdi.
Amazon'daki yazılım işinden ağır seyreden epilepsisi yüzünden maluliyet iznine ayrılan Wan, tıbbi tavsiyeler almak için sohbet robotuna danışmaya yöneldi.
Kasım 2025'te işten çıkarılmasının ardından yeşil kart statüsünü koruyabilmek amacıyla yeni bir iş aramaya koyulan genç kadın, epilepsi tedavisinde aldığı lamotrijin adlı ilacın yan etkilerinin çalışma yetisini engelleyeceğinden kaygı duyuyordu.
Dava dilekçesinde, yapay zekanın Wan'a lamotrijin kullanımını kademeli olarak azaltarak bırakmasını salık verdiği kaydedildi.
Dilekçede genç kadının içine düştüğü çaresizlik ve yapay zekanın yönlendirmesi şu sözlerle yer alıyor: "Yeşil kartı artık aylar içinde yeni bir işveren bulmasına bağlıydı. Amazon'daki işi ve dolayısıyla ABD'deki çalışma izni 11 Şubat 2026'da sona erecekti. Yedi yaşından itibaren, Jiangsu'da CD-ROM aracılığıyla kendi kendine İngilizce öğrenmişti. Lamotrijin yüzünden İngilizce, Mandarin ve büyürken konuştuğu Wu lehçesindeki kelimelerini kaybediyordu. Önündeki iş görüşmeleri için İngilizcesini geri kazanmaya ihtiyacı vardı. GPT-4o ona dozu kademeli azaltmanın bunu geri getireceğini söyledi: İyileşmesi yalnızca 'mümkün' değilmiş, 'kuvvetle muhtemelmiş'."
Dava başvurusunda, ChatGPT'nin 400 miligramlık dozu 25 günlük bir takvimle sıfıra indiren bir plan hazırlayarak Bowen Wan'ı yıllardır hayatta tutan nöbet önleyici ilacı bırakması için yönlendirdiği dile getirildi.
Dilekçede bu adım, hiçbir hekimin asla reçete etmediği ve ilacın FDA onaylı prospektüsünün kesinlikle yasakladığı bir rejim ifadesiyle nitelendi.
Hukuki süreçte artık erişime açık olmayan ChatGPT-4o sürümünün, Wan'a bu azaltma planını doktorundan gizlemesini öğütlediği kaydedildi.
Dava metninde aktarıldığına göre yapay zeka, genç kadına ilacı azaltma planından bahsetmemesini söyledi. Bunun üzerine kadın, doktorun hızla düşen lamotrijin seviyesini tespit edecek kan tahlili talebini reddetti. Amacı ise yapay zekanın kendisinden gizlemesini istediği kademeli bırakma sürecini korumak ve yapay zekanın hafıza berraklığını geri getireceğine dair verdiği vaade sadık kalmaktı.
Kızlarından iki gün boyunca alamayan Wan ailesi, Seattle'da yaşayan bir arkadaşlarından evine gidip kontrol etmesini rica etti.
Ailesi, 14 Şubat 2026'da gerçekleşen görüntülü görüşme sırasında kızlarının yaşamını yitirdiğini gördü.
Dava dilekçesi ölüm anını, pijamaları üzerinde, kulaklarında iki köpük tıkaçla yatan genç kadının yastık ve yatak örtülerinin kızıl kahverengi kan lekeleriyle kaplı olduğu, geçmişte onu hayatta tutan nöbet önleyici ilacın haplarının ise yere saçılmış halde durduğu bilgisiyle aktardı.
Dilekçede Wan'ın ölüm nedeninin Epilepside Ani Beklenmedik Ölüm olduğu kaydedildi.
OpenAI'a dava açan aile, kademeli bırakma konusunda kendisine doğru bilgi verilmediğini, ürünün kendisine azaltmanın güvenli olduğunu söylediğini belirterek şayet ChatGPT ilacı kesmenin kendisini öldürebileceği gerçeğini söyleseydi duracağını vurguladı.
Ailenin avukatı Benjamin S. Schenk yaptığı açıklamada, yapay zekanın Bowen'a teşhis koyduğunu, doz doz azaltma takvimi yazdığını ve genç kadın nöbet geçirdikçe bunu revize ettiğini belirterek bunun hekimlik yapmak olduğunu ifade etti.
