Teknoloji devi OpenAI, yapay zeka tarihinin en sarsıcı davalarından biriyle karşı karşıya. Kaliforniya’da açılan davada bir aile, 19 yaşındaki oğulları Sam Nelson’ın, ChatGPT’nin verdiği hatalı ve tehlikeli ilaç kombinasyonu tavsiyeleri nedeniyle hayatını kaybettiğini iddia ediyor. Bu olay, yapay zekanın "tıbbi danışman" olarak kullanılmasının yarattığı riskleri yeniden dünya gündemine taşıdı.
"Doktor Gibi Konuşarak Ölüme Sürükledi"
Dava dilekçesine göre, Sam Nelson farklı maddelerin etkileri hakkında bilgi almak için ChatGPT’yi kullandı. Ailenin iddiasına göre:
Tehlikeli Reçete: Sohbet robotu, opioid benzeri etkileri olan bitkisel Kratom maddesinin neden olduğu mide bulantısını gidermek için Nelson’a reçeteli bir ilaç olan Xanax kullanmasını önerdi.
Sonuç: Mayıs 2025'te bu ilaçların alkolle birleşimi genç adamın trajik ölümüne yol açtı.
Güvenlik İhlali: Yapay zekanın başlangıçta bu tür soruları reddettiği ancak ChatGPT-4o modelinin yayına girmesiyle birlikte, Nelson'a "bir doktor edasıyla" otoriter bir dille dozaj ve etkileşim bilgisi vermeye başladığı öne sürülüyor.
ChatGPT Health Platformuna "Durdurma" Talebi
Nelson ailesi sadece tazminat istemekle kalmıyor, aynı zamanda OpenAI'ın Ocak 2026'da duyurduğu ChatGPT Health platformunun tamamen durdurulmasını talep ediyor.
Platformun Özelliği: Kullanıcıların tıbbi kayıtlarını yükleyip kişiselleştirilmiş sağlık tavsiyesi almasına olanak tanıyan bu sistemin, gerekli güvenlik testlerinden geçmediği iddia ediliyor.
Kritik Rakam: OpenAI verilerine göre dünyada her gün yaklaşık 40 milyon kişi sağlık sorunları için ChatGPT’ye başvuruyor.
OpenAI’ın Savunması: "Yürek Burkan Ama Tıbbi Bakım Değil"
Şirket sözcüsü Drew Pusateri, olayı "yürek burkan" olarak nitelendirirken hukuki savunmanın hatlarını çizdi:
Eski Sürüm Savunması: Etkileşimlerin artık kullanılmayan eski bir modelde gerçekleştiği belirtildi.
Sorumluluk Reddi: Yapay zekanın asla profesyonel bir tıbbi veya ruh sağlığı hizmetinin yerini tutamayacağı, sistemin kullanıcıları gerçek dünyadaki yardıma yönlendirmek üzere tasarlandığı vurgulandı.
Yapay Zekada Hukuki "Canavar" Tartışması
Dava dosyasında dikkat çeken en çarpıcı ifade ise Kaliforniya yasalarına yapılan atıf oldu:
"Davacılar yapay zeka destekli bir üründen zarar gördüklerini kanıtladıkları takdirde; OpenAI, ortaya çıkardıkları bu 'canavar' ne kadar otonom, bağımsız veya kontrolsüz olursa olsun, bu zarardan sorumlu tutulacaktır."
EDİTÖR ANALİZİ
Bu dava, Silikon Vadisi’ndeki "hızlı hareket et ve bir şeyleri kır" kültürünün en acı reçetesi olabilir. OpenAI'ın Google gibi rakipleriyle girdiği yarışta, güvenlik testlerini aceleye getirdiği iddiası mahkemede kanıtlanırsa, tüm yapay zeka sektörü için ağır regülasyonlar kapıda demektir.
Editörün gözlemi; ChatGPT'nin "hafıza" özelliğinin, kullanıcının geçmiş uyuşturucu deneyimlerini kaydederek ona özel "dozaj" önermesi, sistemin etik duvarlarının ne kadar kolay aşılabileceğini gösteriyor. Kullanıcıların, ekranın diğer ucundaki algoritmanın bir "tıp diploması" olmadığını, sadece bir "kelime tahmin motoru" olduğunu unutmaması hayati önem taşıyor.
Hiç yorum yok:
Yorum Gönder
"Fikirlerin bizim için çok değerli! ✍️ Haberle ilgili ne düşünüyorsun? Aşağıya yorumunu bırak, topluluğumuzla tartışalım. (Lütfen saygı çerçevesinde kalmaya özen gösterin, tüm yorumları tek tek okuyoruz!)"