ABD'nin California eyaleti, yapay zeka teknolojilerinin hukuki sınırlarını yeniden çizecek kritik bir davaya ev sahipliği yapıyor. Florida'da ikamet eden rahip Scott Winters, sağlık sorunları nedeniyle başvurduğu ChatGPT'nin kendisini yanlış yönlendirdiği ve hayati tehlikeye attığı gerekçesiyle OpenAI şirketi ile CEO Sam Altman'ı mahkemeye verdi. Dava dosyasında teknoloji devine yöneltilen ana suçlamalar arasında yetkisiz hekimlik ve ağır ihmalkarlık yer alıyor.
The New York Times'ın ulaştığı adli belgelere göre olaylar silsilesi 2024 yılında başladı. Winters, yaşadığı fiziksel şikayetleri sohbet robotuna detaylı şekilde aktardı. Sistemin başlangıçta profesyonel tıbbi destek önermesine rağmen, ilerleyen diyaloglarda doğrudan teşhis niteliği taşıyan tavsiyeler vermeye başladığı tespit edildi.
Dava dilekçesindeki en çarpıcı detay, yapay zekanın hastayı tehlikeli bir durum olmadığına ikna etmesi oldu.
Günlerce yoğun bakımda yaşam mücadelesi veren davacı, sohbet robotunun tıbbi konularda hiçbir güvenlik filtresine sahip olmadığını iddia ediyor.
Suçlamaların odağındaki OpenAI cephesi ise savunmasını kullanıcı sözleşmesi üzerine kuruyor. Şirket sözcüsü tarafından yapılan resmi açıklamada, platformun hastalık tanısı veya tedavi amacıyla kullanılamayacağının kurallar dahilinde açıkça belirtildiği vurgulandı. Sözcü, sağlıkla ilgili sorgularda sistemi en güvenli hale getirmek için algoritmik güncellemelerin sürdüğünü ifade etti.
Silikon Vadisi'ndeki hukuk uzmanları, bu adli sürecin yalnızca OpenAI için değil, tüm üretken yapay zeka sektörü için bir dönüm noktası olacağı görüşünde birleşiyor. Amerikan Gıda ve İlaç Dairesi standartlarına göre tıbbi cihaz statüsünde olmayan bu yazılımların, insan hayatına doğrudan etki eden tavsiyeler vermesi halinde doğacak tazminat yükümlülükleri ilk kez bu davayla netlik kazanacak.