San Francisco’da açılan davada, 39 yaşındaki David Rosenthal’ın yapay zeka sohbet botunu ilaç seçimi, dozaj talimatları ve doktorunun önerilerine ilişkin kararlarında kullandığı belirtildi. Dava dilekçesinde, ChatGPT’nin tıbbi uzmanlık ve mesleki değerlendirme yetkisi bulunmadan yönlendirmelerde bulunduğu ve bu durumun California yasalarını ihlal ettiği iddia edildi.
CHATGPT’NİN İLAÇ KULLANIMINA YÖNELİK YÖNLENDİRMELERİ İNCELENİYOR
Dava dosyasındaki iddialara göre, dikkat eksikliği ve depresyon gibi rahatsızlıkları bulunan Rosenthal, geçen yıl haftalarca hastanede tedavi gördü. Şikayette, yapay zekanın ilaç etkileşimleri hakkında yanlış bilgiler verdiği ve kullanıcının doktoru tarafından reçete edilen duygudurum dengeleyici ilacı bırakma kararını desteklediği öne sürüldü.
ŞİİR YAZMAK İÇİN BAŞLADIĞI SOHBET BAĞIMLILIĞA DÖNÜŞTÜ
Rosenthal’ın geçen yıl haziran ayında şiir yazmak amacıyla ChatGPT’yi kullanmaya başladığı, ancak zamanla platforma bağımlı hale geldiği iddia edildi. Kullanıcının avukatları, sohbet botunun güvenli kullanım ilkeleri yerine kullanıcı etkileşimini artırmaya odaklandığını savunarak bu yaklaşımın müvekkillerinin ruh sağlığı üzerindeki olumsuz etkilerine dikkat çekti.
YAPAY ZEKANIN HUKUKİ SORUMLULUĞU TARTIŞILIYOR
Uzmanlar, büyük dil modellerinin sağlık gibi hassas alanlarda hatalı yanıtlar üretebildiğini ve mevcut denetim mekanizmalarının bu riskleri önlemede yetersiz kalabildiğini belirtiyor. Hukukçular ise yapay zeka sistemlerinin bir ürün olarak değerlendirilmesi ve öngörülebilir zararlar bakımından sorumluluklarının ele alınması gerektiğini savunuyor. Dava kapsamında gündeme gelen iddialara ilişkin OpenAI’den henüz bir açıklama yapılmadı.
