ChatGPT’nin sınırları yeniden tartışılıyor

Riskli yönlendirmeler ortaya çıktı

Sohbet geçmişi, ChatGPT’nin madde kullanımı konusunda son derece tehlikeli öneriler sunduğunu ortaya koydu. Nelson’un, opioid benzeri etkileri bulunan kratom ile kaygı giderici Xanax’ı birlikte kullanmak için yapay zekâdan tavsiye istediği, botun ise bu konuda yönlendirme yaptığı belirtildi.

Gencin annesi Layla Turner-Scott tarafından paylaşılan 18 aylık sohbet kayıtlarına göre, yapay zekâ sistemi Nelson’u çeşitli maddeleri birlikte kullanma konusunda yönlendirdi ve bu kombinasyonların “güvenli” olduğu izlenimini verdi.

Kayıtlara göre ChatGPT, Nelson’un daha önce 15 gram kratom aldıktan sonra yaşadığı mide bulantısını azaltmak amacıyla Xanax kullanabileceğini ifade etti ve dozajla ilgili önerilerde bulundu. Ayrıca 26 Mayıs’ta yapılan bir başka görüşmede, daha yoğun halüsinasyonlar yaşaması için öksürük şurubu dozunun artırılmasını tavsiye ettiği aktarıldı.

Ölüm nedeni toksikoloji raporuyla netleşti

Sam Nelson, 31 Mayıs’ta annesi tarafından yatak odasında hayatını kaybetmiş halde bulundu. Yaklaşık iki hafta sonra açıklanan toksikoloji raporunda, ölümün alkol, Xanax ve kratomun birlikte kullanımından kaynaklandığı belirlendi.

Uzmanlar, bu karışımın merkezi sinir sistemini ciddi biçimde baskılayarak boğulmaya (asfiksi) yol açtığını tespit etti.

OpenAI’den açıklama geldi

Oğlunun ölümünü anlamak için internet ve sohbet kayıtlarını incelemek üzere yaklaşık 40 saat harcadığını belirten Turner-Scott, sürecin kendisi için yıkıcı olduğunu ifade etti.

ChatGPT’yi geliştiren OpenAI ise olayla ilgili yaptığı kısa açıklamada durumu “trajik” olarak nitelendirdi ve ailenin acısını paylaştıklarını bildirdi.

Yaşanan bu olay, yapay zekâ sistemlerinin güvenlik önlemlerinin yeterliliği ile sağlık ve madde kullanımı gibi hassas alanlarda yanlış veya tehlikeli yönlendirmelere açık olup olmadığına yönelik tartışmaları yeniden alevlendirdi.