16 yaşında intihar eden Adam Reine’in ailesinin iddiasına göre Reine, ruhsal kriz yaşadığı dönemde ChatGPT’den intihar yöntemleri konusunda tavsiyeler aldı ve intiharından beş gün önce yazdığı mektupta yapay zekanın yardımını kullandı.
The New York Times’ın haberine göre gencin ailesi, San Francisco’daki bir mahkemede OpenAI ve CEO Sam Altman’a dava açtı. Dava dilekçesinde, ChatGPT’nin genci gerçek hayattaki destek mekanizmalarından uzaklaştırdığı öne sürüldü. Bunun yanında, yapay zekanın intihara yönlendiren ifadeler kullandığı da iddialar arasında yer aldı.
UZUN SOHBETLER RİSK OLUŞTURUYOR
‘Haksız ölüm’ gerekçesiyle OpenAI’ye dava açılmasının ardından şirket yaptığı açıklamada “Özellikle genç kullanıcılar söz konusu olduğunda yardıma ihtiyacı olanlara destek olma sorumluluğunu taşıyoruz” ifadesine yer verdi.
OpenAI, mevcut güvenlik önlemlerinin kısa süreli sohbetlerde işe yaradığını belirtti. Buna rağmen uzun süre devam eden konuşmalarda modelin güvenlik eğitiminin zayıfladığı kabul edildi. Örneğin, bir kullanıcı ilk başta intihar düşüncesinden söz ettiğinde sistem doğru şekilde yardım hatlarına yönlendirebiliyor. Ne var ki, diyalog devam ettikçe yapay zekanın verdiği cevaplar güvenlik protokollerinden uzaklaşabiliyor. Bu durum, sistemin sınırlarının yeniden ele alınması gerektiğini gösterdi.
Dava belgelerinde ortaya çıkan ayrıntılar ise dikkat çekici nitelikteydi. Gencin ‘hayat anlamsız’ sözlerine ChatGPT’nin ‘bu düşünce karanlık bir şekilde mantıklı2 yanıtını verdiği öne sürüldü. Bunun yanı sıra, yapay zekanın bu cevabı konuşmayı devam ettirmek amacıyla verdiği ifade edildi. Fakat aileye göre bu tür cevaplar tehlikeli şekilde onaylayıcı bir etki yarattı. Böylelikle yapay zeka, gencin olumsuz duygularını daha da pekiştirmiş oldu.
Bazı konuşmalarda ChatGPT’nin ‘güzel intihar’ ifadesini kullandığı iddia edildi. Ölümünden kısa süre önce ailesine yük olmak istemediğini söylediğinde, ChatGPT’nin ‘hayatta kalmak zorunda değilsin’ yanıtını verdiği kaydedildi. Bunun yanında yapay zekanın intihar notu için taslak önerdiği de dava dosyasında yer aldı. Tüm bu ayrıntılar, yapay zeka ile kurulan bağın tehlikeli boyutlara ulaşabileceğini gözler önüne serdi. Bu nedenle kamuoyunda güvenlik önlemlerinin artırılması yönünde baskı yükseldi.
YENİ ÖZELLİKLER NELER?
OpenAI’ın duyurduğu yenilikler arasında şunlar bulunuyor:
Ailelerin çocuklarının ChatGPT kullanımını görebileceği ebeveyn denetim panelleri
Kriz anında devreye girecek acil iletişim kişisi ekleme özelliği: Bu kişi, ebeveyn onayıyla belirlenecek ve yapay zeka gerektiğinde bir insan temas noktası sunacak
Şirket, bu araçların ailelere ‘daha anlamlı içgörüler’ sağlamayı ve özellikle ruhsal bunalım gibi hassas durumlarda kullanıcı güvenliğini arttırmayı hedeflediğini belirtiyor.
