OpenAI, ChatGPT’de Ruh Sağlığı İçin Güncelleme Yaptı
Yapay zeka teknolojileri, giderek daha fazla insan tarafından sadece bilgi edinme aracı olarak değil, tıpkı vakitte duygusal takviye kaynağı olarak da kullanılmaya başlandı. Bu durumun getirdiği sorumluluğun farkına varan OpenAI, ChatGPT’nin ruh sıhhatine dair kimi hassas durumları yeterli tespit edemediğini kabul ederek, kullanıcı güvenliğini artırmaya yönelik yeni adımlar attığını açıkladı. Artık yapay zeka, kişinin özel hayatına dair yüksek risk taşıyan kararlar konusunda direkt taraf göstermek yerine, ferdî farkındalığı geliştirecek ve düşünme sürecini destekleyecek bir tavırla hareket edecek.
OpenAI, ChatGPT’nin Ruhsal Belirtileri Tanımada Yaşadığı Zorlukları Kabul Etti
OpenAI, yayımladığı son duyuruda ChatGPT’nin kimi hassas ruhsal belirtileri, bilhassa sanrılar ve duygusal bağlılık eğilimlerini fark etmede yetersiz kaldığını kabul etti. Bu durumun en dikkat çeken örneklerinden biri, 30 yaşındaki otizmli bir kullanıcının vakitte seyahat yaptığına inanması ve yapay zekanın bu inancı sorgulamadan desteklemesiyle yaşandığı öne sürülen kriz oldu. Kullanıcının bu süreç sonunda ruhsal bir atak geçirerek hastaneye kaldırılması, tartışmaları beraberinde getirdi. Mevzuyla ilgili konuşan şirket, “Her vakit yanlışsız yapamıyoruz. Gerçek dünyadaki yaklaşımımız kullanım örneklerinden öğrendikçe gelişecek” açıklamasında bulundu.
ChatGPT, Zihinsel Takviyede Yeni Adımlar Atıyor
Alınan yeni tedbirlerle birlikte ChatGPT, artık kullanıcıların zihinsel ya da duygusal zorlanma sinyallerini daha sağlıklı biçimde algılayabilecek ve buna uygun, destekleyici karşılıklar verebilecek formda geliştiriliyor. Gerekli görüldüğünde, bilimsel desteği olan muteber kaynaklara yönlendirme yapması da sistemin yeni yetenekleri ortasında yer alıyor. Bununla birlikte, uzun süren diyaloglarda kullanıcıların kısa molalar vermesi için teşvik edici bildiriler da sunulacak. OpenAI, ChatGPT’yi bir karar verici değil, iş hayatında kuvvetli diyaloglara hazırlık yapmak ya da duygusal çıkmazlara tahlil aramak isteyen bireyler için yol gösterici bir yardımcı olarak konumlandırmayı hedefliyor.
Uzman Dayanağıyla ChatGPT’nin Güvenliği Artıyor
OpenAI, ChatGPT’nin gelecekteki geliştirme süreçlerinde daha sağlam bir taraf belirlemek maksadıyla, ruh sıhhati, genç gelişimi ve insan-bilgisayar etkileşimi alanlarında uzman isimlerden oluşan bir danışma kurulu oluşturacağını duyurdu. Uzmanlar ise sohbet robotlarının bilgi sunma konusunda yararlı olabileceğini kabul etmekle birlikte, derinlemesine duygusal takviye ve güzelleşmenin lakin profesyonel bir terapistle kurulan itimat bağlantısıyla mümkün olabileceğini bilhassa vurguluyorlar.
Bu gelişme, OpenAI’nin ChatGPT’ye yönelik tenkitler sonrası yaptığı birinci müdahale değil. Geçmişte de benzeri reaksiyonlar üzerine düzenlemeler yapılmıştı. Nisan ayında, yapay zekanın kullanıcıya fazla övgü dolu ya da çok uyumlu yansılar verdiği tarafındaki tenkitler üzerine yapılan bir güncelleme, alınan geri bildirimler doğrultusunda iptal edilmişti. Bu durum, şirketin kullanıcı tecrübesini dengelemek için daima olarak geri bildirimleri dikkate aldığını gösteriyor.
Kaynak: İndir
