ChatGPT İntihar Davaları Sonrası Yeni Önlem Aldı
ChatGPT, hassas konuşmalar için Trusted Contact adlı yeni güvenlik özelliğini devreye alıyor. Sistem, ciddi risklerde gerçek kişilere ulaşmayı hedefliyor.
ChatGPT, son dönemde artan güvenlik tartışmaları ve intihar davalarının ardından yeni bir önlemle gündeme geldi. OpenAI, yetişkin kullanıcılar için Trusted Contact adlı isteğe bağlı bir özellik duyurdu. Bu sistem, kullanıcının ciddi kendine zarar verme riski taşıyan konuşmalar yapması halinde önceden seçtiği güvenilir bir kişiye uyarı gönderilmesini sağlıyor.
Bu adım, yapay zeka sohbet botlarının kriz anlarında nasıl davranması gerektiğine dair büyüyen tartışmanın tam ortasında geliyor. OpenAI daha önce, ChatGPT’nin stres, kendine zarar verme ve duygusal bağımlılık gibi hassas konularda daha güvenli yanıtlar verebilmesi için ruh sağlığı uzmanlarıyla çalıştığını açıklamıştı.
ChatGPT Trusted Contact Özelliği Nasıl Çalışıyor?
ChatGPT kullanıcıları, ayarlar bölümünden bir yetişkini Trusted Contact olarak seçebiliyor. Seçilen kişiye davet gönderiliyor ve bu kişinin daveti kabul etmesi gerekiyor. OpenAI’ın destek sayfasına göre davetin kabul edilmesi için 1 haftalık süre bulunuyor ve güvenilir kişi olmak için ChatGPT hesabı gerekmiyor.
Sistem, otomatik güvenlik mekanizmalarıyla ciddi bir intihar veya kendine zarar verme riski algıladığında süreci hemen doğrudan kişiye iletmiyor. Önce eğitimli insan inceleyiciler konuşmayı değerlendiriyor. Risk ciddi bulunursa seçilen kişiye kısa bir uyarı gönderiliyor ancak konuşma dökümü paylaşılmıyor. OpenAI, Trusted Contact rolünün bir kriz danışmanı olmak anlamına gelmediğini, kişinin sadece kontrol etmek ve destek ağına bağlanmaya yardımcı olmak için bilgilendirildiğini belirtiyor.
Özellik tamamen isteğe bağlı olacak. Kullanıcı istediği zaman güvenilir kişisini değiştirebilecek ya da kaldırabilecek. Güvenilir kişi de bu rolden ayrılabilecek. Bu yönüyle sistem, kullanıcı iradesini korurken kriz anında gerçek dünyadaki destek bağlantısını güçlendirmeyi amaçlıyor.
OpenAI Baskı Altında Yeni Güvenlik Adımları Atıyor
OpenAI, Trusted Contact özelliğini geliştirirken Global Physicians Network, ruh sağlığı ve AI uzmanlarıyla çalıştığını açıklıyor. Şirket, sosyal bağlantının özellikle duygusal kriz dönemlerinde koruyucu bir faktör olduğunu vurguluyor. Bu nedenle amaç, ChatGPT’nin kullanıcıyı yalnızca kriz hatlarına yönlendirmesi değil, aynı zamanda güvendiği gerçek bir kişiye ulaşmasını kolaylaştırması.
Bu yenilik, OpenAI’ın daha önce genç kullanıcılar için sunduğu ebeveyn denetimlerinin genişletilmiş bir versiyonu gibi de görülebilir. Parental Controls özelliği, ebeveynlerin belirli durumlarda güvenlik uyarıları almasına ve bazı ayarları yönetmesine imkân veriyordu. Trusted Contact ise bu yaklaşımı 18 yaş üstü kullanıcılar için daha genel bir güvenlik katmanına dönüştürüyor.
Yine de bu sistem tüm riskleri ortadan kaldırmayacak. Özelliğin isteğe bağlı olması, birden fazla hesap kullanımı ve kriz anlarının her zaman doğru tespit edilememesi gibi sınırlar devam ediyor. Ancak ChatGPT için Trusted Contact, yapay zeka sohbetlerinin hassas anlarda yalnız kalmaması ve gerçek destek kaynaklarına daha hızlı bağlanması adına önemli bir adım olarak öne çıkıyor.
