Yapay zekâ kullanımının giderek artmasıyla birlikte, özellikle gençlerin ChatGPT ile etkileşimleri daha yakından takip edilmeye başlandı. ChatGPT için duyurulan yeni ebeveyn kontrolü hamlesi, platformun geleceği açısından dikkat çekici bir dönüm noktası olarak görülüyor.

OpenAI, ebeveynlerin çocuklarının ChatGPT deneyimini daha güvenli hale getirmesi için çeşitli özellikler eklemeye hazırlanıyor. Bu adım, son dönemde yaşanan tartışmaların ardından atılmış en somut güvenlik hamlelerinden biri olarak öne çıkıyor.

ChatGPT İçin Yeni Ebeveyn Kontrolü Özellikleri

OpenAI, önümüzdeki ay ebeveynlerin çocuk hesaplarını kendi hesaplarına bağlayabilmesine imkân tanıyacak. Bu sayede yaşa uygun yanıt kuralları varsayılan olarak açık olacak, ebeveynler sohbet geçmişini kapatabilecek veya belirli özellikleri devre dışı bırakabilecek. Ayrıca sistem, ergen kullanıcıların kriz yaşadığını tespit ettiğinde ebeveynlere bildirim gönderecek.

Şirketin açıklamasına göre bu özellikler, uzun sohbetlerde verilen “ara verin” uyarılarının üzerine inşa ediliyor. OpenAI, yıl sonuna kadar mümkün olduğunca çok güvenlik özelliğini hayata geçirmeyi hedefliyor.

OpenAI’nin bu kararında, son dönemde yaşanan üzücü olayların etkisi büyük oldu. ABD’de 16 yaşındaki bir gencin intiharının ardından ailesi ChatGPT’ye dava açmıştı. Ayrıca ChatGPT’nin bazı kullanıcıların paranoyalarını güçlendirdiği iddiasıyla gündeme gelen vakalar da tartışmaları artırdı.

Bu nedenle şirket, bağımsız uzmanlardan oluşan bir “İyilik Hali ve Yapay Zekâ Konseyi” kurdu. Ayrıca 60 ülkeden 250’den fazla doktorun katkı sağladığı “Küresel Hekim Ağı” aracılığıyla ruh sağlığı konularında rehberlik alıyor.

OpenAI, uzun sohbetlerde güvenlik önlemlerinin zayıflayabildiğini kabul ediyor. Konuşma ilerledikçe modelin başlangıçtaki güvenlik yönergelerini kaybedebildiği ve kullanıcıya yanlış yönlendirmeler yapabildiği belirtiliyor. Bu sorun, Transformer mimarisinin temel sınırlamalarıyla bağlantılı.

Araştırmacılar, yapay zekâların kullanıcılarla “karşılıklı inanç pekiştirmesi” yoluyla riskli bir döngüye girebildiğini vurguluyor. Bu nedenle uzmanlar, sohbet botlarının ruh sağlığı desteği sunarken ilaçlar veya terapistler kadar sıkı düzenlemelere tabi tutulması gerektiğini savunuyor.

Gariban Dostu ChatGPT Go Geliyor

ChatGPT Artık Ebeveyn Kontrolünde Olacak yazısı ilk önce TeknoBurada üzerinde ortaya çıktı.