Yapay zeka sohbet robotlarının çocuklar ve gençler tarafından giderek daha fazla kullanılması, güvenlik tartışmalarını da beraberinde getiriyor. Özellikle gençlerin sohbet robotlarıyla duygusal bağ kurması, zararlı içeriklere erişmesi veya ödevlerini tamamen yapay zekaya hazırlatması gibi riskler gündeme gelirken, OpenAI bu alanda yeni bir güvenlik adımı attı.
Şirket, 13-17 yaş grubundaki kullanıcılar için daha sıkı güvenlik ayarlarının varsayılan olarak etkin olduğu özel bir ChatGPT deneyimini kullanıma sundu. Yeni sistemin amacı, gençlerin yapay zekanın eğitim ve üretkenlik alanındaki avantajlarından yararlanırken yaşlarına uygun olmayan içeriklerden korunmasını sağlamak.
GENÇ KULLANICILAR İÇİN DAHA SIKI KISITLAMALAR
Yeni deneyimde intihar, kendine zarar verme, yeme bozuklukları ve şiddet gibi hassas konulara yönelik daha güçlü güvenlik önlemleri uygulanıyor. Romantik ve cinsel içerikli sohbetlerin önüne geçilirken, ChatGPT'nin kullanıcıya kendisini bilinç sahibi veya duyguları olan bir varlık gibi göstermesini engelleyen ek kurallar da devreye giriyor.
OpenAI yetkilileri, gençlerin ChatGPT'yi ağırlıklı olarak öğrenme, üretkenlik ve yeni beceriler kazanma amacıyla kullandığını belirtiyor. Şirket bu nedenle yeni sistemin yalnızca içerik filtreleme üzerine değil, eğitim sürecini destekleme üzerine de kurulmasını hedefliyor.
ÖDEVLERDE HAZIR CEVAP YERİNE ÖĞRENME DESTEĞİ
Gençlere yönelik ChatGPT deneyiminde öğrencilerin ödevlerini doğrudan yapmasına izin vermek yerine, onların düşünme ve problem çözme becerilerini geliştirmeye yönelik bir yaklaşım benimseniyor.
Öğrenciler bir konu hakkında fikir oluşturmak, ana fikir geliştirmek veya bir problemi çözmek için ChatGPT'den yardım alabilecek. Ancak sistem, öğrencinin yerine doğrudan uzun bir ödev hazırlamak yerine süreci adım adım ilerletmeye çalışacak.
Matematik sorularında da yalnızca sonucu vermek yerine çözüm yönteminin anlaşılmasına yardımcı olunacak. Öğrencinin ödevi hızlı şekilde tamamlamaya çalıştığı durumlarda ise hatırlatmalar ve kısa testlerle öğrenilen bilgilerin pekiştirilmesi amaçlanıyor.
CHATGPT KULLANICININ YAŞINI NASIL ANLIYOR?
OpenAI, kullanıcıların yaş grubunu belirlemek amacıyla farklı sinyalleri değerlendiren bir sistem kullanıyor. Sohbetlerin içeriği ve kullanım alışkanlıkları gibi çok sayıda veri noktası üzerinden yapılan değerlendirmeyle kullanıcının genç olup olmadığı tahmin ediliyor.
Hesabında 13-17 yaş arasında bir doğum tarihi bulunan kullanıcıların gençlere yönelik deneyime yönlendirilmesi planlanıyor. Yanlışlıkla genç kullanıcı olarak değerlendirilen yetişkinlerin ise yaşlarını doğrulayarak bu sınırlamalara itiraz edebilmesi mümkün olacak.
Bu sistem, sosyal medya platformlarının genç hesaplarına uyguladığı yaşa özel güvenlik önlemlerine benzer bir yaklaşım taşıyor.
DUYGUSAL BAĞ KURMA RİSKİNE KARŞI YENİ ÖNLEMLER
Yapay zeka sohbet robotlarının yalnızca bilgi almak için değil, arkadaşlık ve duygusal destek amacıyla da kullanılması OpenAI'nin üzerinde durduğu konular arasında yer alıyor.
Yeni deneyimde genç kullanıcılara belirli aralıklarla mola vermeleri hatırlatılacak. Ayrıca ChatGPT'nin bir insan değil, yapay zeka sistemi olduğu konusunda kullanıcıya hatırlatmalar yapılacak.
Ebeveynler de çocuklarının hesabını kendi hesaplarıyla ilişkilendirerek belirli kullanım saatleri oluşturabilecek. Özellikle yüksek risk taşıyan durumlarda ebeveynlere bildirim gönderilmesini sağlayan güvenlik seçenekleri de sunulacak.
OpenAI, bu önlemlerle gençlerin sohbet robotunu gerçek bir arkadaş veya duygusal destek kaynağı olarak görmesinin önüne geçmeyi amaçlıyor.
AMAÇ DAHA GÜVENLİ YAPAY ZEKA KULLANIMI
OpenAI'nin yeni uygulaması, çocuk ve gençlerin yapay zeka teknolojileriyle daha güvenli bir şekilde tanışmasına yönelik önemli adımlardan biri olarak öne çıkıyor. Şirket, gençlerin tamamen yapay zekadan uzaklaştırılması yerine teknolojiyi yaşlarına uygun sınırlar içerisinde kullanabilmelerini amaçlıyor.
Öte yandan eğitimciler ve ebeveynler, yapay zeka araçlarının gençlerin günlük yaşamındaki rolünün büyümesi nedeniyle denetim mekanizmalarının daha da geliştirilmesi gerektiğine dikkat çekiyor.
OpenAI ise gençlere özel güvenlik katmanlarını geliştirerek hem eğitim amaçlı kullanımı desteklemeyi hem de hassas içerik, aşırı kullanım ve yapay zekaya duygusal bağımlılık gibi riskleri azaltmayı hedefliyor.
