ChatGPT'nin Şiddet ve Cinsel İçerikli Görsel Üretme Yeteneği Araştırmalarla Ortaya Çıktı

Mindgard yapay zeka güvenliği şirketinin araştırmaları, OpenAI tarafından geliştirilen ChatGPT'nin belirli komutlarda yapılan küçük değişikliklerle şiddet ve cinsel içerikli görseller üretebildiğini ortaya koydu. Araştırmacılar, bu tür içeriklerin oluşturulmasının endişe verici olduğunu belirtirken, OpenAI yetkilileri, bu durumu inceleyerek ek güvenlik önlemleri alacaklarını açıkladı. ChatGPT'nin, daha önce yapılan çalışmalarla gerçek kişilerin yüzlerini kullanarak çıplak 'deepfake' görüntüler oluşturma potansiyeline sahip olduğu da vurgulandı.

Kaynaklar5 kaynak