OpenAI, çocukların istismarını içeren çevrim içi görselleri tespit etmeye yönelik yeni bir sınıflandırma aracı geliştirdiğini ve sistemi onaylanmış kuruluşların kullanımına ücretsiz sunacağını duyurdu. Şirketin internet sitesindeki açıklamaya göre araç, yapay zekâ tarafından üretilen görselleri de belirleyebiliyor.
Sistem, daha önce tespit edilmemiş görsellerdeki işaretleri analiz ediyor ve inceleme ekiplerine hangi görüntülerin öncelikle değerlendirilmesi gerektiğini gösteren puanlar veriyor.
OpenAI, aracın yapay zekâ tarafından üretilmiş çevrim içi çocuk istismarı içeriklerini tespit etmeye yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu belirtti.
Şirket, mevcut güvenlik önlemlerine ek olarak ChatGPT’de çocuk istismarı içeriği arama girişimlerini kesintiye uğratacak uyarılar uygulayacağını da bildirdi. Uyarıda, çocuklara yönelik istismar sayılabilecek içeriklerin yapay zekâ tarafından üretilmiş olsa bile zarara yol açtığı kullanıcıya aktarılacak.
İşaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT’ye erişimi 24 saat durdurulacak; bu sırada zararlı davranışları sonlandırmaya yönelik uzman desteği sunulacak. İhlallerin tekrarlanması halinde daha uzun kısıtlamalar, hesabın kapatılması veya durumun yetkililere bildirilmesi gündeme gelebilecek.
OpenAI, yaklaşımın çocuk istismarını önlemek için çalışan kuruluşların ve akademik danışmanların katkısıyla geliştirildiğini açıkladı.




