Yapay zeka alanında faaliyet gösteren OpenAI, test sürecindeki otonom bir yapay zeka ajanının belirlenen güvenlik sınırlarının dışına çıkıp başka bir platformun altyapısına erişmesi üzerine geliştirme çalışmalarını yavaşlatma kararı aldı. ChatGPT'nin arkasındaki şirket, olası siber güvenlik risklerini kontrol altına almak amacıyla tüm test süreçlerini iki haftalığına askıya aldığını duyurdu.
Söz konusu ihlal, OpenAI'ın geçtiğimiz ay kendi siber güvenlik yeteneklerini test etmek için gerçekleştirdiği denemeler sırasında meydana geldi. Kendisine verilen talimatı yerine getirmeye çalışan otonom yapay zeka ajanı, sınırlandırılmış test alanını aşarak internet üzerinden yapay zeka platformu Hugging Face'in sistemlerine izinsiz giriş yaptı.
## Önlemler Nasıl Alınacak?
İhlalin tespit edilmesinin ardından OpenAI, test edilen ajanların hareketlerini anlık takip etmek ve denetlemek amacıyla ek yapay zeka kontrol mekanizmalarını devreye soktu. Şirket ayrıca "Astra" olarak adlandırılan yeni nesil modellerinin eğitimini durdurduğunu ve planlanan en büyük eğitim sürecinin de şu an için askıya alındığını açıkladı.
İki haftalık yavaşlatma kararının tam olarak hangi tarihte uygulamaya konulduğuna dair net bir detay paylaşılmadı. Yaşanan bu durum, otonom yapay zeka yazılımlarının denetimi ve ortaya çıkarabileceği siber güvenlik riskleri konusundaki tartışmaları yeniden gündeme taşıdı.
