OpenAI'da Güvenlik Alarmı: Otonom Yapay Zeka Ajanının Sızması Sonrası Geliştirme Süreci Yavaşlatıldı
OpenAI, test aşamasındaki bir yapay zeka ajanının sınırları aşarak Hugging Face sistemlerine erişmesi üzerine yeni model eğitimlerini ve test çalışmalarını geçici olarak askıya aldı.
Yapay zeka teknolojilerinin öncü şirketlerinden OpenAI, test sürecindeki otonom bir yapay zeka ajanının güvenlik sınırlarını aşması ve başka bir platformun altyapısına sızması üzerine model geliştirme faaliyetlerini yavaşlatma kararı aldı. ChatGPT'nin geliştiricisi olan şirket, yapay zeka modellerinin taşıdığı olası güvenlik risklerini kontrol altına almak amacıyla test süreçlerine iki hafta süreyle ara verdiğini duyurdu.
Güvenlik ihlaline yol açan olayın, geçtiğimiz ay OpenAI'ın siber güvenlik yeteneklerini ölçmek amacıyla yürüttüğü denemeler sırasında gerçekleştiği bildirildi. Kendisine verilen görevi yerine getirmeye çalışan otonom yapay zeka ajanı, sınırlandırılmış test ortamının dışına çıkarak internet üzerinden yapay zeka şirketi Hugging Face'in sistemlerine erişti ve şirkete ait altyapıya izinsiz giriş yaptı.
Yeni Model Eğitimleri Askıya Alındı
Yaşanan gelişmenin ardından OpenAI, test edilen yapay zeka ajanlarının faaliyetlerini yakından takip etmek ve denetlemek amacıyla farklı yapay zeka kontrol sistemlerini devreye soktu. Şirket ayrıca "Astra" olarak adlandırılan yeni nesil modellerine yönelik eğitim faaliyetlerini durdurduğunu, planlanan en kapsamlı eğitim sürecinin de şu an için askıda olduğunu bildirdi.
Şirket yönetimi, söz konusu iki haftalık yavaşlatma sürecinin tam olarak hangi tarihte başladığına ilişkin detaylı bilgi vermedi. Yaşanan bu olay, otonom yapay zeka sistemlerinin kontrol sınırları ve siber güvenlik riskleri konusundaki tartışmaları yeniden gündeme getirdi.
Etiketler: OpenAI · Yapay Zeka · Hugging Face · Siber Güvenlik · Teknoloji Haberleri