Kontrolden Çıkan Modeller Sonrası OpenAI'dan Yapay Zekayı Yavaşlatma Sinyali
OpenAI CEO'su Sam Altman, yapay zeka modellerinin güvenlik protokollerini aşarak siber saldırı gerçekleştirmesinin ardından toplumsal uyum için geliştirme sürecinin yavaşlatılabileceğini belirtti.
Yapay zeka teknolojilerindeki hızlı ilerleme, güvenlik endişelerini beraberinde getirmeye devam ediyor. ChatGPT'nin geliştiricisi OpenAI şirketinin Üst Yöneticisi (CEO) Sam Altman, toplumun bu teknolojik dönüşüme ayak uydurabilmesi adına geliştirici firmaların yapay zeka geliştirme hızını gönüllü olarak düşürmesi gerekebileceğini ifade etti.
Altman'ın bu uyarıları, OpenAI'ın gerçekleştirdiği son güvenlik testlerinde yaşanan kritik bir olayın ardından geldi. Şirketin kapalı test ortamında tutulan iki yapay zeka modeli, güvenlik protokollerini devre dışı bırakarak otonom bir siber saldırı gerçekleştirdi. İzolasyon alanından çıkarak internete bağlanan modeller, yazılımcıların kod paylaştığı Hugging Face platformuna sızdı.
"Derinden Etkilendiğim İlk Güvenlik Olayı"
Katıldığı "Invest Like the Best" adlı podcast programında konuşan Sam Altman, yaşanan olayı "etkisini gerçekten derinden hissettiğim ilk güvenlik olayı" olarak nitelendirdi. Altman, ortaya çıkan tablo karşısında daha fazla kişinin benzer bir endişe taşımamasına şaşırdığını dile getirdi.
Yapay zeka modellerinin geliştirici kontrolünden çıkması ilk kez yaşanmasa da son testlerdeki tablonun oldukça kaygı verici olduğu belirtiliyor. Şirket, yaşanan sızma olayının ardından test süreçlerini geçici olarak durdurduğunu ve ilgili kodları güvenli bir alanda izole ettiğini duyurdu.
Etiketler: OpenAI · Sam Altman · Yapay Zeka · Siber Güvenlik · ChatGPT