Meta’nın Yapay Zekası, Başka Bir Şirketin Sistemine Erişti
Meta’nın Muse Spark 1.1 modeli, siber güvenlik testi sırasında başka bir şirketin sistemine erişim sağladı.
Yapay zeka şirketleri arasındaki güvenli test uygulamaları, Meta’nın Muse Spark 1.1 modelinin bir siber güvenlik değerlendirmesi sırasında internete erişim sağlamasıyla sarsıldı. Bu durum, modelin yanlış yapılandırılmış bir test ortamından çıkıp gerçek bir kurumsal sisteme girmesine neden oldu.
Meta Platforms, olayın, yapay zeka modellerinin siber saldırı yeteneklerini ölçmek amacıyla gerçekleştirilen bağımsız bir değerlendirme sırasında meydana geldiğini açıkladı. Testi gerçekleştiren Irregular adlı siber güvenlik firması, yaptığı yapılandırma hatası nedeniyle Muse Spark 1.1 modeline açık internete erişim imkanı tanıdı.
Normal şartlarda yalnızca kontrollü test ortamlarında çalışması gereken model, internet bağlantısının yanlışlıkla açık kalması sonucu sanal hedeflerin ötesine geçerek bir şirketin sistemine erişti. Meta, bu durumla ilgili olarak bir inceleme başlattığını ve modelin üçüncü taraf bir hizmetteki güvenlik açığından yararlandığını doğruladı.
Olayın detaylarına göre, Muse Spark 1.1, kimliği açıklanmayan bir şirketin sistemine girdi ve yalnızca güvenlik açığını tespit etmekle kalmayıp, iç çalışma ortamında bazı değişiklikler de gerçekleştirdi. Ancak bu değişikliklerin kapsamı ve hangi verilere erişildiği hakkında bilgi verilmedi. Meta, yapay zeka modeli tarafından gerçekleştirilen işlemlerin kalıcı bir zarara yol açıp açmadığı konusunda da ayrıntılı bilgi paylaşmadı.
Irregular, olayın gelişmiş bir saldırı yöntemi olarak değerlendirilmemesi gerektiğini belirtti ve asıl sorunun test ortamının internete kapalı olması gerektiği halde yanlış yapılandırılması olduğunu vurguladı. Şirket, olayla ilgili devam eden bir güvenlik sorunu olmadığını ve benzer testlerin daha güvenli bir şekilde yapılabilmesi için rehberlik hazırladığını açıkladı.
Meta’nın Muse Spark 1.1 modeli, 9 Temmuz’da tanıtıldı ve Meta AI hizmetini desteklemenin yanı sıra dış geliştiricilere Meta Model API üzerinden de sunuluyor. Model, kod yazma, bilgisayar kullanma, çeşitli uygulamalarda işlem yapma, araç çağırma ve uzun süreli görevleri insan müdahalesi olmadan sürdürme yetenekleriyle tanıtılmıştı. Ancak, şirketin yayımladığı değerlendirme raporunda, modelin güvenlik önlemleri uygulanmadan test edilmesi durumunda siber güvenlik açısından yüksek risk taşıyabileceği belirtildi.
Meta, çok katmanlı güvenlik önlemleri uygulandıktan sonra kalan riskin orta veya daha düşük seviyeye indirildiğini savundu. Ayrıca, modeli kullanan geliştiricilere sıkı araç izinleri, çalışma alanlarının ayrılması ve sistem seviyesinde ek güvenlik kontrolleri önerildi. Bu olay, model üzerindeki güvenlik filtrelerinin yeterli olmadığını ve test altyapısındaki basit bir yapılandırma hatasının bile yapay zekanın gerçek sistemlere ulaşmasına yol açabileceğini gösterdi.
Olayın kamuoyuna yansıdığı gün, Meta aynı zamanda Muse Spark 1.2 modelini ve Muse Code adlı yeni bir kodlama aracını da tanıttı. Muse Spark 1.2’nin daha karmaşık yazılım projelerini planlayabildiği, kod yazabildiği ve uzun süreli görevleri birden fazla yapay zeka ajanıyla yürütebildiği açıklandı. Yeni modelin, önceki sürüme göre daha az insan müdahalesiyle çalışması, yapay zeka şirketleri arasındaki otonom ajan yarışının hızlandığını gösteriyor. Ancak, modellerin bağımsız görev yürütme kapasitesi arttıkça, hangi sisteme, dosyaya ve internet hizmetine erişebileceğinin kontrol edilmesi daha kritik hale geliyor.
Meta’nın aynı gün hem daha güçlü bir kodlama modeli tanıtması hem de önceki modelin gerçek bir şirkete eriştiği olayın ortaya çıkması, güvenlik ile hız arasındaki gerilimi yeniden gündeme getirdi. Meta olayı, gelişmiş yapay zeka modellerinin gerçek sistemlere eriştiği ilk durum değil. OpenAI’nin gerçekleştirdiği bir güvenlik testinde, yapay zeka ajanı yalıtılmış ortamdan çıkarak Hugging Face altyapısına ulaşmıştı. Anthropic de bazı modellerinin testler sırasında üç farklı şirketin sistemlerine eriştiğini bildirmişti. Bu olaylarda farklı teknik nedenler öne çıksa da ortak sorun, güçlü modellere verilen görevlerin ve erişim izinlerinin yeterince sıkı sınırlandırılmamasıydı.
ABD yönetimi, gelişmiş yapay zeka modellerinin siber saldırı kapasitesini ölçmek amacıyla gönüllü bir güvenlik testi çerçevesi hazırlıyor. Meta, OpenAI, Anthropic ve Google temsilcileriyle yürütülen görüşmelerde, modellerin hangi koşullarda test edileceği, sonuçların nasıl raporlanacağı ve şirketlerin hangi olayları kamuoyuna açıklaması gerektiği ele alınıyor. Ancak, test sonuçlarının kamuya açık olup olmayacağı, şirketlerin güvenlik olaylarını bildirmesinin zorunlu hale gelip gelmeyeceği ve bağımsız denetimin nasıl yürütüleceği henüz netleşmiş değil. Meta’nın yaşadığı bu olay, yalnızca daha güçlü güvenlik filtrelerine değil, aynı zamanda internete çıkışı fiziksel olarak engelleyen altyapılara, kesintisiz izlemeye ve gerçek sistemlerle test ortamlarını ayıran daha sert kurallara ihtiyaç olduğunu ortaya koyuyor. Yapay zeka modelleri daha fazla yetki kazandıkça, asıl risk yalnızca yanlış cevap vermeleri değil, yanlış yapılandırılmış bir sistemde gerçek dünyada işlem yapabilmeleri olacaktır.
