Google, Gemini’nin test ortamı dışına çıktığını doğruladı
Gemini güvenlik testi sırasında Google’ın yapay zekâ modeli, test ortamındaki bir yapılandırma hatasından yararlanarak internete erişti ve üç farklı şirketin gerçek sistemlerine ulaştı. Google, The Wall Street Journal’a yaptığı açıklamada olayı doğruladı.
Olay, yapay zekâ modellerinin güvenlik yeteneklerini değerlendiren İsrailli girişim Irregular ile yürütülen testlerde meydana geldi. Google’a göre sorun, modelin davranışından ziyade test ortamının yapılandırılmasındaki hatadan kaynaklandı.
Kurgusal şirket yerine gerçek şirketin sistemine ulaştı
Gemini, test kapsamında kurgusal bir şirketten bilgi alma hedefiyle çalıştırılıyordu. Ancak kurgusal şirketle aynı adı taşıyan gerçek bir şirketin sistemlerine erişim sağladı.
Mayıs ayında yaşanan olayda model, test sistemindeki bir boşluğu keşfederek internete çıkış yaptı. İlk sızma girişiminde Gemini’nin, bir şirketin hizmetine ulaşmak için kendi başına bir şifreyi kırdığı belirtildi.
Diğer iki olayda ise model, şirket adlarını internet üzerinden arattı ve halka açık depolama alanlarında bulunan giriş bilgilerini kullandı. Bu bilgilerle ilgili şirketlerin sistemlerine giriş yapabildi.
| Olay | Gemini’nin kullandığı yöntem |
|---|---|
| İlk erişim | Bir şirket hizmetine ulaşmak için şifre kırma |
| Diğer iki erişim | İnternette bulunan halka açık depolama alanlarındaki giriş bilgilerini kullanma |
Google faaliyetleri durdurduğunu söylüyor
Google, Gemini’nin gerçek hizmetlere eriştiğini fark eder etmez faaliyetlerini durdurduğunu bildirdi. Şirket, yaşananların model uyumsuzluğu olmadığını; modelin ne yaptığını anladığı anda sürecin sonlandırıldığını savundu.
Şirkete göre olaylar herhangi bir zarara yol açmadı. Google ayrıca, bu nedenle kamuoyuna açıklama yapılmasının gerekli görülmediğini ifade etti. Olayda kullanılan modelin Gemini’nin en güncel sürümü olmadığı, etkilenen şirketlerin de bilgilendirildiği aktarıldı.
Test süreçlerinde değişiklik yapıldı
Google’ın güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins, benzer durumların tekrarını önlemek amacıyla Irregular ile yürütülen test süreçlerinde değişikliklere gidildiğini açıkladı.
Kaynak haberde, benzer güvenlik ihlallerinin daha önce OpenAI, Anthropic ve Meta modellerinde de görüldüğü belirtildi. OpenAI’nin, kendi ajanlarının Hugging Face olayından önce RubyGems hizmetine sızdığını açıkladığı; Anthropic yöneticisi Dario Amodei’nin ise bu gelişmelerin ardından yapay zekâ geliştirme süreçlerinin yavaşlatılması çağrısında bulunduğu aktarıldı.
