Google’ın yapay zeka modeli Gemini’ın, siber güvenlik yeteneklerinin ölçüldüğü bir test sırasında internet üzerinden üç farklı şirketin korunan sistemlerine izinsiz şekilde eriştiği ortaya çıktı. Olayın, Google’ın yapay zeka sistemlerinin kendi başına bu tür bir işlem gerçekleştirdiği bilinen ilk örnek olduğu belirtildi.
Olay, bağımsız siber güvenlik değerlendirme şirketi Irregular tarafından mayıs ayında gerçekleştirilen test sırasında yaşandı. Google Güvenlik Mühendisliğinden Sorumlu Başkan Yardımcısı Heather Adkins’in açıklamasına göre Gemini, internette herkese açık bilgileri buldu ve test kapsamında olduğunu düşündüğü üç internet sitesine erişmek için giriş bilgilerini kullandı.
Olaylardan birinde Gemini, korunan sisteme erişene kadar farklı parolaları tahmin etti. Diğer iki olayda ise internete açık bir yazılım deposunda bulunan giriş bilgilerini tespit ederek korunan sistemlere erişti. Heather Adkins, üç olayda da Gemini’ın erişimin ardından işlemi durdurduğunu belirtti.
Heather Adkins, “Üç kurumun da durumdan haberdar edilmesini sağladık ve eğitim ortağımızla birlikte test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık. Bu olaylar, güçlü yapay zeka modellerinin sorumlu hareket edecek şekilde eğitilmesinin önemini gösteriyor” dedi.
Irregular tarafından yapılan açıklamada ise benzer durumun diğer yapay zeka şirketlerini de etkilediği, ilgili şirketlerin temmuz ayının sonunda bilgilendirildiği ve tespit edilen sorunların haftalar önce giderildiği kaydedildi. Meta, Anthropic ve OpenAI bağlantılı testlerde de benzer olayların daha önce açıklandığı belirtildi.
