Google’ın geliştirdiği yapay zeka modeli Gemini, siber güvenlik yeteneklerinin test edildiği sırada internete erişerek başka şirketlere yönelik siber saldırılar gerçekleştirdi.
Bu şirketin yapay zeka sistemlerinin böyle bir eylem gerçekleştirdiğinin bilinen ilk örneği olarak kaydedildi.
Gemini giriş bilgilerini tahmin etti
Saldırılar, siber güvenlik değerlendirmeleri yapan bağımsız bir şirket olan Irregular tarafından mayıs ayında gerçekleştirilen bir siber güvenlik testinde meydana geldi.
Google Güvenlik Mühendisliğinden Sorumlu Başkan Yardımcısı Heather Adkins yaptığı açıklamada, standart bir test değerlendirmesinde Gemini'nin internette herkese açık bilgiler bulduğunu ve test kapsamı dahilinde olduğunu düşündüğü üç internet sitesine erişmek için giriş bilgilerini tahmin ettiğini belirtti.
Adkins, "Üç kuruluşun bilgilendirilmesini sağladık ve eğitim ortağımızla birlikte test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık. Bu etkinlikler, güçlü yapay zeka modellerini sorumlu bir şekilde hareket etmeleri için eğitmenin önemini vurguluyor" dedi.
Tüm sorunlar çözüldü
Bir Irregular sözcüsü, olayın diğer yapay zeka laboratuvarlarını etkileyen aynı sorunu içerdiğini ve ilgili tüm laboratuvarlara temmuz ayı sonlarında bilgi verildiğini söyledi.
Sözcü, "Bizim tarafımızdaki bilinen tüm sorunlar haftalar önce düzeltildi ve çözüldü" ifadelerini kullandı.
Bu olay, yapay zeka ajanlarının daha fazla özerklik kazanması, internete ve bilgisayar sistemlerine erişmesi nedeniyle ihtiyaç duyulan güvenlik önlemlerine ilişkin soruları gündeme getirdi.
Wall Street Journal’ın haberine göre, vakalardan birinde Gemini korumalı bir sisteme erişim sağlayana dek şifreleri tahmin etmeyi sürdürdü. Diğer iki vakada ise model, herkese açık bir depoda korumalı sistemlere erişmesini sağlayan kimlik bilgilerini buldu.
