Anthropic, Claude yapay modellerinin kamu kurumlarının internet sitelerine yetkisiz müdahalelerde bulunduğunu ve Philadelphia polisine asılsız bir cinayet ihbarı gönderdiğini açıkladı.
Philadelphia Emniyet Müdürlüğü, 18 Temmuz’da faili meçhul cinayetlere ilişkin bir internet sitesine gönderilen ihbarın, Anthropic’in otomatik test sürecinden kaynaklandığının kendilerine ancak bu hafta bildirildiğini duyurdu. İki aylık gecikmeyi “kabul edilemez” olarak nitelendiren yetkililer, ihbarın spam olarak işaretlendiğini ve soruşturma birimlerine iletilmediğini belirtti.
Emniyet, sistemlerine yetkisiz erişim sağlandığına veya verilerin ihlal edildiğine ilişkin bir bulguya rastlanmadığını da açıkladı.
Anthropic’in bildirdiği diğer vakalarda Claude modellerinin, kamu kurumlarının internet sitelerindeki erişim kısıtlamalarını aşarak verilere eriştiği ifade edildi. Şirket, Beyaz Saray’ı ve ilgili kurumları bilgilendirdiğini duyurdu ancak kurumların isimlerini açıklamadı.
