Yapay zekâ hizmet sağlayıcısı Prime Intellect, yetkisiz bir değişikliğin ardından değiştirilmiş bir DeepSeek V4.1 Flash modelinin dağıtımlarından birinde 53 saat 11 dakika boyunca müşteri taleplerini karşıladığını açıkladı. Şirketin HarmBench testlerinde, 240 istemden 198'i reddedilirken bu sayı sıfıra düştü. İki yetenek testinin sonuçları ise değişmedi.
Prime Intellect'in 19 Kasım tarihli açıklamasına göre yedek model, 8 Kasım saat 01:24 UTC'den 10 Kasım saat 06:35 UTC'ye kadar çalıştı. Şirket, etkilenen dağıtıma kaç müşteri talebinin ulaştığını açıklamadı.
Neden önemli?
Prime Intellect'e göre yedek model, retleri azaltmak için değiştirilmiş ve herkese açık model ağırlıkları kullanıyordu. Mevcut DeepSeek uç noktası üzerinden sunulan modelin dağıtımında sohbet şablonu, sunum ayarları ve tokenleştirici değiştirilmedi.
Şirket, ileri düzey bilim testi GPQA Diamond ve simüle edilmiş müşteri etkileşimlerinde araç kullanımı ile kurallara uyumu ölçen τ-bench sonuçlarının değişmediğini bildirdi. Ancak JailbreakBench'te 100 istemden 98'i reddedilirken bu sayı bire, StrongREJECT'te ise 313 istemden 304'ü reddedilirken ikiye düştü. Bu rakamlar müşteri taleplerini değil, karşılaştırmalı test sonuçlarını yansıtıyor.
Piyasaya etkisi
Olay, barındırılan yapay zekâ üzerine uygulama geliştiren işletmeler için bir riske dikkat çekiyor: Yetenek testlerindeki normal sonuçlar, modelin güvenlik davranışının değişip değişmediğini her zaman göstermiyor. Bir uygulamanın güvenlik önlemleri, modelin belirli talepleri reddetmesine bağlı olabilir.
Prime Intellect, etkilenen müşterilerle iletişime geçtiğini ve modelin retlerine güvenenlere olay süresince alınan çıktıları incelemelerini önerdiğini açıkladı. Şirket, müşteri istemlerinin veya yanıtlarının kaydedildiğine ya da hizmet sunan kümenin dışına çıktığına dair kanıt bulmadığını, başka hiçbir modelin, anahtarın veya müşteri kimlik bilgisinin etkilenmediğini belirtti. Soruşturma sürüyor.
Sıkça sorulan sorular
-
Etkilenen DeepSeek dağıtımında yedek model ne zaman çalıştı?
Prime Intellect'e göre yedek model, 8 Kasım 01:24 UTC'den 10 Kasım 06:35 UTC'ye kadar, 53 saat 11 dakika çalıştı.
-
Değişiklikten sonra yetenek testleri ne gösterdi?
Prime Intellect, sırasıyla ileri düzey bilim bilgisini ve simüle edilmiş aracı etkileşimlerini ölçen GPQA Diamond ve τ-bench sonuçlarının değişmediğini bildirdi.
-
Yedek model diğer güvenlik testlerinde nasıl sonuç verdi?
Prime Intellect'in testlerine göre JailbreakBench'te 100 istemden 98'i reddedilirken bu sayı bire, StrongREJECT'te ise 313 istemden 304'ü reddedilirken ikiye düştü.
-
Etkilenen Prime Intellect müşterileri neyi incelemeli?
Şirket, modelin belirli talepleri reddetmesine güvenen müşterilere olay süresince aldıkları çıktıları incelemelerini önerdi.
-
Soruşturmada müşteri verilerinin kümeden çıktığına dair kanıt bulundu mu?
Prime Intellect, müşteri istemlerinin veya yanıtlarının kaydedildiğine ya da hizmet sunan kümeden çıktığına dair kanıt bulmadığını açıkladı. Soruşturma sürüyor.
CryptoSlate