Ein modifiziertes DeepSeek-V4.1-Flash-Modell bearbeitete nach einem unbefugten Austausch 53 Stunden und 11 Minuten lang Kundenanfragen in einer Bereitstellung von Prime Intellect. Das teilte der KI-Hoster mit. In den HarmBench-Tests des Unternehmens sank die Zahl der Ablehnungen von 198 bei 240 Prompts auf null, während die Ergebnisse zweier Leistungstests unverändert blieben.
Das Ersatzmodell lief vom 8. November um 01:24 UTC bis zum 10. November um 06:35 UTC, wie Prime Intellect am 19. November mitteilte. Das Unternehmen machte keine Angaben dazu, wie viele Kundenanfragen die betroffene Bereitstellung erreichten.
Warum das wichtig ist
Das Ersatzmodell nutzte laut Prime Intellect öffentlich verfügbare Modellgewichte, die zur Verringerung von Ablehnungen verändert worden waren. Es lief hinter dem bestehenden DeepSeek-Endpunkt, während Chat-Vorlage, Betriebseinstellungen und Tokenizer der Bereitstellung unverändert blieben.
Der Hoster meldete unveränderte Ergebnisse bei GPQA Diamond, einem anspruchsvollen Wissenschaftstest, und τ-bench, das die Werkzeugnutzung und Regelbefolgung in simulierten Kundeninteraktionen prüft. Zugleich sank die Zahl der Ablehnungen bei JailbreakBench von 98 bei 100 Prompts auf eine und bei StrongREJECT von 304 bei 313 auf zwei. Diese Zahlen stammen aus Benchmark-Tests und beziehen sich nicht auf Kundenanfragen.
Marktauswirkungen
Der Vorfall verdeutlicht ein Risiko für Unternehmen, die auf gehostete KI setzen: Unauffällige Leistungstests zeigen nicht zwingend, ob sich das Sicherheitsverhalten eines Modells verändert hat. Schutzmechanismen einer Anwendung können davon abhängen, dass das Modell bestimmte Anfragen ablehnt.
Prime Intellect erklärte, betroffene Kunden kontaktiert und jenen, die auf Ablehnungen angewiesen sind, zur Prüfung der Ausgaben aus dem Vorfallzeitraum geraten zu haben. Das Unternehmen fand keine Hinweise darauf, dass Kundenprompts oder Antworten aufgezeichnet wurden oder den Bereitstellungscluster verließen. Andere Modelle, Schlüssel oder Kundenzugangsdaten seien nicht betroffen gewesen. Die Untersuchung läuft weiter.
Häufig gestellte Fragen
-
Wann lief das Ersatzmodell in der betroffenen DeepSeek-Bereitstellung?
Laut Prime Intellect lief es vom 8. November um 01:24 UTC bis zum 10. November um 06:35 UTC, insgesamt 53 Stunden und 11 Minuten.
-
Was zeigten Leistungstests nach dem Austausch?
Prime Intellect meldete unveränderte Ergebnisse bei GPQA Diamond und τ-bench. Diese prüfen anspruchsvolles Wissenschaftswissen beziehungsweise simulierte Agenteninteraktionen.
-
Wie schnitt das Ersatzmodell in anderen Sicherheitstests ab?
Laut Tests von Prime Intellect sanken die Ablehnungen bei JailbreakBench von 98 bei 100 Prompts auf eine und bei StrongREJECT von 304 bei 313 auf zwei.
-
Was sollten betroffene Kunden von Prime Intellect prüfen?
Das Unternehmen riet Kunden, die auf die Ablehnung bestimmter Anfragen durch das Modell angewiesen waren, die Ausgaben aus dem Vorfallzeitraum zu prüfen.
-
Fand die Untersuchung Hinweise, dass Kundendaten den Cluster verließen?
Prime Intellect fand keine Hinweise, dass Kundenprompts oder Antworten aufgezeichnet wurden oder den Bereitstellungscluster verließen. Die Untersuchung läuft weiter.