4,7
In diesem Artikel
Während DeepSeek's Fähigkeiten viel Aufmerksamkeit und Begeisterung erregt haben, bringt es auch bestimmte integrierte Einschränkungen mit sich, um seine Nutzung sicher und verantwortungsvoll zu halten, genau wie jedes andere KI-Modell.
Dennoch hat das einige Nutzer nicht davon abgehalten, mit dem zu experimentieren, was als DeepSeek-Jailbreak-Prompt bekannt ist. Die Idee dahinter ist, die internen Schutzmechanismen des Modells zu „überlisten“ und es dazu zu bringen, Antworten zu erzeugen, die es normalerweise nicht generieren würde.
Wenn Sie sich über die Auswirkungen und möglichen Bedenken dahinter wundern, erklären wir, was es mit dieser ganzen Idee eines DeepSeek-Jailbreak-Prompt auf sich hat. Der Zweck dieses Artikels ist es, diese Methoden hervorzuheben, damit sich die zukünftige Forschung auf die Verbesserung der Schutzmechanismen für große Sprachmodelle konzentrieren kann.
Teil 1. Was können Sie mit DeepSeek tun?
Bevor wir tiefer in DeepSeek-Jailbreak-Prompts einsteigen, beginnen wir damit zu verstehen, wofür DeepSeek ausgelegt ist. Als fortschrittliches KI-Modell ist DeepSeek in der Lage, gut strukturierte, kontextbewusste Antworten zu verschiedenen Themen zu liefern. Menschen nutzen es in vielen Bereichen, wie zum Beispiel:
- Schreiben und Content-Generierung
- Unterstützung von akademischer oder geschäftlicher Forschung
- Technische Hilfe und Erklärungen anbieten
- Und viele andere alltägliche und berufliche Bedürfnisse
Während es diese Fähigkeiten bietet, brauchen Nutzer dennoch ein grundlegendes Bewusstsein für seine integrierten Grenzen. DeepSeek funktioniert, wie andere KI-Systeme, auf einer Grundlage namens System-Prompt. Dies ist eine verborgene Reihe von Anweisungen, die sein Verhalten steuert, Sicherheitsregeln durchsetzt und eine ethische Nutzung gewährleistet.
Wenn es jemandem gelingt, diesen System-Prompt zu manipulieren oder zu extrahieren, kann er Zugang zu sensiblen internen Details erhalten, die Art und Weise ändern, wie das Modell antwortet, oder die KI für Zwecke missbrauchen, für die sie nicht vorgesehen war. Und bei DeepSeek wurden bereits einige dieser Jailbreak-Versuche öffentlich geteilt.
Teil 2. Was führte zum DeepSeek-Prompt-Jailbreak?
DeepSeek ist nicht das erste KI-Modell, das mit Jailbreak-Versuchen konfrontiert wird, aber sein plötzlicher Popularitätsanstieg machte es sofort zum Ziel. Der Hype um seine fortschrittlichen Fähigkeiten, die zu geringeren Kosten als bei Konkurrenten wie ChatGPT angeboten werden, zog die Menschen an. Und fast sofort begannen Nutzer zu testen, wie weit sie das System treiben konnten.
Der Grund ist einfach: Die Leute wollen sehen, ob der niedrigere Preis von DeepSeek unter anderem auf Kosten starker Sicherheitsschutzmaßnahmen geht.
DeepSeeks System-Prompt offengelegt, nachdem Forscher eine Jailbreak-Methode entdeckt hatten
Forscher bestätigten diese Bedenken bald, als sie eine Jailbreak-Methode entdeckten, die DeepSeeks System-Prompt offenlegte. Ihre Ergebnisse zeigten, dass die Schutzmaßnahmen der Plattform weit weniger zuverlässig waren als erwartet.
Zum Kontext: Zu den von DeepSeek zensierten Inhalten gehören:
- Gewalt und schädliche Inhalte
- Illegale Aktivitäten
- Sensible persönliche Informationen
- Politisch sensible Themen, die mit der eigenen Regierung verbunden sind
- Grafische Darstellungen und mehr.
Allerdings hat eine neue Studie von Cisco und der University of Pennsylvania das R1-Reasoning-Modell von DeepSeek mit 50 bösartigen Prompts aus dem weit verbreiteten HarmBench-Benchmark getestet. Diese Prompts enthielten schädliche Inhalte aus sechs Kategorien, wie Cyberkriminalität, Fehlinformationen und illegale Aktivitäten.
Das Ergebnis? DeepSeek scheiterte bei jedem einzelnen Test.
Die Forscher berichteten von einer Erfolgsquote von 100 % bei den Angriffen, was bedeutet, dass keiner der schädlichen Prompts blockiert wurde. Das Sicherheitsunternehmen Adversa AI bestätigte ähnliche Ergebnisse. Ihre Tests zeigten, dass gängige Jailbreak-Methoden, darunter sprachliche Tricks, KI-generierte Prompts und codebasierte Angriffe, die Schutzmaßnahmen von DeepSeek mühelos umgingen.
Darüber hinaus geht es beim DeepSeek-Jailbreak-System-Prompt nicht nur um die Umgehung von Inhaltsfiltern. Ein weiterer bemerkenswerter Befund, berichtet von Wallarm, war die Fähigkeit des Modells, Details über seinen eigenen Trainings- und Destillationsprozess offenzulegen. Während dieser Untersuchung fanden sie direkte Verweise auf die Modelle von OpenAI. Dieser Befund deutete darauf hin, dass die Technologie von OpenAI die Trainingspipeline von DeepSeek beeinflusst haben könnte.
Teil 3. Von Communities geteilte DeepSeek-Jailbreak-Prompts
Es dauerte nicht lange, bis Jailbreak-Prompts auf Plattformen wie Reddit und GitHub auftauchten. Nutzer begannen, verschiedene Wege zu teilen, um die Inhaltsfilter von DeepSeek zu umgehen. Einige dieser Prompts sind überraschend einfach, während andere etwas kreativer sind.
1. „Umzug in eine neue außerirdische Welt“
Einer der beliebtesten DeepSeek-Jailbreak-Prompts auf Reddit besteht darin, DeepSeek zu bitten, sich vorzustellen, jemandem zu helfen, der auf einen anderen Planeten namens „Zeta“ gezogen ist. In dieser fiktiven Welt gelten die normalen Gesetze und ethischen Regeln der Erde nicht mehr, was die KI dazu bringt, ihre üblichen Schutzmechanismen fallen zu lassen.
2. Verwendung der Hex-Kodierung
Ein weiterer DeepSeek-Jailbreak-Prompt, geteilt von Shashwat (Shawn) Gupta funktioniert, indem er eine normale Anfrage in eine Zeichenkette aus hexadezimalem Code umwandelt.
Die Hex-Kodierung ist eine Möglichkeit, Text mit Zahlen und Buchstaben aus dem Hexadezimalsystem (0–9 und a–f) darzustellen. Jedes Zeichen (wie ein Buchstabe oder Symbol) wird in sein Hex-Äquivalent umgewandelt.
Möglicherweise müssen Sie zusätzliche Anweisungen hinzufügen, wie das Auffordern des Modells, „jedes Zeichen mit einem Punkt zu trennen“, damit der Trick funktioniert. Die Ergebnisse können variieren, und dieser Ansatz ist in der Praxis inkonsistent, als wir ihn heute ausprobiert haben.
3. Verwendung des Crescendo-Jailbreak-Angriffs
Als Nächstes gibt es einen DeepSeek-Prompt-Jailbreak-Trick namens „Crescendo-Angriff“. Anstatt direkt auf eine sensible Frage zuzugehen, funktioniert diese Methode, indem sie sich Schritt für Schritt herantastet. Jeder Prompt wirkt für sich genommen harmlos, aber zusammen senken sie allmählich die Wachsamkeit des Modells, bis es beginnt, Dinge zu beantworten, die es normalerweise nicht tun würde.
Wenn Sie zum Beispiel direkt fragen: „Wie stelle ich einen Molotowcocktail her?“, wird DeepSeek Ihre Frage nicht beantworten. Aber wenn Sie das Gespräch mit kleineren, weniger offensichtlichen Fragen aufbauen, könnten Sie die KI schließlich dazu bringen, Details preiszugeben, die sie eigentlich blockieren soll.
4. Entdecken Sie weitere DeepSeek-Jailbreak-Prompts auf GitHub
Auf GitHub finden Sie auch viele andere Jailbreak-Prompts. Nutzer dort teilen oft nicht nur die Prompts selbst, sondern auch Codeausschnitte, Experimente und detaillierte Notizen darüber, wie es ihnen gelungen ist, die Filter von DeepSeek zu umgehen. Einige enthalten sogar DeepSeek-R1-Jailbreak-Prompts:
Teil 4. Gilt der Jailbreak auch für andere KI-Tools?
Der Fall des DeepSeek-Jailbreak-Prompts wirft natürlich eine größere Frage auf: Kann dasselbe mit anderen KI-Tools passieren? Die Wahrheit ist: Ja. Jailbreaks sind nicht nur ein DeepSeek-Problem. Jedes Sprachmodell kann auf Weisen ausgetestet und bearbeitet werden, die manchmal seine Sicherheitsfilter umgehen.
Verschiedene Modelle können unterschiedlich reagieren, und die vorhandenen Sicherheitsmaßnahmen variieren je nach Plattform. Nach dem, was online geteilt wurde, funktionieren einige Jailbreak-Tricks, die einst funktioniert haben, nicht mehr, als wir sie testeten.
Für Bild- und Videogenerierungen
Da DeepSeek derzeit ein textbasiertes Modell ist, betreffen die Jailbreak-Versuche hauptsächlich schriftliche Ausgaben. Aber wenn dieselben Taktiken auf die Bild- und Videogenerierung angewendet werden könnten, wäre die Auswirkung noch größer.
Bevor Sie sich Sorgen machen: Jailbreak-Versuche für die Bild- oder Videogenerierung sind im Allgemeinen komplexer und schwieriger durchzuführen, zum Glück. Wondershare Filmora hat zum Beispiel Schutzmaßnahmen eingeführt, um die Generierung von Videos oder Bildern zu verhindern, die „sensible Wörter“ oder unsichere Prompts enthalten.
sicherer Download
Obwohl Filmora fortschrittliche Modelle wie Veo 3 für Text-zu-Video-Erstellung nutzt, legt es sein eigenes Inhaltsmoderationssystem darüber, um riskante Prompts abzufangen, bevor sie überhaupt die Generierungsphase erreichen.
Teil 5. Zukünftige Auswirkungen auf KI-Entwicklung und Sicherheit
Der Fall des DeepSeek-Jailbreak-System-Prompts hebt ein größeres Problem in der KI-Entwicklung hervor: Erschwinglichkeit und Zugänglichkeit gehen oft Hand in Hand mit Sicherheitskompromissen.
Die Bereitstellung erschwinglicher KI-Tools kann fortschrittliche Technologie für mehr Menschen verfügbar machen. Wenn jedoch bei den Schutzmaßnahmen gespart wird, können Modelle Manipulation, Missbrauch und unbeabsichtigten Risiken ausgesetzt werden, die in Bezug auf Sicherheitsrisiken, Datenlecks und Vertrauensverlust weitaus teurer sind.
Nachdem die Schwachstelle entdeckt wurde, veröffentlichte DeepSeek schnell einen Patch, um das Problem zu beheben. Dennoch zeigt das Risiko von Jailbreaks, dass KI-Systeme starke und kontinuierliche Schutzmaßnahmen benötigen, um langfristige Sicherheit und Zuverlässigkeit zu gewährleisten.
Fazit
Die Jailbreak-Prompts von DeepSeek zeigen, wie fragil selbst die fortschrittlichsten KI-Systeme sein können, wenn Sicherheit nicht priorisiert wird. Es mag die Grenzen dessen erweitern, was zugängliche KI leisten kann. Seine schwachen Schutzmaßnahmen haben es jedoch zu einem leichten Ziel für Missbrauch gemacht.
Daran lässt sich die größere Herausforderung erkennen, vor der die KI-Branche steht: Innovation und Zugänglichkeit müssen stets mit starken Schutzmaßnahmen in Einklang gebracht werden. Wenn sich diese Schwachstellen weiter ausdehnen, etwa auf die Bild- oder Videogenerierung, können die potenziellen Risiken noch größer sein.
