OpenAI führt Lockdown-Modus als Schutz vor Prompt-Injection-Angriffen ein
OpenAI hat den Lockdown-Modus für ChatGPT eingeführt, der ausgehende Netzwerkanfragen begrenzt, um Datendiebstahl durch Prompt-Injection-Angriffe zu verhindern. Das Feature ist für persönliche und Business-Accounts verfügbar und zielt darauf ab, den dritten Teil der 'Lethal Trifecta' - die Datenexfiltration - zu blockieren.
Einordnung
Diese Sicherheitsfunktion ist ein wichtiger Schritt zur Lösung eines fundamentalen Problems von LLM-Systemen. Simon Willison's 'Lethal Trifecta' beschreibt das Risiko, wenn KI-Systeme gleichzeitig Zugang zu privaten Daten haben, unvertrauenswürdigen Inhalten ausgesetzt sind und Daten nach außen übertragen können. Der Lockdown-Modus durchbricht diese gefährliche Kombination, indem er deterministische (nicht KI-basierte) Mechanismen nutzt, um Datenexfiltration zu verhindern.
Die Einführung dieses Modus zeigt jedoch auch, dass ChatGPT in den Standardeinstellungen nicht ausreichend gegen sophisticated Datendiebstahl-Angriffe geschützt ist. Dies verdeutlicht die Komplexität der Sicherheitsherausforderungen bei LLM-Systemen und macht deutlich, dass Nutzer bewusst zusätzliche Schutzmaßnahmen aktivieren müssen.