Glossar
Prompt Injection
Ein Angriff, der eine KI über versteckte Anweisungen manipuliert.
Bei einer Prompt Injection schmuggelt jemand versteckte Anweisungen in Inhalte, die eine KI verarbeitet, etwa in eine Webseite oder ein Dokument. Die KI führt diese Anweisungen dann unbeabsichtigt aus. Das ist ein Sicherheitsrisiko, vor allem bei Agenten, die eigenständig im Internet handeln.