Adversarial Prompting

Adversarial Cues sind ein wichtiges Thema im Cue Engineering, da sie zum Verständnis der mit LLMs verbundenen Risiken und Sicherheitsprobleme beitragen können.Eine weitere wichtige Disziplin besteht darin, diese Risiken zu erkennen und Technologien zu entwickeln, um ihnen zu begegnen. Beim Erstellen von LLMs ist es wichtig, sich vor unmittelbaren Angriffen zu schützen, die Sicherheitsvorkehrungen umgehen und die Leitprinzipien des Modells untergraben könnten.