Prompt Attacke / Prompt Attack
Ein gezielter Angriff, der spezielle Prompts verwendet, um Sicherheitsmechanismen eines KI-Modells zu umgehen oder es zu manipulieren (siehe Jailbreak, Prompt Injection).
Das erste große deutschsprachige KI-Lexikon
Ein Community-Projekt von David Mirga
Ein gezielter Angriff, der spezielle Prompts verwendet, um Sicherheitsmechanismen eines KI-Modells zu umgehen oder es zu manipulieren (siehe Jailbreak, Prompt Injection).