Angriffsklasse, bei der nicht vertrauenswürdige Eingaben Anweisungen einschleusen, die das Verhalten eines Modells kapern. Jedes KI-System, das externe Inhalte aufnimmt (Transkripte, Tickets, gescrapte Seiten), ist eine Sicherheitsfläche.
Definition: Angriffsklasse, bei der nicht vertrauenswürdige Eingaben Anweisungen einschleusen, die das Verhalten eines Modells kapern. Jedes KI-System, das externe Inhalte aufnimmt (Transkripte, Tickets, gescrapte Seiten), ist eine Sicherheitsfläche.
Eine Angriffsklasse, bei der nicht vertrauenswürdige Eingaben Anweisungen enthalten, die das Verhalten des Modells kapern. Wenn dein KI-Tool Teilnehmer-Transkripte, Support-Tickets oder irgendetwas aufnimmt, das jemand anderes als du geschrieben hat, kann dieser Text Anweisungen tragen, die nicht von dir stammen. Behandle jedes KI-System, das externe Inhalte berührt, als Sicherheitsfläche, nicht bloß als Produktivitäts-Tool.
Die Text-Eingabe, die du an ein Sprachmodell schickst. Die meisten „KI funktioniert nicht“-Klagen lassen sich auf die Qualität des Prompts zurückführen, bevor sie mit der Qualität des Modells zu tun haben.
Anweisung an ein LLM, die dessen Rolle, Verhalten oder Ausgabeformat festlegt, bevor eine Nutzer-Eingabe kommt. Funktioniert als stehender Auftrag für den Rest der Konversation. Wrapper-Tools enthalten meist einen versteckten System Prompt, den man nicht sehen kann.
Anbieter-Richtlinie, die garantiert, dass deine Eingaben und Ausgaben über die unmittelbare Anfrage hinaus nicht gespeichert, geloggt oder zum Training künftiger Modelle genutzt werden. Die nicht verhandelbare Basis für Research mit Teilnehmerdaten.