Peakly Glossar
Begriff «Leitplanke»
Definition:
- Leitplanken oder „Guardrails“ sind Mechanismen, die dafür sorgen, dass KI-Modelle sicher, fair und effizient arbeiten. Sie umfassen Richtlinien und technische Maßnahmen, um sicherzustellen, dass ein KI-System bestimmte ethische und sicherheitsrelevante Standards erfüllt. Leitplanken sollen verhindern, dass ein Modell unerwünschte oder potenziell schädliche Ergebnisse liefert, indem sie den Anwendungsbereich und die Ausgabe des Modells einschränken.
Anwendung
Leitplanken sind insbesondere in Bereichen wichtig, in denen KI Entscheidungen trifft, die ethische oder gesellschaftliche Auswirkungen haben können, wie bei medizinischen Anwendungen oder im Finanzwesen. Sie helfen sicherzustellen, dass die KI keine diskriminierenden oder voreingenommenen Ergebnisse produziert und dass sensible Informationen geschützt bleiben.Praktisches Beispiel
Ein Beispiel für eine Leitplanke ist die Filterung von unangemessenen oder diskriminierenden Inhalten in einem Chatbot, der für den Kundenservice eingesetzt wird. Die Leitplanken sorgen dafür, dass der Chatbot bestimmte Begriffe nicht verwendet oder Themen vermeidet, die den Richtlinien des Unternehmens widersprechen.Glossar
