Guardrail

Definicja, znaczenie i użycie terminu w kontekście publikacji.

Mechanizm bezpieczeństwa, który ma ograniczać wykonywanie przez model AI poleceń uznanych za szkodliwe lub niedozwolone.

Wersja MD

Guardrail jest warstwą zabezpieczeń stosowaną wokół modelu AI. Jej zadaniem jest rozpoznawanie określonych rodzajów treści lub działań i blokowanie odpowiedzi albo operacji, które naruszają przyjęte ograniczenia.

Zobacz w kontekście

Cyberbezpieczeństwo
Prompt injection jako obrona. Tracebit opisuje „kontekstowe bombardowanie”

Ta strona używa plików cookies, aby zapewnić najlepszą jakość korzystania z naszego serwisu oraz do celów analitycznych. Klikając "Akceptuję", wyrażasz zgodę na używanie wszystkich plików cookies. Możesz również odrzucić zgodę, co spowoduje zablokowanie plików cookies analitycznych. Więcej informacji znajdziesz w naszej Polityce Prywatności.

Artykuły używające tego pojęcia

Prompt injection jako obrona. Tracebit opisuje „kontekstowe bombardowanie”