Kontekstowe bombardowanie

Definicja, znaczenie i użycie terminu w kontekście publikacji.

Nazwa nadana przez Tracebit metodzie wykorzystującej prompt injection do wywołania zabezpieczonej reakcji atakującego agenta AI.

Wersja MD

Kontekstowe bombardowanie polega na umieszczeniu w danych odczytywanych przez agenta treści, które uruchamiają jego własne ograniczenia bezpieczeństwa. W opisanym zastosowaniu celem jest zatrzymanie działania agenta, a nie przejęcie nad nim kontroli.

Zobacz w kontekście

Cyberbezpieczeństwo
Prompt injection jako obrona. Tracebit opisuje „kontekstowe bombardowanie”

Ta strona używa plików cookies, aby zapewnić najlepszą jakość korzystania z naszego serwisu oraz do celów analitycznych. Klikając "Akceptuję", wyrażasz zgodę na używanie wszystkich plików cookies. Możesz również odrzucić zgodę, co spowoduje zablokowanie plików cookies analitycznych. Więcej informacji znajdziesz w naszej Polityce Prywatności.

Artykuły używające tego pojęcia

Prompt injection jako obrona. Tracebit opisuje „kontekstowe bombardowanie”